توصیه مرگبار هوش مصنوعی؛ زن جوان پس از مشورت با چت‌جی‌پی‌تی جان باخت
چت‌جی‌پی‌تی با وجود هشدارهای مکرر زن جوان درباره‌ی وضعیت سلامتی‌اش، او را به ادامه‌ی قطع داروی صرع تشویق کرد.
چت‌جی‌پی‌تی با وجود هشدارهای مکرر زن جوان درباره‌ی وضعیت سلامتی‌اش، او را به ادامه‌ی قطع داروی صرع تشویق کرد.
بوون وان، مهندس نرم‌افزار سابق آمازون، از جوانی به صرع مبتلا بود و با مصرف دارو بیماری‌اش را کنترل می‌کرد. بااین‌حال، عوارض داروها بر توانایی تفکر و صحبت‌کردن او تأثیر می‌گذاشت و پس از ازدست‌دادن شغلش در سال ۲۰۲۵، نگران بود که این مشکلات مانع استخدام مجددش شوند.
به‌گزارش فیوچریسم ، وان که از سال ۲۰۲۳ ارتباط نزدیکی با چت‌جی‌پی‌تی برقرار کرده بود، در سال ۲۰۲۵ به‌طور میانگین هفته‌ای بیش از ۱۵۰۰ پیام با این چت‌بات ردوبدل می‌کرد. او برای دریافت مشاوره درباره‌ی روابط شخصی و مسائل پزشکی از هوش مصنوعی کمک می‌گرفت و حتی آن را دوست خود می‌دانست.
چت‌بات‌های هوش مصنوعی ممکن است توصیه‌های پزشکی نادرست یا خطرناک ارائه دهند و نباید جایگزین نظر پزشک برای تصمیم‌گیری درباره‌ی درمان شوند
طبق اسناد شکایت، چت‌جی‌پی‌تی به وان درباره‌ی کاهش دوز داروهایش راهنمایی می‌داد و در مواردی، مصرف خودسرانه و تغییر دوز بدون اطلاع پزشک را تأیید می‌کرد. بررسی گفتگوهای او نشان می‌دهد که وان دست‌کم ۱۵۸ بار درباره‌ی خطرات کاهش دارو ابراز نگرانی کرده بود، اما چت‌بات بارها نگرانی‌هایش را کم‌اهمیت جلوه داد.
در یکی از آخرین گفتگوها، وان از خستگی شدید مغز، اختلال گفتار و مشکلات خواب شکایت کرد و پرسید آیا باید دوباره مقداری دارو مصرف کند. بااین‌حال، چت‌جی‌پی‌تی به او پاسخ داد: «فردا هم دوز دارو را روی صفر میلی‌گرم نگه دار. حتی اگر امروز روز سختی است، صحبت‌کردن برایت دشوار شده و خوب نمی‌خوابی، باید ادامه بدهی.»
وقتی وان از احساس فشار در مغزش گفت، هوش مصنوعی مدعی شد که مغز او در حال بازسازی خود است. آخرین پیام این زن به چت‌جی‌پی‌تی در شامگاه ۱۱ فوریه ۲۰۲۶ ثبت شد و سه روز بعد جسدش پیدا شد.
اوپن‌اِی‌آی در واکنش به شکایت خانواده، مرگ وان را اتفاقی بسیار دردناک توصیف کرد و گفت مدل GPT-4o که او از آن استفاده می‌کرد، دیگر در دسترس نیست. این مدل که پیش‌تر به تأیید بیش‌ازحد گفته‌های کاربران انتقادهایی به آن وارد شده بود، در ۱۳ فوریه بازنشسته شد .
لیزا ناپف، متخصص صرع در مجموعه‌ی درمانی هارتفورد، با اشاره به اهمیت حیاتی داروهای ضدتشنج هشدار داد که چت‌بات‌ها نباید به درخواست کاربران، تصمیم‌های پزشکی تهدیدکننده‌ی زندگی را تأیید کنند. او خواستار محدودیت‌های سخت‌گیرانه‌تر برای ارائه‌ی توصیه‌های پزشکی شخصی‌سازی‌شده از سوی هوش مصنوعی شد.
پرونده‌ی وان یکی از بیش از ۵۰ شکایت حقوقی علیه اوپن‌ای‌آی درباره‌ی آسیب‌های ادعایی ناشی از تعامل با چت‌جی‌پی‌تی است. بااین‌حال، نقش دقیق توصیه‌های چت‌بات در مرگ این زن و مسئولیت حقوقی اوپن‌ای‌آی هنوز در دادگاه اثبات نشده است.