مردی که برای مشاوره رژیم غذایی به هوش مصنوعی روی آورد. اقامت او در بیمارستان یک نقطه کور را آشکار کرد

مرد 60 ساله ای که از هوش مصنوعی خواسته بود پس از پیروی از توصیه های غذایی ChatGPT در بیمارستان بستری شد.

این مرد به دنبال راه هایی برای کاهش کلرید در رژیم غذایی خود بود و نمک خوراکی را با ترکیب شیمیایی به نام برومید سدیم جایگزین کرد. او بعدها دچار توهم و پارانویا شد و نیاز به درمان در بیمارستان داشت. با این حال، مکالمه ربات چت بازیابی نشد، پزشکان نتوانستند دقیقا تعیین کنند که این مرد چه توصیه هایی دریافت کرده است.

موردی که در مقاله ای که توسط محققان دانشگاه بینگهامتون، دانشگاه استنفورد، دانشگاه A&M تگزاس و دانشگاه ایندیانا نوشته شده است، استدلال می کند که عدم شفافیت در مورد توصیه های بهداشتی تولید شده توسط هوش مصنوعی می تواند بررسی چنین مواردی را دشوار کند.

کایچنگ یانگ، یکی از نویسندگان مقاله، به نیوزویک گفت: «فکر می‌کنم هوش مصنوعی می‌تواند برای سؤالات سلامتی بسیار مفید باشد. "اما هوش مصنوعی اشتباه می کند و می تواند پاسخ های اشتباه را با همان اطمینان پاسخ های صحیح بیان کند. عواقب آن ممکن است شامل تاخیر در درمان و مصرف داروهای اشتباه باشد."

بر اساس نظرسنجی گالوپ از بیش از 5500 بزرگسال آمریکایی که بین 27 اکتبر تا 22 دسامبر 2025 انجام شد، این مرد در مورد استفاده از هوش مصنوعی برای سؤالات سلامتی تنها نیست.

محققان استدلال می‌کنند که سیستم‌های هوش مصنوعی فعلی با دید کمی نسبت به توصیه‌های بهداشتی که ارائه می‌کنند عمل می‌کنند و تشخیص توصیه‌های مضر پس از این واقعیت را برای پزشکان، محققان و تنظیم‌کننده‌ها دشوار می‌کند.

یک سخنگوی OpenAI به نیوزویک گفت: «ChatGPT یک پزشک نیست و هرگز نباید به عنوان جایگزینی برای مراقبت های پزشکی، تشخیص یا درمان استفاده شود.

"ما در شرایط خود روشن هستیم که ChatGPT برای تشخیص یا درمان پزشکی در نظر گرفته نشده است. مردم هنوز هم از آن برای اطلاعات بهداشتی استفاده می‌کنند و ما نیاز به ایجاد این خروجی‌ها را تا حد امکان قابل اعتماد و ایمن می‌دانیم."

نویسندگان استدلال کردند که آسیب‌های مرتبط با توصیه‌های بهداشتی تولید شده توسط هوش مصنوعی اغلب از پزشکان، محققان و تنظیم‌کننده‌هایی که در غیر این صورت قادر به شناسایی و رسیدگی به آن‌ها خواهند بود، پنهان است.

یانگ، استادیار دانشکده محاسبات در کالج مهندسی و علوم کاربردی توماس جی واتسون دانشگاه بینگهمتون، به نیوزویک گفت که در حال حاضر هیچ کس نمی داند "چقدر خطرناک" است.

محققان توصیه می‌کنند که کاربران از سیستم‌های هوش مصنوعی منابع خود را بپرسند و قبل از تغییر در داروها، رژیم‌های غذایی یا درمان، اطلاعات را تأیید کنند.

یانگ به نیوزویک گفت: «ما از کاربران نمی‌خواهیم استفاده از هوش مصنوعی را برای سؤالات بهداشتی متوقف کنند.

"توصیه ما این است که پاسخ را به عنوان یک نقطه شروع تلقی کنیم، نه یک تشخیص. به عنوان مثال، کاربران می توانند از هوش مصنوعی برای درک اصطلاحات، آماده کردن سوالات برای پزشک یا تفسیر نتایج آزمایش استفاده کنند."

برای بهبود پاسخگویی، این مقاله اقدامات متعددی را با هدف افزایش شفافیت پیشنهاد می کند. از جمله آنها به کاربران امکان دسترسی به سوابق مکالمات چت بات مربوط به سلامتی خود را می دهند تا بتوانند آن سوابق را با ارائه دهندگان مراقبت های بهداشتی در حال بررسی رویدادهای نامطلوب به اشتراک بگذارند.

نویسندگان همچنین ایجاد سیستم‌هایی را توصیه می‌کنند که به راهنمای سلامت تولید شده توسط هوش مصنوعی اجازه می‌دهند پرچم‌گذاری، گزارش و بررسی شوند.

یانگ توضیح داد: «شرکت‌های هوش مصنوعی باید به کاربران امکان دسترسی به سوابق مکالمات سلامتی و راهی برای گزارش آسیب‌ها را بدهند و اشخاص ثالث مستقل باید بتوانند توصیه‌های بهداشتی این سیستم‌ها را نظارت و ارزیابی کنند.»

سخنگوی OpenAI به نیوزویک گفت: «ما معتقدیم هوش مصنوعی می‌تواند این تجربه را با کمک به آنها برای یافتن پاسخ‌های واضح‌تر، سازماندهی سؤالات و آماده شدن برای گفتگو با متخصصان پزشکی، بهتر کند.

در هر زمان، ChatGPT توسط جدیدترین مدل‌های زیربنایی OpenAI ارائه می‌شود. این مدل‌ها به طور مداوم در تشخیص زمانی که یک موقعیت ممکن است به توجه فوری نیاز داشته باشد، مدیریت عدم قطعیت با قضاوت بهتر، و دادن راهنمایی‌های واضح‌تر و مفیدتر به افراد در مورد کارهای بعدی بهبود می‌یابند.

این پیشرفت با مشارکت نزدیک با صدها پزشک از 60 کشور و نمایندگی ده‌ها تخصص انجام می‌شود که به ما در تعریف، اندازه‌گیری و بهبود پاسخ‌های سلامت در ChatGPT کمک می‌کنند.»

محققان همچنین پیشنهاد می‌کنند که شرکت‌های رسانه‌های اجتماعی برچسب‌گذاری محتوای سلامت تولید شده توسط هوش مصنوعی را بهبود می‌بخشند و موتورهای جستجو از اطلاعات تأیید شده پزشکی در خلاصه‌های هوش مصنوعی استفاده می‌کنند. آنها همچنین استدلال می کنند که سیاست گذاران باید مسئولیت قصور پزشک را به شرکت های چت بات هوش مصنوعی گسترش دهند.

یانگ گفت: «ما فکر نمی‌کنیم این چیزی است که باید به شرکت‌ها تکیه کنیم، زیرا انگیزه آنها همیشه کسب درآمد بیشتر است. "ساخت چنین سیستمی برخلاف این انگیزه است. بنابراین ما باید نوعی سیستم نظارتی شخص ثالث، یک ارزیابی مستقل داشته باشیم."

این مقاله همچنین نگرانی‌های مربوط به کیفیت اطلاعات بهداشتی تولید شده توسط ربات‌های گفتگو را برجسته می‌کند. محققان خاطرنشان می‌کنند که سیستم‌های هوش مصنوعی می‌توانند با اطمینان پاسخ‌های نادرست ارائه دهند، اطلاعات پیچیده پزشکی را بیش از حد ساده کنند یا از مطالب قدیمی استفاده کنند.

این خطرات ممکن است فراتر از افرادی باشد که به طور فعال به دنبال مشاوره پزشکی هستند. با توجه به اینکه خلاصه‌های تولید شده توسط هوش مصنوعی به طور فزاینده‌ای در موتورهای جستجو ظاهر می‌شوند و ویژگی‌های هوش مصنوعی در پلتفرم‌های رسانه‌های اجتماعی تعبیه شده‌اند، کاربران ممکن است حتی زمانی که به دنبال آن نیستند، با اطلاعات سلامتی مواجه شوند.

یانگ در بیانیه‌ای گفت: "گاهی اوقات من حتی به دنبال اطلاعات بهداشتی نیستم، اما فقط با مرور فیدهای رسانه‌های اجتماعی‌ام، این اطلاعات وجود دارد. فقط نشان می‌دهد، و ما معتقدیم که می‌تواند نتایج نامطلوبی داشته باشد، به خصوص اگر اطلاعات نادرست پزشکی وجود داشته باشد یا عوامل دولتی تلاش کنند تا بحث آنلاین را دستکاری کنند."

نویسندگان استدلال می‌کنند که چه افراد عمدا به دنبال راهنمایی بهداشتی باشند یا تصادفا با آن مواجه شوند، نتایج مضر اغلب شواهد کمی از خود بر جای می‌گذارند که بتوان مستقلا بررسی یا تأیید کرد.

DeVerna، M.R.، Yan، H.Y.، Yang، KC. و همکاران خطرات نامرئی اطلاعات سلامت تولید شده توسط هوش مصنوعی نات سلامت (2026). https://doi.org/10.1038/s44360-026-00206-x