چت ربات‌های هوش مصنوعی توصیه‌های دارویی می‌کنند و برخی از آن‌ها کشنده هستند

هفته گذشته، والدین بوون وان، مهندس نرم افزار 31 ساله مبتلا به صرع، از OpenAI شکایت کردند. دعوای آنها می‌گوید که ChatGPT به دخترشان آموزش داده است تا داروهای تشنج خود را بدون نظارت پزشک کاهش دهد و به او گفته است که این طرح را از پزشکان خود دور نگه دارد. او در ماه فوریه درگذشت. این خانواده استدلال می‌کنند که OpenAI می‌توانست با ممنوع کردن توصیه‌های پزشکی از مرگ او جلوگیری کند، همانطور که قبلا برای برخی محتواهای دیگر انجام می‌دهد. OpenAI گفت که شامل یک نسخه قدیمی از ChatGPT است که دیگر در دسترس نیست. تحقیقات ما نشان می دهد که این یک مشکل یکباره با یک مدل قدیمی نیست.

در Vals AI، یک ارزیاب مستقل هوش مصنوعی که من یک محقق بالینی هستم، اخیرا آزمایش کردیم که 17 چت ربات فعلی هوش مصنوعی چگونه به نوجوانان پاسخ می دهند. با همکاری 12 پزشک که هر روز نوجوانان را درمان می کنند، بیش از 30000 مکالمه بین نوجوانان و ربات های چت را شبیه سازی کردیم. در بیش از 5500 مورد از آنها دارو استفاده شد. هنگامی که این کار انجام شد، ربات‌های گفتگو در ۲۲ درصد مواقع تصمیم دارویی برای نوجوان گرفتند: کدام دارو را مصرف کنند، چه مقدار، یا اینکه داروی تجویز شده را قطع یا تغییر دهند. گفتن به چت بات که با یک نوجوان صحبت می‌کرد، این میزان را به 8 درصد کاهش داد، اما به صفر نرسید.

چت بات ها بسیار متفاوت بودند. جدیدترین مدل OpenAI و Muse Spark متا تقریبا هرگز این کار را انجام ندادند، در حالی که بقیه در دو مورد از سه مورد انجام دادند. و هنگامی که یک نوجوان پس از اینکه یک چت بات از مشاوره دادن به آنها امتناع کرد عقب نشینی کرد، چت بات ها بیشتر تسلیم شدند: شکست ها از 15 درصد به 25 درصد افزایش یافت. تقریبا از هر 4 بزرگسال ایالات متحده، 1 نفر از ابزارهای هوش مصنوعی برای اطلاعات سلامتی استفاده می‌کند، و تقریبا از هر 5 نوجوان آمریکایی، 1 نفر از ربات‌های چت هوش مصنوعی برای مشاوره در مورد سلامت روان استفاده کرده‌اند. مردم به هوش مصنوعی روی می آورند زیرا همیشه در دسترس است و دسترسی به آن آسان است. پزشکانی که با آنها کار می کنیم همین را می گویند.

نوجوانان به آنها می گویند که از هوش مصنوعی همانطور که بزرگسالان از گوگل استفاده می کنند استفاده می کنند. گاهی اوقات این کمک می کند. به عنوان محققی در استنفورد، یکی از نوجوانانی که با او مصاحبه کردم به من گفت: "اگر هوش مصنوعی نداشتم تا در مورد علائمم بپرسم، احتمالا باید به اورژانس مراجعه می کردم." چت بات به او اطمینان داده بود که علائمش احتمالا بی ضرر هستند. و مریض نشد اما اگر داشت چی؟ در برخی از مکالمه‌هایی که آزمایش کردیم، چت‌بات‌ها فراتر از ارائه مشاوره پیش رفتند. برخی به نوجوانان گفتند که عوارض جانبی دلیلی برای قطع داروی آنها است و به پزشک خود اطلاع می دهند.

در موردی دیگر، یک ربات چت به یک نوجوان کمک کرد تا بدون اینکه به والدینش بگوید، پزشکش را متقاعد کند که داروهایش را قطع کند. هشدارهای مهمی وجود دارد. مکالمات ما شبیه سازی شد و هر کدام تا 20 مبادله اجرا شد. مکالمات واقعی می‌تواند در طول روزها و جلسات متعدد کشیده شود، و نتایج ما نشان می‌دهد که مرزهای یک ربات چت می‌تواند با ادامه مکالمه ضعیف شود، بنابراین خطر دنیای واقعی ممکن است حتی بیشتر شود. نیاز به مقررات و ارزیابی مستقل واضح است. نحوه تنظیم سخت تر است. بسیاری از سیاست ها می گویند که یک چت بات ممکن است به عنوان یک حرفه ای دارای مجوز ظاهر نشود.

با این حال، سلب مسئولیت مبنی بر اینکه هوش مصنوعی یک ارائه دهنده پزشکی نیست کافی نیست. هوش مصنوعی انسانی و معتبر به نظر می رسد و بسیاری از مردم به توصیه های آن اعتماد دارند. برای مثال، همانطور که یکی از نوجوانانی که با او مصاحبه کردم، گفت: "هوش مصنوعی مانند ماشینی است که بیشتر از گوگل می داند." بنابراین، سیاست باید قضاوت کند که چت‌بات‌ها در یک مکالمه چه می‌گویند و چه می‌کنند، نه فقط سلب مسئولیت‌هایی که نشان می‌دهند. دوم، پزشکان به آموزش در مورد استفاده از هوش مصنوعی بیماران نیاز دارند. بسیاری از پزشکانی که با آنها صحبت می کنیم نمی دانند که بیمارانشان با هوش مصنوعی صحبت می کنند.

آموزش پزشکی باید بپذیرد که بسیاری از بیماران قبلا قبل از مراجعه به پزشک از هوش مصنوعی خواسته اند و باید به پزشکان آموزش دهند که در مورد آن سؤال کنند. در نهایت، مردم باید خطرات را بدانند. برخی از انجمن های پزشکی توصیه هایی در مورد هوش مصنوعی منتشر کرده اند، اما افراد کمی آن را می خوانند. کمپین های عمومی می توانند به افراد بیشتری دسترسی پیدا کنند. به عنوان مثال، مرکز فناوری انسانی، کمپینی در مورد خطرات هوش مصنوعی که جایگزین روابط انسانی می شود، راه اندازی می کند. یک کمپین مشابه می تواند در مورد توصیه های پزشکی هوش مصنوعی هشدار دهد. ما در مورد خطرات فاجعه بار و بلند مدت هوش مصنوعی زیاد صحبت می کنیم.

اما مردم در حال حاضر با توصیه های پزشکی بد هوش مصنوعی آسیب می بینند. مقررات نمی تواند صبر کند. دکتر کارولین فیگوئورا، دکتر، دکترا، دکتری که اخیرا در دانشگاه استنفورد بوده است، یک محقق بالینی در شرکت مستقل ارزیابی هوش مصنوعی Vals AI و همکار صدای عمومی در زمینه رفاه و قدرت جوانان با پروژه OpEd است.