با دکتر نجواکننده ای آشنا شوید که به OpenAI کمک می کند تا در میدان مین پزشکی هوش مصنوعی حرکت کند

بیش از 300 میلیون نفر هر هفته از ChatGPT برای مشاوره های مرتبط با سلامت استفاده می کنند. فیلیپ دولیان/ اتحاد تصویر از طریق گتی ایماژ OpenAI در حال انجام یک فشار بالا برای توصیه های بهداشتی است و اکنون به شبکه جهانی پزشکان متکی است.

پزشکان تیم تحقیقاتی OpenAI را تحت فشار قرار می دهند تا شکاف هایی را در نحوه ارائه توصیه های بهداشتی ChatGPT پر کنند.

ربکا سوسکین هیکس، رهبر تیم و یک پزشک، این شبکه از پزشکان را رهبری می کند. اگر متوجه شده اید که ChatGPT توصیه های بهتری در مورد کمردرد شما ارائه می دهد، احتمالا به لطف پزشک هزاران مایل دورتر است.

هر هفته، بیش از 300 میلیون نفر از ChatGPT برای مشاوره های مرتبط با سلامت استفاده می کنند. OpenAI برای هدایت توسعه هوش مصنوعی خود در سلامت، صدها پزشک شاغل را از سراسر جهان به خدمت گرفته است.

این پزشکان قراردادی که به 49 زبان صحبت می‌کنند، نمونه‌هایی از مکالمه‌هایی را که کاربران یا پزشکان ممکن است با ربات چت داشته باشند، ارزیابی می‌کنند و به دنبال مکان‌هایی هستند که می‌تواند کاربرانش را گیج کند یا کسی را در معرض خطر فیزیکی قرار دهد.

ربکا سوسکین هیکس، پزشکی که این تلاش‌ها را رهبری می‌کند، در سال 2024 به OpenAI پیوست و از آن زمان به چیزی شبیه یک «پزشک نجواگر» تبدیل شده است که بین پزشکان و شرکت برای بهبود هوش مصنوعی در مراقبت‌های بهداشتی کار می‌کند.

سوسکین هیکس گفت: «این یک منطقه پر خطر است. "هیچ خط پایانی برای آنچه به اندازه کافی خوب است وجود ندارد. تا آنجا که من می دانم، ما به حرکت در جهت بهبود ادامه خواهیم داد. به طور مداوم." ربکا سوسکین هیکس با شبکه ای از پزشکان کار می کند تا بازخورد OpenAI را در مورد توصیه های سلامت ChatGPT دریافت کند. OpenAI خطرات واقعا می تواند زیاد باشد. در ماه ژوئیه، یک کشیش از OpenAI به دلیل پاسخ ChatGPT به جزئیات مربوط به یک بحران سلامت در ریه‌هایش شکایت کرد.

او مدعی شد که مدل GPT-4o علائم او را اشتباه تشخیص داده و کمتر نشان داده است. این شکایت به دنبال این بود که OpenAI عملیات محصولات مرتبط با مراقبت های بهداشتی را متوقف کند.

با این امید که شبکه پزشکان به بهبود هوش مصنوعی آن برای سلامت کمک کند، OpenAI تصمیم گرفته است با وجود چشم‌انداز قانونی آزمایش‌نشده پیرامون چت‌بات‌ها، توصیه‌های پزشکی و مسئولیت محصولات، پیشروی کند. اشلی الکساندر، رئیس محصولات بهداشتی OpenAI، گفت که هوش مصنوعی با جستجوی اینترنتی که میلیون‌ها نفر در حال حاضر انجام می‌دهند، بهبود می‌یابد.

او گفت که برخورد با چت‌بات‌ها به‌عنوان کل داستان پشت یک تصمیم پزشکی، وضعیت را "بیش از حد ساده" می‌کند و "در واقع خطری را برای ما ایجاد می‌کند که تاثیر مفید آن را در دستان افراد زیادی که ممکن است به دست آوریم."

الکساندر گفت: "ما کاملا واضح هستیم که Chat برای تشخیص و درمان استفاده نمی شود." شرایط خدمات شرکت این را می گوید. در صورت درخواست، ربات چت به ارزیابی بیماری ها و آسیب ها کمک می کند.

پزشکان در توصیه های بهداشتی ChatGPT به دنبال «شکاف» هستند

این وظیفه بر عهده محققان و پزشکان است تا توصیه های بهداشتی ChatGPT را بهبود بخشند. سوسکین هیکس تیم پزشکان خود را با کاران سینگال، که تحقیقات بهداشتی شرکت را رهبری می‌کند، ساخت و در اوایل سال جاری به Business Insider گفت که می‌خواهد بیماران ChatGPT را به‌عنوان یک "محافظ در سفر مراقبت خود ببینند."

سوسکین هیکس گفت که هدف شبکه پزشکان ارائه تنوع جغرافیایی و طیف وسیعی از تخصص هاست.

این پزشکان برای OpenAI به عنوان پیمانکاران پاره وقت، از دوردست‌هایی مانند کنیا، نپال و برزیل کار می‌کنند. از ژوئیه، آنها بیش از 700000 پاسخ از ChatGPT را برای ارزیابی اینکه چگونه مدل‌ها می‌توانند بهبود یابند، بررسی کرده بودند. آنها مستقیما داده‌هایی را برای آموزش هوش مصنوعی ارائه نمی‌کنند، اگرچه OpenAI و سایر توسعه‌دهندگان مدل به طور فزاینده‌ای از داده‌های متخصصان یقه سفید برای بهبود فناوری خود استفاده می‌کنند.

سوسکین هیکس گفت: «برای انجام این کار به روشی که منطقی باشد، باید موقعیت‌هایی را آزمایش کنیم که مبهم، درهم و برهم و پر سر و صدا و نامشخص هستند.

او گفت: پس از اینکه پزشکان مدل‌ها را ارزیابی کردند، به تیم تحقیقاتی می‌گویند که «شکاف‌ها کجا هستند، عملکرد کجا می‌تواند بهتر باشد». سپس تیم تحقیقاتی به دنبال داده‌های مفید و روش‌های آموزشی می‌گردند تا به ChatGPT کمک کنند تا شرایط اضطراری را به‌طور دقیق تری سنجی کند، اطلاعات از دست رفته را بخواهد، عدم قطعیت ارتباط برقرار کند و با سطح دقیق جزئیات پاسخ دهد.

"نردبان شواهد" در هوش مصنوعی برای سلامتی رشد می کند

قبلا OpenAI اتصال Apple Health و برخی سوابق پزشکی را به ChatGPT آسان کرده است و سینگال آخرین مدل GPT-6 Astra را به عنوان "آخرین هنر" در تست معیار سلامت معرفی کرد. این شرکت همچنین در ماه گذشته معیاری برای آزمایش پاسخ های سلامت روان یک مدل منتشر کرد.

سوسکین هیکس گفت که بازخورد پزشکان و عملکرد مدل‌ها در تست‌های معیار باید به عنوان اولین قدم‌های شواهد در نظر گرفته شود. او امیدوار است که با گذشت زمان، مطالعات نشان دهد که استفاده از چت بات ها برای توصیه های بهداشتی در واقع نتایج را هم برای افراد و هم برای جمعیت بهبود می بخشد.

او گفت: «این نردبان شواهد وجود دارد، جایی که ما در حال بالا رفتن از آن هستیم و هنوز به اوج نرسیده‌ایم.

نکته ای دارید؟ با این خبرنگار از طریق ایمیل به آدرس scouncil@businessinsider.com یا از طریق پیامک، سیگنال، تلگرام یا واتساپ به شماره 415-757-8198 تماس بگیرید. از یک آدرس ایمیل شخصی، یک شبکه WiFi غیرکار، و یک دستگاه غیر کاری استفاده کنید. در اینجا راهنمای ما برای به اشتراک گذاری ایمن اطلاعات است.

مقاله اصلی را در Business Insider بخوانید