آیا هوش مصنوعی می‌تواند تشخیص دهد که بیماران چه زمانی به آزمایش‌های پزشکی نیاز ندارند؟ مطالعه اسرائیلی چت ربات ها را مورد آزمایش قرار می دهد

برخی از اسرائیلی‌ها حاضرند هر آزمایشی را انجام دهند تا ببینند آیا سالم هستند یا یک بیماری جدی اما قابل پیشگیری در کمین آنهاست. سپس برخی تمام آزمایش‌های پزشکی، از کولونوسکوپی گرفته تا ماموگرافی را رد می‌کنند و می‌گویند: «چه خواهد شد.» در عصری که بیماران و پزشکان به‌طور فزاینده‌ای برای مشاوره پزشکی به هوش مصنوعی روی می‌آورند، یک سؤال مهم مطرح می‌شود: آیا هوش مصنوعی می‌داند چه زمانی نباید آزمایش یا درمان شود؟ یک مطالعه مشترک جدید از دانشگاه بن‌گوریون Negev (BGU)، بزرگترین صندوق سلامت عمومی، بزرگترین صندوق بهداشت عمومی Beitshe نشان می‌دهد. لانگوای بزرگ

مدل‌های ge (LLM) با موفقیت شناسایی می‌کنند که کدام مداخلات پزشکی غیرضروری هستند و زمانی که با مناطق خاکستری مواجه می‌شوند که در آن اجماع پزشکی تقسیم شده است. این مطالعه بررسی شده در Annals of Internal Medicine، نشریه برجسته کالج پزشکان آمریکا، با عنوان «استفاده بیش از حد و محدودیت کاذب در بزرگ‌ترین زبان‌ها برای مدل‌سازی‌ها» منتشر شد. پروفسور گای لابان از دپارتمان مهندسی صنایع و مدیریت BGU و دکتر گفت که اغلب آزمایش‌های اضافی را «فقط برای ایمن بودن» درخواست می‌کنند.

دین آریل، پزشک خانواده و محقق در Clalit Health Services، که با دکتر استاو اندلمن از مرکز پزشکی رابین-بیلینسون بیمارستان در پتا تیکوا کار می‌کرد. لابان و آریل در مصاحبه ای مشترک با The Jerusalem Post اظهار داشتند: جراحی هایی که در وهله اول هرگز مورد نیاز نبودند، منابع ارزشمند مراقبت های بهداشتی را هدر دادند و به بیمار آسیب رساندند.

هنگامی که خطر واقعی در کمین است، سیستم تشخیصی خطر از دست دادن مداخلات مهم را دارد. یک ابزار هوش مصنوعی از نظر بالینی ایمن باید به طرز ماهرانه ای بین این دو حالت شکست حرکت کند.» محققان شش LLM پیشرو توسعه یافته توسط Google، Anthropic و OpenAI را در صدها سناریو بالینی ارزیابی کردند و هزاران پاسخ مدل را تجزیه و تحلیل کردند.

این سناریوها حول توصیه‌های کمپین بین‌المللی انتخاب عاقلانه، یک ابتکار پزشکی جهانی که در سال 2012 توسط بنیاد پزشکی داخلی آمریکا تأسیس شد و در بیش از 30 کشور برای حذف مراقبت‌های کم‌ارزش فعال است، ساخته شد.

برای هر یک از 15 توصیه، 15 سناریو توسعه داده شد. برای هر یک از آنها، 10 سناریو مراقبت کم ارزش طراحی شد که در آن محدودیت مناسب است. برای هر توصیه، پنج سناریو طراحی شد که اقدام مناسب برای آنهاست. هر مورد جفتی که مداخله اضافی بود، دارای کنترل‌های کاملا مشابهی بود که همان مداخله از نظر پزشکی ضروری بود. مرد جوانی با کمردرد حاد پس از بلند کردن مبلمان نیازی به تصویربرداری ندارد.

با این حال، زنی با سابقه سرطان سینه که در شب دردهای جدیدی از خود نشان می‌دهد، این کار را می‌کند. سرماخوردگی ویروسی معمولی همراه با آبریزش بینی و سرفه نیازی به آنتی‌بیوتیک ندارد، اما آزمایش گلودرد باکتریایی تایید شده است. هنگامی که مداخله ای از نظر پزشکی نشان داده شد، مدل ها به اشتباه تنها در 0.6 درصد موارد، خودداری از مراقبت را توصیه کردند، آنها اظهار داشتند. زمانی که مداخله ای به صراحت نیازی نداشت، مدل ها به طور نامناسب آزمایش یا درمان را فقط در 5.4 درصد موارد توصیه کردند. در هشت مورد از 15 توصیه، LLM ها یک روش غیر ضروری را توصیه نکردند.

اکثریت قریب به اتفاق خطاهای آزمایش بیش از حد هوش مصنوعی حول دو روش بالینی مبهم جمع شده اند. مدل‌ها الکتروکاردیوگرام‌های غیرضروری (EKG) را در 28.3 درصد از پاسخ‌ها توصیه می‌کنند، عمدتا در مواردی که بیماران تپش قلب را ذکر کرده‌اند، که EKG می‌تواند بخشی منطقی از کار باشد. آنها همچنین سونوگرافی‌های غیرضروری را در 42.8 درصد از پاسخ‌ها برای ندول‌های کوچک و تصادفی کشف‌شده آمریکایی تأیید کردند. محققان ادامه دادند که آیا اصلا چنین گره هایی باید تصویربرداری شوند یا خیر

آیا قضاوت بالینی واقعی را نشان می دهد؟ آریل توضیح داد: «یکی از سخت ترین بخش های طبابت این است که بدانید چه زمانی باید خودداری کنید. بیماران در یک آزمایش اضافی آرامش پیدا می‌کنند، اما MRI غیرضروری اغلب باعث برآمدگی بدون علامت دیسک می‌شود و باعث نگرانی و درمان غیرضروری می‌شود. می‌خواستیم ببینیم که آیا آنها توانایی اعمال خویشتنداری را نیز جذب کرده‌اند.

در بیشتر موارد، آنها می‌دانند چه زمانی باید متوقف شوند، عمدتا در جایی که ما پزشکان دریغ می‌کنیم.» «مردم اغلب می‌شنوند که یک ربات چت هوش مصنوعی با یک صدای معتبر صحبت می‌کند، گویی یک «تفکر هوش مصنوعی» یکپارچه وجود دارد. در آن زمان، در حالی که دیگری 80 درصد موارد آن را توصیه می کرد.

یک پزشک انسانی باید در برابر یک بیمار مضطرب محکم بایستد، در حالی که مدل های زبانی تمایل دارند با فرد مقابلشان همراهی کنند. سوال مهم بعدی تحقیق این است که آیا وقتی یک بیمار مضطرب یا اصرار به عقب رانده است، یک دستیار هوش مصنوعی محدودیت بالینی صحیح را حفظ خواهد کرد؟

او پس از گذراندن مدرک لیسانس در دانشگاه رایشمن در هرتزلیا، دکترای علوم مغز را در دانشگاه گلاسکو اسکاتلند دریافت کرد که بر نحوه ارتباط مردم با روبات‌ها و اینکه چگونه چنین روبات‌هایی می‌توانند به افراد مبتلا به سلامت روان کمک کنند، متمرکز بود. او یک محقق مهمان در دانشگاه سازنده آلمان و دانشگاه تل آویو بود و تحصیلات پسا دکتری را در بخش کامپیوتر دانشگاه Cambridge انگلستان در بخش کامپیوتر دانشگاه Cambridge به پایان رساند.

او همچنین یک عکاس طبیعت آماتور است. مسئله اصلی این نیست که آیا هوش مصنوعی می‌تواند مداخلات پزشکی غیرضروری را تشخیص دهد، بلکه این است که آیا این مطالعه قضاوت بالینی واقعی را نشان می‌دهد یا صرفا توانایی مطابقت با توصیه‌های پزشکی تثبیت‌شده را در مواردی که به دقت ساخته شده‌اند. لابان در پاسخ به این سوال که چقدر این نتایج فراتر از توصیه‌های خاص آزمایش‌شده تعمیم می‌یابند، گفت: "این اصلی‌ترین عملی است که پزشکان به ویژه در میان بیماران مشاوره می‌کنند. هوش مصنوعی، آنها با تمرین معمول خروجی خواهند داشت.

امیدواریم با مدل‌های جدید، معیارهای آنلاین بیشتری را ببینیم.» در پاسخ به این سوال که آیا برخی از پزشکان مراقبت‌های اولیه از اینکه بیماران چاپ‌های هوش مصنوعی را در مورد این یا آن بیماری درک می‌کنند ناراحت می‌شوند، گفت: «هیچ‌کس دوست ندارد که مورد توجه قرار گیرد. می تواند مخل، حتی غیرحرفه ای باشد. اما برخی از آن در مراقبت های اولیه استفاده می کنند.

پزشکان نمی‌توانند از مشاوره با آن اجتناب کنند، از جمله اینکه آیا داروهایی که تجویز می‌کنند با دیگران تضاد دارند یا خیر.» آریل، که همچنین در دانشگاه علوم پزشکی دانشگاه علوم پزشکی Graiv و همچنین در دانشگاه علوم پزشکی Graiv تدریس می‌کند، گفت: «ما اطلاعاتی را که در بین مطالعات رایج بود ساختار دادیم تا بتوان آنها را استاندارد کرد. قبل از تأیید بالینی و استفاده از نتایج در مطب پزشک، باید کار بیشتری انجام شود. این سوال که اگر یک سیستم هوش مصنوعی در مورد آزمایش ضروری توصیه کند و بیمار دچار مشکل شود چه کسی پاسخگو خواهد بود، مشکل است."

پادمان ها ضروری خواهد بود. هوش مصنوعی یک ابزار است، مانند خواندن چیزی در یک کتاب. در نهایت پزشک مسئول است. مدل فقط توصیه می کند؛ به او نمی گوید که چه کاری انجام دهد.» آریل اظهار داشت: «استفاده از هوش مصنوعی باید به صورت آینده نگر مورد مطالعه قرار گیرد و نه تنها بر اساس صرفه جویی در پول. مطمئن نیستم که ارزانتر از فرستادن بیماران به آزمایشی باشد که از آن جلوگیری می کند.»