پزشکان سپر مسئولیت در برابر اشتباهات هوش مصنوعی را می خواهند

استقرار سریع هوش مصنوعی در بیمارستان‌ها و کلینیک‌ها، بزرگترین گروه پزشکان کشور را به لابی کردن برای حمایت‌های قانونی جدید در صورت آسیب رساندن هوش مصنوعی به بیماران سوق می‌دهد.

چرا اهمیت دارد: استفاده از ابزارها و توصیه‌های پیشرفته‌تر هوش مصنوعی، خطوط پیرامون سهل انگاری در مراقبت‌های بهداشتی را محو می‌کند و سؤالاتی را در مورد اینکه آیا پزشکان باید در قبال تصمیم‌های مبتنی بر نرم‌افزار مسئول شناخته شوند یا خیر، ایجاد می‌کند. فوریت بیشتری وجود دارد زیرا هوش مصنوعی مستقل وظایف پزشکی بیشتر و مهم تری را با نظارت مستقیم کمتر انجام می دهد.

سوال این است که وقتی مشکلی پیش بیاید چه کسی مسئول است. اخبار رانندگی: انجمن پزشکی آمریکا این هفته خواستار قوانین فدرال و ایالتی برای محافظت از پزشکان در برابر مسئولیت در زمانی که محصولات هوش مصنوعی به بیماران آسیب می‌رسانند، علی‌رغم استفاده پزشکان از ابزارهای مورد نظر، خواستار شد. این گروه همچنین بر قوانین جدیدی فشار می آورد که شرکت های هوش مصنوعی بیمه مسئولیت کافی را داشته باشند و محدودیت های محصول و داده های عملکرد را افشا کنند.

خط مشی AMA بیان می‌کند که بیمارستان‌ها، سیستم‌های بهداشتی، بیمه‌گران و فروشندگان فناوری سلامت در صورتی که استفاده لازم از محصولات خاص هوش مصنوعی منجر به خطاهای مضر شود، باید مسئول باشند. بین خطوط: فشار این گروه زمانی انجام می‌شود که ابزارهای بالینی هوش مصنوعی در حال هجوم به سیستم سلامت هستند، کارایی‌های جدیدی را باز می‌کنند، اما به الگوریتم‌ها قدرت می‌دهند تا تصمیم‌هایی مانند سفارش آزمایش تشخیصی یا تجویز یک داروی گران قیمت را بگیرند.

کارشناسان حقوقی و پزشکی به احتمال خطاهای تریاژ اشاره می‌کنند که در آن سیستم‌های هوش مصنوعی که تاریخچه‌های بالینی، علائم حیاتی و تصویربرداری را پردازش می‌کنند، می‌توانند شدت یک مورد را بدون اطلاع پزشک معالج به اشتباه ارزیابی کنند.

AMA همچنین احتمال ارائه یک سیستم هوش مصنوعی را برای درمان، اما با نتایج آزمایشگاهی ناقص یا تشخیص‌های قدیمی، افزایش می‌دهد. در چنین مواردی، ممکن است پزشک نتواند ورودی ها را تأیید کند.

AMA استدلال می کند که در مواردی که بیمار آسیب می بیند، مسئولیت باید بر عهده سازندگان و فروشندگان هوش مصنوعی باشد - و احتمالا سیستم های بهداشتی که نیاز به استفاده از سیستم های هوش مصنوعی دارند - به جای ادعای قصور پزشکی علیه پزشک. زمینه: قبلا دعواهایی در مورد تصمیمات پزشکی مبتنی بر الگوریتم وجود داشته است، از جمله یک مورد مرگ نادرست در آلاباما که شامل ابزار غربالگری برای ناهنجاری های قلبی است. توسعه‌دهنده نرم‌افزار مسئولیتی نداشت زیرا موافقتنامه مجوز آن تصمیمات پزشکی نهایی را به پزشکان واگذار می‌کرد. تصویر بزرگ: دادگاه های سراسر کشور ج

مارتین هیلبرت، استاد دانشگاه کالیفرنیا، دیویس، که نقش اطلاعات دیجیتال و الگوریتم‌ها را در جامعه مطالعه می‌کند، گفت: از جمله اینکه شرکت‌هایی که سیستم‌های هوش مصنوعی را طراحی، آموزش و استقرار می‌دهند، مسئولیت کارهایی که این سیستم‌ها انجام می‌دهند را بر عهده دارند. مسئولیت پذیری به عواملی بستگی دارد از جمله اینکه چه کسی در هنگام ساختن یک سیستم هوش مصنوعی مسئولیت مشترک دارد، چگونه خطای یک مدل غیرشفاف را ثابت کنیم، و وقتی آسیب ها فقط پس از استقرار سیستم ظاهر می شوند چه باید کرد.

او به Axios گفت: "طرف های مختلف مسئول موارد مختلف هستند و شما نمی توانید فقط کاربر نهایی را مسئول بدانید."

AMA می خواهد به موقعیت هایی رسیدگی کند که استفاده از یک سیستم هوش مصنوعی اجباری است. آنچه ما در حال تماشای آن هستیم: سازمان غذا و دارو در حال بررسی است که آیا چارچوب جدیدی برای تنظیم دستگاه‌های پزشکی مجهز به هوش مصنوعی لازم است یا خیر. اما این آژانس بر نرم‌افزاری نظارت می‌کند که با تعریف یک دستگاه پزشکی مطابقت دارد، نه همه هوش مصنوعی در مراقبت‌های بهداشتی.

بیمارستان‌ها عموما از تحمیل مسئولیت به توسعه‌دهندگان و فروشندگان برای نظارت بر عملکرد سیستم‌ها حمایت می‌کنند و می‌گویند ماهیت «جعبه سیاه» بسیاری از سیستم‌ها می‌تواند شناسایی عیوب را دشوار کند.

AdvaMed، گروه تجاری که نماینده سازندگان دستگاه‌ها است، از FDA می‌خواهد به استفاده از رویکردهای فعلی خود برای ارزیابی دستگاه‌های پزشکی مولد مجهز به هوش مصنوعی ادامه دهد. همچنین از آژانس می‌خواهد که از نظارت پس از فروش که بدون توجه به ریسک واقعی محصول، بار اضافی را تحمیل می‌کند، اجتناب کند.