نبرد مسئولیت بر سر هوش مصنوعی پزشکی در راه است

از آنجایی که هوش مصنوعی قادر است به طور مستقل در مراقبت‌های بهداشتی عمل کند، بیمارستان‌ها و شرکت‌های فناوری با یک سوال اساسی روبرو هستند: وقتی مشکلی پیش بیاید چه کسی مسئول است؟

برایان اندرسون، مدیر عامل ائتلاف هوش مصنوعی سلامت، گفت که تنش‌ها بین بیمارستان‌ها و شرکت‌هایی که برخی از پیشرفته‌ترین مدل‌های هوش مصنوعی جهان را توسعه می‌دهند، در حال ظهور است، زیرا این فناوری مستقل‌تر می‌شود.

اندرسون در نشست سلامت هوش مصنوعی نیوزویک در نیویورک گفت: «در حال حاضر یک بن‌بست با بسیاری از سیستم‌های بهداشتی و آزمایشگاه‌های مرزی در مورد اینکه چه کسی مسئول است و عوامل را کنترل می‌کند، در جریان است.

اندرسون گفت، در اکثر ایالت های ایالات متحده، ارائه دهندگان مراقبت های بهداشتی در زمانی که از ابزار هوش مصنوعی استفاده می کنند، مسئول باقی می مانند.

اندرسون گفت: «اگر مشکلی برای بیمار پیش بیاید، آنها مسئول هستند. و همین امر در مورد استفاده از ابزارهای هوش مصنوعی نیز صادق است.

اما زمانی که عوامل هوش مصنوعی به طور مستقل عمل می کنند و پزشکان ممکن است ندانند چرا هوش مصنوعی تصمیم خاصی گرفته است، مسئولیت کمتر روشن می شود.

اندرسون گفت: «سیستم‌های بهداشتی که در حال حاضر با آنها صحبت می‌کنیم، عمیقا نگران استفاده از عوامل در موارد استفاده پرخطر هستند.

گروه های پزشکان نیز این سوال را مطرح می کنند که مسئولیت کجا باید باشد. انجمن پزشکی آمریکا استدلال می کند که مسئولیت پذیری باید با طرفی که بهترین موقعیت را برای درک خطرات یک ابزار هوش مصنوعی و پیشگیری یا کاهش آسیب دارد، هماهنگ باشد، نه اینکه به طور خودکار به طور کامل بر دوش پزشکان قرار گیرد.

اندرسون گفت که بیمارستان ها به ویژه نگران این هستند که عوامل هوش مصنوعی "سرکش" کنند و خارج از سیستم های محافظت شده خود عمل کنند و اطلاعات بهداشتی خصوصی بیماران را افشا کنند.

"وقتی چیزی بد می شود، چه کسی مسئول است؟" اندرسون گفت. "در حال حاضر این سیستم سلامت است."

با مستقل شدن سیستم های هوش مصنوعی، مسئولیت می تواند تغییر کند. اندرسون گفت که یوتا در حال بررسی مسئولیت مشترک است و به Doctronic اشاره کرد که در حال آزمایش نسخه‌های جدید با کمک هوش مصنوعی در این ایالت است و بیمه قصور را دریافت کرده است.

اندرسون گفت: «من فکر می‌کنم این ممکن است سیگنالی باشد مبنی بر اینکه ممکن است شاهد باشیم که شرکت‌های فناوری بیشتر و بیشتر از اینکه در این زمینه مسئولیت مشترک وجود دارد، به‌ویژه در موارد استفاده نیمه مستقل‌تر، قدردانی می‌کنند.

با این حال، برای بیمارستان‌ها، با مستقل‌تر شدن سیستم‌های هوش مصنوعی، سؤالات مربوط به مسئولیت حل نشده باقی می‌مانند.

اندرسون گفت: "این برای بسیاری از سیستم های بهداشتی مفید است." "آنها قدردانی می کنند که خطر واقعی وجود دارد."