رهبر بهداشت هشدار داد "مسابقه با چین" می تواند بیماران را در معرض خطر قرار دهد

یکی از رهبران حوزه مراقبت های بهداشتی و هوش مصنوعی هشدار داده است که رقابت چین با هوش مصنوعی می تواند بیماران را در معرض خطر قرار دهد زیرا رئیس جمهور دونالد ترامپ برای تسریع توسعه ایالات متحده تلاش می کند.

برایان اندرسون، مدیر عامل ائتلاف هوش مصنوعی در اجلاس سلامت هوش مصنوعی نیوزویک در نیویورک، گفت: «نگرانی واقعی وجود دارد که ما به مردم آسیب خواهیم رساند.

او گفت که پنج سال پیش اشتهای کمی برای کند کردن توسعه هوش مصنوعی برای اطمینان از ایمن بودن مدل‌ها وجود داشت. او گفت: «من فکر می‌کنم این مرحله بیایید سریع حرکت کنیم، بیایید نوآوری کنیم، اجازه ندهیم در این مسابقه با چین شکست نخوریم.

اما اندرسون توضیح داد که نگرش‌ها در حال تغییر است زیرا سیستم‌های بهداشتی کاربردهای خودکار هوش مصنوعی را در محیط‌های پرخطری که ممکن است جان بیماران به خطر بیفتد، بررسی می‌کنند.

او به کمک هوش مصنوعی به درمان سپسیس به عنوان نمونه ای از استفاده پرخطر اشاره کرد که در آن اشتباهات می تواند به بیماران آسیب برساند.

اندرسون همچنین هشدار داد که عوامل هوش مصنوعی در مراقبت‌های بهداشتی می‌توانند "سرکش" کنند و "به مهارتی دسترسی پیدا کنند" تا خارج از دیوار آتش امن سیستم بهداشتی کار کنند و به طور بالقوه اطلاعات محافظت شده بیمار را فاش کنند.

اظهارات وی پس از آن بیان شد که ترامپ قول داد توسعه هوش مصنوعی را در رقابت با چین کند نکند و گفت: "هرکسی که هوش مصنوعی را برنده شود، برنده است" و ترس از این که این ابزارها می توانند بشریت را نابود کنند را به عنوان یک "فریب" رد کرد. او گفت تنها "حفاظ" مورد نیاز برای هوش مصنوعی یک رئیس جمهور "قوی و باهوش" است و این فناوری در دوران ریاست جمهوری او "قطع نخواهد شد".

دکتر نبیل چهاده، مسئول تحول بالینی، نوآوری و استراتژی در سیستم MetroHealth، نگرانی‌ها را تکرار کرد و گفت که نگرانی او یک اشتباه جداگانه هوش مصنوعی نیست، بلکه شکست در مقیاس بسیار بزرگ‌تر است.

چیزی که من را در شب بیدار نگه می‌دارد زمانی است که در سطح عظیمی شکست می‌خوریم، زیرا اکنون یا به طور ناگهانی سیستم‌ها در دسترس نیستند، یا به این دلیل که یکپارچگی سیستم نقض شده است، و قبل از اینکه بدانیم، آسیب‌های زیادی وارد شده است. وی افزود: نمی‌دانم چه شکلی خواهد بود.

اندرسون گفت که عوامل هوش مصنوعی که به طور فزاینده ای مستقل هستند، هنگام استقرار در بیمارستان ها نیاز به نظارت دقیق دارند و برخی از شرکت های فناوری در حال حاضر عوامل را در زمان واقعی نظارت می کنند.

او گفت: «آنها هر مرحله از گردش کار یک نماینده را زیر نظر دارند تا مطمئن شوند که کار خطرناکی انجام نمی‌شود».

اندرسون گفت، حتی استفاده های معمولی نیز خطراتی را به همراه دارد و به یک سیستم هوش مصنوعی در یوتا اشاره کرد که برای تجدید نسخه های موجود آزمایش می شود. او گفت که تغییر در نتایج آزمایشگاهی بیمار می‌تواند به این معنا باشد که دارو باید تنظیم یا متوقف شود تا اینکه تمدید شود. "این بدون خطر نیست."

برندن کار، مدیر عامل سیستم سلامت کوه سینا، نگرانی های مشابهی را در مورد استقلال بیشتر هوش مصنوعی مطرح کرد.

کار گفت: «عضو جدیدی از تیم وجود دارد. "آن عضو وعده‌های باورنکردنی و باورنکردنی دارد. اما هنوز کاملا آماده نیست که بتواند آزاد باشد."

در میان درخواست‌ها برای مقررات دولتی برای کند کردن توسعه هوش مصنوعی، کار استدلال کرد که سیستم‌های بهداشتی می‌توانند به عنوان "شریک تضمینی" برای شرکت‌های فناوری عمل کنند و به اطمینان از استقرار ایمن سیستم‌های مستقل کمک کنند.

اندرسون همچنین یک "مقابله" بین برخی از سیستم های بهداشتی و توسعه دهندگان هوش مصنوعی مرزی را در مورد اینکه چه کسی باید عوامل مستقل را کنترل کند و در صورت بروز مشکل مسئولیت پذیر باشد، توصیف کرد.

"وقتی چیزی بد می شود، مسئول در حال حاضر کیست... این سیستم بهداشتی است."