معنی آزمایش هوش مصنوعی یوتا برای بیمارستان ها

ظهر بخیر یوتا این هفته توجه کشور را به خود جلب کرد زیرا گام بزرگ دیگری در جهت اجازه دادن به هوش مصنوعی برای انجام وظایف بالینی که به طور سنتی برای متخصصان پزشکی دارای مجوز محفوظ است، برداشت.

روز دوشنبه، این ایالت با معرفی پنج توافقنامه جدید و شبکه ای از ارزیاب های مستقل که وظیفه ارزیابی ایمنی و اثربخشی فناوری های شرکت کننده را دارند، گسترش جعبه ایمنی نظارتی هوش مصنوعی خود را اعلام کرد.

در میان خلبان های جدید، یکی از نولا هلث وجود دارد که در نهایت می تواند به هوش مصنوعی اجازه دهد تا درمان های خاصی برای آکنه را بدون تأیید پزشک تجویز کند. دیگری، از آگوست AI، پر کردن مجدد نسخه های خودکار برای داروهای بیماری مزمن را با مجوز پزشک مورد بررسی قرار خواهد داد.

Intermountain Health و University of Utah Health نیز توافقاتی را برای تسریع در بررسی خلبانان هوش مصنوعی آینده دریافت کردند. ایالت امیدوار است شواهد به دست آمده به قوانین دائمی کمک کند و به طور بالقوه سایر ایالت ها را راهنمایی کند.

این هفته با دکتر برایان اندرسون، مدیر عامل ائتلاف هوش مصنوعی سلامت (CHAI) و برنتون هیل، مشاور عمومی سازمان صحبت کردم. CHAI یکی از شش ارزیاب مستقل است که با یوتا شریک است.

اندرسون این ابتکار را فرصتی برای ایجاد شواهدی می داند که استانداردهای صنعتی داوطلبانه به تنهایی نمی توانند ارائه کنند.

او گفت: «من فکر می‌کنم برخی از فوری‌ترین سؤال‌ها حول محور [آیا] می‌توان به این مدل‌ها اعتماد کرد یا خیر.

هیل تاکید کرد که سندباکس برای دادن اختیار به توسعه دهندگان در نظر گرفته نشده است. در عوض، تنظیم‌کننده‌ها می‌توانند برنامه‌های جدید را به‌صورت جداگانه ارزیابی کنند، قبل از اینکه تصمیم بگیرند که آیا پذیرش گسترده‌تر مناسب است یا خیر.

او با تشریح رویکرد ایالت گفت: "ما اینها را به یکباره عرضه نمی کنیم. ما آنها را یکی یکی آزمایش می کنیم تا مطمئن شویم که ایمن و موثر هستند."

این پیامدها فراتر از یوتا است، به ویژه که سایر ایالت ها چارچوب های نظارتی مشابهی را در نظر می گیرند.

و آزمایش یوتا تنها بخشی از یک بحث بسیار بزرگتر در مورد نحوه اداره هوش مصنوعی است. این مناظره موضوع جلد این هفته نیوزویک است که به بررسی این موضوع می‌پردازد که چگونه فناوری در حال تغییر شکل دادن به سیاست آمریکا و تقابل با تقسیمات حزبی سنتی است. کارت امتیازی جدید خط مشی هوش مصنوعی ما همچنین به شما امکان می دهد ببینید که هر یک از اعضای کنگره در پنج حوزه اصلی خط مشی هوش مصنوعی چه جایگاهی دارند.

در بررسی نبض این هفته از اندرسون و هیل در مورد اینکه این آزمایش چه معنایی برای بیمارستان‌ها، بیماران و آینده مقررات هوش مصنوعی می‌تواند داشته باشد، صحبت می‌کند.

در زیر، بخشی از مصاحبه من با دکتر برایان اندرسون، مدیر عامل CHAI، و برنتون هیل، مشاور عمومی سازمان را بیابید. ما درباره جعبه ایمنی نظارتی هوش مصنوعی مراقبت‌های بهداشتی جدید یوتا، نقش CHAI در ارزیابی فناوری‌های شرکت‌کننده و اینکه این آزمایش می‌تواند برای بیمارستان‌های سراسر کشور معنی داشته باشد، بحث کردیم.

یادداشت ویرایشگر: پاسخ ها به دلیل طولانی بودن و وضوح کمی ویرایش شده اند.

برای افرادی که برای اولین بار در مورد اعلامیه یوتا می خوانند، درک چه چیزی مهم است؟

اندرسون: بخشی از اهمیت این خبر همه در مورد ایجاد اعتماد و ایجاد شواهدی است که نشان می دهد ما باید با سرعتی که برای حرکت در فضای مراقبت های بهداشتی نیاز داریم حرکت کنیم تا ایمن ترین و موثرترین هوش مصنوعی را به ساکنان یوتا ارائه دهیم.

بخشی از هیجان CHAI همکاری با دفتر سیاست هوش مصنوعی و ابتکار Pro-Human AI برای شروع تولید شواهد در مورد انواع مدل های هوش مصنوعی است که می توانیم به آنها اعتماد کنیم.

نقش ما، به عنوان عضوی از اکوسیستم ارزیاب شخص ثالث، کمک به گردآوری شبکه ای از ارزیاب های شخص ثالث برای آزمایش این مدل ها و نظارت بر عملکرد آنها به عنوان بخشی از رویکرد جعبه ایمنی هوش مصنوعی است.

این فرصت، آزمایش و پایش سریع مدل‌های هوش مصنوعی، ایجاد شواهد پیرامون عملکرد مدل است که دولت می‌تواند از آن برای اتخاذ تصمیمات نظارتی در مورد آن مدل‌ها استفاده کند.

یکی از نقش‌های CHAI گرد هم آوردن ارزیابی‌کنندگانی است که ارزیابی‌ها را بر اساس بهترین شیوه‌های ایجاد شده از طریق یک فرآیند اجماع مبتنی بر صنعت به رهبری پزشک انجام می‌دهند.

این ممکن است شامل یک الگوریتم برای شناسایی بیماران در معرض خطر بالای سپسیس یا تولید نسخه باشد، همانطور که با برخی از ابزارهای نیمه مستقل یا مستقل در یوتا دیده ایم.

بهترین روش ها برای توسعه آن مدل ها چیست؟ بهترین شیوه ها برای استقرار، حاکمیت و نظارت چیست؟ معیارها و روش های ارزیابی آنها چیست؟

ارائه این دیدگاه اجماع به مجموعه ای از ارزیابان که با دقت مورد نیاز جامعه به ارزیابی و نظارت می پردازند، گام مهمی است. من فکر می‌کنم این یک مسیر حیاتی برای باز کردن موارد استفاده وعده‌های هوش مصنوعی است، از جمله ارائه مراقبت به مردم روستایی یوتا که در غیر این صورت ممکن است مجبور شوند صدها مایل را برای دیدن یک ارائه‌دهنده رانندگی کنند.

رویکرد یوتا چه تفاوتی با آنچه در ایالت های دیگر می بینیم دارد؟ آیا واقعا در نوع خود بی نظیر است؟

هیل: من می‌توانم بگویم که جعبه‌های شنی یوتا از این نظر بی‌نظیر هستند که اگر نگوییم تنها یکی از اولین‌هایی هستند که زیرساختی برای آزمایش و استقرار این فناوری‌ها بر روی بیماران واقعی در ایالت خود دارند.

تا آنجا که من می دانم، آنها در اتخاذ این الزامات مجوز، ارائه تسهیلات نظارتی از آنها و اجازه دادن به برنامه های کاربردی مستقیم به مصرف کننده که معمولا نیاز به مجوز پزشکی دارند، کشور را رهبری می کنند.

چیزی که بسیار منحصر به فرد است این است که آنها پیشتاز هستند و بسیار مایلند آنچه را که انجام می دهند با سایر ایالت هایی که به دنبال برنامه های مشابه هستند به اشتراک بگذارند.

مورد دیگری که در حال بررسی است و به نظر من واقعا تأثیرگذار است، تعامل متقابل با سایر کشورها است.

اگر ایالت دیگری دارای جعبه شن و ماسه باشد و فناوری ای فرآیند یوتا را طی کرده باشد، تأییدیه های لازم را دریافت کرده باشد و در واقع در حال استفاده باشد، ممکن است عمل متقابل وجود داشته باشد تا سایر ایالت ها بتوانند از فناوری های مشابه در جعبه های ماسه ای خود استفاده کنند.

این بدان معنا نیست که یوتا انتظاراتی را برای سایر ایالت ها تعیین می کند، اما من معتقدم که صحبت هایی در مورد این احتمال در حال انجام است.

بنابراین این می تواند پیامدهایی برای سیستم های بهداشتی و بیماران در سراسر کشور داشته باشد، نه فقط در یوتا؟

CHAI دقیقا مسئول ارزیابی چه چیزی خواهد بود و نقش آن به کجا ختم می‌شود و مرجع نظارتی ایالت کجا شروع می‌شود؟

هیل: اول از همه، هنوز تعدادی جزئیات وجود دارد که باید بررسی شوند. قرار است 90 روز آینده را با ایالت یوتا بگذرانیم و این جزئیات را بررسی کنیم، بنابراین همه پاسخ ها را نداریم.

چیزی که می توانم بگویم این است که CHAI برگزارکننده برنامه شریک ما است. ما از برنامه موجود و اعضایی که توانایی‌های مورد نیاز دولت برای انجام ارزیابی‌ها را دارند، استفاده خواهیم کرد.

نقش CHAI بیشتر دعوت سازمان هایی با قابلیت های لازم برای انجام آن ارزیابی ها از طرف ایالت خواهد بود. سپس این واقعا به یوتا بستگی دارد که مطمئن شود آن ارزیابی ها با الزامات ایالت مطابقت دارد.

به هیچ وجه تعیین تایید شده توسط CHAI یا تایید شده توسط CHAI نقطه تصمیم گیری نهایی نخواهد بود.

ایالت یوتا مسئول حفاظت از اجزای تشکیل دهنده خود است. ما آنجا هستیم تا به ارائه زیرساخت‌ها کمک کنیم و توسعه طبیعی دولت باشیم و ارزیابی‌هایی را انجام دهیم که دولت منابع یا تخصص لازم برای انجام آن را ندارد.

برایان، CHAI سالهاست که روی تضمین مستقل برای هوش مصنوعی کار می کند، از جمله "برچسب های تغذیه ای" هوش مصنوعی. شراکت با یک دولت ایالتی چه چیزی را ممکن می کند که تلاش های داوطلبانه صنعت به تنهایی امکان پذیر نیست؟

اندرسون: جعبه شنی هوش مصنوعی مسیری را برای شرکت‌های فناوری هوش مصنوعی سلامت فراهم می‌کند تا مدل‌های خود را در سراسر یوتا به شیوه‌ای ایمن مستقر کنند که شامل نظارت و حاکمیت پس از استقرار است.

یک هدف این است که شواهدی را که باید بیاموزیم تولید کنیم. این یک فضای جدید است. ما هنوز در حال یادگیری هستیم و از آنجایی که فضا به سرعت در حال تکامل است، برای اتخاذ آگاهانه ترین تصمیمات به دانش اساسی نیاز داریم.

همچنین به نوآوران اجازه می‌دهد تا تسهیلات نظارتی مورد نیاز خود را برای نوآوری سریع دریافت کنند و با سیستم‌های بهداشتی و بیماران شریک شوند به نحوی که اعتماد و شفافیت ایجاد کند.

فکر می‌کنم این اولین باری است که یک ایالت یک جعبه شنی با زیرساخت و فرآیند نظارتی ایجاد می‌کند که امکان آزمایش قبل از بازار و نظارت پس از استقرار مدل‌ها را فراهم می‌کند. ما ندیده ایم که در کشور دیگری چنین اتفاقی بیفتد.

این کاملا منحصر به فرد است و بسیار متفاوت از CHAI است که این کار را به تنهایی انجام می دهد. بدیهی است که یک جزء نظارتی نیز در آن وجود دارد.

هیل: چیز دیگری که اضافه می‌کنم این است که این به ما امکان می‌دهد چارچوب‌ها، بهترین شیوه‌ها و هر آنچه را که در چند سال گذشته ساخته‌ایم را در مکانی قرار دهیم که بتوانیم همراه با شرکت‌ها، سایر سهامداران و نهادهای دولتی یاد بگیریم.

ما می‌توانیم شواهدی را که در تئوری ایجاد کرده‌ایم، بگیریم و در واقع آن‌ها را به روشی تأیید شده در سطح ایالتی آزمایش کنیم.

ما نه تنها چارچوب‌هایی را در آنجا قرار می‌دهیم. ما همچنین از آموخته های وارد شده بهره مند هستیم.

آنچه ما امیدواریم انجام دهیم این است که چارچوب ها و شرکای را برای کمک به ایالت در انجام وظایف قانونی خود ارائه دهیم، اما همچنین آن آموخته ها را به CHAI و جامعه بازگردانیم تا بتوانیم آنها را در سازمان ها و گروه های ذینفع در سراسر کشور پخش کنیم.

Intermountain Health در کنفرانس مطبوعاتی روز دوشنبه گفت که بیش از 300 ابتکار هوش مصنوعی در دست اجرا دارد. چگونه تعیین می کنید که کدام برنامه ها این سطح جدید از بررسی را تضمین می کنند، به ویژه زمانی که سیستم های بهداشتی از قبل دارای فرآیندهای حاکمیت داخلی هستند؟

هیل: فکر می‌کنم این به ایالت بستگی دارد که تصمیم بگیرد کدام فروشنده واجد شرایط سندباکس است.

من موارد استفاده واجد شرایط را به عنوان مواردی در نظر می‌گیرم که در آن سازمانی می‌خواهد از فناوری برای انجام خدماتی بر روی یک بیمار واقعی استفاده کند که معمولا به یک پزشک متخصص انسانی مجاز نیاز دارد.

پر کردن مجدد نسخه احتمالا بهترین مثالی است که در این مرحله داریم.

اگر سازمانی بخواهد فرآیندی مانند تمدید نسخه را تکرار کند که معمولا به مجوز نیاز دارد، باید از طریق سندباکس با ایالت کار کند، مورد استفاده را تأیید کند و سپس آن را گسترش دهد.

بسته به سازمان، میزان تحمل ریسک و بلوغ آن، احتمالا تعداد نامحدودی از موارد استفاده بالقوه وجود دارد.

اما اگر یک سیستم بهداشتی در حال ساخت ابزاری باشد که می‌خواهد آن را در جعبه شنی آزمایش کند، باید مانند هر شرکت دیگری سخت‌گیری کند.

آنچه در کنفرانس مطبوعاتی به نظر من جالب بود این بود که هم دانشگاه یوتا بهداشت و هم اینترمونتین گفتند که قرار است ایمنی بیمار را در اولویت قرار دهند.

چیزی که من از آنها شنیدم این است که آنها در مورد موارد استفاده ای که دنبال می کنند بسیار انتخابی عمل می کنند و مطمئن می شوند که برای بیماران ایمن هستند.

آنها سعی نمی کنند بگویند، "بیایید این را برای همه باز کنیم تا بیایند و همه این فناوری های جدید را امتحان کنند، و خواهیم دید که چه اتفاقی می افتد."

آنها هنوز هم روی اولویت دادن به بیماران متمرکز هستند.

Intermountain و University of Utah Health توافقنامه هایی با هدف تسریع در بررسی خلبانان هوش مصنوعی آینده خواهند داشت. چگونه ارزیابی‌های مستقل می‌توانند سخت‌گیرانه باقی بمانند، بدون اینکه به گلوگاه دیگری برای بیمارستان‌هایی که در تلاش برای استقرار فناوری جدید هستند تبدیل شوند؟

هیل: ما نباید به این موضوع به عنوان یک گلوگاه فکر کنیم.

ما در اینجا در حال آزمایش موارد استفاده مرزی هستیم، چیزهایی که انسان ها معمولا انجام می دهند و هرگز توسط فناوری خودکار یا تکرار نشده اند.

من این را به عنوان یک گلوگاه نمی‌بینم، زیرا در حال حاضر، هیچ یک از این موارد استفاده در ایالت بدون این معافیت قانونی نخواهد بود.

من این را اولین گام در موجی از نوآوری می دانم که می تواند در سطح ایالت اتفاق بیفتد.

ایالت ها می توانند بگویند، "تعداد بی شماری از موارد استفاده وجود دارد که ما می توانیم در اینجا آزمایش کنیم. تعداد بی شماری از مزایای بالقوه فناوری وجود دارد، اما ما قرار نیست این ها را یکباره عرضه کنیم. ما آنها را یکی یکی آزمایش می کنیم تا مطمئن شویم که ایمن و موثر هستند."

سپس، اگر ایالت تشخیص دهد که برنامه به خوبی پیش می رود و یک سیستم هوش مصنوعی مشخص نشان داده که صلاحیت اجرای تحت معافیت را دارد، شاید بتواند قوانین بیشتری را برای اجازه استفاده از آن در نظر بگیرد.

آنها به هیچ وجه نمی گویند که قرار است همه چیز را باز کنند.

من به این به عنوان یک نوآوری خفه کننده نگاه نمی کنم. من آن را اولین فرصتی می‌دانم که برای یک ایالت دیده‌ایم که بگوید: «ما موارد استفاده از مرز را آزمایش می‌کنیم که معمولا امکان‌پذیر نیست، و ما آن را در یک فضای امن انجام خواهیم داد».

یوتا می‌گوید داده‌های این خلبان‌ها مقررات مراقبت‌های بهداشتی دائمی آینده را به اطلاع خواهد رساند. امیدوارید دولت بتواند به چه سوالاتی پاسخ دهد تا دیگر تنظیم کننده ها مجبور به اختراع مجدد چارچوب نباشند؟

اندرسون: فکر می‌کنم برخی از فوری‌ترین سوالات بر این موضوع متمرکز هستند که آیا می‌توان به این مدل‌ها اعتماد کرد یا خیر.

وقتی ابزارهای عامل نیمه مستقل یا مستقلی دارید که در مراقبت های بهداشتی کار می کنند، اعتماد در اولویت قرار دارد.

ایجاد شواهد در مورد عملکرد یک مدل و پاسخ به سؤالات اساسی در مورد نحوه عملکرد آن در سناریوهای بالینی خاص، به شیوه ای آینده نگر، بسیار ارزشمند است.

اگر ایالت دیگری بتواند از آن شواهد استفاده کند، می‌تواند تصمیمات آگاهانه‌تری در مورد فروشنده‌ای بگیرد که ممکن است شواهد امیدوارکننده‌ای را در یوتا ایجاد کرده باشد، بدون اینکه لزوما مجبور باشد دوباره همان سختگیری و نظارت را انجام دهد.

این می تواند بسیار ارزشمند باشد، به ویژه اگر دولت ها به رسمیت شناختن متقابل را دنبال کنند.

سوال مهم دیگر این است: موثرترین راه‌ها برای نظارت بر عوامل چیست؟

ما سؤالات زیادی در مورد چگونگی انجام این کار به طور ایمن و مؤثر دیده‌ایم. ما برای ایجاد شفافیت و بینش مورد نیاز بیماران، با جدیت به این موضوع خواهیم پرداخت.

هیل: امید من این است که یکی از اساسی ترین سوالاتی که در طول این آزمایشی به آن پاسخ داده شده است این است: چه چیزی لازم است تا پزشکان و بیماران به هوش مصنوعی در مراقبت از خود اعتماد کنند؟

ما می بینیم که اعتماد یکی از بزرگترین بازدارنده های هوش مصنوعی است که در مقیاس در سراسر سازمان ها مستقر می شود. امیدوارم یوتا بتواند به این سوال پاسخ دهد.

سؤال دیگری که واقعا امیدوارم آنها پاسخ دهند این است که ساختار بدهی بین همه این طرف های مختلف چگونه است.

این یکی از مهمترین چیزهایی است که در حال حاضر در ذهن بسیاری از سازمان ها وجود دارد.

ما می‌توانیم هوش مصنوعی را در مقیاس برای تقریبا هر چیزی به کار ببریم، اما از نظر قراردادی، عملیاتی و حتی فرضی، هنوز به طور کامل نمی‌دانیم که مسئولیت کجاست.

این اغلب سازمان ها را از استقرار در مقیاسی که می خواهند باز می دارد زیرا قابلیت پیش بینی زیادی وجود ندارد.

امید صمیمانه من این است که درک بهتری از شکل ظاهری آن ساختار داشته باشیم، بنابراین سازمان ها می توانند بیمه شوند، بیماران بتوانند در صورت بروز مشکل از تسکین برخوردار شوند و همه طرف های لازم به روشی منصفانه و منصفانه پاسخگو باشند.

آیا هنوز درک می کنید که پس از پاکسازی و بررسی ابزارها از طریق فرآیند آزمایشی، اعتماد بیمار چگونه اندازه گیری می شود؟

هیل: می‌دانم که درباره آن فکر زیادی وجود دارد، اما چه مکانیزم رسمی وجود داشته باشد یا نه، من شخصا چنین اطلاعاتی را ندارم.

اندرسون: امیدوارم احساسات و بازخورد بیمارانی را که از این ابزارها استفاده می کنند، دریافت کنیم.

گرفتن بازخورد بیمار در مورد تجربه، رضایت آگاهانه و افشای آنها بسیار مهم خواهد بود.

به هر حال هوش مصنوعی بیمار را لمس می کند، احساسات بیمار مرتبط با آن برای گرفتن و به اشتراک گذاری مهم است.

امید من این است که این رویکرد sandbox این نوع اطلاعات را به دست آورد.

اندرسون: من فکر می‌کنم این لحظه بسیار هیجان‌انگیز و نقطه عطفی در داخل کشور است.

ما چشم‌انداز سیاسی چالش‌برانگیزی در سطح فدرال داریم و ایالت‌هایی داریم که با چارچوب‌های نظارتی دقیق و در عین حال مناسب برای اطمینان از تولید شواهد مورد نیاز در هوش مصنوعی سلامت، شروع به حرکت به جلو کرده‌اند.