پزشکان بیشتر از هوش مصنوعی استفاده می کنند. چه چیزی باعث می شود به آن اعتماد کنند؟

هوش مصنوعی به سرعت بخشی از کار روزمره پزشکان شده است. برای حرفه‌ای که بر پایه اعتماد، شواهد و مسئولیت‌پذیری بنا شده است، تصمیم‌گیری درباره میزان اعتماد به فناوری یک سوال پیچیده‌تر است.

هشتاد و یک درصد پزشکان اکنون به طور حرفه ای از هوش مصنوعی استفاده می کنند، بیش از دو برابر سهمی که انجمن پزشکی آمریکا برای اولین بار در سال 2023 از پزشکان در مورد این فناوری نظرسنجی کرد. طبق نظرسنجی AMA در سال 2026 از نزدیک به 1700 پزشک، بیش از سه چهارم معتقدند هوش مصنوعی توانایی آنها را برای مراقبت از بیماران بهبود می بخشد.

اما استفاده بیشتر نگرانی‌های پزشکان را در مورد اینکه چه اتفاقی می‌افتد هنگامی که هوش مصنوعی اشتباه می‌کند را پاک نکرده است. 88 درصد از پزشکان گفتند که اعتبارسنجی ایمنی و اثربخشی قوی برای پذیرش گسترده‌تر مهم است، در حالی که 86 درصد در مورد حفظ حریم خصوصی داده‌ها همین را گفتند. پزشکان همچنین چارچوب‌های مسئولیت روشن را در میان مهم‌ترین مراحل نظارتی برای افزایش اعتمادشان به هوش مصنوعی قرار دادند.

هرچه هوش مصنوعی بیشتر بخشی از عملکرد بالینی شود، درک اینکه چه زمانی و چرا می‌توانند به توصیه‌های آن تکیه کنند برای پزشکان مهم‌تر می‌شود.

دکتر کریس درینزو، پزشک ارشد انجمن بیمارستان‌های آمریکا، هنگام مدیریت یک پانل در نشست سلامت هوش مصنوعی نیوزویک در 23 سپتامبر در شهر نیویورک، اعتماد و شفافیت را نزدیک به هم مرتبط دانست.

DeRienzo در این مورد گفت: "به نظر من باید نقطه مناسبی را در تقاطع اعتماد و شفافیت پیدا کنید تا قضاوت [بالینی] را امکان پذیر کنید." رهبران مراقبت های بهداشتی که در صحنه به او پیوستند، در مورد آنچه که در نهایت باعث جلب اعتماد پزشکان می شود، اختلاف نظر داشتند.

دکتر مت ساکوموتو، مدیر ارشد محصولات بالینی در ارائه‌دهنده هوش مصنوعی محیطی Nabla، در طول این پنل به مخاطبان Newsweek گفت: «شفافیت باعث اعتماد می‌شود.

ساکوموتو گفت که پزشکان به شواهدی در پشت ابزارهایی که استفاده می کنند نیاز دارند، از جمله اطلاعاتی در مورد داده های مورد استفاده برای آموزش مدل ها و نحوه عملکرد آنها قبلا. او گفت که همان سؤالات برای بیماران اهمیت دارد زیرا هوش مصنوعی عمیق تر در مراقبت های بالینی جاسازی می شود.

با این حال، شفافیت لزوما به این معنا نیست که پزشکان باید همه چیزهایی را که در داخل یک الگوریتم اتفاق می‌افتد، درک کنند.

تئو زانوس، رئیس بخش هوش مصنوعی سلامت در Northwell Health، استدلال کرد که عملکرد پایدار در نهایت ممکن است برای جلب اعتماد پزشکان اهمیت بیشتری داشته باشد. او گفت که یک ابزار می تواند اطلاعات گسترده ای درباره نحوه ساخت آن ارائه دهد، اما اگر به طور قابل اعتمادی کار نکند، پزشکان به سرعت استفاده از آن را متوقف می کنند.

زانوس گفت: "عملکرد نیز باعث افزایش اعتماد و حفظ اعتماد می شود."

تحقیقات همچنین نشان می دهد که تمایز مهم است. یک بررسی سیستماتیک از مطالعاتی که هوش مصنوعی قابل توضیح را بررسی می‌کردند، شواهد متفاوتی را نشان می‌داد که خود توضیحات اعتماد پزشکان را افزایش می‌دهد. پنج مطالعه از 10 مطالعه شامل هوش مصنوعی قابل توضیح اعتماد را افزایش داد. دو نفر هیچ تاثیری بر اعتماد پیدا نکردند، دو نفر نتایج متفاوتی را نشان دادند و یکی غیرقطعی بود. نویسندگان به این نتیجه رسیدند که ارائه یک توضیح به طور خودکار باعث اعتماد بیشتر پزشکان به یک سیستم هوش مصنوعی نمی شود.

به نظر می رسد که بیماران عملکرد را نیز سنگین می کنند. مطالعه‌ای که امسال در JAMA Network Open منتشر شد، نشان داد که عملکرد هوش مصنوعی قوی‌ترین عامل مرتبط با این است که بزرگسالان آمریکایی یک برخورد پزشکی با کمک هوش مصنوعی را ترجیح می‌دهند. داشتن یک پزشک درگیر، داده‌های آموزشی نماینده و مکانیسم‌های حاکمیتی نیز با اعتماد بیشتری همراه بود.

این امر بر سیستم‌های بهداشتی فشار می‌آورد تا ارزیابی هوش مصنوعی را به‌جای مانعی که قبل از استقرار رفع شده است، به فرآیندی مداوم تبدیل کنند.

دکتر سوفی باکری، مدیر پزشکی مرکز سلامت دیجیتال در کلینیک مایو، گفت که هوش مصنوعی بسیار شبیه سایر نوآوری های بالینی در سیستم بهداشتی مشهور جهان مستقر در روچستر، مینه سوتا ارزیابی می شود. رهبران چرایی توسعه ابزار، کاربرد مورد نظر و محدودیت‌های آن را بررسی می‌کنند، سپس قابلیت اطمینان و عملکرد آن را تأیید می‌کنند. اما این ارزیابی‌ها نمی‌توانند با عرضه یک محصول به پایان برسند.

باکری گفت: "ما باید آماده توقف باشیم. ما باید برای کاهش استفاده و چرخش آماده باشیم."

به گفته مدیر ارشد اطلاعات دیجیتال راتناکار لاوو، در شرکت بیمه سلامت Elevance Health، شفافیت به طور فزاینده ای به معنای قابل توضیح است. این شرکت توسعه هوش مصنوعی را از طریق پلتفرمی متمرکز می‌کند که به آن مدل‌ها و نحوه استفاده را می‌دهد، سپس برنامه‌های بالینی را تحت یک چارچوب هوش مصنوعی قرار می‌دهد که شامل تست سوگیری و توهم قبل و بعد از استقرار است.

لاوو گفت: "ما در مورد شفافیت زیاد صحبت می کنیم، اما شفافیت از طریق توضیح پذیری حاصل می شود.

خود پزشکان در این فرآیند نقش محوری دارند. 85 درصد از پزشکانی که توسط AMA مورد نظرسنجی قرار گرفتند، گفتند که می‌خواهند با آنها مشورت شود یا مستقیما در تصمیم‌گیری‌های پذیرش هوش مصنوعی مشارکت داشته باشند.

باکری گفت که پزشکان باید به طور مشابه پس از استقرار درگیر باشند و به طور مستمر ارزیابی کنند که آیا ابزارها با تغییر داده ها و مدل ها قابل اعتماد هستند یا خیر.

او گفت: "مسئولیت با پزشکان و همچنین سازمان است." ما به عنوان پزشک، در نهایت تصمیم می گیریم از چه چیزی استفاده کنیم.»