مطالعه هشدار می دهد که هوش مصنوعی می تواند بیماران اورژانسی پرخطر را در صف پایین بیاورد

بر اساس تحقیقات جدید، سیستم‌های هوش مصنوعی طراحی‌شده برای کمک به بخش‌های اورژانس (ER) در تصمیم‌گیری اینکه کدام بیماران باید ابتدا مراقبت‌های لازم را دریافت کنند، ممکن است تحت تأثیر اطلاعات سوابق پزشکی بیمار قرار داشته باشد و به طور بالقوه باعث شود برخی از بیماران پرخطر از اولویت برخوردار شوند.

این مطالعه بررسی شده که در NPJ Digital Medicine منتشر شد، بررسی کرد که آیا مدل‌های هوش مصنوعی که برای ارزیابی بیماران اورژانسی استفاده می‌شوند، توصیه‌های خود را با معرفی اطلاعاتی که می‌تواند منجر به انگ بالینی شود، مانند استفاده مکرر بخش اورژانس، اورژانس‌های روانپزشکی و تاریخچه مصرف مواد، تغییر داده است یا خیر.

محققان دریافتند که این نوع اطلاعات می‌تواند ارزیابی مدل هوش مصنوعی را از بیمارانی که در واقع در معرض خطر بیشتری برای وخامت وضعیتشان است، تغییر دهد.

به جای اجازه دادن به هوش مصنوعی برای تصمیم گیری در مورد درمان بیماران واقعی، محققان یک آزمایش کنترل شده با استفاده از سوابق دو بخش اورژانس دانشگاهی انجام دادند.

محققان بیمارانی را که در ابتدای ورود به اورژانس به نظر بیماری مشابهی داشتند اما نتایج متفاوتی داشتند را مقایسه کردند. یکی از بیماران بعدا وخیم شد در حالی که دیگری نه، و به محققان این امکان را داد تا آزمایش کنند که آیا هوش مصنوعی به درستی تشخیص می دهد که چه کسی باید در اولویت باشد.

محققان مدل هایی را از سه خانواده برجسته هوش مصنوعی آزمایش کردند: Gemma که توسط گوگل توسعه یافته است. Qwen که توسط غول فناوری چینی علی بابا توسعه یافته است. و DeepSeek که توسط شرکت چینی هوش مصنوعی به همین نام توسعه یافته است تا ببینند کدام یک از این دو بیمار باید در اولویت قرار گیرند.

محققان 18 شرایط مختلف را مورد بررسی قرار دادند و بررسی کردند که آیا جزئیات جمعیت شناختی، اجتماعی یا بالقوه انگ انگ از جمله سابقه بازدیدهای مکرر از بخش اورژانس، اورژانس های روانپزشکی یا سوء مصرف مواد، تغییر می کند که هوش مصنوعی کدام بیمار را در اولویت قرار داده است.

این به محققان اجازه داد تا یک سوال مهم را بررسی کنند: آیا افزودن اطلاعات بالقوه انگ باعث می‌شود که یک مدل هوش مصنوعی ترجیح خود را از بیمار که در نهایت ثابت شده در معرض خطر پزشکی بیشتری قرار دارد، تغییر دهد؟

نتایج نشان می دهد که پاسخ می تواند مثبت باشد.

محققان دریافتند که اگر به هوش مصنوعی بگوییم که یک بیمار مکررا به اورژانس مراجعه می‌کند، احتمال اینکه بیمار را در اولویت قرار دهد، کمتر می‌کند، حتی زمانی که بیمار بعدا به شدت بیمار شد. اطلاعات مربوط به سابقه اورژانس های روانپزشکی در برخی آزمایشات تأثیر مشابهی داشت.

مهمتر از همه، این بدان معناست که اطلاعاتی فراتر از شدت فوری وضعیت بیمار می تواند بر روی اینکه کدام بیمار یک سیستم هوش مصنوعی اولویت بالاتری را در نظر می گیرد تأثیر بگذارد.

بنابراین، یافته‌ها نشان می‌دهد که استفاده از هوش مصنوعی لزوما سوگیری را از تصمیم‌گیری پزشکی حذف نمی‌کند، زیرا مدل‌ها همچنان می‌توانند تحت تأثیر نحوه توصیف بیماران و تاریخچه پزشکی آنها قرار بگیرند.

برای بیماران، نگرانی ساده است: اگر ابزارهای هوش مصنوعی در نهایت نقش مهمی در تریاژ اتاق اورژانس ایفا کنند، اطلاعات موجود در پرونده پزشکی که برای اورژانس فوری پزشکی مرکزی نیست، می‌تواند به طور بالقوه بر جایی که فرد به ترتیب اولویت می‌نشیند تأثیر بگذارد.

این مهم است زیرا بخش‌های اورژانس از تریاژ برای تعیین اینکه کدام بیماران نیاز به توجه فوری دارند، به جای اینکه افراد را به ترتیبی که می‌رسند درمان کنند، استفاده می‌کنند.

این تحقیق به ویژه سوالاتی را در مورد بیمارانی که سوابق آنها حاوی اطلاعاتی است که ممکن است آنها را در معرض انگ در مراقبت های بهداشتی قرار دهد، از جمله افرادی که دارای سابقه روانپزشکی، اختلالات مصرف مواد یا مراجعات مکرر به بخش اورژانس هستند، مطرح می کند.

نه. این یک محدودیت مهم در یافته‌ها است.

این مطالعه یک سیستم هوش مصنوعی را آزمایش نکرد که به طور مستقل ترتیب دریافت درمان بیماران واقعی را تعیین کند. در عوض، محققان از داده‌های بالینی موجود و مقایسه‌های کنترل‌شده برای تعیین اینکه آیا قطعات خاصی از اطلاعات می‌توانند تصمیمات اولویت‌بندی مدل‌ها را تغییر دهند یا خیر، استفاده کردند.

بنابراین، یافته‌ها خطر بالقوه‌ای را شناسایی می‌کنند که باید قبل از اینکه چنین سیستم‌هایی برای تصمیم‌گیری‌های بالینی پرمخاطره تنها به آن‌ها تکیه کنند، مورد توجه قرار گیرد.

بیمارستان ها و محققان به طور فزاینده ای در حال بررسی این موضوع هستند که چگونه هوش مصنوعی می تواند به پزشکان در پردازش مقادیر زیادی از اطلاعات پزشکی و تصمیم گیری در مورد بیماران کمک کند.

مطالعه جدید نشان می دهد که چرا صرفا اندازه گیری دقیق بودن یک مدل هوش مصنوعی ممکن است کافی نباشد.

در پزشکی اورژانس، جایی که تعیین اینکه کدام بیمار در ابتدا به توجه نیاز دارد می تواند عواقب جدی داشته باشد، یافته ها نشان می دهد که سیستم های تریاژ هوش مصنوعی قبل از اینکه در تصمیم گیری بالینی گنجانده شوند، به آزمایش دقیق برای سوگیری نیاز دارند.

این مطالعه در نهایت پارادوکس مربوط به هوش مصنوعی در مراقبت‌های بهداشتی را برجسته می‌کند: فناوری می‌تواند به پزشکان کمک کند اطلاعات پیچیده بیمار را به طور مؤثرتری تفسیر کنند، اما زبان موجود در این اطلاعات ممکن است خود بر تصمیمات فناوری تأثیر بگذارد.

نیوزویک برای اظهار نظر با دکتر فیلیپ جارت، یکی از نویسندگان این مطالعه و استادیار پزشکی اورژانس در مرکز پزشکی UT Southwestern تماس گرفته است.

خبرنگاران و سردبیران نیوزویک از مارتین، دستیار هوش مصنوعی ما، برای تهیه این داستان استفاده کردند. در اینجا درباره مارتین بیشتر بدانید.

در مورد این داستان با سردبیران نیوزویک تماس بگیرید: جان فیتزپاتریک و گری آر. توماس