RFK جونیور سوال اعتماد هوش مصنوعی را در مورد پزشکان برگرداند

هفته گذشته، بیش از 170 سهامدار مراقبت های بهداشتی از دفتر مرکزی نیوزویک در شهر نیویورک بازدید کردند تا در مورد سوال سال بحث کنند: چگونه می توان هوش مصنوعی را به طور ایمن، مسئولانه و به گونه ای که دسترسی و نتایج را به حداکثر می رساند، در مراقبت های بهداشتی ادغام کرد.

اعتماد در هر جلسه مطرح می شد، حتی آنهایی که به طور خاص برای تمرکز روی آن طراحی نشده بودند. ما در مورد اینکه آیا بیماران باید به هوش مصنوعی در مورد داده های سلامتی خود اعتماد کنند، آیا پزشکان باید به توصیه های آن اعتماد کنند و آنچه سیستم های بهداشتی باید قبل از اعتماد به عوامل مستقل با وظایف مهم تر را ببینند، صحبت کردیم.

در طول روز، من نشنیدم که کسی بپرسد "آیا بیماران باید به پزشکان اعتماد کنند؟" راستش این سوالی نبود که فکر کنم بپرسم. من با هر یک از بیش از 30 سخنران خود قبل از رویداد، از جمله پزشکان شاغل، روسای آزمایشگاه های هوش مصنوعی و مدیران فناوری و استراتژی از سیستم های بهداشتی و برنامه های بهداشتی، به گفتگو نشستم. هیچ کدام شکی در مورد تشخیص یا قضاوت بالینی پزشکان جدا از هوش مصنوعی ایجاد نکردند.

سپس، این هفته، وزیر بهداشت و خدمات انسانی رابرت اف کندی جونیور دقیقا این سؤال را مطرح کرد.

کندی در سخنرانی روز سه‌شنبه در اجلاس سران دوباره آمریکا را سالم بسازید، گفت که هوش مصنوعی می‌تواند به بیماران «نظر دومی بدهد که بسیار بهتر از هر پزشک در کشور آگاه است» و «ما را از استبداد پزشکی رها کند». او همچنین گفت‌وگو با سام آلتمن، مدیر عامل OpenAI را بازگو کرد، که کندی به او گفت که تشخیص یا تجویز پزشک بدون بررسی هوش مصنوعی «سوء عمل» است. رونوشت سخنان کندی بیانیه گزارش او را تایید می کند.

این برعکس چیزی است که هفته گذشته شنیدم. پزشکان و رهبران در اجلاس ما در حال مبارزه با آنچه هوش مصنوعی باید انجام دهد تا اعتماد پزشکان را جلب کند، (این مقاله را برای خلاصه ای از استدلال های آنها بخوانید). به هر حال، هوش مصنوعی متغیر کنترل نشده در اتاق امتحان است. پزشکان گروه کنترل قدیمی هستند.

دکتر سوفی باکری، مدیر پزشکی مرکز سلامت دیجیتال مایو کلینیک و رئیس بخش چشم پزشکی آن، در اجلاس سران هفته گذشته گفت: «مسئولیت با پزشکان و همچنین سازمان است. ما به عنوان پزشک، در نهایت تصمیم می گیریم از چه چیزی استفاده کنیم.»

با تماشای سرهای باب که موافق صحبت می‌کردند، یاد سخنی از دکتر برندان کار، مدیر عامل سیستم سلامت کوه سینا، در اوایل روز افتادم.

کار گفت: شعار جامعه فناوری "سریع حرکت کنید و چیزها را خراب کنید" و "مستقیما به سوگند پزشکان "آسیب نرسانید" وارد می شود.

کار گفت: «اینها از نظر فرهنگی کاملا، کاملا مخالف هستند.

وقتی باکری گفت که پزشکان باید در مورد هوش مصنوعی حرف نهایی را بزنند - چیزی که در چهار سال گذشته در مصاحبه‌ها، اتاق‌های هیئت مدیره و سالن‌های کنفرانس تکرار شده است - به طور خلاصه فکر کردم که آیا باید این تأیید را به عنوان یک واقعیت تلقی کنیم. آنها "باید"، بسیاری موافق هستند، اما باید دید که آیا آنها این کار را خواهند کرد.

پس از اظهارات RFK، این غیرقابل انکار است که این دو فرهنگ در مسیر برخورد قرار دارند. بسیاری از مراقبت‌های بهداشتی تصور می‌کردند که پزشکی پیروز خواهد بود، اما این هفته یادآوری کرد که همه با این فرض موافق نیستند.

مثل همیشه، نظرات خود را به a.kayser@newsweek.com ایمیل کنید، و از خواندن متشکریم.

فناوری بخشی از پاسخ Gilliland است، اما به شرطی که واقعا این ریاضیات را تغییر دهد. Geisinger به دنبال هوش مصنوعی برای ترکیب نمودار و دانش، مراقبت های اولیه و گردش کار داروخانه است، در حالی که Gilliland به طور فزاینده ای بر روی هزینه آن ابزارها متمرکز است. این سیستم در سال گذشته 18 مهندس و دانشمند هوش مصنوعی را استخدام کرده است و Gilliland پیش بینی می کند که صنعت به سمت "محاسبه" قیمت گذاری هوش مصنوعی پیش می رود.

بخشی از مصاحبه سه شنبه ما را در ادامه مطلب بخوانید.

یادداشت ویرایشگر: پاسخ ها به دلیل طولانی بودن و وضوح کمی ویرایش شده اند.

تری، ما آخرین بار کمتر از یک سال پیش در HLTH USA صحبت کردیم. اولویت های شما در سال گذشته چگونه تغییر کرده است؟

برنامه تحول سلامت روستایی، که شما به آن اشاره کردید، مانند آن چسب‌های نقطه‌ای کوچکی است که برای نوه‌تان در زمانی که کوچک‌ترین برش‌ها را داشتند، استفاده می‌کردید. این چیزی است که RHTP برای ما انجام می دهد.

چگونه در مورد عملیات، نیروی کار و فن آوری متفاوت فکر می کنید تا از این دوره عبور کنید؟

عملیات شما بهتر است بکر باشد و اینطور نیست. ما فرصت‌های مختلفی داریم، چه کارآمدی اتاق‌های عمل ما و چه تعداد بیمارانی که پزشکان ما می‌توانند ببینند. ما به سادگی باید بهتر شویم.

بخش دوم تنوع بخشیدن به جریان های درآمد شماست. آیا راه هایی را که می توانید به غیر از عملیات بالینی سنتی خود درآمد کسب کنید، بهینه می کنید؟ داروسازی برای ما خیلی خوب بوده است. ما در حال ارزیابی آن فرصت ها هستیم.

از سوی دیگر، مراقبت‌های بهداشتی واقعا در به چالش کشیدن مردم در مشکلات بسیار خوب بوده است. اگر بیمار رزمنده ای باشد، یک نشیمن را جلوی درب او می گذاریم. اگر شخصی وجود داشته باشد که باید X، Y یا Z را انجام دهد، یک نفر را به سمت آن پرتاب می کنیم. اینجاست که فناوری وارد می‌شود، زیرا امید و امید هوش مصنوعی و الگوریتم‌ها این است که احتمالا می‌توانید آن را بسازید تا مجبور نباشید یک انسان را برای هر مشکلی به کار ببرید.

اما یک گرفتاری وجود دارد. ما باید مطمئن شویم که فناوری نصب شده در واقع میانگین هزینه ما را برای خدماتی که ارائه می کنیم کاهش می دهد. اگر نتوانیم، به ما کمکی نمی کند مشکلی را که داریم حل کنیم.

با توجه به این هزینه ها، آیا هنوز هوش مصنوعی را سرمایه گذاری ارزشمندی برای Geisinger می بینید؟

اوه 100 درصد در هوش مصنوعی برای همه چیز، به‌ویژه در مراقبت‌های بهداشتی، راه‌حل‌های نکته‌ای وجود دارد، و ما تلاش می‌کنیم در مقابل کشش گرانشی مقاومت کنیم و به چهار کار بزرگی که امسال انجام خواهیم داد، برسیم.

یکی سنتز نمودار است. پزشکان، برنامه‌های کاربردی و پرستاران زمان زیادی را برای پیمایش پرونده الکترونیک سلامت، که به یک جانور تبدیل شده است، و به دست آوردن اطلاعات از آنجا تلف می‌کنند. ما با سازمانی همکاری می‌کنیم که می‌خواهد ترکیب نموداری را برای ما فراهم کند: چه بخش‌های مرتبطی از تاریخچه تری در این لحظه در زمان وجود دارد که این پزشک باید بداند تا مراقبت زیادی به من ارائه دهد؟

مشکل دیگری که پزشکان نمی توانند حل کنند، تکثیر دانش در مراقبت های بهداشتی است. شما نمی توانید آن را پیگیری کنید. هوش مصنوعی می تواند. اینها را کنار هم بگذارید و باید بتوانید کمک کنید: "بهترین اقدام بعدی برای تری در این لحظه از زمان چیست؟" این یک توصیه است پزشک باید بر آن نظارت کند.

دومین جایی که می خواهیم به آن بپردازیم مراقبت های اولیه است. در حال حاضر، ما پزشکان مراقبت های اولیه داریم که به طور متوسط ​​از حدود 1500 بیمار مراقبت می کنند. آنها اینجا در مرکز پنسیلوانیا بسیار بیمار هستند. آنها مسن تر هستند و گاهی اوقات فرسودگی زیادی دارند. چگونه می توانیم آن را گسترش دهیم؟ زیرا اقتصاد واحد برای مراقبت های اولیه کار نمی کند.

آیا راه هایی برای داشتن مراقبت های اولیه با کمک هوش مصنوعی وجود دارد؟ آیا گزینه هایی وجود دارد که 85 درصد از تعامل با یک بیمار خاص از یک عامل مصنوعی استفاده می کند که هنوز به سیستم شما متصل است؟ آیا می خواهند دکتر را جایگزین کنند؟ خیر آیا قرار است به پزشک وصل شوند؟ بله.

کجای دیگر فرصتی برای هوش مصنوعی برای تغییر اقتصاد مراقبت می بینید؟

اگر شما یک پزشک معمولی نسخه‌نویس هستید، در تلاش برای کشف فرمولاسیون، بیماری، مسیرهای مراقبت و هزینه‌های مربوط به تجویز هر یک از آن گزینه‌ها، برای یک بیمار خاص، ورطه پیچیده‌ای دارید. مدام تغییر می کند.

برای داروسازان ما که در آن دنیا حرکت کنند تا بتوانیم داروی مناسب را برای آن بیمار در آن لحظه تجویز کنیم، با توجه به بیمه و مزایای آنها، زمان‌بر و در نتیجه پرهزینه است.

ما معتقدیم که فرصتی برای استفاده از هوش مصنوعی و گره زدن آنها به طور مداوم وجود دارد. نماینده شما این توصیه را به داروساز یا پزشک ارائه می دهد، اما داروساز مجبور نیست به دنبال فرمول، مزایا، شرکت بیمه و پرداخت های مشترک باشد.

ما فکر می‌کنیم فرصت بسیار خوبی برای کارآمدتر کردن ما وجود دارد. اینها انواع شرط بندی های بزرگی هستند که ما سعی می کنیم روی آنها تمرکز کنیم که اساسا نحوه ارائه مراقبت را تغییر داده و کارآمدتر و البته مقرون به صرفه تر می کند.

واکنش پزشکان به این تغییرات چگونه است؟

من می گویم اکثر آنها بسیار حمایت می کنند. یکی از موارد تقلبی برای شخصی مثل من در داخل دولت این است که فکر می کنید مردم منتظر هستند یا می ترسند. نه، آنها در واقع خودشان می روند و آن را دریافت می کنند. آنها از ChatGPT می پرسند.

برخی از آن پاسخ ها خوب هستند و برخی از آنها خیر. اگر انسانی ندارید که به اندازه کافی باهوش باشد که بفهمد آیا این یک تقلب با هوش مصنوعی است، می توانید کارهای بسیار بدی انجام دهید.

ما قطعا باید این را در مراقبت های بهداشتی داشته باشیم. ما هرگز نمی‌خواهیم که پزشکان یا دانشجویان پزشکی جوان‌تر این موارد را به عنوان جایگزینی برای آن‌ها انتخاب کنند که آنقدر باهوش هستند که تفاوت را بدانند. اما به طور کلی، می‌توانم بگویم که آنها آن را پذیرفته‌اند، زیرا منبع بزرگی از دانش است. فقط باید مطمئن شوید که دانش صحیح است.

با ورود نمایندگان به جریان کار بالینی، چگونه به حاکمیت هوش مصنوعی و سؤالات پاسخگویی نزدیک می شوید؟

ما در رساندن هوش مصنوعی به خط مقدم کمی کند بودیم. کاری که در عوض انجام دادیم ایجاد یک ساختار حکومتی کاملا بالغ بود. ما از KPMG خواهیم داشت که بیاید و آن را نیز بررسی کند، زیرا معتقدیم بخش حاکمیت واقعا مهم است تا مطمئن شویم که هیولاها را درون دستگاه قرار نمی دهید.

ما یک فرآیند بسیار قوی داریم تا مطمئن شویم آنچه اجازه می دهیم دقیق، مناسب و دقیق باشد. یک چیز در مورد معماری ما این است که ما در واقع به موتورهای هوش مصنوعی اجازه ورود به محیط بومی خود را نمی دهیم. آنها می توانند خارج از آن کار کنند، اما اجازه ورود به محیط را ندارند. این یک ویژگی مهم معماری است که ما معتقدیم حداقل سطحی از ایمنی را فراهم می کند.

قرار است یک فایروال فیزیکی یا الکترونیکی ایجاد کند، و در صورت تمایل، چند فایروال انسانی نیز خواهد داشت. این باعث می شود که داده های ما محافظت شود.

برای ساخت و حفظ این قابلیت های هوش مصنوعی چه هزینه ای می کنید؟

ما مطمئنا برای آن پول خرج می کنیم. ما 18 مهندس یا دانشمند هوش مصنوعی را در سال گذشته استخدام کرده‌ایم و آن‌ها باید بازده سرمایه‌گذاری خود را داشته باشند.

یک جزء جداگانه وجود دارد که برای من محل بحث است. اکثر مردم Epic دارند. این راز نیست جایی که من کمی آشفته می‌شوم زمانی است که Epic بیرون می‌آید و می‌گوید: «ما یک موتور هوش مصنوعی فوق‌العاده برای X، Y، Z داریم. اوه، به هر حال، این کار برای شما X دلار در سال هزینه خواهد داشت.»

که در طول زمان مقرون به صرفه نیست. ما باید یک مکالمه متفاوت پیدا کنیم. شما نمی توانید این هزینه ها را بر روی سیستم محاسبه کنید و هیچ انتظاری برای پایدار بودن آن در طول زمان داشته باشید.

من معتقدم که هزینه این ابزارهای هوش مصنوعی در راه است، زیرا در حال حاضر هیچ مسیری وجود ندارد که آنها را مقرون به صرفه کند. من نمی توانم کاملا بگویم که قرار است چه اتفاقی بیفتد یا چگونه ظاهر شود، اما ریاضی کار نمی کند.

آیا این هزینه ها می تواند شکاف هوش مصنوعی بین سیستم های بهداشتی بزرگ و سازمان های کوچکتر یا روستایی را افزایش دهد؟

آره ما یکی از سیستم‌های روستایی سالم‌تر هستیم، اما اگر یک سیستم بیمارستانی روستایی مستقل یا کوچک‌تر هستید، برای پیمایش در فضا و پرداخت هزینه آن مشکل خواهید داشت.

این پتانسیل ایجاد شکاف گسترده تری بین دارندگان و نداشته ها دارد و این باید برای همه ما نگرانی باشد.

چگونه به حفظ دسترسی به مراقبت در جوامع روستایی کوچکتر فکر می کنید؟

ما این بیمارستان‌های کوچک را در اطراف خود گرفته‌ایم، آن‌ها را تقویت کرده‌ایم و قابلیت‌هایشان را ساخته‌ایم. این مدل ماست ما یک بیمارستان دسترسی حیاتی داریم که در آن مفاصل ماکو را انجام می دهیم. این فناوری نسبتا بالاتری است، اما برای بقای آنها کاملا حیاتی است.

در مناطق روستایی پنسیلوانیا، گاهی اوقات تراکم نیاز به داشتن یک بیمارستان را ندارد. ما یک مدل در Tunkhannock داریم که بیمارستان در آن بسته شد. کاری که ما انجام دادیم این بود که چیزی را که ConvenientCare+ می نامیم باز کردیم، که مراقبت فوری با ساعات کار تا حدودی محدود است. ما فقط یک سی تی اسکنر گذاشتیم و صندلی های تزریق برای سرطان داریم.

برخی از خدمات را در جامعه ارائه می دهد تا مردم مجبور نباشند در 45 دقیقه حمل کنند. این مدلی است که ما معتقدیم پا دارد. اگر واقعا مجبور باشیم در این جوامع کوچک بیمارستانی را اداره کنیم، واقعا سخت خواهد بود.

ما در حال حاضر به 5000 بیمارستان نیاز نداریم. ما به مکان‌هایی نیاز داریم که هنوز بتوانید مراقبت، تثبیت و حمل و نقل را ارائه دهید. این مدلی است که کار خواهد کرد.

صنعت مراقبت های بهداشتی برای کاهش این فشارها باید روی چه چیزی تمرکز کند؟

در بالای لیست ما، باید به نتایج بهتر و هزینه کلی کمتر مراقبت برسیم. دوره

اگر صفحات تکتونیکی بزرگ‌تر را بیرون بیاورید، دولت فدرال می‌گوید مراقبت‌های بهداشتی بسیار گران است و ما دیگر هزینه آن را پرداخت نمی‌کنیم. آنها این کار را از طریق کاهش واجد شرایط بودن و ثبت نام در Medicaid و سختگیری در مورد کلاهبرداری، اتلاف و سوء استفاده انجام خواهند داد. آنها این کار را به شکلی انجام می دهند که ما بتوانیم در مورد آن بحث کنیم. جذب آن به یکباره برای ما بسیار است.

اما آنها می گویند که شما باید با هزینه کلی کمتر مراقبت به نتایج بهتری برسید. نتایج بهتر در مورد کیفیت، فرآیندهای رانندگی و سلامت جمعیت است. بخش دوم این است: چگونه هزینه ارائه آن مراقبت را کارآمدتر و مؤثرتر کنیم؟ ما باید هر دو کار کنیم این در واقع به ارزش منجر می شود، چیزی که همه ما در مراقبت های بهداشتی می خواهیم.

بزرگترین مانع برای دستیابی به آن چیست؟

برای ما، این یک طرز فکر است. همه چیز در مورد طرز فکر است. طرز فکر باید این باشد: چگونه می توانیم این کار را بهتر، کارآمدتر و موثرتر انجام دهیم؟

ما بودجه ریزی مبتنی بر صفر انجام می دهیم. اگر امسال 1200 نفر در مغازه خود دارید، نیایید و نگویید که 100 نفر را اضافه می کنید. من می خواهم بدانم که 1200 نفر اول شما چه کار می کنند، زیرا تنها در این صورت می توانیم بفهمیم که آیا واقعا به آن 100 نفر نیاز دارید یا خیر.

در طرح گسترده‌تر کارها، ذینفعان زیادی با انگشتان خود در ظرف هستند و واسطه‌های زیادی وجود دارد. PBM ها یک واسطه هستند. چگونه آن را بسازیم تا آنها ارزش بیشتری را با هزینه کمتر ارائه دهند؟ همان چیزی که در مورد زنجیره تامین وجود دارد.

ما باید بفهمیم که چگونه به برخی از هزینه‌های واقعی مراقبت برسیم و سپس آن چیزهایی را که به آن‌ها نیاز نداریم، از بین ببریم. بسته به رشته شغلی شما، داروسازی 25 تا 45 درصد هزینه مراقبت های بهداشتی را شامل می شود. اگر می خواهید یک تکه را بردارید، این یک تکه بزرگ خواهد بود.