من یک رهبر بشردوستانه هستم که همه چیز در هوش مصنوعی است. در اینجا دلیل آن است

هوش مصنوعی می تواند سوگیری را تقویت کند. می تواند توهم ایجاد کند. می تواند اطلاعات حساس را افشا کند. از نظر ژئوپلیتیکی به روش‌های خطرناکی استفاده می‌شود، با کاربردهایی که جنگ را آسان‌تر و دموکراسی را سخت‌تر می‌کند. ما حتی اکنون، بیش از هر زمان دیگری، با گفتگو در مورد خطرات وجودی هوش مصنوعی دست و پنجه نرم می کنیم.

بنابراین مردم تعجب می کنند وقتی به آنها می گویم کمیته نجات بین المللی، جایی که من تحقیقات و نوآوری را رهبری می کنم، در حال ساخت هوش مصنوعی است تا چگونه به مردمی که در میان درگیری و بحران زندگی می کنند خدمات دهیم.

و پس از سال‌ها آزمایش هوش مصنوعی در اردوگاه‌های پناهندگان، مناطق درگیری و واکنش‌های بلایا، به نتیجه‌ای رسیدم که آنها را بیش از پیش شگفت‌زده کرد: سازمان‌های بشردوستانه نباید تنها در میان بزرگ‌ترین شکاکان هوش مصنوعی باشند. ما همچنین باید یکی از قوی ترین مدافعان آن باشیم. کاربران مرزی آن؛ و فعال ترین فراگیران آن. ما باید همه چیز را در هوش مصنوعی بدانیم. و ما باید در کاهش خطرات هوش مصنوعی رهبری کنیم، نه از آن پیروی کنیم.

در اینجا چرا، و چگونه است.

این لحظه اختراع می خواهد…

این لحظه وحشتناکی برای کمک های بشردوستانه است. امروزه بیش از هر زمان دیگری پس از جنگ جهانی دوم درگیری ها وجود دارد و بلایای آب و هوایی در حال افزایش است. تقریبا 260 میلیون نفر به کمک نیاز دارند، از جمله بیش از 118 میلیون آواره اجباری - یک رکورد جهانی بد - در حالی که دولت‌ها از تامین مالی این پاسخ عقب نشینی می‌کنند. کمک‌ها از سال 2024 25 درصد کاهش یافته است. درمانگاه‌ها بسته می‌شوند، مدارس درهای خود را می‌بندند، واکسن‌ها تحویل نمی‌شوند. صدها هزار مرگ کاملا قابل پیشگیری، اگر نگوییم میلیون ها نفر، از هم اکنون تا سال 2030 پیش بینی می شود.

این مورد اخلاقی برای هوش مصنوعی در محیط های بشردوستانه است. همچنین به همین دلیل است که ما نمی توانیم آن را اشتباه بگیریم. افرادی که در بحران هستند کمترین قدرت را دارند که یک فناوری را رد کنند، با خطاهای آن مخالفت کنند یا از آن دور شوند. آنها هرگز نباید مورد آزمایش کسی باشند. بنابراین این سوال هرگز این نبود که آیا هوش مصنوعی می‌تواند کمک کند، بلکه این سوال مطرح می‌شد که برای کشف ایمن چه چیزی لازم است.

در بخش ما، معیاری که اهمیت دارد تأثیر است. Signpost، سرویس اطلاعات دیجیتال ما، به 20 میلیون نفر رسیده است که در سخت ترین لحظات زندگی خود می گذرند، نزدیک به 591,000 نفر از آنها از طریق راهنمایی یک به یک ناظران، بسیاری از آنها خود را آواره کرده اند. یک مربی هوش مصنوعی به نام arendIA از طریق واتس اپ به معلمان می رسد، زیرا این فناوری است که آنها از قبل دارند. در نیجریه در مسیر رسیدن به نزدیک به یک میلیون کودک تا پایان سال 2026 و 6.9 میلیون کودک تا سال 2028، به طور تخمینی 0.20 دلار برای هر کودک است.

ما در حال استفاده آزمایشی از هوش مصنوعی و تصاویر ماهواره ای برای یافتن کودکانی هستیم که هرگز در سوابق سرشماری ظاهر نشده اند زیرا درگیری کل جوامع را به حرکت در می آورد. اگر نمی دانید بچه ها کجا هستند، نمی توانید آنها را واکسینه کنید. با تطبیق مسیرهای تحویل با تغییر شرایط آب و هوایی و درگیری، این ابزار می‌تواند هزینه هر کودک را 25 درصد کاهش دهد در حالی که 10 تا 20 درصد کودکان بیشتری را در معرض دید قرار می‌دهد. خلبان ها در سه ماهه آینده در سومالی راه اندازی می شوند.

در سراسر جهان، 43 میلیون کودک زیر پنج سال از سوء تغذیه حاد رنج می برند. برنامه های درمانی ساده ما کار می کنند و 20٪ ارزان تر از مکانیسم های درمانی استاندارد هستند. اما جمع آوری داده های دستی و مستعد خطا آنها را عقب نگه می دارد. بنابراین ما در حال آزمایش عکس‌برداری دیجیتالی برای جایگزینی رونویسی دستی، پرچم‌گذاری کودکانی که از مراقبت خارج می‌شوند، و خواندن سیگنال‌های بارندگی و جابجایی برای اقدام قبل از افزایش حجم پرونده هستیم.

بارها و بارها، هوش مصنوعی، حتی با وجود نقص‌هایش، پتانسیل ارائه را دارد و ما را قادر می‌سازد تا به افراد نیازمند، سریع‌تر و با هزینه کمتر دسترسی پیدا کنیم. اما در مورد پتانسیل آن برای آسیب چیست؟

... همچنین نیاز به اثبات دارد

بشردوستان، مانند پزشکان، بر اساس اصل "آسیب نرسانید" هدایت می شوند. وقتی اشتباهات به قیمت جان انسان ها تمام می شود، «سریع حرکت کنید و چیزها را بشکنید» یک استراتژی نیست. بنابراین ما یک قابلیت نمونه‌سازی و ارزیابی ایجاد کردیم که وظیفه آن راه‌اندازی هوش مصنوعی نیست، بلکه ابتدا شکستن آن است و منبعی را ایجاد می‌کند که کل سازمان از آن استفاده می‌کند.

در اینجا چیزی است که به نظر می رسد.

قبل از اینکه دستیار هوش مصنوعی Signpost به مشتری نزدیک شود، ما آن را به مدت شش ماه در سراسر یونان، ایتالیا، السالوادور و کنیا اجرا کردیم در حالی که ناظران و افسران حفاظت پاسخ‌های آن را بر اساس سه استاندارد ارزیابی کردند: آیا ایمن است، آیا مشتری‌محور است، آیا آسیب‌زا است. این سیستم به طور قابل توجهی بهبود یافت، زیرا نرخ عبور آن از 52٪ به 77٪ افزایش یافت و کارکنان گزارش دادند که حدود 70٪ سریعتر کار می کنند.

اما باز هم تقریبا یک پاسخ از هر چهار پاسخ شکست خورد.

بنابراین ما آن را به تنهایی مستقر نکردیم. هر پاسخی از طریق یک انسان انجام می‌شد و حساس‌ترین سؤالات هرگز به مدل نمی‌رسید. این بخشی از هوش مصنوعی مسئول است که خبرساز نمی شود: گاهی اوقات یافته ها این است که یک ابزار هنوز به اندازه کافی خوب نیست، و نظم و انضباط این است که این را گفته و متوقف شود. ما آن یافته‌ها را منتشر می‌کنیم، از جمله شکست‌ها، زیرا بخشی که درس‌های خود را خصوصی می‌آموزد، مدام آنها را تکرار می‌کند.

همین رشته بر بقیه کارها حاکم است. ما راهنمایی‌های مقامات حفاظت از داده‌ها و آژانس‌های امنیت سایبری را دنبال می‌کنیم، در شبکه‌های همتا که در آن متخصصان امنیتی تهدیدهای نوظهور را به اشتراک می‌گذارند می‌نشینیم، موارد استفاده را به دقت بررسی می‌کنیم و به طور مداوم خط‌مشی‌های خود را بازبینی می‌کنیم، زیرا آنچه که یک سال پیش کافی بود ممکن است امروز نباشد. ما برای محدودیت‌هایی طراحی می‌کنیم که واقعا با آن روبرو هستیم - پهنای باند کم، تلفن‌های قدیمی، ده‌ها زبان - و چیزی نمی‌سازیم که انسان نتواند آن را بررسی، لغو یا خاموش کند. هوش مصنوعی نمی‌تواند با تجربه زنده جایگزین یک کارمند پرونده شود، و ما تلاش نمی‌کنیم.

هدف هرگز جایگزینی افراد نبود، بلکه اجازه دادن به تیم ها برای رسیدن به تعداد بیشتری از آنها بود.

هوش مصنوعی مسئول یک شعار نیست. انضباط عملیاتی است و از آنجایی که ما در جایی کار می‌کنیم که بیشترین ریسک و حاشیه خطا کمتر است، برنامه‌هایی مانند برنامه ما می‌توانند به ایجاد نرده‌های محافظ برای کل صنعت کمک کنند. ما انگیزه های قوی تری نسبت به دیگران داریم تا از هوش مصنوعی با دقت استفاده کنیم و کار خود را نشان دهیم.

دور ماندن به معنای پذیرش این است که مردمی که در جنگ، آوارگی و بلایای اقلیمی زندگی می‌کنند آخرین افرادی هستند که از فناوری‌هایی بهره می‌برند که همه از آنها لذت می‌برند. این بدان معناست که به خانواده‌هایی که کمک‌هایشان به تازگی قطع شده است بگوییم که ما از کشف ابزارهایی که می‌توانند زندگی آنها را تغییر دهند خودداری می‌کنیم - «هوش مصنوعی برای همیشه» روی میز باقی می‌ماند.

من فکر نمی کنم این یک موضع اخلاقی باشد.

بخش بشردوستانه دهه ها را صرف حل برخی از سخت ترین مشکلات عملیاتی روی زمین کرده است. اگر هوش مصنوعی می تواند به ما کمک کند تا آنها را بهتر حل کنیم - با دقت با نرده های محافظ مناسب، شفاف و با شواهدی برای اثبات آن - ما نباید برای استفاده از آن عذرخواهی کنیم. باید روی آن پافشاری کنیم.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد