پاپ لئو هشدار داد هوش مصنوعی قبل از مذاکرات مربوط به سلاح های خودمختار باید خلع سلاح شود

پاپ لئو چهاردهم خواستار «خلع سلاح» هوش مصنوعی (AI) شد و از دولت‌ها خواست که ماه آینده در ژنو به سمت ممنوعیت سیستم‌های تسلیحاتی مرگبار (LAWS) حرکت کنند و تاکید کرد که تصمیم‌گیری در مورد زندگی و استفاده از زور تحت کنترل انسان است.

پاپ در پست ایکس در روز جمعه نوشت که آینده هوش مصنوعی «از پیش تعیین شده نیست» و به تصمیماتی بستگی دارد که توسط افرادی که در حال توسعه، استقرار و تنظیم فناوری به سرعت در حال پیشرفت هستند، گرفته می شود.

لئو گفت: «بنابراین ما این مسئولیت را داریم که برنامه های آن را راهنمایی کنیم، تغییر دهیم و در صورت لزوم رد کنیم. «یک سیستم قابل اعتماد که به انسان خدمت می‌کند، ارزش بیشتری نسبت به سیستمی دارد که فوق‌العاده قدرتمند است، اما پیامدهای آن را نمی‌توان به‌اندازه کافی پیش‌بینی یا کنترل کرد.»

مداخله پاپ پیش از بحث‌های بین‌المللی در ژنو درباره قوانین انجام می‌شود، فناوری که بحث‌های فزاینده‌ای را در مورد میزان کنترل ماشین‌ها در شناسایی و حمله به اهداف ایجاد کرده است.

آنتونیو گوترش، دبیرکل سازمان ملل متحد و میرجانا اسپولیاریک، رئیس کمیته بین‌المللی صلیب سرخ، در بیانیه‌ای مشترک در ماه اوت گفتند: «سه سال پیش، ما از کشورها خواستیم که ممنوعیت‌ها و محدودیت‌های خاصی را برای سیستم‌های تسلیحاتی خودمختار ایجاد کنند.» ما این فراخوان را حتی با فوریت بیشتری تجدید می کنیم. نگرانی های اساسی بدون تغییر باقی می مانند، اما خطرات تشدید شده است. ما اکنون به طور خطرناکی به عبور از خط قرمز اخلاقی نزدیک شده ایم: هدف قرار دادن انسان ها توسط ماشین ها.

این دو گفتند که توسعه فناوری تسلیحات با سرعت بی‌سابقه پیشرفت کرده است و «فشار فزاینده‌ای بر چارچوب‌های قانونی وارد می‌کند»، و افزودند که «شکاف بین توانایی‌های فناوری و محدودیت‌های نظارتی افزایش یافته است، با فناوری‌های پیشرفته به کار رفته در میدان نبرد که خطر آسیب رساندن به غیرنظامیان و زیرساخت‌های غیرنظامی و تشدید رنج غیرنظامیان در درگیری‌های مسلحانه را تشدید می‌کند».

آنها گفتند: «هفتمین کنفرانس بازنگری آتی کنوانسیون برخی سلاح‌های متعارف در نوامبر، روشن‌ترین مسیر موجود را برای کشورها فراهم می‌کند تا تصمیم بگیرند برای مذاکره در مورد یک سند الزام‌آور قانونی اقدام کنند». ما از دولت‌ها می‌خواهیم که از این لحظه استفاده کنند. ادامه طراحی سیستم‌های تسلیحاتی که راه‌اندازی جنگ را آسان‌تر می‌کند، تنها تلاش‌های جمعی ما را برای جهانی صلح‌آمیزتر تضعیف می‌کند.»

روز جمعه، لئو روشن کرد که نگرانی اصلی او حفظ مسئولیت انسانی در هنگام استفاده از هوش مصنوعی در تصمیم گیری های بعدی است.

او گفت: «تصمیم‌هایی که بر زندگی، آزادی و استفاده از زور تأثیر می‌گذارند، باید همواره تحت نظارت مؤثر، آگاهانه و مسئولانه انسانی باقی بمانند.» به همین دلیل، هوش مصنوعی باید «خلع سلاح» شود و من کشورهایی را که در ماه نوامبر در ژنو ملاقات می‌کنند تشویق می‌کنم تا گام‌های ملموسی در جهت ممنوعیت سلاح‌های خود مختار کشنده بردارند.»

هشدار پاپ در بحبوحه هشدار فزاینده در صنعت هوش مصنوعی است. محقق سابق Anthropic، Jacob Coxon، که قبلا در OpenAI کار می کرد، در ماه سپتامبر استعفا داد و هر دو شرکت را متهم کرد که به سمت "فوق هوشی خود بهبود بخش و قمار با زندگی ما" رقابت می کنند. آنتروپیک گفت که در مورد مزایای بالقوه هوش مصنوعی و «خطرات بی‌سابقه» شفاف بوده است، در حالی که مدل‌هایش برخی از قوی‌ترین حفاظت‌های صنعت را دارند.

سام آلتمن، مدیر اجرایی OpenAI، همچنین از درخواست‌ها برای کند کردن توسعه مرزی حمایت کرده و هشدار داده است که اگر بشریت «کنترل آینده به هوش مصنوعی» را از دست بدهد یا اگر قدرت بیش از حد در یک شخص یا شرکت متمرکز شود، هوش مصنوعی می‌تواند «بسیار بد» پیش رود. او گفت نباید اجازه داد فشار رقابتی بی‌احتیاطی را توجیه کند.

این هشدارها با چارچوب خوش بینانه تر رئیس جمهور دونالد ترامپ در تضاد است. در ماه سپتامبر، او با این استدلال که شرایط جدید پتانسیل فناوری را بهتر منعکس می‌کند، فرمان اجرایی را امضا کرد که به آژانس‌های شاخه اجرایی دستور داد تا «هوش مصنوعی» و «AI» را با «هوش مصنوعی» و «SI» در ارتباطات رسمی جایگزین کنند. این تغییر بر اصطلاحات فدرال تأثیر می گذارد و نام فناوری را به عنوان یک موضوع قانونی تغییر نمی دهد یا شرکت های خصوصی را مجبور به پذیرش این برچسب نمی کند.

نیوزویک روز شنبه از طریق ایمیل با سازمان ملل متحد و کاخ سفید تماس گرفت.

لئو همچنین این ایده را رد کرد که سیستم‌های هوش مصنوعی پیشرفته‌تر باید مانند انسان‌ها در نظر گرفته شوند.

او روز جمعه گفت: «ماشین ها ابزار هستند، نه افراد. "امروزه، برخی اعطای حقوق به این سیستم‌ها یا حتی شخصیت حقوقی را پیشنهاد می‌کنند. چنین رویکردی خطر پنهان‌کردن مسئولیت‌های انسانی را به همراه دارد و کسانی را که آسیب می‌بینند مجبور به مقابله با یک نهاد بی‌چهره می‌شوند."

لئو استدلال کرد که هوش مصنوعی باید برای "خوب مشترک" توسعه یابد نه اینکه در درجه اول به نفع یک اقلیت ممتاز باشد و خواستار مکانیسم های نظارتی بین المللی شد که از طریق آن تصمیمات هوش مصنوعی بررسی و به چالش کشیده شود.

او گفت: «آنچه ما در حال حاضر به آن نیاز داریم، نهادهای بین المللی مؤثری است که بتواند از منافع مشترک جهانی محافظت کند. این امر مستلزم استانداردهای مشترک، نظارت مستقل و مکانیسم‌های شفاف پاسخگویی است، به طوری که تصمیمات مربوط به توسعه و استفاده از هوش مصنوعی می‌تواند مورد بررسی قرار گیرد، در صورت لزوم به چالش کشیده شود و با راه‌حل‌های مناسب برای هر آسیبی همراه شود.»

پاپ کاملا هوش مصنوعی را رد نکرد. در عوض، او استدلال کرد که قابلیت اطمینان و رفاه انسان باید بر ساخت قوی‌ترین سیستم‌های ممکن اولویت داشته باشد.

او در سخنرانی خود در واتیکان گفت: "پس سوال تعیین کننده فقط این نیست که "هوش مصنوعی چه کاری می تواند انجام دهد؟" بلکه "چه هدفی باید انجام دهد؟" است.

در ماه سپتامبر، لئو در سفری به فرانسه هشدار داد که اگر پیشرفت‌های فناوری در خدمت بشریت نباشد، هوش مصنوعی می‌تواند به «ابزار سلطه» تبدیل شود.

او در یونسکو در پاریس گفت: «تلاش‌های ما در این حوزه باید تضمین کند که فناوری‌های جدید در خدمت انسان باقی می‌مانند، نه اینکه تبدیل به ابزار دیگری برای سلطه و بی‌عدالتی شوند».

لئو درباره تناقض فزاینده ای هشدار داد که در آن جامعه به طور فزاینده ای سیستم های رایانه ای را به عنوان دارای "هوش" توصیف می کند در حالی که در تلاش برای تشخیص کرامت ذاتی انسان ها است.

نگرانی های او باز هم بیشتر می شود. در ژوئن 2025، لئو هشدار داد که هوش مصنوعی، علیرغم مزایای بالقوه‌اش، می‌تواند «برای منافع خودخواهانه به قیمت دیگران، یا بدتر از آن، برای دامن زدن به درگیری و تجاوز مورد سوء استفاده قرار گیرد».

او همچنین نگرانی‌هایی را در مورد تأثیرات هوش مصنوعی بر رشد فکری و عصبی کودکان و نوجوانان مطرح کرد.

لئو همچنین از هشدارهای سلف خود، پاپ فرانسیس استفاده کرده است. او روز جمعه به یاد آورد که فرانسیس در سال 2024 به رهبران G7 گفت که هوش مصنوعی هم "ابزاری مهیج و ترسناک" است و هم اینکه تصمیم گیری برای گرفتن جان یک انسان هرگز نباید به یک ماشین سپرده شود.

برای این داستان با سردبیران نیوزویک تماس بگیرید: آنتونی موری و استیو مولمن.