پاپ لئو چهاردهم به جهانیان یادآوری کرد که هوش مصنوعی موجودات آگاه نیستند، خواستار ممنوعیت سلاح های خودمختار شد

پاپ لئو چهاردهم که به تازگی عاری از سرطان شده است، از کشورهای جهان می‌خواهد که هوش مصنوعی را «خلع سلاح» کنند، از جمله درخواست خاصی از اعضای سازمان ملل برای «برداشتن گام‌های ملموس در جهت ممنوعیت سلاح‌های خود مختار مرگبار» در نشستی در ژنو که برای نوامبر برنامه ریزی شده است. او همچنین از کشورها خواست تا نهادهای جهانی برای مدیریت توسعه هوش مصنوعی تشکیل دهند و ادعاهای مربوط به شخصیت هوش مصنوعی را کنار بگذارند.

لئو در سخنرانی پاپ در روز جمعه گفت: "اول، آینده هوش مصنوعی از پیش تعیین شده نیست. به عنوان یک فناوری توسعه یافته توسط انسان، آینده آن به انتخاب هایی که ما انجام می دهیم بستگی دارد. بنابراین ما مسئولیت داریم که راهنمایی کنیم، تغییر دهیم و در صورت لزوم، کاربردهای آن را رد کنیم."

پاپ پرسید: "پس سوال تعیین کننده فقط این نیست که "هوش مصنوعی چه کاری می تواند انجام دهد؟" بلکه "چه هدفی باید انجام دهد؟" است.

پاپ پیش از نقل قول از بخشنامه خود در ماه مه 2026 - اولین بیانیه ایدئولوژیک مهم او برای کلیسای کاتولیک و موضع رسمی آن در مورد هوش مصنوعی - ادامه داد: "دوم، ماشین ها ابزار هستند، نه افراد."

او گفت: «به اصطلاح هوش مصنوعی تجربه نمی‌کند، بدن ندارد، احساس شادی یا درد نمی‌کند، از طریق روابط به بلوغ نمی‌رسد و از درون نمی‌داند عشق، کار، دوستی یا مسئولیت چیست.»

لئو می‌گوید کسانی که با هوش مصنوعی به‌گونه‌ای رفتار می‌کنند که تجربیات آگاهانه‌ای دارند، خطر «مسئولیت انسانی را پنهان می‌کنند و کسانی را که آسیب می‌بینند، رها می‌کنند تا با یک موجود بی‌چهره مواجه شوند». این تقریبا شبیه یک پاسخ مستقیم به آن تکه‌ای از دره سیلیکون است که همچنان اصرار دارد که LLM‌های امروزی فراتر از برنامه‌ها به شکل جدیدی از آگاهی تکامل یافته‌اند و در برخی موارد رفتاری شبیه به فرقه از خود نشان داده‌اند. همچنین واضح است که لئو ارتباط مستقیمی بین نحوه عملکرد شرکت‌های هوش مصنوعی و کاربرانی که در نهایت به باورهای هذیانی درباره اینکه با چه کسی صحبت می‌کنند، می‌بیند.

لئو ادامه داد که برخی از تصمیمات "هرگز نباید تفویض شوند"، مانند تصمیماتی که بر "زندگی انسان، آزادی و استفاده از زور" تأثیر می گذارد. لئو به طور خاص به فهرست‌های هدف ساخته شده توسط هوش مصنوعی (احتمالا به سیستم‌هایی اشاره می‌کند که اهداف را برای حملات هوایی یا هواپیماهای بدون سرنشین انتخاب می‌کنند)، پایگاه‌های اطلاعاتی کنترل مرز و سلاح‌های خودران.

پاپ همچنین توصیه کرد که «فناوری‌های هوشمند باید به سمت خیر عمومی هدایت شوند»، که خوب است، اما کمی طولانی است. به طور دقیق تر، او گفت که بزرگترین نیاز فعلی به همکاری بین المللی است:

پاپ در پایان گفت: «آنچه در حال حاضر به آن نیاز داریم، نهادهایی هستند که بتوانند این اصول را عملی کنند، به ویژه نهادهای بین‌المللی مؤثری که می‌توانند از منافع مشترک جهانی محافظت کنند.» این امر مستلزم استانداردهای مشترک، نظارت مستقل و مکانیسم‌های شفاف پاسخگویی است، به طوری که تصمیم‌های مربوط به توسعه و استفاده از هوش مصنوعی را می‌توان مورد بررسی قرار داد، در صورت لزوم به چالش کشید و با راه‌حل‌های مناسب برای هر آسیبی همراه بود.»

لئو پیشنهاد کرده است که نام پاپی خود را از پاپ لئو سیزدهم، که ریاست دوره دیگری از تغییرات عظیم تکنولوژیکی را بر عهده داشت، گرفته است. پاپ فرانسیس، سلف وی نیز خواستار ممنوعیت سلاح های خودمختار شده بود.