پاپ لئو چهاردهم هشدار داد که هوش مصنوعی می تواند به "ابزار سلطه" تبدیل شود

پاپ لئو چهاردهم روز جمعه هشدار داد که هوش مصنوعی می‌تواند کرامت انسانی را تهدید کند و به «ابزار سلطه» تبدیل شود، پیامی که در تضاد شدید با استقبال دونالد ترامپ رئیس‌جمهور آمریکا از فناوری و تلاش برای حفظ ایالات متحده در رقابت با هوش مصنوعی است.

لئو در جریان سفر خود به فرانسه در روز جمعه، بارها به این سوال بازگشت که انسان بودن در عصر ماشین‌های قدرتمندتر به چه معناست. او در یونسکو در پاریس گفت که پیشرفت‌های فن‌آوری باید به جای تبدیل شدن به ابزار کنترل، معطوف به انسان باشد.

لئو گفت: «تلاش‌های ما در این حوزه باید تضمین کند که فناوری‌های جدید به جای تبدیل شدن به ابزار دیگری برای سلطه و بی‌عدالتی، در خدمت انسان باقی بماند».

اظهارات پاپ در حالی مطرح می‌شود که دولت‌ها و شرکت‌های فناوری بحث می‌کنند که هوش مصنوعی با چه سرعتی باید توسعه یابد و چقدر مقررات یا نظارت لازم است.

ترامپ در هنگام بیان هشدارها در مورد هوش مصنوعی، لحن متفاوتی نسبت به پاپ اتخاذ کرده است. ترامپ روز سه‌شنبه در سخنانی در سازمان ملل نگرانی‌ها در مورد این فناوری را رد کرد و آن‌ها را «فریب» خواند و گفت که نمی‌تواند «رشد» چیزی را که معتقد است تأثیری بیشتر از انقلاب صنعتی داشته باشد، «خفه کند». وی همچنین گفت که وزارت دادگستری صنعت را زیر نظر گرفته و در صورت لزوم مداخله خواهد کرد.

تفاوت صرفا بین پذیرش و رد هوش مصنوعی نیست. لئو صراحتا به پتانسیل این فناوری اذعان کرده است در حالی که استدلال می کند که توسعه آن باید تابع کرامت انسانی، مسئولیت اخلاقی و خیر عمومی باقی بماند.

در یونسکو، لئو هشدار داد که اتکای فزاینده بشر به ماشین‌ها می‌تواند نه تنها نحوه کار افراد، بلکه نحوه درک آنها از خود را نیز تغییر دهد.

او گفت: «در طول قرن‌ها، بسیاری از وظایف که زمانی توسط انسان انجام می‌شد به ماشین‌هایی سپرده شده است که قابلیت‌ها و کاربردهای آن‌ها همچنان در حال گسترش است. اخیرا به سیستم‌های مصنوعی خاصی حتی نام هوش فکری انسانی ما داده شده است.»

او سپس آنچه را پارادوکس نامید، شناسایی کرد: از آنجایی که سیستم‌های محاسباتی به طور فزاینده‌ای از نظر هوش توصیف می‌شوند، جامعه می‌تواند کرامت متمایز انسان‌ها را از دست بدهد.

لئو می‌گوید: «این پارادوکس به طور فزاینده‌ای آشکار شده است: در حالی که «هوش» به سیستم‌های محاسباتی نسبت داده می‌شود، ما در تلاشیم تا حیثیت غیرقابل انکار افراد انسانی را بشناسیم، که زندگی‌شان بر اساس معیار کارایی قضاوت می‌شود و زمانی که دیگر سازنده تلقی می‌شود، طرد و کنار گذاشته می‌شود.

او همچنین بین توانایی هوش مصنوعی در پردازش اطلاعات و جستجوی انسان برای یافتن معنا تمایز قائل شد.

او گفت: «اگرچه چنین سیستم‌هایی می‌توانند داده‌ها را به هم مرتبط کنند، اما نمی‌توانند به سؤالات مربوط به معنای زندگی انسان که ریشه در تجربه زیسته دارد، پاسخ دهند.»

"با این حال انسان ها نمی توانند بدون معنا زندگی کنند. معنا اکسیژن ذهن است."

نگرانی لئو فراتر از توانایی های سیستم های هوش مصنوعی فردی است. او هشدار داد که فناوری‌های ارتباطی می‌توانند اطلاعات را فراوان‌تر کنند، بدون اینکه لزوما آن‌ها را واقعی‌تر کنند.

او گفت: «اطلاعات فراوان است، اما مترادف با خرد نیست»، و افزود که بدون یک پایه اخلاقی مشترک، کانال‌های ارتباطی می‌توانند اطلاعات نادرست و کلمات «بدون معنا» را چند برابر کنند.

لئو در اوایل سفر خود به فرانسه، از تصویری حتی چشمگیرتر استفاده کرد و در مورد احتمال وجود «بهشت ماشین‌ها» هشدار داد که می‌تواند به زندگی روزمره حمله کند و زندگی روزمره را مشروط کند.

او گفت: «اگر می‌خواهیم انسانیت خود را در میان «بهشت ماشین‌ها» که زندگی روزمره ما را مورد هجوم قرار می‌دهند و شرطی‌سازی می‌کنند، از دست ندهیم، نیاز مبرمی به آموزش در زمینه تشخیص اخلاقی و ظرفیت اعتراف به خیر اخلاقی وجود دارد.

ترامپ بارها بر حفظ رهبری تکنولوژیک آمریکا تاکید کرده و استدلال کرده است که محدودیت‌های بیش از حد می‌تواند این موقعیت را تضعیف کند. در ماه سپتامبر، او گفت که ایالات متحده در زمینه هوش مصنوعی چین را رهبری می کند و استدلال کرد که "هرکسی که هوش مصنوعی را برنده شود، برنده است." او همچنین درخواست ها برای محدودیت های جدید گسترده تر را رد کرده است، در حالی که می گوید مقامات دولتی موجود می توانند در صورت لزوم به سوء استفاده ها رسیدگی کنند.

لئو، در مقابل، کمتر بر رقابت برای برتری تکنولوژیک تمرکز کرده است و بیشتر بر روی این سوال که در نهایت پیشرفت فناوری باید در خدمت چه چیزی باشد، تمرکز کرده است.

بخشنامه او در ماه می می‌گوید که هوش مصنوعی نباید اجازه داشته باشد افراد را به «بهره‌وری»، «عملکرد شناختی» یا «داده‌های صرف» کاهش دهد و استدلال می‌کند که فناوری باید به سمت خیر عمومی هدایت شود.

این تفاوت به این معنی نیست که لئو خواستار پایان دادن به هوش مصنوعی است. او در سخنرانی ماه مه خود به صراحت گفت: «بیایید از هوش مصنوعی نترسیم» در حالی که بلافاصله اضافه کرد که بشریت باید «مسئله انسان را دائما در بازی نگه دارد».

بنابراین، اختلاف نظر عمدتا در مورد چگونگی واکنش جامعه به سیستم‌های توانمندتر است: آیا اولویت باید تسریع توسعه و حفظ رهبری فناوری باشد یا تأکید بیشتر بر پادمان‌ها، تشخیص اخلاقی و کنترل انسانی.

هشدارهای لئو به رهبران مذهبی یا منتقدان فناوری محدود نمی شود. برخی از برجسته ترین مدیران هوش مصنوعی صنعت نیز علنا در مورد خطرات سیستم های توانمندتر هشدار داده اند.

سام آلتمن، مدیر عامل OpenAI اذعان کرده است که مردم دلایل قانونی برای نگرانی در مورد این فناوری دارند. او در اوایل این ماه گفت: «دنیا حق دارد از این بترسد» و در عین حال استدلال کرد که صنعت همچنان می‌تواند هوش مصنوعی را با خیال راحت توسعه دهد.

آلتمن همچنین به طور خاص در مورد احتمال از دست دادن کنترل انسان ها بر سیستم های هوش مصنوعی هشدار داده است.

او در بیانیه اخیر خود گفت: "دو راه وجود دارد که پیشرفت هوش مصنوعی می تواند بسیار بد باشد و ما باید از آنها اجتناب کنیم." یکی از آنها این است که انسان ها کنترل هوش مصنوعی را از دست می دهند. مورد دیگر این است که هوش مصنوعی می تواند قدرت عظیمی را در دستان یک فرد، شرکت یا کشور متمرکز کند.

آلتمن گفت: «این غیرقابل قبول است؛ ما بدون عذرخواهی در Team Humanity هستیم و هوش مصنوعی باید همیشه در خدمت مردم باشد.

سایر رهبران هوش مصنوعی نگرانی های مشابهی را مطرح کرده اند. داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش سرعت توسعه هوش مصنوعی مرزی توسط این صنعت شده است، در حالی که دمیس حسابیس، مدیر عامل گوگل دیپ مایند و سایر رهبران فناوری نیز از توجه بیشتر به ایمنی حمایت کرده‌اند.

آلتمن در مورد امکان توسعه هوش مصنوعی فراتر از توانایی بشر برای کنترل آن صحبت کرده است. او در مصاحبه‌ای در سپتامبر گفت: «مردم باید همیشه آینده را کنترل کنند و ما نمی‌توانیم ریسک از دست دادن کنترل را بپذیریم».

نظرات او قابل توجه است زیرا آلتمن به طور همزمان یکی از مدافعان پیشرو در جهان برای توسعه هوش مصنوعی توانمندتر است. او استدلال کرده است که این فناوری می تواند مزایای زیادی به همراه داشته باشد، در حالی که گفت که اقدامات ایمنی باید با قابلیت های آن همگام باشد.

این نگرانی منعکس کننده استدلال لئو است: مسئله این نیست که آیا فناوری باید پیشرفت کند یا خیر، بلکه این است که آیا جامعه می‌تواند با سؤالات اخلاقی مطرح شده توسط هوش مصنوعی قوی‌تر همگام شود.

نگرانی لئو در مورد هوش مصنوعی قبل از سفر او به فرانسه بود. بخشنامه او Magnifica Humanitas: On Safeguarding the Human Person in Time of Artificial Intelligence در 15 مه منتشر شد. واتیکان آن را به عنوان بررسی نحوه اداره هوش مصنوعی به گونه ای توصیف می کند که از کرامت انسانی محافظت کند.

در این بخشنامه، لئو بین سیستم‌های مصنوعی و هوش انسانی تمایزی قائل می‌شود که از نزدیک بیانات او را در پاریس منعکس می‌کند.

او می‌نویسد: «ما باید از تصور نادرست برابر دانستن این نوع «هوش» با انسان‌ها اجتناب کنیم.

او اذعان کرد که سیستم‌های هوش مصنوعی می‌توانند در زمینه‌های خاصی از جمله سرعت و ظرفیت محاسباتی از انسان‌ها پیشی بگیرند، در حالی که استدلال کرد که قابلیت‌های آنها اساسا با پردازش داده‌ها مرتبط است.

او نوشت که سیستم‌های هوش مصنوعی «تجربیات را تجربه نمی‌کنند، بدنی ندارند، احساس شادی یا درد نمی‌کنند، از طریق روابط به بلوغ نمی‌رسند و از درون نمی‌دانند عشق، کار، دوستی یا مسئولیت به چه معناست».

این بخشنامه همچنین می‌گوید که هدف نباید صرفا تنظیم هوش مصنوعی پس از این واقعیت باشد. لئو استدلال می کند که هوش، وجدان و آزادی انسان باید مسئول هدایت نوآوری های تکنولوژیکی و تعیین کاربردها و محدودیت های مناسب آن باشد.

هنگامی که این بخشنامه به طور رسمی در ماه مه ارائه شد، لئو گفت که او نه تنها به دانشمندان و مهندسان هیجان زده در مورد پتانسیل هوش مصنوعی گوش داده است، بلکه به افرادی که در مورد سلاح‌های مستقل و الگوریتم‌هایی که قادر به تولید اشکال جدیدی از محرومیت و رنج هستند، نگرانی‌هایی را مطرح کرده است.

او از زبان غیرمعمول قوی برای توصیف پاسخ خود استفاده کرد: "هوش مصنوعی باید خلع سلاح شود."

لئو در آن زمان گفت: «تصمیمات مربوط به فناوری هرگز نباید از وجدان و مسئولیت جدا شود.

این بخشنامه با تردید برخی در صنعت فناوری مواجه شد، از جمله سرمایه گذار پیتر تیل، که استدلال می کند که مقررات سختگیرانه در غرب می تواند ایالات متحده و متحدانش را در برابر چین در مضیقه قرار دهد.

تیل روز پنجشنبه در مصاحبه ای گفت: «حزب کمونیست چین قرار نیست به سخنان پاپ گوش دهد. این احتمال وجود دارد که مردم در ایالات متحده اراده کنند. بنابراین در واقع، بخشنامه پاپ برای حزب کمونیست کار می کرد.

تیل پا را فراتر گذاشت و در مورد پاپ گفت: «من نمی گویم که او عامل کمونیست ها بود، اما او حداقل به عنوان یک احمق مفید برای ح‌ک‌چ عمل می‌کرد.»

Thiel شریک Founders Fund است که در شرکت‌های هوش مصنوعی از جمله OpenAI، Palantir و Scale AI سرمایه‌گذاری می‌کند. او قبلا از مدافعان برجسته قوانین فناوری جدید انتقاد کرده و مخالف رویکردهایی است که معتقد است می تواند پیشرفت علمی و فناوری را کند کند.

خبرنگاران و سردبیران نیوزویک از مارتین، دستیار هوش مصنوعی ما، برای تهیه این داستان استفاده کردند. در اینجا درباره مارتین بیشتر بدانید. در مورد این داستان با سردبیران نیوزویک تماس بگیرید: ادوارد تی. کامینز