مرد هوش مصنوعی پاپ نگران رفتار «کارتل» در میان آزمایشگاه‌های بزرگ است

اما به گفته پدر پائولو بنانتی، کشیشی که به کلیسای کاتولیک در مورد هوش مصنوعی مشاوره می دهد، دست تکان دادن روی ابراطلاعات توجه را از نیاز به بحث آزاد درباره نحوه محدود کردن شرکت های سازنده این فناوری منحرف می کند. او می‌گوید که با پیچیده‌شدن مشکل به‌قدری که فقط آنها می‌توانند آن را حل کنند، آزمایشگاه‌های بزرگ همه را از گفتگو حذف می‌کنند. "اخلاق نمی تواند چیزی باشد که متعلق به هیئت امنای یک شرکت باشد. این چیزی است که باید متعادل شود و در بحث در میدان عمومی کاهش یابد." بنانتی به WIRED می گوید.

ما به مقررات دموکراتیک نیاز داریم.» داریو آمودی، مدیر عامل آنتروپیک، در مقاله‌ای که در مورد هشدارهای ایمنی منتشر شد، خواستار ارزیابی‌های اجباری مدل‌های هوش مصنوعی قبل از انتشار و نوعی سرکوب تقطیر شد، فرآیندی که در آن آزمایشگاه‌های رقیب هوش مصنوعی خود را بر روی خروجی‌های مدل‌های اختصاصی آموزش می‌دهند.

دیگران برای ممنوعیت کامل خود-بهبودی بازگشتی استدلال کرده اند، جایی که هوش مصنوعی از قابلیت های کدگذاری پیشرفته خود برای کمک به توسعه تکرارهای آینده خود استفاده می کند. بنانتی علاقه کمتری به محدود کردن روش‌های توسعه هوش مصنوعی دارد، زیرا او نگران است که بتواند نوآوری را خنثی کند، و بیشتر به ایجاد استانداردهایی که اطمینان حاصل کند مدل‌ها از کنترل انسان خارج نمی‌شوند، علاقه‌مند است. او می‌گوید این استانداردها هر شکلی که بگیرند، نباید توسط آزمایشگاه‌ها طراحی شوند. بنانتی می‌گوید: «روایت آزمایشگاه‌های مرزی منفعت شخصی است، برای به دست آوردن یا حفظ موقعیت در بازار.

وقتی گروه کوچکی از شرکت‌ها قوانینی را که تحت آن یک صنعت کار می‌کند دیکته می‌کنند، او می‌گوید: «این یک نام واقعا واضح دارد: یک کارتل». بنانتی می‌گوید، به دلیل وجود انگیزه‌های اقتصادی، سیاسی و شخصی که در بازی وجود دارد، دشوار است که بدانیم اظهارات بزرگ درباره قابلیت‌های جدیدترین و آینده مدل‌های هوش مصنوعی را جدی بگیریم. در حالی که OpenAI و Anthropic هر دو از درخواست‌ها برای کاهش سرعت توسعه حمایت کرده‌اند، آنها همچنین در حال آماده شدن برای عمومی شدن هستند و میلیاردها دلار برای هر کسی که بازار را تصرف کند در خطر است.

خصومت بین ایالات متحده و چین، جایی که پیشرفته ترین مدل های هوش مصنوعی در حال توسعه هستند، نیز تصویر را پیچیده می کند. آنتروپیک از اظهار نظر خودداری کرد. OpenAI و Google DeepMind به درخواست ها برای اظهار نظر پاسخ ندادند. بنانتی همچنین با نحوه صحبت برخی از گوشه‌های صنعت هوش مصنوعی در مورد ابر هوش، با نوعی احترام که معمولا برای یک خدا محفوظ است، مشکل دارد: فراتر از درک ما، عملا قادر مطلق.

(سام آلتمن، مدیر عامل OpenAI، زمانی گفت که آرزوی ساخت یک «هوش جادویی در آسمان» را دارد.) بنانتی می‌گوید، این نوع کادربندی، گفتمان درباره این فناوری را به انحراف می‌کشد. او می‌گوید: "آیا ما در مورد چیزی صحبت می‌کنیم، یا یک چیز؟ این تفاوت واقعی است. مسئله ایمان نیست، مسئله ریاضی است." ما الوهیت بعدی را نمی سازیم.

ما به سادگی خودمان را فریب می دهیم که چیزی بیش از محاسبات آماری [در حال انجام است]. بنانتی می‌گوید با طرح پرسش‌هایی در مورد اینکه چه چیزی انسان و ماشین را جدا می‌کند و چگونه می‌توان نسل‌های آینده را در برابر اثرات منفی فناوری محافظت کرد، ظهور هوش مصنوعی این پتانسیل را دارد که «نقش جدیدی برای ادیان در بحث‌های عمومی» ایجاد کند. "زندگی در چالش زمانه بخشی از ماموریت کلیسا است." اگرچه بنانتی عضوی از کشیشان است، اما رسما نماینده کلیسای مقدس، هیئت حاکمه کلیسای کاتولیک نیست.

در عوض، او به عنوان یک محقق فلسفه، الهیات و فناوری به کلیسا مشاوره می دهد. بنانتی به WIRED می‌گوید که از هوش مصنوعی برای کمک به ایجاد ابزار و مواد برای دانشجویان دانشگاهش استفاده می‌کند، اما از مشخص کردن نحوه تعامل پاپ لئو چهاردهم با این فناوری خودداری کرد. (کارمندان بنانتی می گویند که او به "سوگند رازداری" ملزم است.) در ماه مه، پاپ لئو اولین بخشنامه خود را منتشر کرد، نامه ای که آموزه های دینی را برای مشکلات روز به کار می برد و موقعیت کلیسا را روشن می کند.

او هوش مصنوعی را به عنوان موضوع خود انتخاب کرد. در این نامه، پاپ نسبت به منطق تکنوکراتیکی که در صنعت هوش مصنوعی جریان دارد، هشدار داد که "کارایی را به عنوان معیار نهایی ارزش" معرفی می کند و انسان ها را به عنوان "پروژه ای برای بهینه سازی" معرفی می کند. او همچنین خواستار همکاری بین‌المللی بین ابرقدرت‌های رقیب و شرکت‌های هوش مصنوعی شد، که به گفته او باید «میل به تضمین تسلط ژئوپلیتیکی یا تجاری» را کنار بگذارند تا اطمینان حاصل شود که این فناوری در خدمت خیر عمومی توسعه می‌یابد.

در یکی از بخش‌های پیش‌بینی‌آمیز، او در مورد «خطر تبدیل شدن بشریت قربانی دستاوردهای خود» هشدار داد. بنانتی می‌گوید، شکاف بر ابر هوش و خطر وجودی، با تشویق مردم به نادیده گرفتن نظرات خود در جهتی که فناوری باید برای گروه کوچکی از ریاضیدانان، دانشمندان کامپیوتر و مدیران آزمایشگاه‌های بزرگ ببرد، از جاه‌طلبی‌های مطرح‌شده در بخشنامه منحرف می‌شود. بنانتی می گوید: «اولین چیز این است که ما باید ترمز و چرخ داشته باشیم. "این به معنای موقعیت قابل توجه کنترل برای انسان بر روی ماشین است."