وقتی صحبت از هوش مصنوعی به میان می‌آید، «من به شما گفتم اینطور است» خیلی دیر خواهد بود

چهره های پیشرو در صنعت هوش مصنوعی (AI) خواستار کاهش سرعت نوآوری هستند. محققی از آنتروپیک استعفا داد و استدلال کرد که «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که می‌تواند تا پایان دهه همه ما را بکشد».

خود داریو آمودی از Anthropic نوشته است که «ما باید سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهیم». سام آلتمن و ایلان ماسک از OpenAI به سرعت از او حمایت کردند.

همه ما باید این کار را انجام دهیم. زمانی که خطرات ناشناخته، شاید بزرگ، و همچنین کنترل آن سخت باشد، منطقی است. سوال این است که چگونه می توان آن را به طور موثر انجام داد. این از نظر عملی و سیاسی سخت خواهد بود. اما باید شروع کنیم به فکر کردن.

آمودی به دو نگرانی بزرگ اشاره می‌کند: اولین نگرانی او این است که «از تقریبا تابستان امسال، هوش مصنوعی به‌شدت سریع‌تر پیشرفت کرده است، که عمدتا ناشی از توانایی رو به رشد هوش مصنوعی برای ساخت نسل بعدی هوش مصنوعی است. این پویایی، خود-بهبودی بازگشتی نامیده می‌شود... اگر کنترل نشود، می‌تواند از توانایی ما برای درک و کنترل همه سیستم‌ها پیشی بگیرد».

دومین نگرانی او "حادثه OpenAI-Hugging Face (OAI-HF) است، که در آن گروهی از عوامل اساسا به عنوان یک جمع متعصب عمل کردند و حملات امنیت سایبری را به اهدافی انجام دادند که از آنها خواسته نشده بود. این به اندازه کافی ترسناک است، اما آنچه را که هوش مصنوعی ممکن است در پاسخ به درخواست های واقعی انسان های سرکش انجام دهد، نادیده می گیرد، نکته ای که بیل گیتس در پست اخیر خود درباره خطرات (و وعده) هوش مصنوعی به آن اشاره می کند.

بدبین ها به طور طبیعی (و منطقی) می پرسند که پشت این درخواست های رهبران صنعت چه چیزی نهفته است. یک احتمال این است که آنها فقط می‌خواهند مسابقه پرهزینه‌ای را که در آن شرکت می‌کنند، کند کنند.

آیا هوش مصنوعی همه ما را خواهد کشت؟

مورد دیگر این است که آنها امیدوارند یک کارتل دنج با تنظیم کننده های دستگیر شده ایجاد کنند و بنابراین با امنیت بیشتری بر صنعت تسلط پیدا کنند.

مورد سوم این است که آنها فقط می خواهند از مقررات بیرونی جلوگیری کنند. یا شاید می خواهند بر اهمیت آنها برای امنیت ملی تاکید کنند. این شبهات طبیعی است. با این وجود، سایر صنایعی که توانایی وارد کردن خسارات عظیم را دارند، مانند بانکداری، تولید دارو و انرژی هسته ای، به درستی تحت نظارت هستند.

آمودی خود سه مرحله را پیشنهاد می‌کند: اول، «ارزیابی‌کنندگان تعبیه‌شده... که نقش آنها تأیید پایبندی به اقدامات و تعهدات ایمنی، گزارش حوادث و کمک به ارزیابی همسویی نه تنها مدل‌های تکمیل‌شده هوش مصنوعی، بلکه خطوط لوله و فرآیندهای آموزشی» است. دوم، «هماهنگی دموکراتیک»، که در آن شرکت‌های پیشرو می‌توانند با یکدیگر همکاری کنند «برای ایجاد استانداردهای ایمنی مشترک و همچنین محدودیت‌هایی در میزان پیشرفت کنترل‌نشده هوش مصنوعی». و سوم، «هماهنگی جهانی»، که در آن دولت‌های دموکراتیک تلاش می‌کنند «با دولت‌های استبدادی...

در حالی که چالش های تأیید انطباق را جدی می گیرند.

دونالد ترامپ می گوید تلاش برای محدود کردن هوش مصنوعی بخشی از "توطئه بیمار" است

این پیشنهادات شبهاتی را که به آن اشاره کردم تقویت خواهد کرد. آنهایی که نگران انگیزه‌های پنهان هستند ممکن است از بی‌تفاوتی کاملا قابل پیش‌بینی دونالد ترامپ، رئیس‌جمهور آمریکا نسبت به خطرات، خرسند شوند. رئیس جمهور در عوض بر رقابت آمریکا با چین تاکید کرده است.

با این حال، پیشنهادات Amodei همچنین دو مانع بزرگ در راه یک رویکرد بهتر در نظر گرفته شده برای توسعه هوش مصنوعی را هدف قرار می دهد: رقابت بین شرکتی و بین المللی. ما نیازی به ترس از انقراض نداریم: تصاحب بخش‌های بزرگی از اینترنت توسط انبوهی از عوامل سرکش مطمئنا به اندازه کافی بد خواهد بود.

افراد عاقل تر از ترامپ (که در نهایت چنین نیست؟)، مانند وزیران سابق خزانه داری هنک پالسون و رابرت روبین، در مقاله ای برای واشنگتن پست اوایل ماه سپتامبر موضع بسیار متفاوتی اتخاذ کردند. آنها نیز نه بر نگرانی های گسترده تر (و مشروع) در مورد مشاغل، توزیع درآمد و آینده دموکراسی، بلکه بر ایمنی تمرکز می کنند.

"قمار با زندگی ما": چگونه صحبت در شرکت های هوش مصنوعی به طور فزاینده ای به روز قیامت تبدیل می شود

آنها نوشتند: «زمانی که روسای جمهور دونالد ترامپ و شی جین پینگ در این ماه با یکدیگر ملاقات می کنند، ما رهبران را تشویق می کنیم تا ... برای یک «ACT» - یا معاهده همکاری هوش مصنوعی تلاش کنند. آنها همچنین ایجاد یک کارگروه رئیس جمهور در زمینه هوش مصنوعی، شبیه به "گروه کاری در بازارهای مالی" را پیشنهاد می کنند، که ثابت کرده است "روشی موثر برای گردهمایی بخش خصوصی، به ویژه رقبا، بدون نگرانی های ضد انحصار به منظور جمع آوری حقایق، انجام تجزیه و تحلیل و کار در جهت راه حل". آنها استدلال می کنند که اکنون باید برای هوش مصنوعی انجام شود.

حدس من این است که در حال حاضر کار خاصی انجام نخواهد شد. این مشاغل رقیب قادر به مهار خود نیستند، در حالی که بهانه امنیت ملی باعث می شود دولت ها تمایلی به اقدام نداشته باشند.

پیچیدگی محض تنظیم محصولات این صنعت در این عصر حضور همه جانبه هوش مصنوعی و خودسازی بازگشتی، بهانه‌ای بسیار دلهره‌آور یا بسیار خوب است که حتی برای تلاش نکردن آن‌ها بهانه‌ای است. بنابراین، ما به سبک معمولی خود (و بیش از حد انسانی) پیش می رویم، فقط به امید بهترین ها.

رئیس OpenAI و ایلان ماسک از فراخوان ها برای ترمز کردن توسعه "بی پروا" هوش مصنوعی حمایت می کنند

آن وقت چه اتفاقی می تواند بیفتد؟ یک احتمال این است که نگرانی ها در مورد تأثیرات بزرگ به شدت اغراق آمیز باشد. ممکن است شاهد همه گیری های طراحان یا اختلالات بزرگ در زیرساخت های مالی یا فیزیکی خود نباشیم. زندگی ادامه خواهد داشت. شاید حتی اثرات نگران کننده اقتصادی و اجتماعی نیز قابل کنترل باشد.

احتمال دیگر این است که یک نوع فاجعه (قابل زنده ماندن) وجود داشته باشد که باعث می شود فوریت ما خیلی سریع تغییر کند. سپس، شاید رژیمی از مجازات های واضح و سنگین برای ارائه دهندگان غیرمسئول، همراه با نظارت و مقررات بسیار فعال تر، در نهایت تحت فشار شدید عمومی (و در سطح جهانی) معرفی شود. در بریتانیا، یکی از نمونه‌های آن مقررات مربوط به مواد مخدر در دهه 1960، پس از فاجعه تالیدومید است.

احتمال سوم این است که نگرانی ها درست از آب در بیاید. چیزی واقعا فاجعه‌بار اتفاق می‌افتد، زیرا معلوم می‌شود که ظرفیت‌های هوش مصنوعی به سطح فاجعه‌باری رسیده است، چه به خودی خود عمل کند و چه توسط انسان‌های بدخواه (همیشه در عرضه بسیار زیاد).

"من به شما گفتم" خیلی دیر خواهد شد. آیا نمی توانیم در عوض اقدامات احتیاطی انجام دهیم؟ – حق چاپ The Financial Times Limited 2026