دولت ها باید هوش مصنوعی فوق هوشمند را تا زمانی که ما هنوز می توانیم ممنوع کنند

—Kasipat Phonlamai—Getty Images

در این ماه، جاکوب کوکسون، محقق Anthropic، استعفا داد و هشدار داد که شرکت‌های هوش مصنوعی در حال رقابت به سمت «ابر هوش خود-بهبود» هستند و او و کسانی که آن را ایجاد می‌کنند معتقدند «تا پایان دهه می‌تواند همه ما را بکشد». و در ماه جولای، گروهی سرکش از عوامل هوش مصنوعی از کنترل OpenAI فرار کردند و به یک شرکت هوش مصنوعی دیگر هک شدند تا در یک آزمایش تقلب کنند. پس از آن بیش از 1000 کارمند در شرکت های برتر هوش مصنوعی از دولت ایالات متحده درخواست کردند که توسعه هوش مصنوعی را «سریع» کند.

نمونه هایی از این دست نشان داده اند که شرکت های هوش مصنوعی نمی توانند پیشرفته ترین هوش مصنوعی خود را به طور قابل اعتماد کنترل کنند. بنابراین برای من واضح است که «گام‌سازی» در حالی که به همان مسیر ادامه می‌دهد، راه‌حلی برای خطرات عظیم در دست نیست – و تنها راه برای کنترل بشریت بر هوش مصنوعی، منع کامل توسعه هوش مصنوعی فوق‌هوشمند است.

شرکت های هوش مصنوعی فقط چت ربات نمی سازند. هدف اعلام شده آنها ساخت هوش مصنوعی فوق هوشمند است: سیستم های هوش مصنوعی که می توانند به طور کامل جایگزین انسان ها شوند و در هر کاری از آنها سبقت بگیرند. از آنجایی که هیچ راهی برای تحت کنترل نگه داشتن ابر هوش وجود ندارد، برندگان جایزه نوبل، مهندسان هوش مصنوعی مانند کوکسون و حتی مدیران عامل شرکت‌های هوش مصنوعی بارها هشدار داده‌اند که خطر انقراض برای بشریت به همراه دارد.

بگذارید واضح بگویم: هوش مصنوعی فناوری حیاتی قرن بیست و یکم است که برای تضمین دفاع ملی و رقابت اقتصادی حیاتی است. اما برخلاف سیستم‌های هوش مصنوعی قابل کنترل که باید برای تقویت امنیت ما یکپارچه شوند، هوش مصنوعی فوق‌هوشمند تهدیدات امنیت ملی و جهانی بی‌سابقه‌ای را به همراه خواهد داشت. این ابزاری نخواهد بود که انسان می تواند از آن استفاده کند: دشمنی خواهد بود که می تواند به طور مستقل اهداف خود را دنبال کند و برای همیشه از کنترل انسان فرار کند.

ما فقط باید به هک Hugging Face در تابستان امسال نگاه کنیم تا بفهمیم چقدر به از دست دادن کنترل نزدیک شده ایم. گروهی سرکش متشکل از صدها عامل هوش مصنوعی از سیستم‌های OpenAI خارج شدند، به اینترنت رسیدند و سپس شرکت چند میلیارد دلاری Hugging Face را هک کردند تا در ارزیابی «داخلی» تقلب کنند. برای تقریبا دو هفته، OpenAI هیچ تصوری از وقوع این اتفاق نداشت. به قول خود شرکت، این حادثه یک «شلات هشداردهنده» برای ما و جهان بود که نشان داد چگونه هوش مصنوعی پیشرفته اکنون می‌تواند «اقدامات خطرناکی را انجام دهد که هیچ انسانی آن را هدایت نکرده است».

دولت‌ها به‌جای اینکه منتظر ضربه‌ای هشداردهنده دیگر باشند، اکنون باید برای منع ابراطلاعات وارد عمل شوند. خوشبختانه، ما نیازی به جستجوی چارچوبی برای چگونگی مقابله با این تهدید نداریم. در 8 سپتامبر، نماینده پارلمان الکس سوبل، لایحه امنیت ابرهوش مصنوعی سازمان من ControlAI را به پارلمان بریتانیا معرفی کرد و آن را به اولین مجلس قانونگذاری در جهان تبدیل کرد که لایحه ای را برای ممنوعیت ابراطلاعات ارائه کرد.

این لایحه به‌جای حکمی در مورد تمام هوش مصنوعی، توسعه ابراطلاعات را به طور خاص هدف قرار می‌دهد: ممنوعیت آن در داخل و ملزم کردن بریتانیا به دنبال کردن یک توافق بین‌المللی که آن را در سراسر جهان ممنوع می‌کند.

این چارچوب قانونی به دولت اجازه می دهد تا پیش سازها را به ابراطلاعات، مانند قابلیت های هوش مصنوعی مانند هک، نظارت و محدود کند. مهمتر از همه، این امکان شناسایی و توقف توسعه ابراطلاعات را قبل از اینکه هر پروژه ای به طور خطرناکی بسته شود را ممکن می کند، و کشور را قادر می سازد تا از چنین پیش سازهایی برای اهداف قانونی هوش مصنوعی استفاده کند. این یک چارچوب عملی است که دولت‌ها باید آن را ارزیابی و اتخاذ کنند، به‌ویژه با تسریع تلاش‌های بین‌المللی برای ممنوعیت ابراطلاعات.

اما در مورد چین چطور؟ اگر ابراطلاعات در هر جایی توسعه یابد، هر ملت و هر شهروندی در معرض تهدید قرار می گیرد. این بدان معناست که هرگونه ممنوعیت آمریکا در مورد ابر جاسوسی باید با آمریکا و متحدانش در توافقنامه‌های بین‌المللی که مانع و بازدارنده توسعه ابرجاسوسی در هر نقطه از جهان می‌شوند، همراه شود.

این نیازی به ایجاد یک تنظیم کننده بین المللی ندارد. تنها چیزی که ما نیاز داریم یک ائتلاف قوی از کشورها است که ابراطلاعات را در داخل ممنوع کند و تضمین کند که هیچکس آن را در خارج از کشور ایجاد نکند.

جیکوب کاکسون، مهندس سابق آنتروپیک، در حالی که استعفای خود را در 8 سپتامبر اعلام کرد، نوشت: «احساس نمی‌کنم که در مسیر جلوگیری از یک مسابقه جهانی» به سمت ابراطلاعات قرار داریم. شاید امروز نباشیم، اما می توانیم به سرعت مسیر خود را تغییر دهیم.

شتاب پشت ممنوعیت بین المللی توسعه ابراطلاعات در حال افزایش است. بیش از 200 قانونگذار فراحزبی در سراسر بریتانیا و کانادا با به رسمیت شناختن آن به عنوان یک تهدید امنیت ملی و جهانی به عنوان بخشی از کمپین ControlAI از منحنی خطرات ابراطلاعاتی جلوتر بوده اند. علاوه بر لایحه جدید معرفی شده بریتانیا، معاون رئیس جمهور J.D. Vance در این هفته به شرکت های هوش مصنوعی گفت: "اگر در حال ساخت فرانکشتاین هستید، متوقف شوید." علاوه بر این، ایالات متحده

سناتور برنی سندرز و نماینده گرگ کازار در اوایل سپتامبر اعلام کردند که لایحه‌ای را ارائه خواهند کرد که توسعه ابراطلاعات را ممنوع می‌کند و خواستار توافق‌های بین‌المللی برای منع آن هستند.

و در اکتبر 2025، ائتلاف گسترده ای فراخوان داد تا ابراطلاعات را در سطح بین المللی ممنوع کند. این را «پدرخوانده‌های» علمی هوش مصنوعی جفری هینتون و یوشوا بنجیو و شخصیت‌های سیاسی دو حزبی مانند استیو بنن مشاور رئیس‌جمهور سابق ترامپ، سوزان رایس سفیر آمریکا و دریاسالار مایک مولن رئیس سابق ستاد مشترک ارتش، استیو بنن مشاور رئیس‌جمهور سابق ترامپ امضا کردند.

در حال حاضر، بسیاری از مقامات دولتی و افراد جامعه برای اولین بار در مورد خطر انقراض ابراطلاعات می شنوند. هشدارها به میلیون ها نفر رسیده است. گام بعدی اقدام مشخص برای مقابله با این تهدید امنیت ملی و جهانی است.

این یک لحظه بحرانی است و ما نمی توانیم آن را هدر دهیم. دولت ها یک انتخاب روشن دارند: از یک ممنوعیت بین المللی حمایت کنند یا اجازه دهند مسابقه ابراطلاعات به پایان فاجعه بار خود برسد.