یک طرح جهانی برای نجات انسان ها از هوش مصنوعی وجود دارد. آیا واقعا می تواند کار کند؟

سام آلتمن، مدیر عامل OpenAI، در جریان نشست شورای امنیت سازمان ملل متحد در مورد هوش مصنوعی در هشتاد و یکمین مجمع عمومی سازمان ملل متحد در 23 سپتامبر 2026 به این موضوع نگاه می کند. آنجلا وایس/ خبرگزاری فرانسه از طریق گتی ایماژ

وقتی آخرالزمان هوش مصنوعی به مکالمه معمولی میز شام تبدیل می شود، می دانید که ما به مرحله حیرت آور رسیده ایم. عوامل سرکش هوش مصنوعی در حال هک کردن رقبا هستند. کارمندان سابق Big Tech هشدارهایی به سبک Skynet در رسانه های اجتماعی منتشر می کنند. مدیران عامل به گونه‌ای که این موضوع فناوری که زمانی بی‌تفاوت بود، به یک مبارزه سیاسی خط مقدم تبدیل شده است، برای کمک فریاد می‌زنند.

من هنوز فکر می‌کنم بسیاری از نگرانی‌هایی که توسط خود رهبران هوش مصنوعی بیان شده‌اند، به‌طور گسترده‌ای خودخدمت هستند - به‌خصوص زمانی که شرکت‌های آنها به زودی عمومی می‌شوند. اما فهرست رو به رشد رسوایی های هوش مصنوعی واقعی است. و به ما می گوید که وضعیت موجود برای تنظیم این فناوری جدید قدرتمند کار نمی کند.

اکنون این سوال در ذهن همه وجود دارد: آیا هر نوع ترمز جهانی ممکن است؟ چه شکلی از رژیم ایمنی هوش مصنوعی در کوتاه مدت، زمانی که بین دولت های بزرگ اعتماد وجود ندارد، عملی است؟ و زمانی که شرکت‌ها از دست کشیدن از سس مخفی خود بیزارند و به دنبال تسلط در رقابت جهانی هوش مصنوعی هستند، چه چیزی می‌تواند کارساز باشد؟

دو مکالمه اصلی اکنون در حال پخش هستند، در زمان واقعی. روز چهارشنبه، رئیس جمهور دونالد ترامپ از شی جین پینگ، رئیس جمهور چین در واشنگتن برای یک نشست سه روزه استقبال کرد که بخشی از آن به خطرات هوش مصنوعی اختصاص دارد. در همان روز، همزمان با نشست مجمع عمومی سالانه سازمان ملل متحد، روسای شرکت‌های برجسته هوش مصنوعی در جهان از سازمان ملل خواستند که بر فناوری نوظهور نظارت کند، در غیر این صورت خطر نابودی بالقوه بشریت وجود دارد. سام آلتمن، رئیس OpenAI، صراحتا به شورای امنیت سازمان ملل گفت: "ما ممکن است کنترل آینده را به هوش مصنوعی از دست بدهیم."

در مواجهه با این دیوانگی جمعی، وقت آن است که یک نفس طولانی و عمیق بکشید.

در واقع، ایمنی هوش مصنوعی برای سال‌ها در ذهن بسیاری از سیاست‌گذاران بوده است، و پس از معرفی ChatGPT در سال 2022، شتاب بیشتری به خود گرفت. اینها فقط تمرینات گوش دادن بیهوده نبودند. همه آنها برای عموم مردم شناخته شده نیستند، اما برنامه های واقعی را ارائه کردند.

بدون هر گونه پیشرفتی در این هفته، ما در حال حاضر یک سپر شبه سیاره ای در برابر فناوری بالقوه فراری داریم. این خبر خوب است.

خبر بد این است که واقعا هنوز راه اندازی نشده است. همچنین مشخص نیست که آیا واقعا کار خواهد کرد یا خیر. بنابراین چیست - و چگونه می‌توانیم آن را برطرف کنیم تا یک سیستم جهانی داشته باشیم که به موقع برای مقابله با تهدیدات سریع و باورنکردنی هوش مصنوعی واکنش نشان می‌دهد؟

چه چیزی تکه‌کاری جهانی هوش مصنوعی در حال حاضر به نظر می‌رسد

در چهار سال گذشته، کشورهایی که از فناوری آگاه هستند - و رهبران احتمالی هوش مصنوعی - گفتگوهای جدی در مورد این تهدید ایمنی دقیق هوش مصنوعی انجام داده اند. برخی در کنگره و کاخ سفید هستند. برخی در سازمان ملل، در G7، و در پایتخت های دیگر.

من به‌عنوان یک روزنامه‌نگار فناوری جهانی، از محل کار فعلی‌ام در یک اتاق فکر، این موضوع را از نزدیک پوشش داده‌ام. در اینجا چشم انداز به نظر می رسد:

موسسات ملی ایمنی و امنیت هوش مصنوعی، نهادهایی با بودجه دولتی وجود دارند که وظیفه آنها این است که تایرهای جدیدترین محصولات شرکت‌های هوش مصنوعی را قبل از رها شدن در طبیعت، از بین ببرند.

همچنین شرکت‌ها تعهدات داوطلبانه‌ای دارند که بسیاری از آنها تعهدات خود را داده‌اند یا استانداردهای مشترکی را ایجاد کرده‌اند، تا از انتخابات در برابر تهدیدات هوش مصنوعی محافظت کنند، از گسترش تصاویر عمیق جعلی مبتنی بر هوش مصنوعی جلوگیری کنند، و تلاش‌های مشترک دولت و شرکت برای ایجاد ایمنی در چگونگی توسعه فناوری.

در سطح بین‌المللی، یک مکانیسم گزارش‌دهی به رهبری G7 وجود دارد -- که توسط مهم‌ترین کشورهای فناوری غربی پذیرفته شده است که به غول‌های هوش مصنوعی اجازه می‌دهد نحوه ساخت آخرین مدل‌های خود را به اشتراک بگذارند و همچنین استانداردهایی برای کاهش خطرات فاجعه‌بار ایجاد کنند.

یک گزارش علمی بین‌المللی به‌روزرسانی سالانه خطرات ناشی از پیشرفته‌ترین سیستم‌های هوش مصنوعی را بر اساس تحقیقات موجود ارائه می‌کند تا به دولت‌ها در برنامه‌ریزی برای بدترین شرایط کمک کند.

چه چیزی از این همه کم است؟ چیزی که در حال حاضر کمبود داریم - و چیزی که از الان تا پایان سال 2026 مورد نیاز است - راهی برای تبدیل این صنعت کلبه مکانیزم‌های ایمنی هوش مصنوعی به سیستمی کارآمد، اما خام و اولین پاسخ‌دهنده در زمانی است که همه چیز به طور ناگهانی اشتباه می‌شود.

چهار سال گذشته مسیری را مشخص کرده است و حتی برخی از سیستم های لازم وجود دارد. اما هیچ راهی برای پاسخگویی در سطح جهانی و در زمان واقعی، زمانی که یک بحران هوش مصنوعی رخ می دهد وجود ندارد - به خصوص اگر چنین رویدادی احتمالا روز قیامت در کشورهایی که قبلا نسبت به یکدیگر بدبین هستند، قطع شود.

نشست این هفته آمریکا و چین ممکن است گامی در جهت درست باشد. بر اساس پیشنهادات مطرح شده توسط مقامات آمریکایی، واشنگتن و پکن می توانند خط تلفنی بین اسکات بسنت، وزیر خزانه داری آمریکا و هی لیفنگ، معاون نخست وزیر چین ایجاد کنند، در صورتی که یک حادثه هوش مصنوعی بر امنیت ملی هر کشور تأثیر بگذارد.

هنوز مشخص نیست که دیدار ترامپ با شی به چنین پیشرفتی منجر شود یا خیر. مقامات چینی همچنین از درخواست‌های واشنگتن برای قوانین هوش مصنوعی خودداری کرده‌اند، زیرا تاکنون کنگره نتوانسته است اقدامی انجام دهد و چین در حال حاضر برخی از سخت‌گیرانه‌ترین نظارت‌های هوش مصنوعی در جهان را دارد.

برای اینکه هوش مصنوعی «ایمن» باشد، این گفتگو باید فراتر از نشست این هفته آمریکا و چین باشد. تنها اتکا به واشنگتن و پکن - مسلما مهمترین قدرت های هوش مصنوعی - مشکلات اساسی را حل نمی کند و باعث نمی شود دیگر کشورها احساس راحتی بیشتری کنند.

آنچه در مرحله بعد به آن نیاز داریم، بنابراین واقعا ما را نجات می دهد

من با کارشناسان ایمنی هوش مصنوعی و مقامات دولتی صحبت کرده ام، و واضح است که قطعه گمشده راهی برای فعال کردن کل این سیستم در یک بحران است. همه کشورها مجبور نیستند سیاست های ایمنی هوش مصنوعی یکسانی داشته باشند، و هرگز نخواهند داشت. اما مانند تسلیحات هسته‌ای - یک فناوری مشابه با تهدید بالا که جهان راهی برای مهار آن پیدا کرد - ایمنی به یک توافق جهانی خشن در مورد چگونگی واکنش سریع در زمانی که مشکلی وحشتناک پیش می‌رود نیاز دارد.

آنچه در حال حاضر مورد نیاز است مکانیزم واکنش سریع 90 روزه است که قطعات موجود از پازل ایمنی هوش مصنوعی را به هم می پیوندد. من چند ایده در مورد اینکه چگونه باید کار کند و چه کسی باید امضا کند گردآوری کرده ام. درست است، هیچ یک از آنچه در زیر توضیح می دهم کافی نیست. اما، با هم، آنها محتمل‌تر از تلاش برای مذاکره برای یک رژیم جهانی جامع هستند - چه رسد به ترتیب یک نشست دیگر هوش مصنوعی - در حالی که واشنگتن، پکن و سایر پایتخت‌های ملی بر سر معنای واقعی "ایمنی هوش مصنوعی" اختلاف نظر دارند.

همه این گزینه‌ها مبتنی بر مکانیسم‌های موجود هستند، برگرفته از تلاش‌هایی هستند که در سایر حوزه‌های سیاستی مؤثر بوده‌اند، و تا زمانی که بتوان راه‌حلی بادوام‌تر مذاکره کرد، به معضل ایمنی هوش مصنوعی کمک می‌کند.

اولا، توسعه‌دهندگان، مؤسسات ایمنی هوش مصنوعی و تنظیم‌کننده‌ها از کشورهای مختلف باید توافق کنند که وقتی حادثه‌ای رخ می‌دهد، پروتکل خاصی به سبک چرنوبیل را راه‌اندازی می‌کند. این به معنای ارسال یک گزارش محرمانه در یک بازه زمانی 72 ساعته به یک پاسخ دهنده تعیین شده ملی و یک دبیرخانه فنی کوچک است. می‌تواند بر اساس نظارت بر حوادث هوش مصنوعی OECD، منجر به تحقیقات محرمانه فنی و چندجانبه در مورد آنچه اشتباه شده است، و متعاقبا انتشار یک یادداشت بی‌نام درس‌های آموخته شود.

دوم، دولت‌ها و توسعه‌دهندگان می‌توانند با انتشار اعلامیه‌های مشترک مربوط به پادمان‌ها، ریسک‌های باقی‌مانده، آستانه تشدید و حسابرسی مستقل قبل از انتشار یا ارتقای مدل نسل بعدی موافقت کنند. از چارچوب گزارش‌دهی فرآیند هوش مصنوعی G7 هیروشیما به عنوان پایه خود استفاده می‌کند و حجم کنونی اعلامیه‌های ایمنی شرکتی و استانداردهای داوطلبانه را به یک تعهد حداقلی مشترک برای افشا تبدیل می‌کند. آن را شبیه به آزمون استرس جمعی بانک پس از بحران مالی جهانی سال 2008 ببینید.

این می‌تواند به افراد خارجی اجازه دهد تا پروتکل‌های ایمنی مدل‌ها را بدون اینکه کسی مسئول تعیین اینکه کدام شرکت آن را به بهترین شکل انجام می‌دهد، مقایسه کنند.

سوم، ایجاد خط تلفن ایمنی هوش مصنوعی آمریکا و چین به سبک جنگ سرد - اما آن را به عنوان یک گام اولیه در نظر بگیرید که بعدا می تواند برای سایر کشورها باز شود. در درازمدت دلایل خوبی وجود دارد که واشنگتن و پکن نباید اجازه داشته باشند بر هوش مصنوعی بین آنها حکومت کنند و بقیه جهان باید یک صندلی واقعی بر سر میز مذاکره داشته باشند. اما در حال حاضر این دو «قدرت بزرگ» در گفتگوی فناوری هستند، و ما می‌توانیم این بحث فلسفی را کنار بگذاریم تا یک خط ارتباطی ثابت و با اطلاعات فنی برای حوادث حاد خطر هوش مصنوعی ایجاد کنیم.

وظایف آن ذاتا محدود است: جلوگیری از سوء تفاهمات خطرناک مرتبط با حوادث جدی مدل، حملات سایبری مبتنی بر هوش مصنوعی و/یا نقض ادعایی تعهدات ایمنی توافق شده.

محدودیت های آشکاری برای آنچه در بالا توضیح دادم وجود دارد. برای یک، این یک دیدگاه ذاتا غرب محور است که عمدتا کشورهای اکثریت جهانی را نادیده می گیرد. همچنین بر نهادهای موجود مانند سازمان همکاری اقتصادی و توسعه و همچنین بر روابط ایالات متحده و چین تأثیر زیادی می گذارد. مقامات دیگر کشورها به طور مشروع از هر سه گزینه مخالفت خواهند کرد و به درستی نیز چنین است.

اما این در مورد ایجاد یک دستور مبهم و غیرقابل اجرا به رهبری سازمان ملل برای ایمنی هوش مصنوعی نیست. همچنین این در مورد به هم زدن گربه های ژئوپلیتیک برای بستن یک معاهده جهانی هوش مصنوعی نیست. گزینه ها - یک پروتکل ایمنی جمعی و پروتکل گزارش حادثه. استانداردهای رایج پیش از انتشار؛ و خط تلفن ایمنی هوش مصنوعی ایالات متحده و چین - ذاتا کوتاه مدت هستند. آنها همچنین بر اساس تلاش‌های موجود و تلاش‌هایی هستند که برای سایر حوزه‌های سیاستی با موفقیت کار کرده‌اند.

زمانی برای بحث در مورد آینده ایمنی هوش مصنوعی وجود خواهد داشت. اما الان آن زمان نیست. جدیدترین مدل‌های هوش مصنوعی سریع‌تر از آن چیزی که خیلی‌ها انتظار داشتند حرکت می‌کنند، روسای فناوری نگران هستند که خلاقیت‌هایشان از کنترل خارج شده باشد، و ممکن است پنجره‌ای برای اقدام کوچک‌تر از آن چیزی باشد که همه ما فکر می‌کنیم.

آنچه لازم است گام‌های عملی برای کاهش نگرانی‌های فزاینده مردم در بحبوحه تشدید تنش‌های ژئوپلیتیکی، عدم اعتماد بین دولت‌ها و شرکت‌ها، و نیازی به عدم اجازه دادن به افراد بی‌نقص در مسیر خیر است.