کارشناسان هسته ای راه حل هایی را برای خطرات هوش مصنوعی به چین و ایالات متحده ارائه می دهند

ترس از خطر هوش مصنوعی به معنای واقعی کلمه هسته ای شده است.

پیش از نشست برنامه ریزی شده هفته آینده در واشنگتن بین دونالد ترامپ، رئیس جمهور آمریکا و همتای چینی او، شی جین پینگ، کارشناسان خواستار ایجاد چارچوب مشترک بین دو کشور برای کاهش خطرات حمله سایبری یا حمله هسته ای ناشی از هوش مصنوعی هستند. آنها نگرانی مشابهی را برطرف می‌کنند که چندین خودی صنعت هوش مصنوعی را به هشدار درباره رویدادهای احتمالی در سطح انقراض سوق داده است: انسان‌ها استقلال بیش از حد سیستم‌های حیاتی را به عوامل هوش مصنوعی می‌دهند که نه می‌توانند درک کنند و نه کنترل کنند.

در گزارشی که هفته گذشته منتشر شد، ملانی سیسون از مؤسسه بروکینگز و تیانجیائو جیانگ از دانشگاه فودان نوشتند که برای هر دو کشور بسیار مهم است که اطمینان حاصل کنند که تصمیم‌های نظامی حیاتی - مانند زمان انجام حمله تلافی جویانه هسته‌ای - صرفا در دست انسان باقی بماند.

سیسون در این گزارش نوشت: «از آنجایی که ارتش‌ها هوش مصنوعی عاملی را در عملیات خود ادغام می‌کنند و مدل‌های هوش مصنوعی به سرعت در پیچیدگی و توانایی پیشرفت می‌کنند، مسیرهای جدیدی برای نتایج فاجعه‌بار در حال ظهور است. رئیس‌جمهور دونالد ترامپ و شی جین پینگ می‌توانند با توافق بر این که فقط انسان‌ها، نه هوش مصنوعی، باید تصمیم بگیرند که حمله سایبری علیه سیستم‌های فرماندهی، کنترل و ارتباطات هسته‌ای (NC3) یا زیرساخت‌های حیاتی یکدیگر را آغاز کنند، در اداره این خطرات رهبری کنند.

سیسون و جیانگ پیشنهاد کردند که ایالات متحده و چین برای ایجاد "خط قرمز" در مورد استفاده نظامی از هوش مصنوعی، قوانینی که "کنترل معنادار انسانی" در عمل به نظر می رسد و یک "خط ویژه نظامی برای هوش مصنوعی" که از طریق آن مقامات هر دو کشور می توانند به سرعت "حوادث اضطراری ناشی از خطاهای هوش مصنوعی یا هوش مصنوعی" را گزارش کنند، با یکدیگر همکاری کنند.

جو بایدن، رئیس جمهور سابق آمریکا در اواخر سال 2024 با رئیس جمهور شی به توافق رسید که نه ایالات متحده و نه چین نباید اجازه دهند تصمیمات مربوط به استفاده از سلاح های هسته ای توسط هوش مصنوعی مدیریت شود. اما تنش‌ها بین دو کشور از زمانی که ترامپ تنها چند ماه بعد به قدرت بازگشت شدت گرفت، تا حد زیادی به دلیل رقابت آنها برای ساختن سیستم‌های هوش مصنوعی قوی‌تر. و رئیس جمهور فعلی هیچ نشانه ای از خود نشان نداده است که خود را متعهد به احترام به توافقات دولت های قبلی می داند.

دولت ترامپ همچنین مشتاقانه از ابزارهای هوش مصنوعی در کمپین نظامی مداوم خود علیه ایران استفاده کرده است، از جمله استفاده از ماون پالانتیر برای جمع‌آوری و تجزیه اطلاعات میدان نبرد که به مقامات نظامی در شناسایی اهداف برای حملات آینده کمک می‌کند. و در حالی که تعداد فزاینده ای از محققان هوش مصنوعی و آمریکایی های عادی شروع به نگرانی در مورد احتمال وقوع رستاخیز ناشی از هوش مصنوعی کرده اند، فرمانده کل 80 ساله کشور این ترس ها را به عنوان "توطئه بیماری" که به نفع چین گسترش می یابد رد کرده است، در حالی که تصاویر تولید شده توسط هوش مصنوعی را در رسانه های اجتماعی منتشر می کند که تخریب خارج از کشور را نشان می دهد.

و خود را به عنوان یک رهبر شایسته و با ابهت.

ترس از اینکه یک اشتباه ساده، نقص فنی، یا وقفه بوروکراتیک می تواند باعث ایجاد یک تبادل هسته ای بین المللی شود، چیز جدیدی نیست. در طول اوج جنگ سرد در سپتامبر 1983، یک سرهنگ دوم در نیروهای دفاع هوایی شوروی به نام استانیسلاو پتروف هشداری از یک سیستم ماهواره‌ای خودکار هشدار اولیه دریافت کرد که پنج کلاهک هسته‌ای ایالات متحده مستقیما به سمت اتحاد جماهیر شوروی هدایت می‌شوند. اگر او به افسران مافوق خود در ارتش در مورد موشک های ظاهرا ورودی هشدار می داد، به احتمال زیاد آنها اجازه حملات تلافی جویانه را می دادند.

درعوض، در لحظه‌ای از سرگشتگی حیرت‌انگیز، او استدلال کرد که اگر ایالات متحده می‌خواست یک حمله هسته‌ای تمام عیار را علیه دشمن جنگ سرد خود انجام دهد، از صدها بمب از زرادخانه عظیم خود استفاده می‌کرد، نه فقط پنج. او با افسران مافوق خود تماس گرفت تا هشدار نادرست را گزارش کند. بعدا مشخص شد که سیستم ماهواره‌ای شعله‌های نور خورشید را که از ابرها می‌پرداختند و آنها را به عنوان کلاهک‌های ورودی تعبیر کرد.

پتروف ممکن است در آن روز به تنهایی جهان را از آرماگدون در امان داشته باشد. اما ممکن است یک سیستم هوش مصنوعی که بر اساس تجزیه و تحلیل داده‌های بی‌درنگ، قضاوت‌های مشابهی را انجام دهد، همین تصمیم را نمی‌گرفت. حتی هنگامی که وظایف ظاهرا معمولی و بی‌ضرر انجام می‌شود، عوامل هوش مصنوعی مدرن مستعد انواع رفتارهای غیرقابل پیش‌بینی هستند، همانطور که هک اخیر Hugging Face به‌طور چشمگیری نشان داد.

چندین نفر از آزمایشگاه‌های هوش مصنوعی مرزی طی هفته گذشته هشدار داده‌اند که توانایی‌های این عوامل بسیار سریع‌تر از درک ما از نحوه اطمینان از همسویی آنها با منافع و ارزش‌های انسانی در حال پیشرفت است.

در اوایل این ماه، سناتور برنی سندرز - یکی از سرسخت‌ترین منتقدان بخش هوش مصنوعی غیرقانونی در کنگره - خواستار ممنوعیت بین‌المللی توسعه به اصطلاح «ابر اطلاعات» با مجازات‌هایی مشابه با آنچه در مورد توسعه غیرقانونی سلاح‌های هسته‌ای وجود دارد، شد. در ماه ژوئیه، آنتونیو گوترش، دبیر کل سازمان ملل متحد از 193 کشور عضو سازمان ملل خواست تا استفاده از سیستم های تسلیحاتی خودران را به طور یکجانبه غیرقانونی اعلام کنند.

گوترش در سخنرانی خود در مراسم افتتاحیه گفتگوی جهانی در مورد حکمرانی هوش مصنوعی در ژنو گفت: «برخی تصمیم‌ها باید برای همیشه انسانی باقی بمانند – چیزی بیش از گرفتن جان یک انسان».