کارشناسان هشدار می‌دهند که تهدیدات هوش مصنوعی خودگردان برای آمریکا و چین چند دقیقه برای جلوگیری از بحران هسته‌ای باقی می‌گذارد

به گفته کارشناسان امنیتی ایالات متحده و چین، یک سیستم هوش مصنوعی که با یک شبکه فرماندهی هسته‌ای تداخل می‌کند یا یک عملیات سایبری نظامی را راه‌اندازی می‌کند، می‌تواند واشنگتن یا پکن را دقایقی برای تصمیم‌گیری در مورد اینکه آیا دولت دیگر حمله کرده است، باقی بگذارد. سیستم‌ها، کنترل انسانی بر حملات سایبری متعاقب، و خط تلفن برای حوادث مرتبط

این توصیه ها هفته گذشته قبل از مذاکرات برنامه ریزی شده هوش مصنوعی در سطح دولتی و نشست مورد انتظار 24 سپتامبر در واشنگتن بین دونالد ترامپ، رئیس جمهور آمریکا و شی جین پینگ، رئیس جمهور چین منتشر شد. نویسندگان ملانی سیسون، عضو ارشد اندیشکده موسسه بروکینگز، و تیانجیائو جیانگ، استادیار گفتگوی مشترک در دانشگاه فودان و امنیت ملی در دانشگاه فودان، Ch. 2019 توسط مرکز امنیت و استراتژی بین‌المللی دانشگاه بروکینگز و تسینگ‌هوا. خطوط قرمز پیرامون سیستم‌های هسته‌ای پیشنهادات آنها نشان می‌دهد که چگونه

رقابت هوش مصنوعی آمریکا و چین از رقابت بر سر تراشه‌ها و مدل‌های پیشرفته فراتر می‌رود و به پرسش‌هایی مرتبط با کنترل تسلیحات تبدیل می‌شود: چگونه می‌توان از اشتباه گرفتن تصادفات با حملات جلوگیری کرد، تصمیمات نظامی ماشینی را محدود کرد و پروتکل‌های ارتباطی را برای رقبای هسته‌ای تنظیم کرد که فناوری غیرمنتظره رفتار می‌کند. او گفت که از ایفای نقش حمایتی در میدان نبرد به نقشی کلیدی تبدیل شده است و به حملاتی که توسط هوش مصنوعی در جنگ آمریکا و اسرائیل انجام می شود، اشاره کرد.

سیسون مؤسسه بروکینگز استدلال کرد که انسان ها باید تنها اختیار خود را برای آغاز حملات سایبری مجهز به هوش مصنوعی علیه فرماندهی، کنترل و سیستم های ارتباطی هسته ای کشور دیگر یا زیرساخت های مهم استراتژیک حفظ کنند. یک سیستم خودمختار ممکن است نادرست عمل کند، فراتر از دستورالعمل هایش باشد، یا در معرض خطر قرار گیرد، در حالی که کشوری که تحت حمله قرار گرفته است، ممکن است در تلاش باشد که بگوید آیا دانشگاه مورد حمله قرار می گیرد یا نه. خطوط قرمز صریح پیشنهاد شده که مانع از تصمیم گیری مستقل هوش مصنوعی برای استفاده از سلاح های هسته ای یا حمله مستقل به شرکت هسته ای می شود.

سیستم‌های mmand، همراه با حفاظت از زیرساخت‌های حیاتی از جمله انرژی، مالی و مراقبت‌های بهداشتی. او همچنین از تعریف مشترک "کنترل معنادار انسانی" خواست تا از استفاده هر دو کشور از زبان یکسان برای توجیه سطوح مختلف استقلال ماشین جلوگیری شود. این ایده بر اساس یک اصل است که توسط جو بایدن رئیس جمهور وقت ایالات متحده و شی در نوامبر 2024 تایید شد. یکی از اعضای ارشد موسسه تحقیقات صلح بین المللی استکهلم در فوریه نوشت که این نکته مهمی از ایالات متحده است.

چین حتی در شرایطی که هر دو کشور نشانه‌هایی از ادغام عمیق‌تر هوش مصنوعی در سیستم‌های هسته‌ای و هسته‌ای نشان دادند. وقتی ماشین‌ها سریع‌تر از انسان حرکت می‌کنند، جیانگ همچنین یک خط ویژه ارتش آمریکا و چین را برای حوادث هوش مصنوعی پیشنهاد کرد و هشدار داد که مبادلات سایبری خودکار می‌تواند برای مداخله انسانی خیلی سریع تشدید شود. قبل از اینکه بفهمید واقعا چه اتفاقی افتاده، تلافی کنید. یک خط تلفن می‌تواند به یک دولت اجازه دهد تا به دیگری بگوید که یک A غیرمعمول

قبل از اینکه به عنوان اقدام عمدی دولتی تلقی شود، عملیات من تصادفی، غیرمجاز یا در دست بررسی بود. با این حال، کارشناسانی از جمله کارلا فریمن از دانشکده مطالعات بین‌المللی پیشرفته جانز هاپکینز، مفید بودن خط تلفن ارتباطی بحران نظامی آمریکا و چین را زیر سوال بردند و به استناد به امتناع مقامات چینی از پاسخگویی به تماس‌های همتایان آمریکایی درباره حادثه "spy ballo" اشاره کردند. او در نامه ای نوشت: سلسله مراتب سفت و سخت بوروکراسی از بالا به پایین همچنین افسران رده پایین را از ابتکار عمل در طول تعامل با همتایان آمریکایی محروم می کند.

او گفت: «هیچ کس در سیستم چین نمی‌خواهد با ایالات متحده ارتباط برقرار کند تا زمانی که رهبری ارشد با مشورت بازیگران مربوطه در داخل حزب-دولت چین درباره پاسخ تصمیم نگیرند، که ممکن است چند روز طول بکشد، اگر نه بیشتر. مجموعه ای رسمی از اداره کنترل تسلیحات وزارت امور خارجه، که همچنین سلاح های هسته ای، عدم اشاعه، مایل

شن جیان، سفیر چین در امور خلع سلاح، در نشست سازمان ملل در ژنو در ماه ژوئن گفت که هوش مصنوعی نظامی می تواند بر ثبات استراتژیک تأثیر بگذارد و خطرات اشتباه محاسباتی و تشدید درگیری را افزایش دهد و سلاح ها باید تحت کنترل انسان باقی بمانند. چین همچنین استدلال می‌کند که ایمنی هوش مصنوعی نباید بهانه‌ای برای موانع فناوری شود. واشنگتن هیچ خانه کنترل تسلیحاتی واحدی برای هوش مصنوعی ندارد، زیرا سیاست امنیت ملی در سراسر شورای امنیت ملی کاخ سفید، وزارت امور خارجه، پنتاگون و سایر آژانس‌ها گسترش یافته است.

نسبت به اقداماتی که می تواند توسعه فناوری خود را کند کند، محتاط هستند. ترامپ هشدار داده است که محدودیت‌های گسترده می‌تواند به چین مزیت بدهد، در حالی که پکن بسیاری از کنترل‌های فناوری ایالات متحده را تلاشی برای حفظ سلطه آمریکا می‌داند.