ایالات متحده و چین نمی توانند مسابقه هوش مصنوعی را کاهش دهند، اما می توانند آن را ایمن تر کنند

مهم‌ترین تغییر در هوش مصنوعی (AI) این نیست که مدل‌ها باهوش‌تر می‌شوند، بلکه این است که آنها توانایی بیشتری برای عمل کردن دارند. بیشتر موج اول حاکمیت ایمنی هوش مصنوعی بر اطلاعات نادرست، سوگیری، جعل عمیق، نقض حریم خصوصی و محتوای مضر متمرکز بود. آن خطرات باقی می ماند. اما عوامل هوش مصنوعی توانمندتر می توانند برنامه ریزی کنند، کد بنویسند و اجرا کنند، از ابزارها استفاده کنند، اعتبارنامه ها را دریافت کنند و با سیستم های خارجی تعامل داشته باشند.

حوادث اخیر که در آن سیستم‌های مستقل OpenAI از محدودیت‌های خود عبور کرده‌اند، نشان می‌دهد که با دستیابی عاملان به ابزار و استقلال، اعمال مرز بین مدل و دنیای خارج سخت‌تر می‌شود. این امر ایمنی هوش مصنوعی را به یک مشکل اقدام جمعی تبدیل می کند. ابرقدرت های هوش مصنوعی با معضل زندانی روبرو هستند. اگر یک آزمایشگاه در حالی که رقبا ادامه می دهند کند شود، ممکن است برتری خود را از دست بدهد. افشای تنش مشابهی ایجاد می کند: گزارش خرابی ها می تواند اکوسیستم گسترده تر را ایمن تر کند، اما افشا کننده هزینه ها را متحمل می شود و ممکن است آسیب پذیری ها را در معرض مهاجمان قرار دهد.

دولت ها با بن بست استراتژیک مشابهی روبرو هستند که شرکت ها. واشنگتن می ترسد که کند کردن توسعه هوش مصنوعی به چین اجازه دهد تا عقب نشینی کند. پکن می ترسد که انجام این کار آن را بیشتر پشت سر بگذارد. با این حال، همکاری می تواند در مورد ایمنی هوش مصنوعی محدود باشد. ایالات متحده نیازی به اعتماد به چین، به اشتراک گذاشتن مدل های مرزی با چین، یا کاهش سرعت توسعه هوش مصنوعی خود برای داشتن منافع امنیت ملی در چنین همکاری هایی ندارد. این شرکت به حصول اطمینان از اینکه حوادث سایبری مجهز به هوش مصنوعی قبل از اینکه در کشورهای ثالث، زیرساخت های نرم افزاری مشترک و زنجیره های تامین جهانی رخ دهد، مهار می شوند، علاقه مند است.

چین نیز همان منافع سیستمی را دارد. این اقدام جمعی پیامدهای مهمی برای کشورهای با قدرت متوسط ​​دارد. کمک به دیگران برای ترمیم یک آسیب‌پذیری می‌تواند نوعی مهار سیستمیک و یک کالای عمومی باشد. مسابقه هوش مصنوعی شتاب دهنده مسابقه تسلیحاتی هوش مصنوعی در حال تشدید است. دونالد ترامپ، رئیس‌جمهور ایالات متحده، درخواست‌ها برای کند کردن توسعه هوش مصنوعی ایالات متحده را رد کرده و رهبری تکنولوژیک را برای پیروزی در مسابقه هوش مصنوعی ضروری می‌داند.

در 29 سپتامبر، او شرکت‌های بزرگ فناوری را در کاخ سفید گرد هم آورد، جایی که شش شرکت - OpenAI، Anthropic، Google، Meta، xAI و Nvidia - توافق‌نامه‌ای داوطلبانه را امضا کردند که حول چهار لایه نظارتی ساخته شده بود: ارزیابی‌های توانایی داخلی، تیم‌های ممیزی داخلی، حسابرسان خارجی مستقل، و بررسی در سطح هیئت‌مدیره. دولت او به آژانس‌های فدرال دستور داد که اصطلاح «هوش مصنوعی» را با «هوش فوق‌العاده» جایگزین کنند و این فناوری را به عنوان منبع رهبری اقتصادی و استراتژیک معرفی کنند. روی هم رفته، این حرکات به یک ایالات متحده اشاره دارد.

رویکردی که قدرت مستمر هوش مصنوعی را با مسئولیت توسعه‌دهنده، کنترل‌های داوطلبانه صنعت، بررسی‌های خارجی و مسئولیت‌پذیری قانونی قبلی ترکیب می‌کند. چین از طریق یک سیستم هماهنگ متمرکزتر به مشکل برخورد می کند. در ماه مه 2026، دستورالعمل‌هایی درباره عوامل هوش مصنوعی، که به طور مشترک توسط اداره فضای سایبری چین، کمیسیون توسعه و اصلاحات ملی و وزارت صنعت و فناوری اطلاعات صادر شد، «ایمنی و کنترل‌پذیری» را به یک الزام اساسی برای توسعه و استقرار عامل تبدیل کرد.

حاکمیت دارای لایه‌بندی است و الزامات بایگانی، آزمایش و فراخوان سخت‌تر برای عوامل مورد استفاده در بخش‌های حساس است. در 14 سپتامبر، چارچوب حاکمیت ایمنی هوش مصنوعی چین 3.0 ضمن به‌روزرسانی طبقه‌بندی ریسک‌های هوش مصنوعی و اقدامات فنی و حاکمیتی مرتبط، «ایمنی و قابلیت کنترل» را تکرار کرد. علیرغم تفاوت‌های نهادی، این دو رویکرد در یک نقطه همگرا هستند: هیچ کشوری نمی‌خواهد سیاست ایمنی توسعه هوش مصنوعی را متوقف کند، و هر دو به طور فزاینده‌ای تشخیص می‌دهند که خودمختاری بیشتر مشکلات جدیدی در کنترل ایجاد می‌کند.

سیستم‌های هوش مصنوعی زمین مشترک و ریسک‌های مشترک بر پایه‌های تکنولوژیکی همپوشانی دارند. توسعه هوش مصنوعی چین به شدت به تراشه های ایالات متحده و در برخی موارد زیرساخت ابری ایالات متحده متکی است. کنترل‌های صادراتی ممکن است این پیوندهای سخت‌افزاری را تضعیف کند، اما دلیل قوی‌تر برای مدیریت ریسک مشترک در نرم‌افزار و خدمات مشترک سیستم‌های هوش مصنوعی نهفته است. استانداردها، گواهی ها، زیرساخت های هویت، مخازن مدل، و کتابخانه های منبع باز از اعتماد در سراسر شبکه ها پشتیبانی می کنند. یک گواهی ریشه در معرض خطر یا اعتبار یک نگهدارنده می تواند کل درخت وابستگی را در معرض خطر قرار دهد.

خطرات هوش مصنوعی در دو بعد متفاوت است: شدت آسیب و اینکه آیا بازیگران مسئول می توانند آن را به موقع تشخیص دهند. بزرگترین خطر آسیب شدید و نامرئی است، جایی که هیچ چیز به وضوح برای روزها یا هفته ها شکسته نمی شود، با این حال زمان بر شدت حادثه می افزاید. یک عامل هوش مصنوعی می تواند بی سر و صدا سوابق را خراب کند، بر اساس دستورالعمل های کاشته شده در حافظه خود یا در اسنادی که به آنها مراجعه می کند عمل کند، یا در حالی که دسترسی فراتر از قصد اپراتور را جمع آوری می کند، همکاری نشان می دهد.

زیرساخت ممکن است به طور عادی عمل کند در حالی که ابزارهای برای برهم زدن آن از قبل وجود دارد. وابستگی‌ها و ریسک‌های مشترک تعیین می‌کنند که سیستم کدام کد را اجرا می‌کند، کدام اعتبار را می‌پذیرد، و به کدام به‌روزرسانی‌ها اعتماد می‌کند. آسیب می تواند بی سر و صدا از مرزها عبور کند، حتی زمانی که مدل ها و صاحبان آنها از هم جدا بمانند. که سرعت پاسخگویی را بسیار مهم می کند. تأخیر در تشخیص نقض، تعیین مسئولیت یا صدور مجوز برای خاموش کردن می تواند باعث گسترش آسیب شود. بنابراین، هم چین و هم ایالات متحده به هشدارهایی برای رسیدن به پرسنل دارای اختیارات و ابزار فنی برای پاسخگویی نیاز دارند.

مسابقه را ایمن تر کنید هیچ توافق دیپلماتیک آشکاری وجود ندارد که بتواند پارادوکس موجود در مسابقه هوش مصنوعی را حل کند: به سرعت و رازداری پاداش می دهد، در حالی که ایمنی به محدودیت و افشای جمعی بستگی دارد. چین-آمریکا در عوض، همکاری باید بر روی اقداماتی متمرکز شود که ایمنی را بدون نیاز به کاهش یک‌طرفه، انتقال پیشرفته‌ترین مدل‌های خود، یا افشای قابلیت‌های حساس تجاری و استراتژیک از طرفین، بهبود می‌بخشد. چهار زمینه برجسته است: 1.

کنترل انسان‌ها قبل از نشست ترامپ و شی، کارشناسان امنیتی آمریکایی و چینی در گفت‌وگوی دوجانبه طولانی‌مدت، خطوط قرمز را در مورد سیستم‌های هسته‌ای، کنترل انسان بر عملیات‌های سایبری متعاقب، و مکانیزم اختصاصی برای حوادث هوش مصنوعی پیشنهاد کردند. هنگامی که یک عامل هوش مصنوعی می تواند جستجو کند، احراز هویت کند، کد بنویسد، ابزارهای خارجی را فراخوانی کند و در عرض چند دقیقه یا چند ثانیه عمل کند، مداخله انسان کجا باید رخ دهد؟ نیاز به تایید برای هر مرحله، ارزش مستقل عوامل هوش مصنوعی را تضعیف می کند. صبر کردن تا زمانی که مشکلی پیش بیاید ممکن است مداخله را خیلی دیر کند.

سؤالات سخت‌تر مربوط به مجوزها، آستانه تشدید، مکانیسم‌های خاموش کردن و اینکه کدام اقدامات همیشه باید به مجوز صریح انسانی نیاز داشته باشند. محققان می‌توانند در این چالش‌های مهندسی بدون به اشتراک گذاشتن وزن مدل، داده‌های آموزشی، یا قابلیت‌های مرزی اختصاصی همکاری کنند. 2. نرده‌های محافظ را آزمایش کنید، نه اسرار یکدیگر، سندباکس، نظارت، کنترل‌های مجوز، و امتناع در سطح مدل اغلب به‌عنوان پادمان‌های تعیین‌شده تلقی می‌شوند. ریسک فنی اساسی گسترده است: با ابزارها و دسترسی مناسب، مدل های پیشرفته می توانند آسیب پذیری های ناشناخته قبلی را شناسایی کنند.

ارتباط و توسعه سوء استفاده در سیستم های به خوبی محافظت شده بدون هدایت گام به گام انسان. سوال کلیدی این نیست که آیا یک توسعه‌دهنده نرده‌های محافظ دارد یا خیر، بلکه این است که آیا آنها همچنان به‌عنوان عاملی کار می‌کنند که به اندازه کافی قادر به جستجوی راه‌هایی در اطراف آن‌ها هستند یا خیر. در حالی که آزمایشگاه‌های هوش مصنوعی مرزی در ایالات متحده به‌طور داوطلبانه نمونه‌هایی از مدل‌های خود را که از محیط‌های جعبه‌شنی بسته شده فرار می‌کنند، افشا کرده‌اند، گزارش‌های عمومی از چین در مورد خرابی‌های مهار مشابه محدود است. این عدم شفافیت نباید دو طرف را از همکاری با یکدیگر باز دارد.

واشنگتن و پکن می‌توانند روش‌های سازگاری را برای آزمایش فرار از جعبه ماسه‌بازی، نقض محدوده، استفاده غیرمجاز از ابزار، مقاومت در برابر خاموش کردن و عدم موفقیت در مداخله انسانی توسعه دهند. حسابرسان مستقل، به طور بالقوه از کشورهای ثالث قابل اعتماد، می توانند به تأیید نتایج کمک کنند. 3. اول را در نظر بگیرید، بعدا با دقت مشخص کنید اسناد سایبری همیشه چالش برانگیز بوده است. هوش مصنوعی کار را سخت تر می کند.

مدافعی که دسترسی غیرمجاز را کشف می کند ممکن است به یک عملیات تحت هدایت دولت، یک بازیگر جنایتکار با استفاده از هوش مصنوعی، یک عامل خودمختار هدایت شده توسط انسان یا عاملی که در حین پیگیری یک وظیفه قانونی از دستورات خود فراتر رفته است، نگاه کند. بین رقبای استراتژیک، این ابهام به ویژه زمانی خطرناک است که کسری اعتماد بیشتر شود.

یک سیستم خودمختار در تعامل با زیرساخت های حیاتی ممکن است قبل از اینکه هر یک از دولت ها بفهمند چه اتفاقی افتاده است، با شناسایی یا آماده سازی برای حمله اشتباه گرفته شود. کارشناسان آمریکایی و چینی قبلا این خطر را شناسایی کرده‌اند: مبادلات سایبری خودمختار می‌توانند سریع‌تر از آن‌چه دولت‌ها بتوانند تشخیص دهند که یک عملیات عمدی، تصادفی یا غیرمجاز بوده است، حرکت کند. بعید است که واشنگتن و پکن به طور معمول در مورد انتساب حوادث سایبری مناقشه برانگیز توافق کنند.

آنها می توانند در عوض انتظارات فنی مشترکی در مورد شواهدی ایجاد کنند که باید قبل از تشدید سیاسی یک حادثه مبتنی بر هوش مصنوعی بررسی شوند، از جمله گزارش های عامل، استفاده از اعتبار، سوابق فراخوانی ابزار، منشأ مدل، مجوز انسانی، و تله متری شبکه. در اولین ساعات وقوع یک حادثه بزرگ فرامرزی، دولت‌ها و پاسخ دهندگان مورد اعتماد باید بتوانند شاخص‌های فنی، اقدامات مهار و اصلاح اطلاعات را بدون تصمیم‌گیری اولیه مبادله کنند. مبادله چنین اطلاعاتی نیازی به پذیرش مسئولیت ندارد. 4.

شکاف اصلاح هوش مصنوعی را ببندید امنیت سایبری چندین دهه است که با اصلاح دست و پنجه نرم کرده است. زیرساخت های حیاتی در بیمارستان ها، تاسیسات، شبکه های مخابراتی، بنادر، سازمان های دولتی و فروشندگان خصوصی تکه تکه شده است. ممکن است یک آسیب‌پذیری قابل درک باشد و ممکن است یک وصله وجود داشته باشد، اما استقرار همچنان ممکن است روزها یا هفته‌ها طول بکشد. هوش مصنوعی زمان بین کشف آسیب‌پذیری و بهره‌برداری را فشرده می‌کند. یک مدل توانا ممکن است یک نقطه ضعف را شناسایی کند، یک اکسپلویت کارساز ایجاد کند و سریعتر از سازمان ها بتواند سیستم های خود را اصلاح کند، شروع به استفاده از آن کند.

این یک شکاف نوظهور اصلاح هوش مصنوعی ایجاد می‌کند: قابلیت تهاجمی به طور فزاینده‌ای با سرعت ماشین عمل می‌کند، در حالی که بیشتر جهان هنوز با سرعت پایین‌تر تصمیم‌گیری انسانی و هماهنگی سازمانی بین سهامداران متعدد پاسخ می‌دهد. اکثر کشورها خودشان توانمندترین مدل‌های هوش مصنوعی جهان را آموزش نمی‌دهند. بنابراین ظرفیت دفاعی آنها ممکن است به طور فزاینده ای به قابلیت های توسعه یافته در تعداد کمی از اکوسیستم های مرزی بستگی داشته باشد.

اگر توانایی دفاعی مرزی فقط به صلاحدید قدرت دیگری برسد - یا اصلا - سیستم‌های در معرض دید در یک بحران هیچ توسل قابل اعتمادی ندارند. بستن این شکاف مستلزم گسترش دسترسی به قابلیت دفاعی مرزی به این کشورها است. اپراتور آسیب‌دیده یا CERT ملی (تیم واکنش اضطراری رایانه‌ای) می‌تواند نمونه‌های بدافزار، کد آسیب‌پذیر، گزارش‌های سیستم انتخابی، یا اطلاعات پیکربندی را از طریق یک واسطه فنی قابل اعتماد ارائه دهد.

سپس یک مدل دفاعی مرزی می‌تواند به تجزیه و تحلیل حادثه، اعتبارسنجی آسیب‌پذیری‌ها، تولید و آزمایش وصله‌ها و بازگرداندن یک بسته اصلاحی کمک کند، در حالی که مدل اساسی و حساس‌ترین قابلیت‌های آن نزد ارائه‌دهنده باقی می‌ماند. ایالات متحده و چین نیز دلایلی برای حمایت از چنین سیستمی به خاطر منافع شخصی دارند. یک آسیب‌پذیری فعال‌شده با هوش مصنوعی که در جاهای دیگر اصلاح نشده است، می‌تواند از طریق نرم‌افزار منبع باز، زیرساخت ابر، مخازن مدل، گواهی‌های دیجیتال و زنجیره‌های تأمین جهانی قبل از رسیدن به سیستم‌های هر کشور گسترش یابد.

قدرت‌های میانی به‌عنوان واسطه‌های امنیتی بسیاری از قدرت‌های متوسط ​​در خارج از مرکز چین و ایالات متحده حضور دارند. رقابت مدل مرزی در حالی که در معرض پیامدهای آن باقی می ماند. نشست آتی رهبران اقتصادی APEC در شنژن یک پلت فرم عملی برای حرکت این دستور کار فراتر از دوجانبه چین و ایالات متحده ارائه می دهد. همکاری همه 21 اقتصاد APEC، از جمله ایالات متحده و چین، در جلوگیری از وقوع حوادث سایبری مبتنی بر هوش مصنوعی از طریق زیرساخت‌های دیجیتالی متصل، زنجیره‌های تامین نرم‌افزار و شبکه‌های تجاری در منطقه، علاقه مشترک دارند.

با این حال، توانایی آنها برای شناسایی و تعمیر چنین حوادثی بسیار متفاوت است. گردهمایی رهبران APEC در شنژن نیازی به ایجاد یک رژیم نظارتی مشترک هوش مصنوعی ندارد. در عوض می‌تواند نهادهای فنی APEC را موظف به توسعه چندین اقدام عملی کند. آنها می توانند ظرفیت ارزیابی مستقل ایجاد کنند، شبکه های CERT ملی و منطقه ای را تقویت کنند، زیرساخت های اصلاحی قابل اعتماد را میزبانی کنند و به عنوان واسطه بین ارائه دهندگان قابلیت های مرزی و کشورهایی که فاقد ظرفیت دفاعی معادل هستند، عمل کنند.

برای آسیا و اقیانوسیه، این شکاف اصلاح هوش مصنوعی را از یک آسیب‌پذیری انتزاعی به یک دستور کار ظرفیت‌سازی منطقه‌ای تبدیل می‌کند. این فقط در مورد مدیریت رقابت بین واشنگتن و پکن نیست. این در مورد جلوگیری از تبدیل آن رقابت - یا شکست در فناوری های تولید شده توسط آن - به یک خطر سیستماتیک منطقه ای است. این منطقه به جای اینکه منتظر بماند تا دو ابرقدرت هوش مصنوعی به تنهایی آنها را تعریف کنند، به شکل‌دهی مکانیسم‌های مهار و اصلاح علاقه دارد. رقابت ادامه خواهد داشت، اما همکاری باید اولویت داشته باشد رقابت هوش مصنوعی ادامه خواهد داشت.

حتی نشست ماه سپتامبر ترامپ و شی توافق بر سر یک کانال ارتباطی دوجانبه برای حوادث مرتبط با هوش مصنوعی ایجاد کرد، همچنین تفاوت‌ها را نشان می‌دهد: گزارش آمریکا آن را «گفت‌وگوی ابراطلاعاتی آمریکا و چین» نامید اما پکن آن را «گفت‌وگوی هوش مصنوعی چین و آمریکا» نامید. تفاوت نامگذاری نشان می دهد که واژگان مشترک چقدر محدود است. در چنین زمانی، ارتباطات بحران مهمتر می شود، نه کمتر. خط تلفن یک رژیم ایمنی نیست. زیرساخت ارتباطی است.

اما هر دو طرف به حداقل توافق نیاز دارند تا با یکدیگر همکاری کنند تا مسابقه هوش مصنوعی را برای خود و دیگران ایمن تر کنند. افشای خود می تواند خطرات امنیتی ایجاد کند، بنابراین اصل مناسب باید کالیبراسیون متقابل باشد: اطلاعات کافی باید به سرعت به اندازه کافی برای کاهش خطر مشترک حرکت کند، در حالی که جزئیاتی که می تواند آسیب پذیری های جدید ایجاد کند یا قابلیت های حساس را در معرض نمایش قرار دهد، محافظت می شود. هدف باید ساده باشد: جلوگیری از تبدیل شکست‌های فنی به بحران‌های ژئوپلیتیکی، تسریع بهبود و گسترش قابلیت دفاعی در جایی که بیشتر مورد نیاز است. ایالات متحده

و چین نیازی به توافق ندارند که چه کسی باید در مسابقه هوش مصنوعی برنده شود. آنها باید بر سر این که چه خطوط قرمزی را نمی توان در رقابت رد کرد و چگونه کشورهای قدرت متوسط ​​می توانند درگیر شوند، به توافق برسند.