معضل ایمنی هوش مصنوعی آمریکا و در نشست ترامپ-شی

در 12 سپتامبر، داریو آمودی، مدیر عامل آنتروپیک، مقاله‌ای با عنوان «ما باید در مرز قدم برداریم» منتشر کرد و استدلال کرد که آزمایشگاه‌های پیشرو باید عمدا سرعت دستیابی مدل‌هایشان به قابلیت‌های جدید را کاهش دهند. در عرض چند ساعت، رقبای اصلی او پشت سر او صف کشیدند: سام آلتمن گفت که OpenAI با تعهد آنتروپیک به میزبانی ارزیاب‌های مستقل مطابقت دارد، و ایلان ماسک پاسخ داد: «داریو درست می‌گوید». دو روز بعد، ایالات متحده

دونالد ترامپ، رئیس جمهور آمریکا، ترس از وقوع فاجعه هوش مصنوعی را فریبکاری خواند و مدعی شد که در میان واکنش های شدید علیه هوش مصنوعی و مراکز داده، «تنها کشوری که از این موضوع خوشحال است، چین است». این مبادله با ورود شی جین پینگ به واشنگتن در این هفته، اولین سفر دولتی یک رهبر چین در بیش از یک دهه گذشته است. بحث سرعت هوش مصنوعی معضلی است که دولت ترامپ نمی تواند در داخل آن را حل کند. فشار مردم برای کاهش سرعت رو به افزایش است، اما دولت متقاعد شده است که کاهش سرعت به معنای شکست در برابر چین است. ساده ترین راه از پکن عبور می کند.

اگر واشنگتن هوش مصنوعی آمریکایی را کند نکند، می‌تواند در عوض از طریق کنترل‌های سخت‌تر بر روی تراشه‌ها، محاسبات و دسترسی به مدل‌های آمریکایی، هوش مصنوعی چین را کند کند. این گزینه دقیقا به این دلیل وسوسه انگیز است که در آن حوزه ای است که فکر ایمنی و تمرکز بر رقابت، آزمایشگاه ها و کاخ سفید در آن اتفاق نظر دارند. اما ترامپ باید بداند که انتخاب این مسیر امیدوارکننده‌ترین نتیجه هوش مصنوعی روی میز نشست را نیز کاهش می‌دهد. فراخوان های عمومی برای کاهش سرعت توسعه هوش مصنوعی به شدت در حال افزایش است.

در یک نظرسنجی جدید پولیتیکو، 63 درصد از پاسخ دهندگان شانس واقعی را دیدند که هوش مصنوعی می تواند بشریت را از بین ببرد، و نظرسنجی CBS News/YouGov نشان داد که اکثر آمریکایی ها می خواهند توسعه هوش مصنوعی کند شود، اما متوقف نشود. با هفته های میان ترم باقی مانده، خطر هوش مصنوعی در حال تبدیل شدن به یک موضوع انتخاباتی است و هشدارهای خود آزمایشگاه ها به این اضطراب اعتبار جدیدی بخشیده است. دولت ترامپ این بحث را تهدیدی برای برتری آمریکا تلقی کرده است.

ترامپ گفت که می‌خواهد از چین جلوتر بماند، زیرا «هرکسی که هوش مصنوعی برنده شود، برنده است». اسکات بسنت، وزیر خزانه داری آمریکا هشدار داد که اگر چین در زمینه هوش مصنوعی پیروز شود، «پس فردا نیست» - «هیچ چیز [دیگر] اهمیتی ندارد». نظرسنجی پولیتیکو نشان داد که آمریکایی ها 43 تا 37 درصد در مورد اینکه آیا عقب ماندن از سایر کشورها در ازای هوش مصنوعی ایمن تر قابل قبول است یا خیر، اختلاف نظر دارند. با این حال، حامیان ترامپ نظر روشنی دارند: افرادی که در سال 2024 به او رای دادند، ماندن در رقابت هوش مصنوعی (50 درصد) را به اولویت دادن به مسائل ایمنی (38 درصد) ترجیح دادند.

از آنجایی که ترامپ تمایلی به کاهش سرعت توسعه هوش مصنوعی ندارد و خطر عقب افتادن آن را تهدید می‌کند، این امر باعث می‌شود که دولت به دنبال راهی برای جدی‌تر نگاه کردن به خطرات هوش مصنوعی بدون محدود کردن آزمایشگاه‌های آمریکایی باشد. آمودی یک پیشنهاد داشت. طرح مدیر عامل آنتروپیک توصیه می‌کند «تلاش برای هماهنگی با دولت‌های مستبد، تا حد امکان، همزمان با جدی گرفتن چالش‌های تأیید انطباق». پکن در صدر فهرست دولت های استبدادی برای گفتگو قرار دارد.

با این حال، حتی در حالی که آمودی خواستار هماهنگی بود، از دولت ترامپ خواست که «تراشه‌های هوش مصنوعی یا تجهیزات تولید نیمه‌رسانای قدرتمند» را از دست چینی‌ها دور نگه دارد، «عملیات قاچاق تراشه» و دسترسی از راه دور به مراکز داده را ببندد، «تقطیر غیرمجاز را سرکوب کند» و آزمایشگاه‌ها را در برابر سرقت مدل‌ها سخت کند.

آمودی صریحا با بسنت موافقت کرد که «پیشگام چینی در هوش مصنوعی خطری جدی برای ایالات متحده و جهان به همراه خواهد داشت». در چارچوب او، ایمنی در داخل به سرب بادوام در خارج از کشور بستگی دارد. این به یک منطقه واضح از همپوشانی اشاره می کند: کاخ سفید می تواند نیمی از دستور کار صنعت هوش مصنوعی "چین کند" را بپذیرد و در عین حال نیمه "آهسته خودمان" را رد کند. این در حال حاضر در حال پخش است. در اوایل این ماه، NSA، FBI و CISA مشترکا شش توسعه‌دهنده چینی از جمله DeepSeek و Alibaba را به تقطیر صنعتی مدل‌های مرزی آمریکایی متهم کردند.

در ژوئیه بسنت گفت واشنگتن می تواند شرکت هایی را که از مدل های آمریکایی سرقت می کنند تحریم کند. انتظار می‌رود ترامپ و شی همچنین در مورد اینکه آیا شرکت‌های چینی می‌توانند به اجاره محاسبات برتر Nvidia از طریق مراکز داده جنوب شرقی آسیا ادامه دهند یا خیر، بحث کنند، در حالی که تعلیق قانون وابسته‌ها، که لیست‌های سیاه صادرات را به شرکت‌های وابسته در فهرست گسترش می‌دهد، با آتش‌بس بوسان در نوامبر منقضی می‌شود. در نیمه هادی ها، محدود کردن دسترسی چینی ها تغییر بزرگتری خواهد بود.

دولت ترامپ تقریبا 10 شرکت چینی را برای خرید تراشه‌های H200 انویدیا ترخیص کرده است، اگرچه گمرک چین تقریبا همه تراشه‌ها را خارج کرده است. اما یک بسته محدودیت به کاخ سفید این امکان را می‌دهد که به رای‌دهندگان مضطرب بگوید که بر اساس ریسک هوش مصنوعی عمل می‌کند در حالی که از شرکت‌های آمریکایی چیزی نمی‌پرسد. هر چه بحث داخلی بلندتر شود، تجارت بهتر به نظر می رسد. پکن قبلا اتاق را خوانده و به این نتیجه رسیده است که این محتمل ترین نتیجه بحث سرعت هوش مصنوعی ایالات متحده است.

وزارت امور خارجه چین در پاسخ به مقاله آمودی هشدار داد که "ترس، رویارویی و رقابت شریرانه" حاکمیت جهانی هوش مصنوعی را مختل می کند. گلوبال تایمز دولتی، این کاهش سرعت را «کتاب بازی جنگ سرد» برای این بخش خواند. وزارت بازرگانی چین تهدید کرد که اگر واشنگتن از اتهامات تقطیر برای سرکوب شرکت های چینی استفاده کند، «اقدامات متقابل قاطعانه» اتخاذ خواهد کرد. در میان گزینه‌های دیگر، چین می‌تواند کنترل صادرات خاک‌های کمیاب را که تحت آتش‌بس بوسان به حالت تعلیق درآمده بود، احیا کند. خط رسمی پکن تمام مکالمه چینی نیست.

در بهار امسال، دو تن از برجسته‌ترین چهره‌های حکمرانی هوش مصنوعی چین - ژو لان، که ریاست کمیته تخصصی ملی چین در زمینه حکمرانی هوش مصنوعی را بر عهده دارد، و زنگ یی، رئیس مؤسسه ایمنی و حکمرانی هوش مصنوعی پکن - به بحثی در کاپیتول هیل که توسط سناتور برنی سندرز برگزار شد، پیوستند. شوئه رقابت ژئوپلیتیکی را تصدیق کرد اما خواستار ایجاد "مناطق امن" شد که در آن دانشمندان آمریکایی و چینی بتوانند استانداردها و پروتکل های ایمنی را با هم بسازند.

Zeng که مؤسسه‌اش 94 کلاس از تهدیدات ایمنی هوش مصنوعی را فهرست‌بندی کرده است، هفته گذشته هشدار داد که خطرات فاجعه‌بار هوش مصنوعی، از جمله "خطر پنهان انقراض انسانی" هر روز در حال افزایش است. زو و زنگ هر دو به پیش نویس اصول حاکمیت ملی هوش مصنوعی چین کمک کردند. دولت ترامپ اکنون یک سیستم ایمنی واقعی هوش مصنوعی در دسترس دارد. در نیویورک در 20 سپتامبر، بسنت یک طرح دائمی چین و ایالات متحده را پیشنهاد کرد. گفت و گوی هوش مصنوعی با روشی برای هر طرف که حوادث هوش مصنوعی را به اندازه کافی جدی نشان دهد تا امنیت ملی را تهدید کند.

یک کانال ثابت برای دور دوم ترامپ اولین کانال خواهد بود: مشورت‌های هوش مصنوعی او و شی در ماه می در پکن هرگز رسمی نشد. با این حال، پاسخ پکن نامشخص بود. جیمیسون گریر، نماینده تجاری ایالات متحده گفت که کنترل صادرات تراشه بخشی از بحث مکانیزم ایمنی هوش مصنوعی نیست. این جدایی غریزه درستی است، اما پکن احتمالا این دو موضوع را به‌طور جدایی ناپذیر مرتبط می‌بیند. اگر چین «ایمنی هوش مصنوعی» را مترادف مهار بداند، صداهایی مانند صدای زو و زنگ در خانه از دست می‌دهند.

پکن نگران خواهد بود که هر اطلاع رسانی از طریق کانال جدید بهانه ای برای محدودیت های جدید برای شرکت های چینی ایجاد کند. چین-آمریکا مکانیسم های مدیریت بحران در حال حاضر سابقه ضعیفی دارند. پس از اینکه ایالات متحده یک بالون چینی در ارتفاع بالا را که در ماه فوریه 2023 از سرزمین اصلی ایالات متحده عبور کرده بود سرنگون کرد، پکن تماس وزیر دفاع ایالات متحده را رد کرد و بعدا توضیح داد که واشنگتن "جو مناسب" را برای گفتگو ایجاد نکرده است. یک کانال حادثه هوش مصنوعی که چین آن را گسترش جنگ فناوری می‌داند، دقیقا زمانی که به آن نیاز باشد، خاموش می‌شود.

آمودی این اعتراض را پیش‌بینی کرد و آن را رد کرد و استدلال کرد که محدودیت‌ها «اهرم‌های دموکراسی را افزایش می‌دهد و احتمال توافق در آینده را بیشتر می‌کند». این ممکن است برای معاهده‌ای که سال‌ها بعد از موضع قوی مذاکره می‌شود صدق کند، اما نه برای کانال حادثه‌ای که بر اساس اعتماد روزمره اجرا می‌شود. خود آمودی نوشته است که به اشتراک گذاری اطلاعات در مورد مدل های ناهماهنگ می تواند حتی بدون توافق های رسمی ارزش داشته باشد. این دقیقا همان کاری است که یک کانال اطلاع رسانی انجام می دهد. واشنگتن می تواند این معضل را بدون شکستن نشست ترامپ و شی مدیریت کند.

اگر نشست ترامپ و شی به اولین تعهد اساسی نیاز دارد، مقاله آمودی تعهدی ساده را پیشنهاد می کند: توافقی که هیچ یک از طرفین از هوش مصنوعی برای تولید سلاح های بیولوژیکی استفاده نکنند. فراتر از آن، رهبران باید مکانیسم اعلان را به عنوان یک کانال ایمنی مستقل ایجاد کنند که از اختلافات تجاری و کنترل فناوری محافظت شود، و آن را با یک مسیر فنی که ارزیاب‌های دولتی در مرکز استانداردها و نوآوری هوش مصنوعی وزارت بازرگانی را با کارشناسانی مانند Xue و Zeng همراه می‌کند، همراه کنند.

این مسیر می‌تواند آنچه را که به‌عنوان یک حادثه گزارش‌دهی به حساب می‌آید و آزمایش‌های مشترک برای خطرات بیولوژیکی و سایبری بدون دست زدن به تراشه‌ها، محاسبه و وزن‌های مدل در جایی که مسابقه واقعا اجرا می‌شود، ایجاد کند. این امر همچنین در خدمت اولویت ایالات متحده است: اگر بسنت درست می‌گوید که تهدید واقعی برای ایمنی هوش مصنوعی «اجازه دادن به هر کشوری غیر از ایالات متحده برای تعیین استاندارد جهانی» است، واشنگتن باید بخواهد زمانی که کارشناسان چینی به نوشتن یک استاندارد کمک می‌کنند در اتاق حضور داشته باشد. برای اینکه همکاری در زمینه ریسک هوش مصنوعی عملی تر شود، ایالات متحده باید محدودیت های خود را آن چیزی که هستند بنامد.

اجرای بر علیه تقطیر مدل یا قاچاق تراشه ممکن است به دلایل مالکیت معنوی یا امنیتی توجیه شود، اما فروش آن به عنوان پاسخی به ریسک هوش مصنوعی به کاخ سفید اجازه می‌دهد از جنبه داخلی ایمنی هوش مصنوعی طفره رود و در عین حال تلاش دوجانبه را مسموم کند. سوال داخلی نیاز به پاسخ داخلی دارد. Bessent نسبت به نگرانی های ایمنی باز است.

او در 15 سپتامبر در برابر کمیته خدمات مالی مجلس شورای اسلامی، معافیت مسئولیتی که آزمایشگاه‌ها به دنبال آن هستند را رد کرد و استدلال کرد که ایمنی زمانی تضمین می‌شود که توسعه‌دهندگان «مسئول آنچه می‌سازند و تولید می‌کنند» باشند. ارزیاب‌های مستقلی که Anthropic و OpenAI برای میزبانی آنها توافق کرده‌اند، نیازی به عقب‌نشینی ایالات متحده از کسی ندارند. در این بحث از واشنگتن خواسته شد که به طور داوطلبانه توسعه هوش مصنوعی را کند کند. پاسخ دولت این است که چین باید به جای آن مجبور به کاهش سرعت شود.

این ممکن است در خانه خوب عمل کند، اما هوش مصنوعی آمریکایی را ایمن‌تر نمی‌کند و خطر نابودی چین و ایالات متحده را به دنبال دارد. حتی قبل از شروع آن، خطر هوش مصنوعی را کانالی کنید. ترامپ اصرار دارد که رقابت هوش مصنوعی برنده همه چیز است. این هفته او می تواند نشان دهد که جلوتر از چین ماندن و صحبت کردن با آن در مورد خطرات مشترک متقابل نیست.