چین درخواست سیلیکون ولی برای کاهش سرعت هوش مصنوعی را نمی خرد

داریو آمودی، مدیر عامل آنتروپیک، در یک پست وبلاگی که روز شنبه با عنوان «ما باید در مرز قدم برداریم» نوشت: «پیش‌رفت جهانی نیازمند همکاری با چین است، کشوری استبدادی با پیشرفته‌ترین قابلیت‌های هوش مصنوعی». دولت چین و شرکت‌های هوش مصنوعی به صراحت اعلام کرده‌اند که عمیقا نسبت به پیشنهاد Amodei تردید دارند، اما نه به این دلیل که می‌خواهند کورکورانه به رقابت ادامه دهند یا باور ندارند که این فناوری خطرات جدی ایجاد می‌کند. The problem the Chinese government and Chinese AI companies see is far simpler.

آنها فکر می کنند که یک معامله بد به آنها پیشنهاد شده است. کوین ژو، بنیانگذار صندوق سرمایه گذاری فناوری Interconnected Capital و کارمند سابق کاخ سفید در دوره ریاست جمهوری باراک اوباما، می گوید: «جامعه ایمنی هوش مصنوعی در چین در حال رشد است و در بسیاری از نگرانی های آزمایشگاه های آمریکایی نیز سهیم است. «فاصله بین یک چشم‌انداز تحت رهبری آنتروپیک است که فقط چین را تحت سلطه و محدود می‌کند تا قبل از صحبت کردن، اهرم را به حداکثر برساند.

در همین حال، چین تنها در صورتی صحبت خواهد کرد که از موضع برابر با آن برخورد شود.» آمودی نوشت که «بخش کلیدی» استراتژی کاهش سرعت باید تضمین این باشد که ایالات متحده و سایر دموکراسی‌ها «تا حد امکان» پیشروی خود را در توسعه هوش مصنوعی نسبت به دولت‌هایی مانند چین حفظ کنند. برای انجام این کار، او از ایالات متحده خواست تا اقداماتی از جمله سرکوب قاچاق چیپس و جلوگیری از تقطیر مدل های غیرمجاز توسط شرکت های چینی را انجام دهد. آلوین وانگ گریلین، یکی از همکاران ارشد موسسه سیاست جامعه آسیا، می گوید: «مقاله او به طور خاص می گوید که سرعت هوش مصنوعی مشروط به افزایش برتری نسبت به چین است.

Center for China Analysis and a digital fellow at the Stanford Institute for Human-Centered AI. "که باعث می شود پیشنهاد برای خوانندگان چینی غیر معتبر باشد." آمودی در ادامه به چیزی که ممکن است شبیه یک جهش قهرمانانه در منطق به نظر برسد، ادامه داد: او استدلال کرد که تضعیف صنعت هوش مصنوعی چین به نوعی به آمریکا اهرم بیشتری می‌دهد و «احتمال توافق در آینده» را بیشتر می‌کند. How, exactly, that is supposed to entice Beijing to come to the negotiating table is left unexplained.

(به اعتبار آمودی، او بعدا در یک مصاحبه تلویزیونی اعتراف کرد که "هیچ ایده ای برای مذاکره با چین ندارد.") مقامات دولتی، محققان هوش مصنوعی و دیگر مفسران برجسته در چین که به Amodei پاسخ دادند، استدلال نکرده‌اند که هوش مصنوعی هیچ خطری ندارد. اما بسیاری از آنها آشکارا از این ایده که کشورشان باید همزمان به عنوان یک شریک اساسی حکومتی و رقیبی که باید محدود شود، رفتار شود، ناراضی هستند. هنگامی که در مورد پست وبلاگ آمودی در روز دوشنبه در یک کنفرانس مطبوعاتی از او پرسیده شد، گو جیاکون، سخنگوی وزارت امور خارجه چین، سخنانش را کوتاه نکرد:

escribed the proposal as “fear-mongering, confrontation, and vicious competition” that would only hamper global AI cooperation efforts. The next day, the ministry also stressed that “China puts equal emphasis on development and security in terms of AI.” نظرات متفاوت منعکس کننده دلیل دیگری است که پکن ممکن است نسبت به سایر مخاطبان کمتر از هشدارهای مدیر عامل آنتروپیک استقبال کند.

برخلاف بسیاری از بلندترین صداها در سیلیکون ولی، رهبران چین اساسا نگران خطرات به اصطلاح وجودی ناشی از هوش مصنوعی نیستند، مانند احتمال اینکه یک عامل سرکش بتواند همه افراد روی زمین را بکشد. مانند بسیاری از حوزه های سیاست دیگر، نگرانی غالب پکن این است که هوش مصنوعی می تواند ثبات اجتماعی داخلی را مختل کند یا تسلط حزب کمونیست چین بر قدرت را تهدید کند. میشل نی می‌گوید: «پکن پذیرش این تماس‌ها را تا حدودی دشوار می‌بیند، زیرا نسبت به امکان دستیابی به AGI تردید دارد و در روایتی که هوش مصنوعی خطرات شدیدی برای بشریت ایجاد می‌کند تردید دارد.»

، یک همکار مدعو در مرکز امنیت جدید آمریکا که بر امنیت ملی و هوش مصنوعی تمرکز داشت. اگرچه پکن شروع به تشخیص خطرات از دست دادن کنترل کرده است، خطری که به نظر می‌رسد پکن بیش از همه نگران آن است، تهدیدی است که هوش مصنوعی می‌تواند برای حاکمیت ح‌ک‌چ ایجاد کند. چن ییسین، وزیر امنیت دولتی چین در مقاله‌ای اخیر هشدار داد که هوش مصنوعی می‌تواند به اطلاعات نادرست سیاسی، حملات سایبری، جاسوسی، ناآرامی‌های اجتماعی و تهدیدات نظامی جدید دامن بزند.

او زمان بسیار کمتری را صرف انواع سناریوهای روز قیامت کرد که اغلب افراد را در آزمایشگاه‌های هوش مصنوعی مرزی ایالات متحده مشغول می‌کند. نی می‌گوید: «سیاست‌گذاران چینی تمایل دارند درخواست‌های شرکت‌های آمریکایی برای ایمنی هوش مصنوعی را به عنوان ابزاری بخوانند. آنها بر این باورند که شرکت‌های آمریکایی به دنبال افزایش ارزش خود پیش از عرضه‌های اولیه اولیه یا کاهش سرعت رقبای خود هستند که در این مرحله عمدتا شرکت‌های چینی هستند. بسیاری از افرادی که در صنعت هوش مصنوعی چین کار می‌کنند، که به طور گسترده بر عرضه مدل‌های کم‌هزینه و وزن باز تمرکز کرده‌اند، این تردید نیز وجود دارد.

در مقاله‌ای به اشتراک گذاشته شده که روز یکشنبه منتشر شد، یک محقق در DeepSeek گفت که او معتقد است هوش مصنوعی می‌تواند جامعه بشری را به یکی از دو افراطی سوق دهد. In the first, powerful AI is broadly available and raises living standards. در مرحله دوم، تعداد انگشت شماری از شرکت‌های فناوری پیشرفته‌ترین سیستم‌ها و منابعی را که به همراه آن‌ها ارائه می‌شوند کنترل می‌کنند، و این کار را برای دیگران سخت‌تر می‌کند. مهندس DeepSeek نوشت: "به همین دلیل است که من هنوز معتقدم که پیشرفته ترین اطلاعات باید به روشی باز و ارزان در دسترس همه قرار گیرد." “I do not trust Anthropic or OpenAI to do that.

And I especially do not want Anthropic to control the most advanced artificial intelligence or AGI.” هیچ کدام از اینها به این معنی نیست که همکاری ایالات متحده و چین در زمینه ایمنی هوش مصنوعی محکوم به فنا است. گزارش ها حاکی از آن است که مذاکرات اولیه بین دو کشور پیش از سفر برنامه ریزی شده شی جین پینگ رهبر چین به واشنگتن در اواخر ماه جاری برای دیدار با دونالد ترامپ، رئیس جمهور آمریکا، در جریان است. There are plenty of reasons to be hopeful that these discussions will result in some progress, even though it may be incremental.

هر دو دولت در مورد برخی از موارد مشابه، از جمله تهدیدات امنیت سایبری، سوء استفاده از مدل‌های قدرتمند، و احتمال اینکه سیستم‌های هوش مصنوعی با قابلیت فزاینده‌ای می‌توانند به شیوه‌های غیرمنتظره رفتار کنند، ابراز نگرانی کرده‌اند. نی می‌گوید: «افرادی هستند که واقعا از هر دو طرف به ایمنی هوش مصنوعی اهمیت می‌دهند، و این احتمال وجود دارد که بتوانند با حسن نیت در موضوعاتی با دامنه محدود شرکت کنند.

او می‌گوید آنچه که می‌تواند بیش از هر چیز سر سوزن را به حرکت درآورد، طراحی روشی معتبر برای هر کشوری است تا تأیید کند که کشور دیگر به تعهدات خود پایبند است. با این حال، برخی دیگر نگران هستند که لفاظی های آمودی و دیگر رهبران فناوری ایالات متحده در مورد تضعیف چین می تواند اعتماد شکننده ای را که مذاکرات دیپلماتیک به آن بستگی دارد، از بین ببرد. Kristy Loke, a research fellow at the AI safety nonprofit MATS Research, says that Amodei’s missive may ultimately backfire. او می‌گوید: «داریو یکی از معدود اهرم‌های موجود برای کاهش ریسک‌هایی را که ادعا می‌کند جدی می‌گیرد، تضعیف می‌کند.