ایالات متحده و چین با خطرات شدید هوش مصنوعی روبرو هستند، اما بی اعتمادی متقابل همکاری را متوقف می کند

پکن - ایالات متحده و چین هر دو گرفتار نگرانی‌های ایمنی هستند زیرا پیشرفت‌های سریع خود در هوش مصنوعی را در نظر می‌گیرند، اما تشدید رقابت و بی‌اعتمادی عمیق متقابل می‌تواند آن نوع همکاری را که کارشناسان می‌گویند برای جلوگیری از بزرگترین خطرات این فناوری حیاتی استراتژیک ضروری است، از مسیر خارج کند. هوش مصنوعی به طور فزاینده ای در مرکز رقابت واشنگتن و پکن قرار دارد و انتظار می رود موضوع اصلی بحث در نشست هفته آینده در واشنگتن بین دونالد ترامپ، رئیس جمهور آمریکا و شی جین پینگ، رهبر چین باشد.

این اجلاس در حالی برگزار می‌شود که رهبران و محققان هوش مصنوعی در ایالات متحده هشدار می‌دهند که شرکت‌ها باید سرعت توسعه هوش مصنوعی را کاهش دهند و به حوادث اخیر مربوط به عوامل مستقل اشاره کردند. ترامپ چنین نگرانی‌هایی را به‌عنوان یک «فریب» رد کرده و در عین حال با مدیران اجرایی مانند داریو آمودی، مدیرعامل آنتروپیک موافق است که ایالات متحده باید سلطه هوش مصنوعی بر چین را از طریق کنترل‌های صادراتی و سایر اقدامات حفظ کند. چین که هوش مصنوعی را به شدت تنظیم می‌کند و تا حد زیادی از نگرانی‌های وجودی ناشی از این فناوری در ایالات متحده اجتناب می‌کند، درخواست‌ها برای کاهش سرعت توسعه خود را به‌عنوان هدف مستقیم پیشرفت خود تفسیر کرده است. ایالات متحده

شرکت‌ها می‌گویند که بخش هوش مصنوعی چین تا حدی توسط «تقطیر غیرقانونی» پیشرفته‌ترین مدل‌هایشان در مقیاس بزرگ هدایت می‌شود. مقامات چینی که می گویند تقطیر یک روش متعارف است که شرکت های آمریکایی نیز در مدل های چینی از آن استفاده می کنند، به نوبه خود مدیران هوش مصنوعی آمریکا را به تلاش برای جلوگیری از رقابت متهم می کنند. سرهنگ ارشد ژو کیچائو، صدای برجسته هوش مصنوعی ارتش چین و امنیت ملی، خواستار "همکاری" با ایالات متحده شد.

در حالی که نسبت به "رقابت شرورانه" هشدار داد. ژو، مدیر مؤسسه فناوری دفاعی و مطالعات استراتژیک در دانشگاه فناوری دفاع ملی ارتش آزادیبخش خلق، گفت: «از آنجایی که با توسعه فناوری‌های نوظهور، قطعا امکانات زیادی به همراه دارد. او روز سه‌شنبه در مجمع Xiangshan در پکن به NBC News گفت: «از یک طرف، این به بشریت سود می‌رساند، اما از سوی دیگر، ملاحظاتی در مورد خطرات نیز وجود دارد.

هوش مصنوعی و نگرانی‌های پیرامون آن تمرکز اصلی در انجمن دفاعی سالانه بود، جایی که اتاق‌ها مملو از دانشمندان، مقامات نظامی و مفسرانی از ایالات متحده و سایر کشورها بود، که بسیاری از آنها برای انتخاب سمت در رقابت هوش مصنوعی آمریکا و چین تحت فشار هستند. اگرچه ترامپ و شی در نشست ماه مه خود در پکن بر سر برگزاری مذاکرات هوش مصنوعی در سطح بالا به توافق رسیدند، هیچ چنین گفتگوهایی قبل از سفر هفته آینده شی جین‌پینگ به طور علنی تایید نشده است. وو شینبو، رئیس مؤسسه مطالعات بین‌المللی در دانشگاه فودان در شانگهای، گفت که چین محتاط است که از این مذاکرات برای کند کردن بیشتر پیشرفت خود استفاده شود.

او در این مجمع گفت: «از سوی دیگر، من فکر می‌کنم هر دو طرف باید در مورد خطرات ناشی از توسعه هوش مصنوعی بنشینند، و افزود که «پیش از اینکه دو طرف بتوانند واقعا اجماع مهمی در این مورد ایجاد کنند، راه زیادی طول خواهد کشید.» فرانچسکا جووانینی، مدیر اجرایی ابتکار مرکز بلفر در هاروارد در مدیریت اتم، گفت: برای اینکه همکاری ایالات متحده و چین کارساز باشد، ایالات متحده باید برای هر دو طرف باز باشد. «ایالات متحده بر اساس نوع بسیار خاصی از نظریه عمل می کند.

و تئوری این است که هرکس در مسابقه هوش مصنوعی برنده شود، همه چیز را برنده می‌شود.» او در مصاحبه‌ای در این انجمن گفت: «بنابراین اگر این ایده بازی حاصل جمع صفر شما باشد، چیزی را واگذار نخواهید کرد.» جورج چن، شریک و رئیس بخش دیجیتال در گروه آسیا، یک شرکت مشاوره استراتژیک آمریکایی مستقر در واشنگتن، گفت که بعید است چین با کاهش سرعت به دستور شرکت های هوش مصنوعی ایالات متحده موافقت کند. او سه‌شنبه در یک مصاحبه تلفنی از هنگ کنگ گفت: «فکر نمی‌کنم آنچه در ایالات متحده اتفاق می‌افتد واقعا برای چین مهم باشد».

آن‌ها می‌خواهند هوش مصنوعی را با سرعت خودشان انجام دهند، و تا حد زیادی بسیاری از افراد در صنعت، در دولت، احساس غرور می‌کنند که بالاخره این فرصتی برای چین است.» چین که مدل‌های هوش مصنوعی «وزن باز» خود را ابزاری برای دیپلماسی می‌بیند، این فناوری را به عنوان یک «کالا عمومی» جهانی که باید توسط جامعه بین‌المللی مدیریت شود، تبلیغ کرده است. در نشستی در هند در روز یکشنبه، شی به گروه 11 عضوی بریکس پیشنهاد کرد که به توسعه هوش مصنوعی منبع باز کمک کنند و از آنها خواست به ابتکار مدیریت جهانی هوش مصنوعی چین بپیوندند.

اما چین همچنین به خوبی از خطراتی که در موفقیت هوش مصنوعی خود با آن روبه‌رو است آگاه است، شی در کنفرانسی در شانگهای در ماه ژوئیه گفت که مقامات باید «اطمینان حاصل کنند که هوش مصنوعی همیشه تحت کنترل انسان است». صنعت باید بایگانی های اجباری را انجام دهد و ارزیابی های امنیتی را به مقامات ارائه کند، زیرا بسیاری از شرکت ها باید پرونده های فنی را به یک ثبت الگوریتم ارسال کنند. دولت همچنین قوانینی را وضع کرده است که الزامات واترمارک و ایمنی را الزامی می کند.

مهمترین خطرات، تهدیدهای بالقوه برای حزب کمونیست حاکم چین است، که نگران است این فناوری علیه خود سلاح به کار گرفته شود و برای مثال، کنترل های ایدئولوژیکی را برای اطمینان از مطابقت محصولات با ارزش های سوسیالیستی اعمال کرده است. وزیر امنیت چین، چن یی‌شین، گفت: «نیروهای متخاصم و افراد با انگیزه‌های پنهان از فناوری‌های مولد هوش مصنوعی - مانند ویدیوهای صوتی عمیق، گرافیک‌ها و متن‌های تولیدشده با هوش مصنوعی و مزارع ربات‌های هوشمند - برای تولید شایعات سیاسی، انتشار اطلاعات مضر و تحریک رویارویی با هزینه کم و در مقیاس وسیع سوء استفاده می‌کنند.

در مقاله ای در روز یکشنبه در مجله امنیت سایبری چین که تحت حمایت دولت قرار گرفت، گفت: کنترل بیشتر احزاب و نظارت دولت بر هوش مصنوعی. چن گفت هوش مصنوعی می‌تواند کمپین‌های اطلاعات نادرست و حملات سایبری به زیرساخت‌های حیاتی چین را فعال کند و با اشاره آشکار به ایالات متحده، هشدار داد که کشورهایی که در هوش مصنوعی «مزیت‌هایی» دارند، می‌توانند دسترسی سایر کشورها را به فناوری‌هایشان محدود کنند.

او همچنین در مورد جاسوسی و درز اطلاعات هشدار داد، چند روز پس از انتشار گزارشی که Anthropic نشان می‌داد آزمایشگاه‌های هوش مصنوعی چینی درخواست‌های مخفیانه را به مدل‌های Claude خود ارسال کرده‌اند، که برخی از آنها حاوی اطلاعات حساس افراد، شرکت‌های بزرگ و بازیگران وابسته به دولت است. مانند ایالات متحده، چین نیز به طور فزاینده ای هوش مصنوعی را به عنوان یک موضوع امنیت ملی می بیند، به ویژه محققانی که روی آن کار می کنند. روز سه‌شنبه، چین محدودیت‌های سفر برای شهروندانش را تشدید کرد و از خروج برخی که کارشان پیامدهایی بر امنیت فناوری ملی دارد، منع کرد.

قوانین جدید به یک رژیم نظارتی گسترده هوش مصنوعی اضافه می کند که شامل محدودیت هایی برای همراهان هوش مصنوعی به دلیل نگرانی های مربوط به سلامت روان، برچسب گذاری اجباری محتوای تولید شده توسط هوش مصنوعی و الزامی است که مدل های آموزش دیده باید از داده های مطابق با ارزش های چینی استفاده کنند. کارشناسان می گویند که ممکن است ایالات متحده و چین در نهایت با یکدیگر در زمینه هوش مصنوعی همکاری کنند، یک بحران بزرگ است، دقیقا مانند بحران موشکی کوبا در سال 1962 که ایالات متحده و اتحاد جماهیر شوروی آن زمان را مجبور به شروع مذاکره در مورد سلاح های هسته ای کرد.

دیوید فینکلشتاین، معاون مرکز تحلیل های دریایی، گفت که هوش مصنوعی در حال حاضر پیامدهای نظامی عمیقی داشته است، از جمله برای هدف گیری، و می تواند در سیستم های پشتیبانی کننده از زنجیره فرماندهی هسته ای ادغام شود. او در این فروم گفت: «این چیز ترسناکی است و من فکر می‌کنم اینجا جایی است که دو طرف باید بنشینند و با هم صحبت کنند.

دیوید سانتورو، رئیس و مدیر اجرایی Pacific Forum International، یک اندیشکده مستقر در هونولولو، گفت: رقابت ایالات متحده و چین اجتناب ناپذیر است، اما هنوز فضا برای مذاکره دو طرف وجود دارد، زیرا مواضع مربوطه آنها «لزوما چندان ریشه‌دار نیست». او در مصاحبه‌ای در این انجمن گفت: «هنوز راه‌هایی وجود دارد که بتوانیم یکدیگر را بهتر درک کنیم و امیدواریم مکانیسم‌هایی پیدا کنیم تا بتوانیم این فناوری در حال ظهور را بهتر کنترل کنیم». سانتورو گفت که او "خیلی خوشبین نیست"، با این حال، در مورد چشم انداز یک توافق بزرگ در کوتاه مدت.

او گفت: «من نمی‌دانم که بتوانیم به موقعیتی برسیم که در مورد چیزی اساسی به توافق برسیم. "اما حداقل قدم اول باید صحبت کردن با یکدیگر باشد." اریک باکولینائو و ارین تان از پکن و میتیل آگاروال از هنگ کنگ گزارش دادند.