همانطور که رهبران هوش مصنوعی در مورد فاجعه هشدار می دهند، ایالات متحده و چین از تماس های کاهش سرعت خودداری می کنند

از آنجایی که رهبران صنعت خواهان کاهش سرعت جهانی در توسعه هوش مصنوعی به خاطر بشریت هستند، این دو ابرقدرت که باعث پیشرفت سریع این فناوری می‌شوند، هیچ نشانه‌ای از اینکه قصد دارند ترمز کنند، ارائه نکرده‌اند.

ایالات متحده و چین که در یک رقابت استراتژیک شدید محبوس شده‌اند، هرکدام درخواست‌های کاهش سرعت توسعه هوش مصنوعی را رد کرده‌اند، حتی در شرایطی که مدیران و محققان صنعت بر نیاز به همکاری بین‌المللی برای جلوگیری از قرار گرفتن انسان در معرض خطرات فاجعه‌بار – یا حتی وجودی – تاکید دارند.

در حالی که دونالد ترامپ، رئیس جمهور ایالات متحده و شی جین پینگ، رئیس جمهور چین، برای سومین بار در سال جاری برای دیدار چهارشنبه در واشنگتن دی سی آماده می شوند، انتظارات برای همکاری در زمینه ایمنی هوش مصنوعی اندک است. ناظران اقداماتی را پیش بینی کردند که در بهترین حالت، بسیار کمتر از کاهش هماهنگی است که به گفته بسیاری از کارشناسان لازم است.

آلوین وانگ گریلین، کارشناس ارشد مرکز تحلیل چین در موسسه سیاست جامعه آسیا، با توصیف نرده‌های محافظ توافق شده بین ایالات متحده و چین به عنوان «نزدیک به پیش‌شرطی» برای هوش مصنوعی ایمن، گفت: «دو کشور میزبان تقریبا همه آزمایشگاه‌های مرزی و اکثر مدل‌هایی هستند که مردم دانلود می‌کنند».

وانگ گریلین گفت: «رژیم ایمنی که مدل های یک طرف را پوشش می دهد نیمی از مشکل را پوشش می دهد.

تحلیلگران گفتند که مانع چشم انداز همکاری ایالات متحده و چین، بی اعتمادی متقابل و برداشت های متفاوت از خطرات اولیه است.

ترامپ ترس در مورد هوش مصنوعی را به عنوان یک "توطئه" رد کرده و پیشنهاد کرده است که به نرده های محافظ تحت رهبری او نیازی نیست و بر نیاز آمریکا به ماندن در فناوری مرزی از چین تاکید کرده است.

ترامپ که تسلط بر هوش مصنوعی را برای حفظ موقعیت آمریکا به عنوان قدرت برتر جهانی بسیار مهم می‌دانست، روز سه‌شنبه بار دیگر امیدها را برای همکاری بین‌المللی ریخت و به مجمع عمومی سازمان ملل گفت که واشنگتن با هرگونه «طرح جهانی‌گرایی» برای کنترل هوش مصنوعی مخالفت خواهد کرد.

چین رویکرد عملی تری را برای مقررات هوش مصنوعی در پیش گرفته است - با انتشار سومین تکرار چارچوب امنیتی خود در این ماه - اما به طور مشابه درخواست ها برای کاهش سرعت را رد کرده است و ترس از خطرات وجودی پخش شده در سیلیکون ولی را "ترس زا" رد کرده است.

در حالی که مقامات چینی نگرانی‌های خود را در مورد خطرات هوش مصنوعی مطرح کرده‌اند، آنها آن را به نگرانی‌های غیرعادی‌تر از جمله امنیت سایبری و اقتدار حزب کمونیست حاکم مرتبط می‌دانند.

چن یی‌شین، وزیر امنیت دولتی چین در مقاله‌ای نادر در این ماه هشدار داد که «نیروهای متخاصم» از هوش مصنوعی برای «ساخت شایعات سیاسی» و «تحریک احساسات متخاصم» استفاده می‌کنند که «امنیت سیاسی، امنیت نهادی و امنیت ایدئولوژیک» را تهدید می‌کند.

سان چنگهائو، یکی از همکاران مرکز امنیت و استراتژی بین‌المللی در دانشگاه تسینگ‌هوا در پکن، می‌گوید: «چین همچنین به طور فزاینده‌ای از دست دادن کنترل، سوء استفاده و خطرات سایبری را تشخیص می‌دهد، اما نسبت به این احتمال که «ایمنی هوش مصنوعی» می‌تواند توجیهی برای محدود کردن دسترسی چینی‌ها به تراشه‌ها، رایانه‌ها یا بازارها باشد، بسیار حساس است.

سان گفت: «بنابراین عمیق‌ترین مانع این است که آیا هر دو طرف بتوانند همکاری ایمنی واقعی را از رقابت گسترده‌تر فناوری جدا کنند یا خیر.

سان افزود: «اگر هر بحث ایمنی به کنترل صادرات یا کند کردن توسعه چین مرتبط باشد، طبیعتا پکن هدف از همکاری را زیر سوال خواهد برد.»

تاکنون، تنها پیشنهادی که هر دو طرف به طور علنی مطرح کرده اند، گفتگوی آمریکا و چین و مکانیسم اطلاع رسانی برای گزارش تهدیدات امنیت ملی بوده است.

به گفته کارشناسان، در حالی که این اقدامات اولین گام‌های مثبت خواهد بود، اما ایالات متحده و چین همچنان باید در مورد قابلیت‌ها یا کاربردهای هوش مصنوعی به توافق برسند که برای جلوگیری از بزرگ‌ترین تهدیدها باید غیرمجاز باشد.

هیچ اتفاق نظری در بخش هوش مصنوعی در مورد نحوه تنظیم این فناوری وجود ندارد - یا حتی اینکه آیا اصلا به نظارت دولتی نیاز است یا خیر.

در حالی که رهبران هوش مصنوعی مانند داریو آمودی، مدیرعامل آنتروپیک و سام آلتمن، مدیر عامل OpenAI، خواستار کاهش سرعت و مقررات بیشتر شده‌اند، برخی کارشناسان استدلال می‌کنند که چنین تماس‌هایی به اندازه کافی پیش نمی‌روند و توسعه باید به طور کامل متوقف شود.

دیوید کروگر، استادیار دانشگاه مونترال که در ایمنی هوش مصنوعی متخصص است، گفت: "هماهنگی بین المللی کاملا حیاتی است. ما به چیزی بیش از پادمان نیاز داریم."

ما به یک تعلیق بین‌المللی فوری و نامحدود برای توسعه هوش مصنوعی مرزی نیاز داریم.»

دیگر شخصیت‌های کلیدی، از جمله جنسن هوانگ، مدیرعامل انویدیا و مارک زاکربرگ، مدیرعامل متا، نیاز به نظارت خارجی را کم اهمیت جلوه داده‌اند و بر پتانسیل هوش مصنوعی برای ارائه مزایای تحول‌آفرین برای جامعه تاکید کرده‌اند.

در میان کسانی که از سرعت سریع توسعه هوش مصنوعی نگران هستند، خود-بهبودی بازگشتی، که توصیف می‌کند زمانی که مدل‌های هوش مصنوعی یاد می‌گیرند خودشان را بهبود ببخشند، اغلب به عنوان یک نقطه اوج حیاتی شناخته می‌شود.

آمودی در مقاله‌ای در این ماه که بخش هوش مصنوعی را ترغیب می‌کرد تا «سرحد» را طی کند، گفت که ایالات متحده و چین باید توافقی را برای «محدود کردن اساسی» نرخ توسعه هوش مصنوعی مورد بحث قرار دهند، در حالی که اذعان داشتند که با توجه به پتانسیل یک طرف قانون‌شکن برای تغییر توازن قدرت جهانی، هرگونه معامله بعید است.

اتو بارتن، مدیر رصدخانه خطر وجودی مستقر در هلند، گفت: "ایالات متحده و چین باید بر روی خطوط قرمز قابلیت‌های هوش مصنوعی توافق کنند. از همه مهمتر، هوش مصنوعی هرگز نباید به اندازه کافی برای خودسازی بازگشتی قدرتمند شود."

بارتن افزود: "ما نمی دانیم که حلقه بازخورد مثبت هوش مصنوعی های هوشمندتر که هوش مصنوعی همیشه هوشمندتر را بدون نظارت انسان ایجاد می کنند به کجا ختم می شود و این عوامل در نهایت قادر به انجام چه کاری خواهند بود."

وانگ گریلین گفت که واشنگتن و پکن باید در مورد آنچه که یک «قابلیت غیرقابل قبول» و یک استاندارد مشترک برای آزمایش مدل‌های مرزی است، به توافقی برسند، که به طور ایده‌آل توسط یک نهاد بین‌المللی مستقل که توسط چندین کشور تأمین مالی می‌شود.

اما وانگ گریلین اذعان کرد که بی اعتمادی دورنمای توافق را مختل می کند و مقامات ایالات متحده احتمالا تأیید هر توافقی را غیرممکن می بینند.

او گفت: "تأیید برای نرم افزارهایی که نمی توانید ببینید سخت است."

سان گفت که ایالات متحده می تواند مسیر همکاری را با "کشیدن یک خط واضح تر" بین سیاست هایی با هدف ایمنی هوش مصنوعی و سیاست هایی که برای حفظ مزیت فناوری واشنگتن در نظر گرفته شده است، آسان کند.

سان گفت، چین همچنین می‌تواند با ارائه «شفافیت بیشتر در مورد شیوه‌های ایمنی، روش‌های ارزیابی مدل و مکانیسم‌های گزارش حادثه، به اعتماد بیشتر کمک کند».

هنری گائو، کارشناس چین و قانون تجارت در دانشگاه مدیریت سنگاپور، گفت که یک موضوع عمیق تر، عدم تطابق اساسی در نحوه نگاه واشنگتن و پکن به خطرات هوش مصنوعی است.

گائو می‌گوید: «بسیاری از بحث‌های ایمنی هوش مصنوعی ایالات متحده بر روی امکان فرار هوش مصنوعی بسیار توانمند از کنترل انسان و ایجاد خطرات فاجعه‌بار برای بشریت تمرکز می‌کنند.

گائو گفت: «در چین، نگرانی‌های امنیت ملی بیشتر ژئوپلیتیکی به نظر می‌رسد: یک خطر بزرگ درک شده این است که ایالات متحده بتواند یک مزیت تعیین‌کننده هوش مصنوعی به دست آورد و از آن علیه چین استفاده کند».

این به جای کاهش سرعت توسعه، فشاری را برای تسریع ایجاد می‌کند.»

برخی از کارشناسان هوش مصنوعی استدلال می‌کنند که تمرکز گفتگوی ایالات متحده و چین باید بر کاهش خطرات موجود باشد تا کاهش سرعت توسعه.

Rui Ma، مشاور صنعت فناوری و بنیانگذار سایت خبری Tech Buzz China، گفت: «هوش مصنوعی در حال حاضر بسیار مفید است و پتانسیل بهبود زندگی در سراسر جهان را دارد.

ما می‌گویم: «من فکر می‌کنم قوانین متفکرانه تعامل، نظارت مستمر، کانال‌های باز ارتباطی و توانایی تنظیم رویکردمان با کسب قابلیت‌های مختلف هوش مصنوعی بسیار مهم‌تر هستند.

پادمان ها باید در کنار فناوری تکامل یابند.»

جیانگ تیانجیائو، دانشیار موسسه توسعه در دانشگاه فودان در شانگهای، گفت‌وگوهای آتی ترامپ و شی را یک سیگنال مثبت خواند و ابراز امیدواری کرد که طرفین بتوانند بر رقابت ژئوپلیتیکی خود برای یافتن زمینه‌های مشترک غلبه کنند.

جیانگ گفت: «چین و ایالات متحده در حال حاضر کشورهای پیشرو در توسعه هوش مصنوعی هستند. به این ترتیب، ما مسئولیت قدرت‌های بزرگ را برای جلوگیری از خارج شدن از کنترل هوش مصنوعی بر عهده داریم و باید با همکاری برای مدیریت این خطرات، الگوی جهانی باشیم.»