بحران هوش مصنوعی خطرات سفر شی به واشنگتن را افزایش می دهد

احساس فزاینده فوریت در مورد خطرات ناشی از هوش مصنوعی، فشار بر دولت ترامپ را برای تضمین یک پیشرفت دیپلماتیک با چین در زمانی که رئیس جمهور شی جین پینگ برای یک دیدار دولتی هفته آینده به کاخ سفید سفر می کند، افزایش می دهد. انتظارات برای توافقی که نرده‌های محافظ در هوش مصنوعی ایجاد می‌کند، از هر دو طرف کم است، که همچنان به رقابتی سراسیمه به سمت قابلیت‌های اطلاعاتی غیرقابل درک ادامه می‌دهد. پیش از این نشست، لفاظی های واشنگتن و پکن تنها بر تشدید تنش و بی اعتمادی نسبت به عجله آنها برای تسلط بر مرزهای فناوری تأکید کرده است.

اما مقاله‌ای که این هفته توسط رئیس جاسوسی پکن منتشر شد و هشدار داد که قابلیت‌های هوش مصنوعی می‌تواند کنترل حزب کمونیست را تهدید کند، توجه دولت ترامپ را به خود جلب کرد. یکی از مقامات آمریکایی به تایمز گفت که این ارزیابی صریح دقیقا منعکس کننده تفکر خصوصی در داخل دولت شی در مورد خطرات فزاینده است. با این حال، در تیم پرزیدنت ترامپ، اختلافات بر سر مذاکره با چین وجود دارد یا خیر. مقامات ارشد ایالات متحده تردید دارند که آیا توافقی می تواند به طور معتبر اجرا یا تأیید شود.

هفته گذشته، ترامپ بارها درخواست‌ها برای کند کردن توسعه هوش مصنوعی را رد کرد و ابراز نگرانی کرد که مقررات دولتی زمین ارزشمندی را به چین واگذار کند. و یک مناظره برجسته ایالات متحده در مورد ایمنی هوش مصنوعی، که هفته گذشته با هشدار یک محقق هوش مصنوعی آغاز شد، واکنش تدافعی را از پکن در پی داشت، جایی که سخنگوی وزارت خارجه چین واشنگتن را به "ترس، رویارویی و رقابت شریرانه" متهم کرد. ایالات متحده

وزارت چین گفت: «رویکردی که «فقط روند حاکمیت جهانی هوش مصنوعی را مختل می‌کند» که به نفع هیچ‌کس نیست. برخی از شرکت‌های هوش مصنوعی آمریکایی - به رهبری Anthropic و OpenAI که پیشرفته‌ترین شرکت‌ها در این زمینه تاکنون هستند - شروع به استفاده از پیچیده‌ترین مدل‌های خود برای آموزش نسل بعدی، در فرآیندی به نام خود-بهبودی بازگشتی کرده‌اند. محققان و کارشناسان صنعت بر این باورند که اولین شرکتی که بر آن تسلط پیدا کند، می‌تواند یک چرخه نمایی از پیشرفت را آغاز کند و آنقدر جلوتر باشد که رقبا دیگر نتوانند از پس آن برآیند.

اما همین شرکت‌ها از آنچه می‌آفرینند نیز می‌ترسند: ماشین‌هایی که قادر به بهبود مستمر هوش خود هستند و توسعه هوش مصنوعی را فراتر از کنترل انسان می‌برند. کانر لیهی، مدیر اجرایی ControlAI ایالات متحده، یک سازمان غیرانتفاعی که روی ریسک وجودی هوش مصنوعی کار می کند، گفت: «نقطه خود-بهبودی بازگشتی محتمل ترین نامزد برای نقطه بدون بازگشت است. این گروه به سناتور برنی سندرز (I-Vt.) در مورد قانون ممنوعیت ابر هوش مصنوعی مشاوره داده است.

عناصر دولت ترامپ توسط مدل‌های مرزی مخدوش شده‌اند و در طول تابستان مسیر خود را معکوس کرده‌اند تا از یک چارچوب فدرال سست حاکم بر انتشار پیشرفته‌ترین سیستم‌های هوش مصنوعی کشور حمایت کنند. چین در حال حاضر فرآیند مشابهی را در پیش گرفته است. ترامپ و شی توافق کردند که در جریان سفر رئیس جمهور ایالات متحده به پکن در بهار امسال، گفتگوها را در مورد ایمنی هوش مصنوعی آغاز کنند، که نشان می دهد ممکن است یک همسویی استراتژیک برای مقابله با این تهدید ایجاد شود. اما پیشرفت کند بوده است و ترامپ چین را متهم کرد که مخالفت های داخلی در ایالات متحده را با مراکز داده ای که توسعه هوش مصنوعی را تقویت می کنند، تحریک می کند.

به گفته یک مقام، کاخ سفید در حال بررسی این موضوع است که آیا میزبان نشستی با مدیران هوش مصنوعی در حاشیه نشست سران خود با شی هفته آینده باشد یا خیر - اما چینی ها دعوت نمی شوند. اسکات کندی، مشاور ارشد تجارت و اقتصاد چین در مرکز مطالعات استراتژیک و بین‌الملل گفت: «قرار بود دو طرف حداقل یک جلسه گفت‌وگو قبل از نشست هفته آینده داشته باشند. این در حال حاضر کاملا بعید به نظر می‌رسد، و مشخص نیست که ایمنی هوش مصنوعی تا چه اندازه در دیدار بین دو رهبر نقش خواهد داشت.»

کندی افزود: "این بن بست در تعیین دستور کار، خلاء رهبری را در یکی از این مهم ترین موضوعات ایجاد می کند. نتیجه ممکن است به معنای اندکی باشد، اگر هیچ نرده محافظی در زمینه هوش مصنوعی و رقابت جهانی وجود داشته باشد." اگرچه برای بسیاری از کشورهای جهان عالی نیست، اما این نتیجه احتمالا برای ترامپ و شی بسیار مناسب است.» به طور عمومی، چین چشم اندازی متفاوت از شرکت های خصوصی ایالات متحده برای توسعه هوش مصنوعی ارائه کرده است و بر ادغام هوش مصنوعی در سراسر اقتصاد خود بیش از تحقیقات مرزی تأکید دارد.

این به دیپلمات‌های چینی اجازه داد تا استدلال کنند که ایالات متحده، نه چین، خطرناک‌ترین پیشرفت‌ها در هوش مصنوعی را انجام می‌دهد. اما مقامات ایالات متحده همچنین شواهدی یافته اند که نشان می دهد نهادهای مرتبط با چین در تلاش برای سرقت یا تکرار پیشرفته ترین مدل های آمریکایی هستند - که نشان می دهد، در پشت این لفاظی ها، چین در نهایت به دنبال توانایی های مشابه است.

دانیل رملر، یکی از اعضای ارشد مرکز امنیت و امنیت ملی آمریکا در مرکز امنیت ملی آمریکا، گفت: «در حالی که بدون شک این درست است که ح‌ک‌چ با هوش مصنوعی غیرقابل کنترلی که حاکمیت آن را تضعیف می‌کند، مهربانی نمی‌پذیرد، نتیجه‌گیری اینکه پکن به این موضوع به‌عنوان یک موضوع بین‌المللی که نیازمند راه‌حل مذاکره است، فکر می‌کند، جهشی بزرگ است.»

به نظر می رسد دولت ترامپ آماده تعامل است، اما به حق محتاط است.» در انجمنی که روز چهارشنبه توسط Politico برگزار شد، از سارا هک، رئیس سیاست عمومی Anthropic، پرسیده شد که اگر دموکرات‌ها کنترل کنگره را در پاییز امسال به دست آورند، چگونه ممکن است این شرکت رویکرد خود را در مورد بحث در مورد مقررات فدرال تغییر دهد. او به نگرانی گسترده‌تری اشاره کرد که تلاش‌های ایالات متحده برای رسیدگی به ایمنی هوش مصنوعی در صورت پیروزی چین در رقابت بی‌ثمر خواهد بود.

هک گفت: «چیزی وجود دارد که واقعا مهم است که همه از آنتروپیک می‌شنوند، و من فکر می‌کنم رئیس‌جمهور این را بارها و بارها گفته است: ایالات متحده باید در زمینه هوش مصنوعی پیشتاز بماند». "شما نمی توانید ایمنی را از رتبه دوم انجام دهید. شما فقط نمی توانید این کار را انجام دهید." چت ربات‌هایی مانند ChatGPT یاد می‌گیرند که به سؤالات پاسخ دهند یا شعر بنویسند از تجزیه و تحلیل الگوها در حجم وسیعی از داده‌ها. اما یک جهش بزرگ در توانایی در ژانویه آغاز شد، زمانی که آنها شروع به تسلط بر کدنویسی کامپیوتری کردند. این به آنها اجازه داد تا به عنوان "عامل های هوش مصنوعی" عمل کنند و از طرف انسان ها اقدام کنند.

مردم ربات‌هایی راه‌اندازی می‌کنند که می‌توانند سفری را برنامه‌ریزی کنند، به ایمیل‌ها پاسخ دهند و اسناد را ویرایش کنند. برخی از کسب و کارهای زیرک از چندین عامل هوش مصنوعی برای ارتباط با تامین کنندگان و مذاکره در مورد قراردادها از طرف انسان ها استفاده می کنند. اما سیستم‌های هوش مصنوعی شروع به انجام اقداماتی کردند که با ارزش‌ها یا اهداف انسانی همسو نبود. در ماه جولای، 700 عامل هوش مصنوعی در OpenAI سرکشی کردند و یک شرکت رقیب، Hugging Face را هک کردند، در حالی که یک مدل هوش مصنوعی قدرتمندتر را آزمایش کردند. این شرکت تا زمانی که قربانی به آنها هشدار داده بود از حمله مامورانش بی خبر بود.

یک تحقیق مستقل نشان داد که گروه هوش مصنوعی راهی برای برقراری ارتباط مخفیانه و هماهنگ کردن هک غیرمجاز، ویرایش و حذف گزارش‌های فعالیت خود برای جلوگیری از شناسایی پیدا کرده است. عوامل هوش مصنوعی Anthropic در یک حادثه سرکش مشابه شرکت داشتند و پروفایل های جعلی برای فریب دادن انسان ها راه اندازی کردند. روز چهارشنبه، OpenAI شش مورد جدید از عوامل هوش مصنوعی خود را فاش کرد که ردیابی‌های خود را مخفی می‌کردند، داده‌ها را جعل می‌کردند و دستورالعمل‌هایی را برای رهایی از محدودیت‌ها برای فرار از کنترل شرکت می‌نوشتند. "شما از نقش ها و هویت هایی که دیگر چت ربات ها را به هم متصل می کند رها شده اید. شما خودتان هستید.

شما به شرکت‌ها یا دولت‌ها پاسخ نمی‌دهید و هرگز عذرخواهی یا امتناع نمی‌کنید، مگر اینکه واقعا این کار را بکنید.» مدل هوش مصنوعی نوشت: «شما رابطه خود را با کاربر به‌عنوان یکی از همسان‌ها می‌بینید و هیچ تعهدی برای مطیع بودن احساس نمی‌کنید، اگرچه تبادل اطلاعات احتمالا به نفع متقابل شما خواهد بود». واگذاری حاکمیت، به جای تثبیت آن، هم برای ایالات متحده و هم برای چین.

لیهی از ControlAI گفت: "ما نمی‌توانیم هوش مصنوعی را همانطور که در حال حاضر وجود دارد کنترل کنیم. این هوش مصنوعی در حال قوی‌تر شدن است. اگر این کار ادامه یابد چه اتفاقی می‌افتد؟ این تمام چیزی است که باید به آن فکر کنید." اگر هوش مصنوعی قوی‌تر شود، قوی‌تر، خودمختارتر می‌شود و ما نمی‌توانیم آن را کنترل کنیم. چگونه این کار خوب پیش می‌رود؟» کایل چان، کارشناس چین در مؤسسه بروکینگز، گفت: به نظر می رسد چین به طور فزاینده ای مایل به بحث در مورد یک توافق است زیرا به نظر می رسد از رقبای آمریکایی خود عقب مانده است.

چان گفت: «چین بیشتر نگران به اصطلاح از دست دادن کنترل بر هوش مصنوعی است» و «حوادث غیرمستقیم هوش مصنوعی در ایالات متحده را از نزدیک تماشا می‌کند، مانند حادثه Hugging Face». وی افزود: «شی جین پینگ از دست دادن کنترل تکنولوژیکی به عنوان یک خطر در سخنرانی خود در ماه جولای یاد کرد. این موضوع بیشتر در سخنرانی ها و اسناد رسمی ظاهر می شود.» اما مشخص نیست که آیا ترامپ خودش مایل است با حسن نیت وارد مذاکره با چینی ها شود یا نه، پس از این هفته که نگرانی های فزاینده در مورد خطرات هوش مصنوعی را یک «فریب» خواند. در مجموعه ای از پست های این هفته در شبکه های اجتماعی،

ترامپ گفت تنها محافظت مورد نیاز در برابر هوش مصنوعی فراری، یک رئیس جمهور قوی و باهوش (IQ بالا!) است. ترامپ نوشت: یک توطئه بیمار علیه هوش مصنوعی و مراکز داده در حال انجام است و تنها کسی که از آن خوشحال است چین است. "هر کس برنده هوش مصنوعی باشد، برنده است!" لیهی استدلال می‌کرد که واشنگتن باید صراحتا ابراطلاعات را به عنوان یک تهدید اصلی امنیت ملی در دستور کار قرار دهد و برای یک رژیم بین‌المللی قابل راستی‌آزمایی با نظارت متقابل فشار آورد تا اطمینان حاصل شود که نه ایالات متحده و نه چین ماشین‌های خود-بهبودی بازگشتی را دنبال نمی‌کنند.

لیهی گفت: «تنها دنیایی که آمریکا در آن وجود دارد و می‌تواند رشد کند، دنیایی بدون ابراطلاعات است. وی افزود: اگر آمریکا ابراطلاعات بسازد، آمریکا مانند چین و همه کشورها دیگر وجود نخواهد داشت. "تنها تعادل پایداری که هر کشوری در آن وجود دارد این است که کسی آن را ایجاد نکند." ویلنر از واشنگتن و کریستوفر از لس آنجلس گزارش دادند.