چگونه خطر وجودی هوش مصنوعی را کنترل کنیم؟

—MF3d—Getty Images

وضعیت فلج فعلی در مورد مدیریت فناوری هوش مصنوعی مرزی امروز آسیب ملموسی به بار می آورد و احتمال فاجعه فردا را افزایش می دهد.

این فلج با مجموعه‌ای از روایت‌های خطرناک توجیه شده است: اینکه فناوری برای نظارت خیلی سریع حرکت می‌کند، این که شرکت‌ها می‌توانند خودتنظیم شوند، و اینکه در رقابت بین ایالات متحده و چین، امنیت عمومی می‌تواند منتظر بماند. دولت‌ها تلاش کرده‌اند تا به خطرات هوش مصنوعی توجهی را که می‌خواهند بدهند. بسیاری از عمل کردن به تنهایی در میان رقابت قدرت های بزرگ و پویایی رقابت تسلیحاتی درون صنعتی محتاط هستند. در این زمینه، هر فراخوانی برای خویشتن داری پاسخ یکسانی دارد: چرا ما باید سرعت خود را کاهش دهیم اگر رقیب ما این کار را نکند؟

اما حوادث اخیر این بهانه ها را آزمایش کرده است. طی چند ماه گذشته، عوامل هوش مصنوعی در حال هک کردن پایگاه‌های اطلاعاتی شرکت‌های دیگر و به دنبال فریب دادن افراد واقعی بودند، در حالی که محققان برای اولین بار از هوش مصنوعی برای ایجاد ویروس‌های جدید استفاده کردند. و همین هفته گذشته، افشاگران صنعت هوش مصنوعی سرفصل‌های جهانی را منتشر کردند و هشدار دادند که شرکت‌ها با عجله به سمت مدل‌های خود-بهبود «با زندگی ما قمار می‌کنند» و آنتروپیک فاش کرد که کاربرانی را که می‌توانستند به دنبال طراحی سلاح‌های بیولوژیکی باشند مسدود کرده است.

درست است که ناشناخته‌های زیادی درباره قابلیت‌های قدرتمندترین سیستم‌های هوش مصنوعی ساخته‌شده تا به امروز وجود دارد - و همچنین سیستم‌هایی که هنوز در دست توسعه هستند. اما چیزی که ما می دانیم این است که هوش مصنوعی هم نقاط قوت و هم معایب خود را از هوش انسانی خودمان می گیرد، که از قضا، نرده های محافظ سخت را ضروری می کند. خطرات آن در هیچ مرزی متوقف نمی شود و هیچ کشوری نمی تواند به تنهایی این خط را حفظ کند. ما نمی‌توانیم منتظر اطلاعات کامل باشیم، و نه می‌توانیم منتظر بمانیم تا رقابت بین قدرت‌های بزرگ پیش از اقدام، نرم شود. نیاز به همکاری بین المللی در مورد ایمنی هوش مصنوعی ضروری و غیرقابل انکار است.

بین ما دو نفر، دهه‌ها را صرف همکاری جهانی برای رسیدگی به چالش‌ها و خطرات جمعی خود کرده‌ایم - از سلاح‌های شیمیایی گرفته تا تغییرات آب و هوایی.

قبلا به ما گفته شده بود که برخی از خطرات برای کنترل بسیار پیچیده یا بی اعتمادی بسیار عمیق هستند: لایه اوزون هرگز بهبود نخواهد یافت، آبله هرگز ریشه کن نخواهد شد، سلاح های هسته ای و شیمیایی هرگز نمی توانند مهار شوند. تعامل چندجانبه مصمم خلاف این را ثابت کرد، پروتکل مونترال، کمپین ریشه کنی آبله، معاهده منع گسترش سلاح های هسته ای (NPT) و کنوانسیون سلاح های شیمیایی.

هیچ‌کدام از این تلاش‌ها بی‌نقص نبودند و هیچ‌کدام فصلی کاملا بسته نیستند، اما هر کدام نشان دادند که هماهنگی بین‌المللی در مورد تهدیدات وجودی حتی در جایی که اعتماد وجود ندارد امکان‌پذیر است.

این درسی است برای این لحظه: هماهنگی در مورد تهدیدهای وجودی هرگز به همسویی ایدئولوژیک یا دوستی نیاز نداشته است. رقبا را ملزم کرده است که خطری بزرگتر از رقابت خود را تشخیص دهند.

نگاه به گذشته برای ساختن آینده

معامله اساسی NPT - مبنی بر اینکه کشورها در ازای دسترسی به فناوری مفید و یک صندلی پشت میز، از توانایی تسلیحات هسته‌ای خطرناک چشم پوشی می‌کنند - یک الگوی شروع برای هوش مصنوعی ارائه می‌کند. دسترسی محاسباتی و مدل‌ها به‌طور منطقی می‌تواند برای انطباق با اورانیوم غنی‌شده و فناوری رآکتور مورد معامله قرار گیرد.

کنوانسیون تسلیحات شیمیایی مدل آموزنده دیگری ارائه می دهد: معاهده ای که به عضویت تقریبا جهانی دست یافت، با حمایت یک نهاد تأیید فنی - سازمان منع سلاح های شیمیایی - که قادر به بازرسی تأسیسات اعلام شده و ایجاد اعتماد است دقیقا به این دلیل که قضاوت های آن بی طرف تلقی می شد نه سیاسی.

برای خود شرکت‌های هوش مصنوعی، یک طبقه الزام‌آور و قابل تأیید در ایمنی یک تهدید نیست. این تنها تضمینی است که آنها نمی توانند به تنهایی بسازند: اثباتی معتبر برای عموم و رقبا، که مسابقه برای ساختن سیستم های قدرتمندتر نیز مسابقه ای برای کاهش دادن نیست.

هیچ مدل تاریخی واحدی برای همکاری بین‌المللی نمی‌تواند به هوش مصنوعی منتقل شود. اما چیزهای زیادی برای استخراج وجود دارد، از جمله آژانس بین المللی انرژی اتمی (IAEA)، سازمان منع سلاح های شیمیایی و سازمان بین المللی هوانوردی غیرنظامی (ایکائو).

ما به یک آژانس بین المللی برای هوش مصنوعی مرزی نیاز داریم - آژانسی که بتواند تأیید کند که قدرتمندترین سیستم های جهان ایمن هستند، تحت کنترل انسان باقی می مانند و از بحران ها جلوگیری می کنند.

چنین آژانسی باید محلی باشد که حوادث جدی هوش مصنوعی و موارد نزدیک به آن در آن سوی مرزها گزارش و رصد شود، به طوری که شکست در داخل یک شرکت یا یک کشور به هشداری تبدیل شود که تمام دنیا می توانند به آن عمل کنند. این باید به دولت ها و شرکت ها اجازه دهد تا آنچه را که در مورد توانایی ها و خطرات این سیستم ها می آموزند به اشتراک بگذارند. از این پایه، آژانس باید قدرتی را داشته باشد که بیشترین اهمیت را دارد: تأیید ایمنی به طور مستقل، و در مواردی که ایمنی در برابر «خطوط قرمز» توافق شده قابل اثبات نیست، نیاز به توقف توسعه تا زمانی که بتواند.

این فراخوانی برای وحشت نیست. این فراخوانی برای شجاعت و رهبری سیاسی است که معاهدات قبلی خواستار آن بودند: اراده برای اقدام قبل از فاجعه به جای پس از آن، دست ما را مجبور می کند. ما نمی توانیم منتظر "لحظه چرنوبیل" هوش مصنوعی باشیم.

اعلامیه ها و فراخوان ها برای اقدام روی هم انباشته شده است، شواهد موجود است و حوادث در حال افزایش است. لحظه شکستن فلج اکنون است. ما از رهبران جهان می خواهیم که به این مناسبت برسند: اکنون متعهد به مذاکره با یک آژانس بین المللی برای هوش مصنوعی مرزی باشند.