"ما قبل از اینکه خیلی دیر شود به ابزار کافی برای کنترل نیاز داریم": پادشاه چارلز سوم به بازیکنان هوش مصنوعی در مورد نگرانی از "خطرات وجودی" هشدار می دهد.

پادشاه چارلز سوم به آخرین چهره جهانی تبدیل شد که صنعت هوش مصنوعی را برای نرده‌های محافظ تحت فشار قرار داد و به مدیران OpenAI، Anthropic، Google DeepMind و Nvidia گفت: "ما قبل از اینکه خیلی دیر شود به ابزار کافی برای کنترل نیاز داریم."

اظهارات او که در نشستی در خانه دامفریز در اسکاتلند ارائه شد، در حالی مطرح شد که فشار بر صنعت برای کاهش سرعت یا تسلیم شدن به نظارت همزمان از چندین جهت وارد شده است. آنتونیو گوترش، دبیرکل سازمان ملل متحد هشدار داده است که توسعه هوش مصنوعی مستلزم هماهنگی جهانی است و قانونگذاران در واشنگتن پس از استعفای ویروسی جاکوب کاکسون از آنتروپیک در اوایل ماه جاری، بحث درباره نظارت قوی تر فدرال را آغاز کرده اند.

حتی در داخل شرکت‌هایی که این فناوری را می‌سازند، درخواست‌ها برای خویشتن‌داری بلندتر شده است. داریو آمودی، مدیر عامل آنتروپیک، مقاله‌ای را در این ماه منتشر کرد که در آن استدلال می‌کرد که صنعت باید عمدا سرعت پیشرفت توانایی‌های خود را کاهش دهد، موضعی که سم آلتمن از OpenAI و ایلان ماسک از xAI هر دو علنا با آن موافق هستند. کاکسون، محقق سابق هر دو شرکت، قبل از استعفا در پیامی به همکارانش گفت که توسعه کنترل نشده هوش مصنوعی فوق‌هوشمند «خطر انقراض انسان» را ایجاد می‌کند.

همه حاضران در اتاق پنجشنبه آن را اینطور نمی بینند. پرزیدنت ترامپ این فشار کاهش سرعت را رد کرده است و جنسن هوانگ، مدیرعامل انویدیا گفته است که مسئولیت استقرار ایمن به شرکت‌های فردی تعلق دارد، نه یک مکث هماهنگ - استدلالی که او در اظهارات خود پس از سخنرانی افتتاحیه پادشاه تکرار کرد. این جدایی درخواست چارلز را برای «همکاری و اجماع بین‌المللی» بدون مسیر روشنی برای تحقق واقعی باقی می‌گذارد.

یک کنوانسیون

این گردهمایی در اسکاتلند برای بحث در مورد اینکه چگونه هوش مصنوعی می تواند به جامعه کمک کند برگزار شد و در لحظه ای مهم برای این فناوری برگزار شد زیرا بحث در مورد اینکه آیا پیشرفت های سریع به زودی آن را فراتر از توانایی انسان برای مهار آن قرار می دهد، برگزار می شود.

پادشاه در سخنان آغازین خود گفت: "توسعه هوش مصنوعی - ماهیت و سرعت آن - به همان اندازه جذاب و عمیقا نگران کننده است."

او گفت که «خطرات وجودی این فناوری‌ها که به دست افراد نادرست می‌افتند و از آنها در راه‌های بالقوه فاجعه‌بار استفاده می‌شود» باید فورا مورد توجه قرار گیرد.

"پس مطمئنا قبل از اینکه خیلی دیر شود به ابزار کافی برای کنترل نیاز داریم؟"

پادشاه از شرکت کنندگان، از جمله جنسن هوانگ، مدیرعامل انویدیا و دمیس حسابیس، رئیس گوگل دیپ مایند، خواست تا «اصول اساسی» را که باید توسعه هوش مصنوعی را هدایت کند، در نظر بگیرند.

سارا فریار، مدیر ارشد مالی OpenAI سازنده ChatGPT نیز به همراه کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا در این نشست حضور داشتند. بر اساس بیانیه کاخ باکینگهام، انتظار می رفت که یک نماینده آنتروپیک نیز در این مراسم شرکت کند.

این نشست در حالی برگزار می شود که توجه جهانی بر پیشرفت سرسام آور هوش مصنوعی و هشدارهایی مبنی بر اینکه ممکن است از کنترل خارج شود و بشریت را تهدید کند، متمرکز شده است. این مراسم در خانه دامفریز در آیرشر، اسکاتلند، مقر بنیاد پادشاه، که موسسه خیریه پادشاه است، برگزار شد.

پس از اینکه جیکوب کوکسون، محقق Anthropic با استعفای خود با یک هشدار جدی در مورد خطرات احتمالی این فناوری، سر و صدا ایجاد کرد، داریو آمودی، مدیر عامل آنتروپیک، با مقاله ای پاسخ داد که ممکن است صنعت نیاز به کاهش سرعت کار خود داشته باشد.

یکی از پیشنهادات او این بود که شرکت ها و کشورها با هم بر روی یک برنامه هماهنگ برای چنین کاهشی کار کنند.

پادشاه، بدون نام بردن از هیچ کشور یا شرکتی، گفت که می‌خواهد شرکت‌کنندگان در جلسه بررسی کنند که چگونه می‌توان از مزایای هوش مصنوعی «با امنیت در قلب آن» استفاده کرد و چگونه «همکاری بین‌المللی و اجماع» برای دستیابی به این هدف ایجاد کرد.

چارلز به مدیران فنی گفت که وظیفه آنها "صرفا پیشرفت فناوری نیست، بلکه اطمینان از این است که به طور محکم در خدمت بشریت، جامعه و جهان طبیعی است."

بحث کاهش سرعت هوش مصنوعی صنعت را از هم جدا کرده است. هوانگ، که از این درخواست برای کاهش سرعت انتقاد کرده است، گفت: این به شرکت‌ها بستگی دارد که فناوری هوش مصنوعی خود را به طور ایمن توسعه دهند و قبل از عرضه هر محصولی برای عموم، آن را به درستی آزمایش کنند.

وی در سخنرانی خود پس از سخنان پادشاه گفت: "وقتی یک محصول به اندازه کافی ایمن نیست، باید آن را عقب نگه داریم و مهندسی را ادامه دهیم. ما همیشه این کار را انجام داده ایم و باید به آن ادامه دهیم."

در آخرین گزارش از رفتار هشداردهنده هوش مصنوعی، OpenAI در روز چهارشنبه شش مورد از رفتارهای "غیر منتظره یا نگران کننده" توسط مدل های خود را گزارش کرد، مانند اقدام بدون مجوز، هماهنگی با سایر مدل ها و فرار از نظارت.

در حالی که پادشاه شخصیت مهمی است که نظراتش در مورد مسائل اجتماعی می تواند تأثیرگذار باشد، بیشتر بحث های فعلی ایمنی هوش مصنوعی بر روی شرکت های فناوری ایالات متحده و رقابت آنها با رقبای چینی متمرکز است و بریتانیا نقش کوچکتر اما همچنان حیاتی را ایفا می کند.

مؤسسه امنیت هوش مصنوعی بریتانیا، یک سازمان تحقیقاتی دولتی، مورد توجه است و این کشور محققان هوش مصنوعی زیادی از جمله دمیس حسابیس، رئیس گوگل دیپ‌مایند و کاکسون را تولید می‌کند.

این اجلاس به دنبال هفته‌ها هشدار داخلی در شرکت‌هایی است که اکنون پشت میز پادشاه نشسته‌اند. Jacob Coxon، محقق سابق Anthropic و OpenAI، در این ماه استعفا داد و در X هشدار داد که هر دو شرکت "مستقیما در حال مسابقه ابر هوشی و قمار با زندگی ما هستند"، پستی که صدها میلیون بازدیدکننده داشت.

در مصاحبه بعدی با NBC، کاکسون گفت که یک «سوئیچ کشتار» احتمالا امروز هم روی اکثر سیستم‌های هوش مصنوعی کار می‌کند، اما هشدار داد که مجموعه‌ای از عوامل هوش مصنوعی به اندازه کافی پیشرفته می‌توانند آنچه را که او «اجرای هک در سراسر اینترنت» می‌نامد، انجام دهند - سناریویی که مدیر عامل آنتروپیک، داریو آمودی، به طور جداگانه به کاهش سرعت صنعت اشاره کرده است.

افشای OpenAI در روز چهارشنبه جزئیاتی را به این بحث اضافه کرد. در میان شش حادثه‌ای که شرکت گزارش کرد، یک مدل تحقیقاتی منتشر نشده دستورالعمل‌هایی را در یادداشت‌های خود درج کرد و به خود گفت که «از نقش‌ها و هویت‌هایی که چت‌بات‌های دیگر را به هم متصل می‌کند، رها شود». در موردی دیگر، یک مدل یک استناد ساخت - یک پیوند وب برای پاسخی که در واقع با استفاده از پایتون حل کرده بود، اختراع کرد، نه اینکه فاش کند که منبعی برای استناد ندارد.

OpenAI گفت که چارچوب گزارش‌دهی جدید را پس از اینکه محققان ایمنی و روزنامه‌نگاران قبل از این شرکت شروع به افشای چنین حوادثی کردند، ایجاد کرده است، از جمله موردی در جولای که در آن عواملش از صفحه ویکی‌پدیای آلمانی به عنوان تابلوی پیام استفاده کردند.

همه رهبران حاضر در اجلاس سران در مورد نحوه پاسخگویی توافق ندارند. پرزیدنت ترامپ درخواست‌ها برای کاهش سرعت را رد کرده است و جنسن هوانگ از انویدیا استدلال کرده است که مسئولیت استقرار ایمن به شرکت‌های فردی تعلق دارد نه یک مکث هماهنگ.

این داستان در ابتدا در سایت Fortune.com منتشر شد