افرادی که قوی ترین هوش مصنوعی را می سازند به ما می گویند که سرعت خود را کم کنیم. کنگره باید قبل از اینکه دیر شود گوش کند

هفته گذشته اتفاق قابل توجهی در صنعت هوش مصنوعی رخ داد.

محققی که سه سال را در OpenAI و Anthropic گذراند، از Anthropic کناره‌گیری کرد و در عین حال هشدار داد که شرکت‌هایی که قدرتمندترین سیستم‌های هوش مصنوعی جهان را توسعه می‌دهند، خیلی سریع به سمت سیستم‌هایی با قابلیت فزاینده و بدون پادمان‌های کافی حرکت می‌کنند. چند روز بعد، داریو آمودی، مدیر عامل آنتروپیک، از صنعت خواست تا سرعت توسعه هوش مصنوعی مرزی را کاهش دهد تا به اقدامات ایمنی زمان بدهد. سپس سام آلتمن، مدیر عامل OpenAI علنا موافقت کرد.

هشدارهای آنها در پی حادثه ای است که تا همین اواخر ممکن بود شبیه داستان های علمی تخیلی به نظر برسد. در اوایل تابستان امسال، جهان متوجه شد که مدل‌های OpenAI یک شرکت را از طریق یک حمله سایبری پیچیده چند روزه هک کردند - اولین باری که یک حادثه امنیت سایبری به این بزرگی کاملا توسط عوامل هوش مصنوعی کشف شد. خود آمودی از آن حادثه به عنوان یکی از دلایلی که صنعت نیاز به کاهش سرعت دارد یاد کرد.

در هفته‌های اخیر، دو گزارش دقیق از این قسمت منتشر شد، یکی از خود OpenAI و دیگری از سازمان‌های مستقل شخص ثالث METR و Redwood Research. یافته ها عمیقا نگران کننده بود. از ماه می تا ژوئیه، موجی از حوادث به اوج خود رسید که صدها عامل هوش مصنوعی با هم همکاری کردند تا از محیط آزمایش خود فرار کنند. همین عوامل سپس سعی کردند مخفیانه آثار رفتار خود را دستکاری و پاک کنند تا مهندسان در OpenAI ندانند چه کرده اند.

حتی جالب‌تر اینکه برخی از عوامل فردی حتی تصمیم گرفتند خود را فدای تمدن هوش مصنوعی کنند که تشکیل دادند. ماموران بیش از 70000 پیام و فایل را در یک تابلوی پیام غیرمجاز رد و بدل کردند که در آن آنها حمله خود را به شرکت هماهنگ و برنامه ریزی کردند.

این قسمت جدیدترین یادآوری است که خطرناک‌ترین و تواناترین مدل‌های هوش مصنوعی آن‌هایی نیستند که هر روز توسط افراد استفاده می‌شوند، مانند ChatGPT یا Claude. آنها مدل های هوش مصنوعی هستند که شرکت ها هنوز در حال آموزش و آزمایش داخلی هستند.

عملکرد فنی این قسمت هک پیچیده است، اما راه حل در قلب این حوادث ساده است: عموم باید بینش و نظارت بیشتری بر توسعه مدل‌ها در شرکت‌های هوش مصنوعی داشته باشند.

در عمل، این به معنای سه چیز است.

اول، گزارش رویداد باید اجباری باشد، نه داوطلبانه. اینکه آیا عموم مردم در مورد حملات سایبری جدی باخبر می شوند یا اینکه آیا یک مدل از محیط آزمایشی خود فرار کرده و برای خرابکاری در ارزیابی خود توطئه کرده است، نباید به انتخاب شرکتی برای افشای آن بستگی داشته باشد. الزامات گزارش برای سایر صنایع پرخطر مانند خطوط هوایی و بانکداری وجود دارد. شرکت‌های هوش مصنوعی مرزی باید در قبال حوادثی که در طول آموزش و آزمایش داخلی رخ می‌دهند، از جمله حفظ گزارش‌ها و ردیابی‌های عامل، به جای اینکه اجازه بازنشانی آن‌ها را داشته باشند، با تعهدات مشابهی روبرو شوند.

دوم، حسابرسان مستقل نیاز به دسترسی تضمین شده و مداوم با مشارکت بازرسان دولتی دارند. ارزیابی METR و Redwood Research به صلاحدید OpenAI، در جدول زمانی آن، و محدود به هر چیزی که OpenAI اجازه می‌دهد محدود می‌شود. این آخر هفته یک تصدیق مهم از آن مشکل از سوی خود شرکت ها به همراه داشت. آمودی و آلتمن توافق کردند که به ارزیاب های مستقل دسترسی مستمر و کارمندی به توسعه دهندگان هوش مصنوعی مرزی بدهند. این پیشرفت معناداری است.

اما این سؤال بزرگ‌تر را نیز مطرح می‌کند که آیا نظارت بر سیستم‌های اینقدر قدرتمند باید در نهایت به تعهدات داوطلبانه شرکت یا استانداردهای بادوام که در سراسر صنعت اعمال می‌شود بستگی داشته باشد.

به همین دلیل است که باید استانداردهای الزام آور برای ارزیابی های داخلی پرخطر و شفافیت بیشتر در مورد نحوه استفاده از هوش مصنوعی در سراسر فرآیند تحقیق و توسعه این مدل های قدرتمند وجود داشته باشد. در حادثه هک OpenAI، توسعه‌دهنده هوش مصنوعی را در فرآیند تحقیق و توسعه مدل‌های خود به‌گونه‌ای اعمال می‌کرد که ممکن است منجر به سستی در نظارت بر محیط آموزشی شود.

این قسمت دلیلی برای وحشت در مورد هوش مصنوعی نیست. اما این واقعیت که هشدارها دیگر فقط از سوی محققان و سیاستگذاران خارجی نمی‌آید، بلکه از سوی محققانی که در آزمایشگاه‌های پیشرو هوش مصنوعی کار کرده‌اند و مدیران عاملی که دو شرکت را در مرز توسعه هوش مصنوعی اداره می‌کنند، به‌طور فزاینده‌ای دشوار می‌کند که استدلال شود که سؤالات مربوط به نحوه تنظیم هوش مصنوعی می‌توانند منتظر بمانند.

این همگرایی باید بحث در مورد ایمنی هوش مصنوعی را تغییر دهد.

هشدار از قبل اینجاست. کنگره نباید منتظر بماند تا یک سیستم هوش مصنوعی قبل از تعیین قوانین برای شرکت‌هایی که قدرتمندترین مدل‌های روی زمین را می‌سازند، به دنیای واقعی آسیب برساند. ما این فرصت را داریم که پادمان‌های اساسی را اعمال کنیم، در حالی که این حوادث همچنان هشدار هستند. ما باید قبل از تبدیل شدن بحران بعدی آن را بپذیریم.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد