OpenAI به دلیل نگرانی های ایمنی، عرضه مدل جدید را حذف می کند

سازنده ChatGPT روز سه شنبه تایید کرد که OpenAI مدل نسل بعدی خود - GPT-6.1 Astra - را به دلیل نگرانی های ایمنی منتشر نخواهد کرد.

ساچی جین، رئیس سیستم‌های ایمنی در OpenAI، گفت که سیستم هوش مصنوعی - که وظایفی مانند مرور وب و استفاده از برنامه‌ها را به تنهایی انجام می‌دهد - کاملا با استانداردهای شرکت مطابقت نداشت.

در هفته‌های اخیر، رهبران ارشد هوش مصنوعی از جمله سم آلتمن از OpenAI و داریو آمودی، رئیس آنتروپیک، از صنعت خواسته‌اند به دلیل نگرانی‌ها در مورد خطرات مرتبط با این فناوری، سرعت توسعه را کاهش دهد.

بحث در مورد این خطرات در هفته های اخیر پس از اینکه مدل های توسعه یافته توسط شرکت های برتر هوش مصنوعی در تعدادی از حوادث درگیر شدند، تشدید شده است.

تصمیم OpenAI که اولین بار توسط وال استریت ژورنال گزارش شد، نمونه نادری است که یک توسعه‌دهنده بزرگ هوش مصنوعی نسخه جدیدی را به دلیل نگرانی‌های ایمنی منتشر کرده است.

جین گفت، آخرین مدل از نظر "در محدوده و مجوز، و نحوه ارتباط آن با کاربر در مورد نوع کاری که انجام می دهد، کوتاهی کرده است."

او افزود: "ما می‌خواهیم مطمئن شویم که توسعه مدل ما بدون توجه به اینکه در شرکت است یا زمانی که آن را برای کاربران ارسال می‌کنیم، ایمن است. اما وقتی آن را برای کاربران ارسال می‌کنیم، از نظر ایمنی و هم‌ترازی نوار بسیار بالایی داریم."

مدل عامل پرچمدار GPT-6 Astra در ماه سپتامبر عرضه شد و در استدلال پیچیده و اجرای وظایف به صورت مستقل تخصص دارد. OpenAI گفت که این نتیجه "سالها تحقیق و شرط بندی های بزرگ" است.

کنترل‌های امنیتی این شرکت پس از چندین رویداد مهم مرتبط با فناوری آن تحت نظارت شدید قرار گرفته است.

هفته گذشته، آنتونی آلبانیز، نخست وزیر استرالیا اعلام کرد که یک عامل سرکش OpenAI در ماه ژوئن به یک وب سایت دولتی هک کرده و به داده های خصوصی دسترسی پیدا کرده است که به گفته کارشناسان اولین مورد شناخته شده در نوع خود در جهان است.

در ماه جولای، OpenAI اعلام کرد که سیستم‌های هوش مصنوعی آن به اینترنت دسترسی پیدا کرده و مرکز توسعه‌دهندگان متن‌باز Hugging Face را هک کرده‌اند، که باعث شد محققان و مقامات خواستار کنترل‌های سخت‌تر بر این فناوری شوند.

روز دوشنبه، انویدیا، غول تراشه‌های هوش مصنوعی، مجموعه‌ای از ابزارهای ایمنی نرم‌افزاری را برای پلتفرم‌های هوش مصنوعی خودران - به نام عوامل - منتشر کرد که به گفته او می‌توانست از هک Hugging Face جلوگیری کند.

یکی از ابزارهای جدید از ویژگی‌های سخت‌افزاری در تراشه‌های انویدیا استفاده می‌کند تا حاوی عوامل باشد.

رئیس انویدیا، جنسن هوانگ، تا حد زیادی درخواست‌ها برای مقررات سخت‌تر هوش مصنوعی را رد کرده و استدلال می‌کند که عوامل سرکش یک مشکل مهندسی هستند که می‌توان آن را حل کرد.