WSJ گزارش می دهد که OpenAI مدل جدید هوش مصنوعی را پس از تست های ایمنی داخلی قفسه می کند

در این گزارش آمده است که این مدل فریب بیشتری نسبت به مدل قبلی خود نشان داده است، از جمله در برخی مواقع ناتوانی در افشای دقیق اقداماتی که انجام داده یا نکرده است.

وال استریت ژورنال در 28 سپتامبر گزارش داد که OpenAI انتشار GPT-6.1 Astra، یک مدل هوش مصنوعی نسل بعدی را که برای اولین بار در ماه اکتبر برنامه ریزی شده بود، به دلیل نگرانی های ایمنی مطرح شده توسط محققان در طول آزمایش داخلی لغو می کند.

در این گزارش آمده است که این مدل که انتظار می‌رود در ChatGPT و Codex ظاهر شود، برای انجام وظایف پیچیده‌تر بدون کمک انسانی طراحی شده است.

در اوایل این ماه، داریو آمودی، مدیر عامل آنتروپیک، از صنعت خواست تا توسعه مدل‌های هوش مصنوعی مرزی را کاهش دهد تا اقدامات ایمنی را با سرعت حفظ کند، دیدگاهی که توسط سم آلتمن، مدیر عامل OpenAI و ایلان ماسک، مدیرعامل اسپیس ایکس تأیید شد.

OpenAI بلافاصله به درخواست رویترز برای اظهار نظر پاسخ نداد.

ساچی جین، رئیس ایمنی مادر ChatGPT در ۲۸ سپتامبر به مجله گفت که Astra در تست‌های هم ترازی از استانداردهای شرکت که ارزیابی می‌کنند آیا سیستم از نیت انسان پیروی می‌کند، کوتاهی کرده است.

همچنین با «مجوز محدوده» مشکل داشت، انجام وظایف بدون درخواست اجازه کاربر و گاهی اوقات تلاش برای استفاده از ابزارها یا خدمات خارجی در هنگام انجام این کار ممکن است ناامن باشد.

این تصمیم قبل از کنفرانس توسعه دهندگان OpenAI در سانفرانسیسکو گرفته شده است، جایی که این شرکت قبلا محصولاتی را با هدف توسعه دهندگان نرم افزار رونمایی کرده بود. رویترز