OpenAI به دنبال نگرانی های امنیتی گسترده، نسخه جدیدی از مدل هوش مصنوعی را منتشر می کند

OpenAI مجبور شده است به دلیل نگرانی های ایمنی، عرضه GPT-6.1 خود را متوقف کند

سر ایمنی نشان می دهد که در دو جبهه جداگانه شکست خورده است

توسعه دهندگان هوش مصنوعی خواستار مشارکت بیشتر دولت هستند بنا بر گزارش ها، OpenAI انتشار عمومی برنامه ریزی شده خود از مدل آینده GPT-6.1 Astra را پس از اینکه آزمایش داخلی مشکلات احتمالی ایمنی را نشان داد، لغو کرد.

وال استریت ژورنال ادعا می کند که این مدل قرار بود در اکتبر 2026 در Codex و ChatGPT منتشر شود، اما مدیر ایمنی شرکت، Saachi Jain، توضیح داد که 6.1 "کاملا مطابق با نوار نمی باشد."

نسخه اصلاح‌شده GPT-6.1 یا حداقل توسعه‌ای در GPT-6 احتمالا به زودی منتشر خواهد شد، اما مکث موقت مشکلات مداومی را نشان می‌دهد که به نظر می‌رسد همه توسعه‌دهندگان هوش مصنوعی با مدل‌های پیچیده‌تر با آن مواجه هستند.

OpenAI عرضه GPT-6.1 Astra را متوقف کرد

گزارش WSJ نشان می‌دهد که این مدل در واقع در دو نمونه جداگانه شکست خورده است – اولا، به کار بر روی کاری فراتر از آنچه کاربر در ابتدا درخواست کرده بود، ادامه داد و گاهی اوقات بدون اجازه کاربر اقداماتی را انجام می‌داد.

ثانیا، 6.1 Astra در بخش شفافیت نیز شکست خورد، ظاهرا رفتار فریبنده‌تری نسبت به GPT-6 از خود نشان می‌دهد که از کاربر پنهان می‌کند که واقعا چه کاری انجام داده است و به این معنی است که وظایف خاصی را انجام داده یا انجام نداده است.

جین افزود: «ما می‌خواهیم مطمئن شویم که توسعه مدل ما بدون توجه به اینکه در شرکت است یا زمانی که آن را برای کاربران ارسال می‌کنیم، ایمن است.»

این خبر تنها چند روز پس از آن منتشر شد که سازنده ChatGPT OpenAI در یک پست X گفت که "بررسی بسیار گسترده‌تری از اقدامات انجام شده توسط مدل‌های [خود] در طول آموزش و ارزیابی،" پس از یک حادثه Hagging Face انجام خواهد داد.

مدیر عامل شرکت سام آلتمن همچنین اظهار داشت که شرکت در حال انجام "بازبینی گسترده و مداوم" است.

به طور گسترده‌تر، OpenAI و توسعه‌دهندگان دیگر هوش مصنوعی نیز از دولت‌ها می‌خواهند که نظارت بیشتری بر نسخه‌های مدل داشته باشند تا از حداکثر ایمنی اطمینان حاصل کنند. در حال حاضر، تداوم جهانی شرکت‌ها را به مبارزه با آن در تلاش برای عرضه بهترین مدل‌های کلاس سوق می‌دهد، اما با نظارت و محدودیت‌های بیشتر، آن‌ها آزادتر خواهند بود تا سرعت خود را کاهش دهند و بیشتر بر ایمنی تمرکز کنند.

TechRadar Pro از OpenAI خواست تا وضعیت GPT-6.1 Astra را تأیید کند و اطلاعات بیشتری را به اشتراک بگذارد. هر گونه به روز رسانی در اینجا ارائه خواهد شد.