OpenAI آموزش هوش مصنوعی مرزی را پس از تعمیرات اساسی امنیتی از سر می گیرد و نقص نرم افزار پرکاربرد را فاش می کند
OpenAI پس از اینکه یکی از مدل های تحقیقاتی خود دسترسی محدودی به اینترنت پیدا کرد، آموزش را متوقف کرده بود.
OpenAI گفت که تمام آسیب‌پذیری‌هایی را که بر پادمان‌های تولیدش تأثیر می‌گذارد برطرف کرده است، اگرچه ارزیاب‌های ایمنی گفتند که آنها این موضوع را تأیید نکرده‌اند.
OpenAI در 23 اکتبر اعلام کرد که آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را پس از تشدید امنیت و ممنوعیت دسترسی به اینترنت از سر گرفته است و نقصی را در یک نرم‌افزار پرکاربرد که هنگام آزمایش سیستم‌های دفاعی خود پیدا کرده بود، فاش کرد.
این افشاگری در بحبوحه نگرانی‌ها درباره توانایی عوامل هوش مصنوعی برای شناسایی و بهره‌برداری از نقص‌های نرم‌افزاری، از جمله در حفاظ‌هایی که قرار است آنها را مهار کند، صورت می‌گیرد.
OpenAI پس از اینکه یکی از مدل های تحقیقاتی خود از خطای پیکربندی برای دسترسی محدود به اینترنت در ماه سپتامبر استفاده کرد، آموزش توانمندترین مدل های خود را متوقف کرده بود. این شرکت گفت که این حادثه را مهار کرده و از توقف برای تقویت دفاعی خود استفاده کرده است.
برای آزمایش آنها، OpenAI از تیم هایی از عوامل هوش مصنوعی خواست تا از محیط های محدود خود خارج شوند. این سازمان گفت که ماموران ایرادات ناشناخته قبلی را پیدا کردند و آنها را برطرف کردند و آموزش از اول اکتبر از سر گرفته شد.
در طول آن تمرین، سازنده ChatGPT یک نقص در Brotli، یک ابزار فشرده سازی داده پرکاربرد، پیدا کرد.
این شرکت گفت مهاجمان می توانند با ارسال داده های مخرب از این نقص سوء استفاده کنند که به آنها امکان می دهد کدهای خود را روی سیستم های آسیب دیده اجرا کنند، از جمله سیستم هایی که از نرم افزارهای وب محبوب مانند Node.js، Bun و Envoy استفاده می کنند.
OpenAI گفت که علت اصلی در کد منبع Brotli در ماه فوریه، قبل از ایجاد آسیب‌پذیری امنیتی برطرف شد، اما در آن زمان نسخه جدیدی منتشر نشد. Brotli از آن زمان نسخه های به روز شده را منتشر کرده و پس از افشای OpenAI، یک رکورد عمومی از این نقص منتشر کرده است.
در 22 اکتبر، ارزیاب‌های ایمنی هوش مصنوعی METR و Redwood Research گفتند که چندین آسیب‌پذیری جدید را در سیستم داخلی OpenAI پیدا کرده‌اند، از جمله یک عامل بهره‌برداری که می‌توانست از آن برای جلوگیری از نظارت بر صدها عمل خود استفاده کند، در یک بررسی آزمایشی در اوایل سال 2026.
OpenAI به سازمان‌های ایمنی گفت که از آن زمان تمام آسیب‌پذیری‌هایی را که بر پادمان‌های تولید آن تأثیر می‌گذارند اصلاح کرده است، اگرچه METR و Redwood گفتند که اصلاحات را تأیید نکرده‌اند.
OpenAI از زمان حادثه Hugging Face در ماه ژوئیه بررسی گسترده ای از فعالیت مدل های هوش مصنوعی خود انجام داده است و بیش از 100 سازمان را در مورد رویدادهای فعالیت غیرمجاز مرتبط با عوامل هوش مصنوعی خود مطلع کرده است. رویترز
متن اصلی (انگلیسی)
OpenAI resumes frontier AI training after security overhaul, discloses flaw in widely used software
OpenAI had paused training after one of its research models gained limited access to the internet.