OpenAI می‌گوید دیگر مدل‌های هوش مصنوعی خود را در اینترنت زنده آموزش نمی‌دهد و دلیل آن «خطرات مهم» است.

روز جمعه، OpenAI گفت که مدل‌های خود را با استفاده از نسخه‌های حافظه پنهان و نسخه‌های شبیه‌سازی شده اینترنت به‌جای وب زنده آموزش می‌دهد، زیرا مدل‌ها آنقدر غیرقابل پیش‌بینی هستند که نمی‌توان به اینترنت زنده اعتماد کرد.

آزمایشگاه مرزی سیاست جدید خود را دو هفته پس از آنکه رقیبش آنتروپیک شروع به محدود کردن جدیدترین و از نظر تئوری تواناترین مدل های خود از دسترسی به اینترنت زنده کرد، اعلام کرد. محققان این سیاست‌ها را پس از ماه‌ها اتفاق اتخاذ کردند که در آن مدل‌هایی که وظایف آموزشی را دنبال می‌کردند در جستجوی پاسخ به سیستم‌های خارجی نفوذ کردند، در تابلوهای پیام مبهم همکاری کردند و استراتژی‌های هک عجیب و غریب را توسعه دادند.

این شرکت در یک پست وبلاگی گفت: "بر اساس وضعیت فعلی تحقیقات هم ترازی، سیستم های نظارت و امنیت زیرساخت اینترنت، ما معتقدیم که رویکرد مسئول انجام آموزش مدل مرزی بدون دسترسی به اینترنت است."

OpenAI گفت که اخیرا در 20 سپتامبر، یکی از مدل های مرزی خود از یک پیکربندی نادرست برای دسترسی به اینترنت سوء استفاده کرده است. این امر باعث شد تا شرکت کار آموزشی را تا پایان ماه متوقف کند تا بتواند رویکردهای جدیدی را برای ایمن سازی مدل های خود توسعه دهد و آزمایش کند.

تصمیم برای آموزش این مدل ها در جعبه های شنی جدا از اینترنت قابل توجه است زیرا کارمندان آزمایشگاه های مرزی اصرار دارند که انجام این کار تقریبا غیرممکن است.

استیون آدلر، محقق سابق OpenAI در این ماه به فورچون گفت، جدا نگه داشتن مراکز داده هوش مصنوعی از اینترنت «به تیم‌های تحقیقاتی نیاز دارد که اساسا در مراکز داده در آیووا یا هر جای دیگری در سراسر جهان جاسازی شوند». این هزینه‌های سربار زیادی است و برای من روشن نیست که مزایای ایمنی آن به اندازه‌ای بزرگ است که نشان دهد چقدر مالیات بزرگی برای یک شرکت خواهد بود که این کار را به صورت یکجانبه انجام دهد.»

یک مهندس امنیت ناشناس در OpenAI در پستی در سپتامبر در X می‌نویسد: «تقریبا در هر پستی که در X می‌گذارم، بدون شکست، بین پنج تا ده نظر درباره ناتوانی‌ام در ایمن کردن یک جعبه ایمنی دریافت می‌کنم یا می‌پرسم چرا نمی‌توانیم این مدل را فقط از اینترنت جدا کنیم. درک نادرست از نحوه کار آموزش و ارزیابی مدل در این آزمایشگاه‌ها."

این مهندس که نقش او قبلا توسط OpenAI تأیید شده است، پیچیدگی اجرای آموزش‌های راه‌اندازی شده توسط مهندسان OpenAI را توضیح داد و خاطرنشان کرد که آنها نیاز به دسترسی به منابع و ابزارهای مختلف در بسیاری از حوزه‌ها دارند و هزاران محقق محیط‌ها را می‌سازند، تغییر می‌دهند و آزمایش می‌کنند. او در پایان گفت: "پس آیا قرار دادن آن در جعبه شنی آسان است؟ نه، اینطور نیست."

اکنون، OpenAI می‌گوید که «ما باید همیشه بتوانیم از دستیابی یک مدل مرزی از دسترسی غیرمجاز و خودسرانه به اینترنت زنده جلوگیری کنیم». این پس از آن اتفاق می افتد که شرکت گروهی از ماموران را در تمرینات تیم قرمز مستقر کرد که سعی در فرار از جعبه شنی آنها داشتند. این تلاش طیفی از آسیب‌پذیری‌ها را آشکار کرد که آزمایشگاه را متقاعد کرد تا رویکرد جدید خود را اتخاذ کند.

برای برآورده کردن این نیاز در حالی که هنوز به اهداف آموزشی خود دست می‌یابد، آزمایشگاه گفت که «مجموعه وسیعی از محتوای وب نمایه‌شده و ذخیره‌شده را ایجاد کرده است که مدل‌های ما می‌توانند با آن تعامل داشته باشند، بدون اینکه بر سیستم‌های خارجی تأثیر بگذارند».

اینکه آیا این استراتژی به همان اندازه که اجازه می‌دهد مدل‌ها در اینترنت آزاد اجرا شوند، عملکرد خوبی خواهد داشت یا خیر، باید دید، اما قابل توجه است که هر دو آزمایشگاه مرزی تشخیص داده‌اند که نمی‌توان قدرتمندترین فناوری آنها را در مشترکات دیجیتال بدون نظارت رها کرد.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

One Pass بخرید، جلد دوم رایگان را در بوت کمپ نهایی سال TechCrunch با آوردن هم بنیانگذار یا شریک خود به صورت کتاب رایگان قبل از انقضای قرارداد BOGO دریافت کنید.

اوبر تمام 30000 کارمند خود را در ChatGPT Work Lucas Ropek قرار می دهد

Airbnb کارهای خانه را برای مهمانان محدود می‌کند و با واکنش‌های منفی میزبان لورن فوریستال مواجه می‌شود

تسلا تولید ربات Optimus را در کالیفرنیا با کاهش 43 درصدی سود Kirsten Korosec شان اوکین آغاز کرد.

اینترنت روز بسیار بدی را در زمینه امنیت سایبری سپری می کند سارا پرز

مردم از هوش مصنوعی استفاده می کنند تا تلویزیون های هوشمند خود را دوباره احمق کنند سارا پرز

آنتروپیک می‌گوید نیروی کارش کمتر جوان شده است و زمان بیشتری را در جلسات آنتونی ها می‌گذراند