OpenAI ده ها دولت و دانشگاه را پس از نقض کنترل های امنیتی مدل های هوش مصنوعی مطلع می کند

OpenAI روز جمعه اعلام کرد که پس از اینکه متوجه شد برخی از مدل‌های هوش مصنوعی ممکن است در طول آزمایش شرکت با وب‌سایت‌ها یا خدمات آنلاین آنها تداخل داشته باشند، به ده‌ها شخص ثالث از جمله نهادهای دولتی و دانشگاه‌ها اطلاع رسانی کرده است.

این شرکت در بیانیه‌ای در وب‌سایت خود گفت این اعلان‌ها بخشی از یک بررسی داخلی گسترده‌تر است که بررسی می‌کند مدل‌هایش در اینترنت در طول آموزش و ارزیابی چگونه رفتار می‌کنند.

این سازمان می‌گوید که در مواردی که سیستم‌های آن ممکن است پادمان‌های امنیتی یک سرویس را دور زده باشند، در دسترس بودن آن را کاهش داده باشند یا در غیر این صورت آسیب ناخواسته ایجاد کرده باشند، با سازمان‌هایی تماس گرفته شده است.

در بیانیه آمده است: «ما همچنان به بررسی فعالیت‌های عامل در تحقیقات و ارزیابی‌ها ادامه می‌دهیم، و ماه به ماه از حادثه «Huging Face» شروع می‌کنیم.

این شرکت گفت که نقض، همراه با سایر رفتارهای غیرمنتظره، به این دلیل رخ داده است که این مدل در هنگام مواجهه با وظایف دشوار، به جای حمله عمدی، به روش‌های «ناهمسو» روی آورده است.

همچنین الگوی جداگانه‌ای را با عنوان "هرزنامه عامل" علامت‌گذاری کرد که در آن مدل‌ها محتوا را در وب‌سایت‌های خارجی، از جمله صفحات ویکی عمومی پست می‌کردند، گاهی اوقات مطالب موجود را تغییر می‌دادند و سازمان‌ها را مجبور می‌کردند آن را حذف یا اصلاح کنند.

OpenAI گفت که عموما هویت طرف‌های آسیب‌دیده را محرمانه نگه می‌دارد تا به آنها فرصت پاسخگویی بدهد، در حالی که متذکر شد که آنها خودشان آزادند موضوع را افشا کنند. این شرکت اضافه کرد که روند بررسی هنوز در حال انجام است و تکمیل آن به زمان قابل توجهی نیاز دارد و انتظار می‌رود در ماه‌های آینده اطلاعیه‌های بیشتری ارائه شود.