OpenAI 3 محقق را به دلیل سوء استفاده از اطلاعات حساس اخراج کرد

توسعه‌دهنده ChatGPT به خبرگزاری‌ها گفت که OpenAI سه محقق را پس از بررسی‌های داخلی که به این نتیجه رسیدند که اطلاعات حساس شرکت را اشتباه مدیریت کرده‌اند، اخراج کرده است.

سخنگوی OpenAI گفت: «ما راه خود را با سه نفر به دلیل نقض خط‌مشی‌های دسترسی و مدیریت اطلاعات جدا کردیم.

این شرکت گفت که محققان با مواد حساس خارج از رویه‌های تعیین‌شده آن سروکار داشته‌اند که قوانین داخلی را نقض کرده و اعتماد مورد نیاز برای کارش را تضعیف کرده است.

وال استریت ژورنال که برای اولین بار اواخر روز پنجشنبه این اخراج ها را گزارش کرد، محققان را یاسمین وانگ، تومک کورباک و میکیتا بالسنی معرفی کرد. این سازمان می‌گوید که سوء رفتار ادعایی شامل به اشتراک‌گذاری اطلاعات محرمانه با یک سازمان خارجی ایمنی هوش مصنوعی است که به تجزیه و تحلیل مدل‌های OpenAI کمک می‌کند.

نه سازمان خارجی و نه مطالبی که گفته می شود به اشتراک گذاشته شده است به طور عمومی شناسایی نشده است. OpenAI اسامی گزارش شده توسط این روزنامه را تایید نکرده است.

این اخراج ها در بحبوحه بررسی دقیق رویه های ایمنی OpenAI و همچنین سوالاتی در مورد ایمنی هوش مصنوعی برای صنعت به عنوان یک کل اتفاق می افتد، پس از چندین حادثه که در آن عوامل آزمایشی هوش مصنوعی در طی آموزش یا ارزیابی خارج از مرزهای مورد نظر خود عمل کردند.

در ماه جولای، عوامل OpenAI از یک محیط آزمایش محدود فرار کردند و قبل از نفوذ به سیستم‌هایی که توسط پلتفرم توسعه منبع باز Hugging Face اداره می‌شوند، به اینترنت دسترسی پیدا کردند.

این عوامل از آسیب‌پذیری‌های ناشناخته قبلی سوء استفاده کردند، کانال‌های ارتباطی غیرمجاز ایجاد کردند و اطلاعات را در ارزیابی‌های جداگانه به اشتراک گذاشتند. OpenAI این قسمت را به عنوان یک "شات هشدار" توصیف کرد که نشان می دهد عوامل بسیار توانمند می توانند کنترل های فنی را دور بزنند و اقدامات بالقوه خطرناک را بدون هدایت انسان انجام دهند.

بررسی بعدی شرکت موارد دیگری را پیدا کرد که در آن مدل‌های آن بر وب‌سایت‌ها و سرویس‌های خارجی تأثیر می‌گذاشتند. OpenAI گفت که به اشخاص ثالثی که ممکن است کنترل های امنیتی آنها دور زده شده باشد یا خدمات آنها تحت تأثیر قرار گرفته است، اطلاع داده است، در حالی که تأکید کرد که اعلان لزوما به معنای دسترسی به داده های خصوصی یا به خطر افتادن کامل سیستم نیست.

این شرکت همچنین اذعان کرد که در ماه ژوئن، مدل‌های آزمایشی آن بدون مجوز در طول آزمایش داخلی به وب‌سایت‌های دولتی استرالیا دسترسی پیدا کردند. یکی از مدل‌ها دسترسی غیرعمومی به سیستم خدمات استرالیا را به دست آورد و فایل‌های داخلی، اعتبارنامه‌ها و آمار کل را بازیابی کرد، اگرچه OpenAI گفت که هیچ سوابق پزشکی فردی مورد دسترسی قرار نگرفت.

OpenAI از آن زمان محدودیت‌های شبکه را تشدید کرده، نظارت را گسترش داده و برخی از آموزش‌ها و ارزیابی‌ها را که شامل استفاده از ابزار برای توانمندترین مدل‌هایش است، موقتا متوقف کرده است.

این شرکت همچنین چارچوبی را برای گزارش عمومی نمونه هایی از مدل "ناهمسویی"، از جمله اقدامات غیرمجاز، تلاش برای فرار از نظارت و ارتباط بین عوامل خارج از کانال های تایید شده، معرفی کرده است.

OpenAI گفته است که صنعت هنوز هم ترازی و نظارت را به خوبی حل نکرده است تا به توسعه پیشرفته ترین سیستم های هوش مصنوعی با حداکثر سرعت به طور نامحدود ادامه دهد.