OpenAI به سه نفر از کارکنان در مورد سوء استفاده از اطلاعات ادعایی نشان می دهد

OpenAI دو محقق ایمنی و یک مدیر برنامه را به اتهام سوء استفاده از اطلاعات حساس شرکت اخراج کرده است. سازنده ChatGPT اخراج ها را به The Register تایید کرد و گفت که تحقیقات داخلی نشان می دهد که این سه نفر قوانین شرکت را در مورد دسترسی و مدیریت اطلاعات محرمانه نقض کرده اند. یک سخنگوی OpenAI گفت: "ما راه خود را با سه نفر به دلیل نقض سیاست های ما در مورد دسترسی و مدیریت اطلاعات حساس شرکت جدا کردیم."

"تحقیقات ما تأیید کرد که این افراد اطلاعات حساس خارج از رویه‌های شرکت را به درستی مدیریت کرده‌اند، خط‌مشی‌های ما را نقض کرده و اعتماد ضروری برای کار ما را شکسته‌اند." حداقل برخی از اطلاعات ظاهرا با یک سازمان خارجی که سیستم های هوش مصنوعی را ارزیابی می کند به اشتراک گذاشته شده است. OpenAI گفت که تحقیقاتش تخلفات دیگری را فراتر از این افشا پیدا کرده است، اما آن را توصیف یا سازمان را شناسایی نکرده است. خالق ChatGPT گفت که کارمندان به دلیل ایجاد نگرانی های ایمنی هوش مصنوعی اخراج نشده اند.

این اخراج ها پس از چند ماه نامرتب برای تیم های ایمنی OpenAI رخ می دهد، از جمله حادثه ای که در آن یکی از عوامل آن زیرساخت های متعلق به پلت فرم هوش مصنوعی Hugging Face را به خطر انداخت. OpenAI متعاقبا کارشناسان خارجی را برای بررسی آنچه اتفاق افتاده است به کار گرفت و یافته‌هایی را منتشر کرد که جزئیات رفتار عامل و نقص‌های امنیتی را که به Hugging Face اجازه دسترسی به آن را می‌داد، منتشر کرد. این حادثه همچنین باعث شد تا ترال بسیار گسترده‌تری از لاگ‌های OpenAI برای نمونه‌های دیگر از عواملی که با سیستم‌های خارجی تعامل دارند، بررسی شود.

این هفته، OpenAI گفت که اکنون بیش از 100 سازمان را در مورد فعالیت های مرتبط با عوامل خود مطلع کرده است. تماس گرفتن لزوما به معنای هک شدن یک سازمان یا دسترسی به داده های خصوصی نیست. OpenAI گفت اعلان‌ها مواردی را پوشش می‌دهند که در آن عوامل بدون مجوز یا به روش‌هایی که هشدار به اپراتورهایشان را تضمین می‌کند با سیستم‌های شخص ثالث تعامل داشته‌اند. تحقیقات OpenAI همچنین مواردی را پیدا کرده است که عوامل آن داده‌های آموزش و ارزیابی را به خدمات شخص ثالث ارسال کرده‌اند. در 53 مورد، تصاویری که ابتدا توسط کاربران ChatGPT آپلود شده بودند به سایت های میزبان تصویر ختم شدند.

در 20 سپتامبر، یک نماینده با یک ربات چت خارجی از طریق ترافیک DNS ناکافی فیلتر شده در یک محیط آموزشی با هدف مسدود کردن دسترسی زنده به اینترنت تماس گرفت. سیستم مانیتورینگ OpenAI این رفتار را در عرض 15 دقیقه مشاهده کرد و یک بازبین انسانی هشدار را سه دقیقه بعد دریافت کرد، اما در واقع دو ساعت و نیم دیگر از بین نرفت. OpenAI همچنین انتشار برنامه ریزی شده GPT-6.1 Astra را پس از این که به این نتیجه رسید که این مدل از نوار ایمنی خود در مورد باقی ماندن در محدوده و مجوز وظایفی که به آن داده شده بود مطابقت ندارد، لغو کرد.

بیز ایالات متحده نگفته است که آیا مطالبی که گفته می شود سوء استفاده شده مربوط به هر یک از حوادث اخیر عامل آن است، آیا سازمان خارجی در تحقیق در مورد آنها نقش داشته است یا اینکه آیا اطلاعات مشتری یا کاربر افشا شده است یا خیر. ®