محققان ایمنی OpenAI اخراج شده در نامه سرگشاده اخراج خود را به چالش می کشند

آنها گفتند که ارتباطات شرکت در مورد شلیک ممکن است همکاران را از صحبت کردن بترسند.

سه محقق ایمنی OpenAI نامه ای سرگشاده به OpenAI ارسال کرده اند که در آن اخراج خود را به چالش می کشند. جاسمین وانگ، میکیتا بالسنی و تومک کورباک نوشتند که «روش بسیار عمومی» ارتباطات شرکت در مورد اخراج‌ها می‌تواند تأثیری «سرطان‌کننده» بر کارمندان در زمانی داشته باشد که «ایمنی جهان به آنها بستگی دارد».

هفته گذشته، OpenAI سه کارمند را که ظاهرا اطلاعاتی را با یک سازمان ایمنی هوش مصنوعی خارجی به اشتراک گذاشته بودند، اخراج کرد. این شرکت در بیانیه‌ای گفت که کارکنان «سیاست‌های ما در مورد دسترسی و مدیریت اطلاعات حساس شرکت را نقض می‌کنند... اعتماد ضروری برای کار ما را شکسته‌اند». با وجود هک‌های جدی و بالقوه غیرقانونی OpenAI در Hugging Face و سایر سازمان‌ها، اخراج کارکنان ایمنی سؤالات ناخوشایندی را ایجاد کرد و توجه قانونگذاران را به خود جلب کرد.

در نامه مشترک کارکنان اخراج شده آمده است: «ما نگران این هستیم که ارتباطات داخلی و خارجی پیرامون اخراج ما باعث شده است که همکاران سابق ما از صحبت کردن و عملکرد به گونه‌ای که تا هفته گذشته بخشی جدایی‌ناپذیر از کار در OpenAI بود، بترسند». ما می‌توانستیم نگرانی‌های ایمنی را مطرح کنیم و آشکارا [قبلا] مخالفت کنیم، و تشویق شدیم از تخصص سازمان‌های ایمنی مستقل استفاده کنیم. این بخشی از چیزی است که OpenAI را خاص کرده است، و چرا ما بسیار مفتخریم که بخشی از تیم بوده‌ایم.»

محققان بیان کردند که آنها "در راستای ماموریت OpenAI و در چارچوب هنجارهای کاری آن زمان عمل کردند" و اخراج "ما را نگران کرد که هنجارهای داخل OpenAI در حال تغییر هستند و اینکه کارمندان اکنون در مورد جایگاه خود نامشخص هستند."

وانگ، بلسنی و کورباک ضمن پرداختن به شایعات دیگر، گفتند که منبع افشای مقاله The Information مربوط به معماری‌های جدید و کمتر قابل نظارت OpenAI نیستند و معتقد نیستند که با طرف‌های خارجی خارج از وظایف خود درگیر شده‌اند. آنها افزودند که ارتباط با طرف های خارجی "در هماهنگی و گفتگو با اعضای هیئت مدیره و C-suite" انجام شده است و وانگ هنگامی که به طور تصادفی روی یک ایمیل حساس کلیک کرد، یک مدیر اجرایی را مطلع کرد.

در هنگام جدایی، کارمندان سابق چندین توصیه به OpenAI ارائه کردند. آنها گفتند که این شرکت باید به تعهدات عمومی خود در مورد تعبیه حسابرسان ایمنی شخص ثالث پایبند باشد و از اخراج آنها به عنوان "بهانه ای برای کناره گیری از این مشارکت ها" استفاده نکند. آنها افزودند که OpenAI باید قابلیت نظارت بر مدل های مرزی را حفظ کند و "فرهنگ گفتگوی باز و شفاف بین محققان ایمنی خود و بقیه اکوسیستم ایمنی" را حفظ کند.

یاسمین وانگ در یک تاپیک در X نوشت که رهبری OpenAI "می‌گویند که به شدت با نامه ما موافق هستند" و در عین حال نگرانی خود را در مورد باز بودن OpenAI ابراز کرد. او نوشت: «ما اولین کسی نبودیم که تحت شرایط مشکوک از OpenAI بیرون رانده شدیم. "مگر این که کارمندان اکنون علیه این نوع مانورها موضع نگیرند، من نگرانم که آخرین نفر نباشیم. پیام برای همه هنوز در OpenAI واضح است: نگرانی‌های خود را مطرح کنید یا از نزدیک با گروه‌های ایمنی خارجی کار کنید، و شما می‌توانید نفر بعدی باشید، بدون اینکه دلیل آن به شما گفته شود."