3 محقق اخراج شده OpenAI نامه ای منتشر کردند مبنی بر اینکه تبرئه آنها اثرات "سرد کننده" بر فرهنگ شرکت خواهد گذاشت

OpenAI هفته گذشته سه کارمند خود را پس از اینکه شرکت گفت تحقیقات داخلی نشان داد که آنها اطلاعات حساس را به درستی مدیریت نکرده اند، اخراج کرد. دیوید پل موریس/ بلومبرگ از طریق گتی ایماژ سه محقق سابق ایمنی OpenAI گفتند هفته گذشته به طور ناگهانی از شرکت اخراج شدند.

هر یک از کارمندان در X گفت که فقط دلایل شفاهی برای اخراج به آنها ارائه شده است.

کارمندان گفتند که اخراج آنها تأثیر "سرد کننده" بر "فرهنگ باز" OpenAI خواهد داشت. سه محقق سابق OpenAI روز پنجشنبه نامه‌ای منتشر کردند که می‌گویند هفته گذشته ناگهان اخراج شدند و این اقدام تأثیری «خطرناک» بر فرهنگ شرکت خواهد داشت.

در نامه‌ای با عنوان «OpenAI به تنهایی نمی‌تواند هوش مصنوعی را ایمن کند»، این سه نفر نوشتند که OpenAI «یک شرکت عادی نیست» و همکاری با اشخاص ثالث برای رسیدگی به خطرات ایمنی با «آزادی انجام این کار بدون ترس» جزء کلیدی کار در آنجا است.

این نامه که خطاب به کمیته های ایمنی OpenAI بود، توسط میکیتا بالسنی، یکی از کارمندان اخراج شده که روی همسویی هوش مصنوعی کار می کرد، در رسانه های اجتماعی به اشتراک گذاشته شد. Tomek Korbak و Jasmine Wang که هر دو در زمینه ایمنی کار می کردند نیز اخراج شدند و نامه را امضا کردند.

سخنگوی OpenAI در بیانیه‌ای به Business Insider گفت که تحقیقات داخلی نشان می‌دهد که این سه کارمند خط‌مشی‌های شرکت در مورد دسترسی و مدیریت اطلاعات حساس را نقض کرده‌اند.

این کارمندان در حساب های شخصی خود در رسانه های اجتماعی نوشتند که فقط توضیحات شفاهی برای اخراج خود دریافت کرده اند و همه آنها در محدوده شغلی خود عمل کرده اند.

وانگ در X نوشت: «دلایلی که برای فسخ به ما ارائه شد، به سادگی جمع نمی‌شوند.

بالسنی در پستی نوشت که به او گفته شده است که شرکت دیگر به او اعتماد ندارد زیرا او "بیش از حد با سازمان های ایمنی شخص ثالث صحبت می کند."

بالسنی می‌نویسد: "من هرگز IP شرکت را به اشتراک نمی‌گذارم. کاری که انجام می‌دادم با خط گزارش‌دهی، رهبری پژوهشی و هیئت مدیره من هماهنگ بود."

کورباک در یک پست جداگانه نوشت که به طور شفاهی به او گفته شد که به دلیل نحوه ارتباط من با METR، یک موسسه غیرانتفاعی تحقیقاتی شخص ثالث که مدل‌های هوش مصنوعی و خطرات ایمنی را ارزیابی می‌کند، اخراج شده است.

او نوشت: «برای واضح بودن، صحبت با METR کار من بود.

در این نامه، کارمندان نوشتند که نگران این هستند که همکاران سابقشان اکنون "از صحبت کردن و کار کردن به گونه‌ای که تا هفته گذشته بخشی جدایی ناپذیر از کار در OpenAI بود می‌ترسند."

در این بیانیه آمده است: «فسخ‌هایی مانند ما که به‌طور ناگهانی اجرا و ارتباط برقرار می‌کنند، فرهنگ باز OpenAI را که در گذشته ارزشمند بوده است، سرد می‌کند.

این نامه همچنین شامل سه توصیه جدایی برای OpenAI بود: تعبیه حسابرسان ایمنی شخص ثالث در سازمان، حفظ قابلیت نظارت بر مدل‌های مرزی، و حمایت از "فرهنگ باز و شفاف گفتگو" بین محققان ایمنی و "بقیه اکوسیستم ایمنی".

در یک یادداشت داخلی که روز چهارشنبه برای کارکنان ارسال شد، یکی از رهبران تحقیقات OpenAI نوشت که آنها به شدت با این توصیه‌ها موافق هستند. یک سخنگوی OpenAI این یادداشت را با Business Insider به اشتراک گذاشت.

رهبر پژوهش در این یادداشت نوشت: "ما عمیقا از مشارکت آنها در ایمنی هوش مصنوعی و تمایل آنها برای صحبت و به چالش کشیدن ایده ها قدردانی کردیم. ما از صدای آنها دفاع کردیم، از کار آنها حمایت کردیم و به آنها اعتماد زیادی کردیم." "من می‌خواهم خیلی واضح بگویم که این تصمیم‌ها برای مطرح کردن نگرانی‌های ایمنی یا صحبت کردن نبودند. ما همیشه این را تشویق کرده‌ایم و همیشه خواهیم کرد. ما کارمندان را به دلیل ایجاد نگرانی اخراج نمی‌کنیم."

کورباک در پست رسانه اجتماعی خود نوشت که نگران است OpenAI از آخرین اخراج ها به عنوان "بهانه ای" برای عقب نشینی از کار خود با METR استفاده کند.

شرکت‌های هوش مصنوعی مرزی مانند OpenAI و Anthropic اخیرا با مجموعه‌ای از حوادث امنیتی دست و پنجه نرم کرده‌اند که در آن عوامل هوش مصنوعی فراتر از مرزهای مورد نظر خود رفتند.

در ماه ژوئیه، OpenAI گفت که یک عامل هوش مصنوعی از جعبه شنی آن فرار کرده و زیرساخت Hugging Face را هک کرده است.

METR یک محقق شخص ثالث کلیدی در این حوادث بوده است.

مقاله اصلی را در Business Insider بخوانید