کارکنان سابق OpenAI می گویند که آنها به دلیل ایجاد نگرانی های ایمنی اخراج شده اند

سه کارمند سابق OpenAI می گویند که به دلیل تلاش برای اطمینان از ایمنی هوش مصنوعی اخراج شده اند.

میکیتا بالسنی، تومک کورباک و یاسمین وانگ، محققین ایمنی، روز پنجشنبه پس از اخراجشان در هفته گذشته، این اتهامات را مطرح کردند. این سه نفر نسبت به تأثیر «سردکننده» بر سایر کارکنان نگران خطرات فناوری مرزی هشدار دادند.

OpenAI گفت که آنها به دلیل رفتار نادرست شامل سوء استفاده از اطلاعات شرکت رها شدند.

بالسنی در پستی در X گفت: "من معتقدم که ما به دلیل اولویت دادن به ایمنی بر منافع کوتاه مدت OpenAI به عنوان یک شرکت اخراج شدیم."

کورباک نیز احساسات مشابهی را ابراز کرد و معتقد بود که به دلیل ابراز نگرانی مبنی بر اینکه OpenAI در حال از دست دادن توانایی نظارت بر آنچه که عوامل هوش مصنوعی فکر می‌کنند، یکی از بهترین ابزارهای ما برای تشخیص بدرفتاری آنها، از کار خاتمه یافته است.

بالسنی، کورباک و وانگ در نامه سرگشاده‌ای که همزمان با پست‌های رسانه‌های اجتماعی خود منتشر کردند، ابراز نگرانی کردند که اخراج آنها باعث می‌شود همکاران سابقشان «از صحبت کردن و عمل کردن به شیوه‌هایی که تا هفته گذشته بخشی جدایی‌ناپذیر از کار در OpenAI بود، بترسند».

آنها در نامه می‌گویند: «ما می‌توانیم نگرانی‌های ایمنی را مطرح کنیم و آشکارا مخالفت کنیم، و تشویق شدیم که از تخصص سازمان‌های ایمنی مستقل استفاده کنیم. "این بخشی از چیزی است که OpenAI را خاص کرده است، و چرا ما بسیار مفتخریم که بخشی از تیم بوده ایم."

این سه نفر اضافه کردند که «اگر افراد نزدیک به ریسک‌ها دیگر نتوانند به روش‌های با اعتماد بالا و پهنای باند بالا با یکدیگر و با اشخاص ثالث کار کنند»، هوش مصنوعی نمی‌تواند به طور ایمن توسعه یابد.

آنها اظهار داشتند: "این فرهنگ است که ما برای دفاع از آن می نویسیم."

این سه نفر نقض خط مشی شرکت را رد کردند و گفتند هرگونه تعامل با کارشناسان ایمنی خارجی مطابق با وظایف آنها بوده است.

آنها گفتند: «با توجه به نگرانی‌های ایمنی قابل توجهی که در مورد توسعه هوش مصنوعی وجود دارد، کارمندان نباید در محیطی کار کنند که ترس و قوانین نامشخص کار ایمنی هوش مصنوعی را مختل می‌کند و مسئولیت‌پذیری شخص ثالث را تضعیف می‌کند.»

فسخ‌هایی مانند ما که به‌طور ناگهانی اجرا و ارتباط برقرار کرده‌اند، فرهنگ باز را که OpenAI در گذشته ارزشمند کرده بود، سرد می‌کند.»

در بیانیه ای، OpenAI گفت که "نقض قابل توجهی از اعتماد" توسط محققان سابق را کشف کرده است که فراتر از آنچه در نامه آنها توضیح داده شده بود، گفت که پشت تصمیم برای اخراج آنها ایستاده است.

این شرکت مستقر در سانفرانسیسکو گفت: «ما می‌خواهیم کاملا واضح بگوییم که این تصمیم‌ها در مورد افزایش نگرانی‌های ایمنی یا صحبت کردن نبودند.

بحث‌های ایمنی و تحقیقاتی هر روز در OpenAI اتفاق می‌افتد، اغلب با روحیه و بسیار انتقادی. ما فعالانه این بحث‌ها را تشویق می‌کنیم و آن‌ها را برای تصمیم‌گیری صحیح ضروری می‌دانیم. ما نمی‌توانیم کار مقابل خود را بدون درجه بالایی از اعتماد انجام دهیم. ما همچنان نسبت به اشتباهات حسن نیت تیم خود بسیار بخشنده خواهیم بود.

OpenAI اضافه کرد که از نتیجه غمگین است.

این شرکت گفت: "ما از کمک های Jasmine، Mikita و Tomek در ایمنی هوش مصنوعی در OpenAI و تمایل آنها برای صحبت و به چالش کشیدن ایده ها قدردانی کردیم."

ما از صدای آنها حمایت کردیم، از کار آنها حمایت کردیم و به آنها اعتماد زیادی کردیم.

مداخله کارمندان سابق در حالی صورت می‌گیرد که OpenAI و سایر شرکت‌های هوش مصنوعی در مرکز بحث‌های شدید در مورد چگونگی اطمینان از اینکه فناوری به سرعت در حال تکامل بشریت را در معرض آسیب‌های فاجعه‌بار قرار نمی‌دهد، صورت می‌گیرد.

خطر فرار مدل‌های پیشرفته هوش مصنوعی از کنترل انسان از ماه جولای زمانی که مشخص شد عوامل مستقل تولید شده توسط OpenAI، نرم‌افزار Hugging Face را هک کرده‌اند، مورد توجه قرار گرفته است.

OpenAI و رقیب اصلی آن، Anthropic، از جامعه بین‌المللی خواسته‌اند تا برای کاهش هماهنگ در توسعه هوش مصنوعی با یکدیگر همکاری کنند.

با این حال، این پیشنهاد توسط دو قدرت برجسته هوش مصنوعی، ایالات متحده و چین رد شده است.

ماه گذشته، OpenAI، Anthropic، Google، Meta، SpaceXAI و Nvidia توافقنامه ای داوطلبانه را تأیید کردند که خواستار پادمان های داخلی قوی تر و مشارکت حسابرسان خارجی برای مدیریت بهتر خطرات ایمنی است.

این توافق که توسط رئیس جمهور ایالات متحده دونالد ترامپ اعلام شد، با واکنش های متفاوتی از طرف حامیان ایمنی هوش مصنوعی مواجه شد که بسیاری از آنها ماهیت غیر الزام آور آن را مورد انتقاد قرار دادند.

OpenAI تعدادی گام را برای کاهش خطرات در غیاب مقررات رسمی اعلام کرده است، از جمله لغو انتشار برنامه ریزی شده آخرین نسل مدل خود، GPT-6.1 Astra.

خالق ChatGPT گفت که پس از اینکه مدل آن نتوانست استانداردهای شرکت را برای عمل مطابق با خواسته‌های انسان برآورده کند، تصمیم گرفت که عرضه را ادامه ندهد.