محققان اخراج شده OpenAI را به تلاش‌های ایمنی «سردکننده» متهم می‌کنند

دفاتر OpenAI در سانفرانسیسکو. این سه محقق اخراج شده روی مدل‌های OpenAI کار کردند.

سان فرانسیسکو - سه محقق سابق امنیتی OpenAI در 8 اکتبر، سازنده ChatGPT را متهم کردند که آنها را به دلیل هشدار در مورد خطرات هوش مصنوعی اخراج کرده است و بحث در مورد ایمنی را در شرکتی که نرم افزار آن در نقض امنیت دخیل بوده است، دوباره برانگیخته است.

یکی از کارکنان اخراج شده، میکیتا بالسنی، در ایکس نوشت: «من معتقدم که ما به دلیل اولویت دادن به ایمنی بر منافع کوتاه مدت OpenAI به عنوان یک شرکت، اخراج شدیم.

Balesni و دو کارمند اخراج شده دیگر، Tomek Korbak و Jasmine Wang، نامه ای را در 8 اکتبر به OpenAI به اشتراک گذاشتند.

این نامه می‌گوید: «اخراج ما ما را نگران می‌کند که هنجارهای داخل OpenAI در حال تغییر هستند،» و ادامه می‌دهد که «فسخ مانند ما که به‌طور ناگهانی اجرا شده و ارتباط برقرار می‌کند، فرهنگ باز OpenAI را که در گذشته ارزشمند بوده است، سرد می‌کند».

آنها همچنین از شرکت می خواهند که به وعده خود مبنی بر میزبانی دائمی حسابرسان مستقل عمل کند.

در نامه آمده است: «ما نگران این هستیم که اخراج‌هایمان برای توجیه پایان دادن به آن کار استفاده شود.

OpenAI به نوبه خود گفت که آنها را به اتهام نقض قوانین شرکت اخراج کرده است.

OpenAI در بیانیه‌ای در اول اکتبر به خبرگزاری فرانسه گفت: «تحقیقات ما تأیید کرد که این افراد اطلاعات حساس خارج از رویه‌های شرکت را به درستی مدیریت کرده‌اند، خط‌مشی‌های ما را نقض کرده و اعتماد ضروری برای کار ما را شکسته‌اند».

یکی از مدیران تحقیقاتی OpenAI در یادداشتی به کارکنان در 7 اکتبر که گزیده ای از آن با خبرگزاری فرانسه به اشتراک گذاشته شد، گفت: "ما کارمندان را به دلیل ایجاد نگرانی اخراج نمی کنیم."

سه محقق اخراج شده روی مدل‌های OpenAI کار می‌کردند که در ماه جولای از محیط آزمایشی آن‌ها فرار کردند و Hugging Face، یک کتابخانه کدگذاری هوش مصنوعی را هک کردند.

این حادثه بحث داغی را در سیلیکون ولی در مورد اینکه آیا سرعت توسعه این فناوری را کند کرد یا نه، به راه انداخت.

در نامه محققان هشدار می‌دهد که اگر محققان OpenAI دیگر نتوانند زنگ خطر را به صدا در آورند یا با طرف‌های خارجی کار نکنند، «همه ما در معرض خطر بیشتری هستیم که اتفاقی واقعا فاجعه‌بار رخ دهد».

آنها همچنین ادعا می‌کنند که نزدیک به 400 کارمند OpenAI در ماه جولای طوماری را امضا کردند که خواستار کاهش سرعت توسعه پیشرفته مدل‌های هوش مصنوعی در سراسر صنعت شد.

در ماه سپتامبر، داریو آمودی، مدیر اجرایی آنتروپیک، سام آلتمن، مدیر عامل OpenAI و ایلان ماسک، رئیس اسپیس ایکس نیز خواستار کاهش سرعت شدند.

آلتمن در ماه سپتامبر به خبرنگاران گفت: «در حال حاضر ما در حال سرمایه‌گذاری بیشتری در ایمنی، امنیت، هم‌ترازی، نظارت هستیم و این به ما امکان می‌دهد تا به پیشرفت قابل‌توجه مدل ادامه دهیم.

دیگران، مانند جنسن هوانگ، مدیرعامل انویدیا و مارک زاکربرگ، مدیر عامل متا، می‌خواهند با تمام قوا به جلو حرکت کنند.

در ماه سپتامبر، دونالد ترامپ، رئیس‌جمهور آمریکا میزبان گروهی از مدیران فناوری آمریکایی بود که موافقت کردند از یک کد رفتار داوطلبانه در مورد ایمنی هوش مصنوعی پیروی کنند. خبرگزاری فرانسه