OpenAI می گوید سه کارمند به دلیل سوء استفاده از اطلاعات "حساس" اخراج شدند

هر سه کارمند در هفته های اخیر به طور مرتب در مورد مسائل مربوط به ایمنی هوش مصنوعی پست هایی ارسال کرده اند.

سان فرانسیسکو – OpenAI سازنده ChatGPT در 1 اکتبر گفت که سه محقق را به اتهام سوء استفاده از "اطلاعات حساس" و نقض خط‌مشی‌های شرکت، از جمله کارهای مربوط به سازمان خارجی که مدل‌های هوش مصنوعی را ارزیابی می‌کند، اخراج کرده است.

به گزارش وال استریت ژورنال و بلومبرگ، آزمایشگاه هوش مصنوعی مستقر در سانفرانسیسکو هویت آنها را تایید نکرد اما حداقل دو نفر از کارکنان روی ایمنی و همسویی کار کردند.

OpenAI در بیانیه ای به خبرگزاری فرانسه گفت: «ما راه خود را با سه نفر جدا کردیم.

"تحقیقات ما تأیید کرد که این افراد اطلاعات حساس خارج از رویه‌های شرکت را به درستی مدیریت کرده‌اند، خط‌مشی‌های ما را نقض کرده و اعتماد ضروری برای کار ما را شکسته‌اند."

این اخراج ها در بحبوحه بحث های پرتنش در مورد ایمنی هوش مصنوعی و اینکه آیا این فناوری خطری وجودی برای بشریت ایجاد می کند، رخ می دهد.

در ماه سپتامبر، یک محقق 27 ساله به نام جاکوب کاکسون با هشدار جدی مبنی بر اینکه آزمایشگاه‌های پیشرو هوش مصنوعی، از جمله OpenAI که قبلا در آن کار می‌کرد، با تلاش برای توسعه مدل‌های قدرتمندتر، «با زندگی ما بازی می‌کنند» از آنتروپیک استعفا داد.

به گفته WSJ، سه محقق اخراج شده توسط OpenAI عبارتند از Jasmine Wang، Tomek Korbak و Mikita Balesni.

هر سه در هفته‌های اخیر مرتبا در مورد مسائل مربوط به ایمنی هوش مصنوعی در X پست کرده‌اند.

بالسنی در تاریخ 10 سپتامبر، با تکرار اظهارات دیگر کارکنان هوش مصنوعی در هفته‌های اخیر، پستی را منتشر کرد: «من در OpenAI هستم و فکر می‌کنم هوش مصنوعی بیش از 10 درصد احتمال دارد همه انسان‌ها را بکشد.

زمانی که گمانه زنی ها در مورد اینکه چرا کارمندان OpenAI و Anthropic اینقدر آزادانه در مورد اعتقادات شخصی خود صحبت می کنند، چرخید، کورباک وارد گفتمان عمومی شد.

کورباک در 11 سپتامبر نوشت: "من از بسیاری از کارهایی که OpenAI انجام می دهد ناراضی هستم. من بسیار خوشحالم که به من اجازه داده شده است بگویم "من از بسیاری از کارهای OpenAI بسیار ناراضی هستم".

وانگ در پاسخ به استعفای کاکسون، با اشاره به خودسازی بازگشتی، که تکنیکی است که در آن نرم‌افزار برای آموزش مداوم خود طراحی شده است، نوشت: «اغراق کردن اینکه سرعت به سمت RSI چقدر خطرناک است، سخت است.

شرکت‌های فناوری پیشرو ایالات متحده این هفته پس از دیدار با دونالد ترامپ، رئیس‌جمهور آمریکا در کاخ سفید، تعهدی داوطلبانه امضا کردند تا امنیت خود را تنظیم کنند.

ترامپ آن را یک تعهد "اخلاقی الزام آور" برای ایجاد تدابیر حفاظتی کافی بر روی فناوری در حال حرکت خواند.

مدیران Nvidia، Google، Meta، XAI، OpenAI و Anthropic این قرارداد را امضا کردند. خبرگزاری فرانسه