محققان OpenAI اخراج شده می گویند برای "اولویت بندی ایمنی" رها شده اند

سه محقق سابق OpenAI که به اتهام سوء استفاده از اطلاعات اخراج شدند، ادعا کردند که در عوض رها شدند زیرا نگرانی‌های ایمنی را در شرکت فناوری ایجاد کردند.

میکیتا بالسنی در کنار نامه‌ای سرگشاده به سازنده ChatGPT که با همکاران سابقش نوشته شده بود، در X منتشر کرد: «من معتقدم که ما به دلیل اولویت دادن به ایمنی بر منافع کوتاه‌مدت OpenAI به عنوان یک شرکت اخراج شدیم.

در 2 اکتبر، سخنگوی شرکت هوش مصنوعی به بی‌بی‌سی گفت که تحقیقاتش «تایید کرد که این افراد اطلاعات حساس خارج از رویه‌های شرکت را به درستی مدیریت کرده‌اند».

OpenAI این ادعاها را به صورت خارجی در صبح جمعه در یادداشتی از رهبران تحقیقات تکرار کرد.

در این یادداشت آمده است: «ما می‌خواهیم خیلی واضح بگوییم که این تصمیم‌ها برای مطرح کردن نگرانی‌های ایمنی یا صحبت کردن نبودند.

"تحقیقات داخلی ما نقض قابل توجهی را در اعتماد فراتر از آنچه در نامه ای که آنها منتشر کردند کشف کرد و ما بر تصمیم خود مبنی بر عدم ادامه کار آنها ایستاده ایم."

این اخراج ها در بحبوحه بحث فزاینده در مورد ایمنی هوش مصنوعی و خطرات بالقوه ای که سیستم های هوش مصنوعی پیشرفته می توانند برای جامعه ایجاد کنند انجام می شود.

نامه مشترک به رهبری OpenAI توسط Balesni، Tomek Korbak و Jasmine Wang نوشته شده است، که می گویند همه آنها تا همین اواخر کارمندان ایمنی یا همسویی در شرکت بودند.

همراستایی عبارت است از ساختن ایده ها و اصول اخلاقی انسانی در فناوری. به عبارت دیگر، هدف آن این است که آن را در مسیری با آنچه که انسان ها ارزش قائل هستند، حفظ کند.

اعضای سابق کارکنان این نگرانی را مطرح کردند که اخراج آنها باعث شده است که کارمندان شرکت فناوری "از صحبت کردن و عملکرد به گونه ای که تا هفته گذشته بخشی جدایی ناپذیر از کار در OpenAI بود" ترس داشته باشند.

کورباک با بازنشر این نامه به صورت خارجی نوشت: «ماه‌ها بود که نگرانی‌های ایمنی را مطرح می‌کردم که توانایی نظارت بر آنچه عوامل هوش مصنوعی فکر می‌کنند را از دست می‌دهیم، یکی از بهترین ابزارهای ما برای تشخیص بدرفتاری‌های آنها.

OpenAI گفت که در حال نهایی کردن قراردادها با ارزیاب های ایمنی شخص ثالث است و جزئیات را در هفته های آینده اعلام خواهد کرد.

وانگ در پستی در X، خارجی گفت: «ما اولین کسی نبودیم که تحت شرایط مشکوک از OpenAI بیرون رانده شدیم.

تا زمانی که کارمندان علیه این نوع مانورها موضع نگیرند، من نگرانم که آخرین نفر نباشیم.»

OpenAI می گوید استفاده نوجوانان از ChatGPT محدود است اما تحقیقات آن را "خطر غیرقابل قبول" می دانند

چرا نگرانی هایی وجود دارد که هوش مصنوعی می تواند بشریت را تهدید کند و چقدر واقعی هستند؟

محقق سابق آنتروپیک به بی‌بی‌سی می‌گوید کارکنان هوش مصنوعی برای آینده بشریت واقعا ترسیده‌اند.