OpenAI می‌گوید 3 محقق ایمنی را به دلیل «سخن گفتن» در مورد خطرات هوش مصنوعی اخراج نکرده است

سم آلتمن مدیر عامل OpenAI است. هدر دیهل/گتی ایماژ OpenAI می‌گوید اخراج اخیر سه محقق ایمنی هوش مصنوعی ارتباطی با «افزایش نگرانی‌های ایمنی یا صحبت کردن» نداشت.

سازنده ChatGPT گفت که این سه نفر سیاست های مربوط به مدیریت اطلاعات حساس را نقض می کنند.

محققان سابق در نامه ای سرگشاده هشدار دادند که اخراج آنها اثر "سرد کننده" خواهد داشت. OpenAI در روز جمعه تصمیم خود برای اخراج سه محقق ایمنی هوش مصنوعی را دوچندان کرد و گفت که آنها به دلیل سوء استفاده از اطلاعات حساس و نه به دلیل ابراز نگرانی در مورد خطرات این فناوری مورد تبرئه قرار گرفتند.

در بیانیه جدیدی، شرکت تحت رهبری سام آلتمن اعلام کرد که راه خود را با جاسمین وانگ، میکیتا بالسنی و تومک کورباک پس از اینکه تحقیقات داخلی نشان داد آنها «سیاست‌های روشن در مورد مدیریت اطلاعات حساس را نقض کرده‌اند» جدا کرده است.

OpenAI گفت: "تحقیقات داخلی ما نقض قابل توجهی از اعتماد فراتر از آنچه در نامه ای که آنها منتشر کردند کشف کرد و ما بر تصمیم خود مبنی بر عدم ادامه کار آنها ایستاده ایم."

آزمایشگاه هوش مصنوعی افزود: «ما می‌خواهیم کاملا واضح بگوییم که این تصمیم‌ها در مورد افزایش نگرانی‌های ایمنی یا صحبت کردن نبودند». این شرکت همچنین گفت که این نوع مکالمات را تشویق می کند و آنها را برای تصمیم گیری صحیح ضروری می داند.

این سه محقق اخراج شده یک روز قبل نامه‌ای را در رسانه‌های اجتماعی منتشر کردند که خطاب به کمیته‌های ایمنی OpenAI هشدار داده شد و هشدار دادند که فسخ ناگهانی آن‌ها تأثیری «سردکننده» بر فرهنگ شرکت خواهد داشت.

در این نامه با عنوان «OpenAI به تنهایی نمی‌تواند هوش مصنوعی را ایمن کند» می‌گوید که محققان سابق «نگران شده‌اند که ارتباطات داخلی و خارجی پیرامون اخراج ما باعث شده است که همکاران سابق ما از صحبت کردن و عمل کردن به روش‌هایی که تا هفته گذشته بخشی جدایی‌ناپذیر از کار در OpenAI بود، بترسند».

این سه نفر در نامه نوشتند که هوش مصنوعی یک فناوری معمولی نیست و OpenAI یک شرکت عادی نیست.

در این نامه آمده است: «کسانی از ما که روی ایمنی کار می‌کنیم، قبل از هر کس دیگری ریسک‌ها را می‌بینیم، و ما به همکاری نزدیک با کارشناسان خارجی برای بررسی نحوه رسیدگی به آنها متکی هستیم. "آزادی انجام این کار بدون ترس، و داشتن رویه های داخلی به خوبی تعریف شده که این کار را ممکن می کند، خود یک مکانیسم ایمنی ضروری است."

در پاسخ روز جمعه خود، سازنده ChatGPT گفت که موافقت کرده است که حفظ «قابلیت نظارت» مدل‌های مرزی نیازمند تعهد کل صنعت، از جمله OpenAI است.

این شرکت گفت: «قابلیت نظارت مدت‌هاست که بخش اصلی برنامه تحقیقاتی ما بوده است و ما همچنان منابع قابل توجهی را در آن سرمایه‌گذاری می‌کنیم.

OpenAI گفت که در مورد نتیجه مربوط به محققان سابق "عمیقا غمگین" است و از مشارکت آنها در ایمنی هوش مصنوعی در شرکت تمجید کرد.

این شرکت گفت: "این تصمیمات مربوط به آنها نبود که نگرانی های ایمنی را ایجاد کند." ما همیشه این را تشویق کرده‌ایم و همیشه خواهیم کرد.»

مقاله اصلی را در Business Insider بخوانید