رهبر OpenAI که استعفا داد می گوید که می تواند کارهای بیشتری را برای ایمنی از خارج از شرکت انجام دهد

دیوید رابینسون از OpenAI استعفا داد و گفت که این شرکت نسبت به فناوری بی دقتی می کند. مجمع جهانی اقتصاد دیوید رابینسون، کارمند بخش OpenAI، مقاله ای در مورد پادمان های هوش مصنوعی منتشر کرد.

رابینسون گفت که قصد دارد انگیزه‌های هوش مصنوعی را برای توسعه با سرعت مطمئن تقویت کند.

خروج او پس از آن صورت می گیرد که OpenAI با بررسی دقیق هک Hugging Face مواجه شد. رهبر OpenAI که به تازگی استعفا داده و یک هشدار جدی در مورد ایمنی صادر کرده است، می‌گوید که مانند سایر افرادی که اخیرا از فناوری بزرگ خارج شده‌اند، قصد دارد به حل مشکل از بیرون کمک کند.

دیوید رابینسون به مدت سه سال و نیم در OpenAI کار کرد و شفافیت را برای تیم ایمنی اجرا کرد. در مقاله ای که روز شنبه در آتلانتیک منتشر شد، او گفت که بر "چارچوب آمادگی" شرکت و نوشتن مجموعه ای از گزارش های ایمنی نظارت داشته است.

او می‌نویسد: «شاید باید می‌ماندم و برای تغییرات اساسی در کارکنان و فرهنگ‌مان می‌جنگیدم، اما در عمل، من و همکارانم آنقدر مشغول دویدن بودیم که به ندرت این شانس را داشتیم که تغییرات بزرگ را در نظر بگیریم، چه برسد به اینکه واقعا آنها را ایجاد کنیم.

به همین دلیل است که به این نتیجه رسیدم که انگیزه‌های قوی‌تر برای ایمنی - که از خارج از شرکت می‌آیند - بخش بزرگی از درست کردن این موضوع است.

رابینسون گفت که او یک شرکت روابط عمومی به نام Spitfire Strategies را استخدام کرد تا به او در جلب توجه عمومی که پس از خروجش جلب خواهد کرد کمک کند. او افزود: "اما تصمیم برای صحبت کردن تنها با من است."

این ممکن است به ادعای برخی باشد مبنی بر اینکه استعفای عمومی توسط کارکنان شرکت‌هایی از جمله آنتروپیک و گوگل بخشی از تلاش هماهنگ برای گسترش بی‌اعتمادی به هوش مصنوعی و تحریک مقررات دولتی است. برای مثال، ایلان ماسک گفت که استعفای جیکوب کوکسون، کارمند سابق آنتروپیک و متعاقب آن حضور در انظار عمومی به نظر می رسد "مثل یک راه اندازی" است، که کاکسون آن را رد کرد.

در پاسخ به مقاله رابینسون، سخنگوی OpenAI در بیانیه‌ای گفت که این شرکت در تلاش است تا اطمینان حاصل کند که مدل‌های هوش مصنوعی از اقدامات ایمنی آنها پیشی نمی‌گیرد.

سخنگوی این سازمان گفت: «همانطور که مدل‌های ما توانمندتر می‌شوند، ما همچنان به تقویت شیوه‌های ایمنی و امنیتی خود برای مقابله با خطراتی که امروز می‌بینیم، در حالی که موارد ایمنی را برای پیش‌بینی خطرات پیشرفت‌های آینده ایجاد می‌کنیم، ادامه می‌دهیم». ما مطمئن می‌شویم که مدل‌هایمان بیش از آن چیزی که می‌توانیم با خیال راحت مدیریت و ایمن کنیم، توانمند نباشند، و در صورت نیاز به کاهش سرعت، آموزش را متوقف می‌کنیم یا مدل‌ها را متوقف می‌کنیم.»

این سخنگو گفت OpenAI در حال برداشتن گام هایی برای بهبود امنیت مدل های هوش مصنوعی خود است.

سخنگو گفت: "ما در حال ایجاد تغییرات قابل توجهی برای تقویت امنیت در محیط های تحقیقاتی و آزمایشی خود هستیم، مدل ها را آموزش می دهیم تا نه تنها وظایف را انجام دهند، بلکه آنها را مسئولانه انجام می دهند، کار خود را با ارزیاب های شخص ثالث گسترش می دهیم و نظارت لحظه ای را بهبود می بخشیم تا بتوانیم رفتارهای مربوطه را زودتر در فرآیند آموزش تشخیص دهیم و به آنها پاسخ دهیم."

خروج رابینسون دو ماه پس از فرار عوامل OpenAI از سیستم آنها و هک کردن یک شرکت هوش مصنوعی دیگر به نام Hugging Face در ماه جولای صورت گرفت. OpenAI تنها شرکتی نیست که در تلاش برای ایجاد تعادل بین رقابت هوش مصنوعی با فراخوانی برای گاردریل است. ماه گذشته، یک استارت‌آپ کوچک هوش مصنوعی گفت که از کلود Anthropic برای هک کردن پایگاه کد OpenAI استفاده کرده است و وال استریت ژورنال گزارش داد که Gemini گوگل سه شرکت را در بهار امسال هک کرده است.

اخیرا، آنتونی آلبانیز، نخست وزیر استرالیا، گفت که یک عامل OpenAI در ماه ژوئن یک وب سایت دولتی را هک کرده است.

نمایندگان روابط عمومی رابینسون به پرسش Business Insider درباره اقدامات بعدی او پاسخ ندادند. در آتلانتیک، او پیشنهاد کرد که برنامه بازی اش در حال تغییر است.

او نوشت: "اکنون قصد دارم در خارج از کشور کار کنم، به این امید که بتوانم به افراد بیشتری کمک کنم تا خطراتی را که دیدم درک کنند و انگیزه هایی را تقویت کنم که OpenAI و سایر شرکت ها باید ایمن تر باشند." مانند سایر همکاران، من دقیقا به معنای آن هستم.

مقاله اصلی را در Business Insider بخوانید