مهندس ایمنی OpenAI در حال خروج هشدار می دهد که غول های هوش مصنوعی "به اندازه کافی مراقب نیستند".

یک مهندس ایمنی که اخیرا OpenAI خالق ChatGPT را کنار گذاشته است، روز شنبه هشدار داد که شرکت‌های هوش مصنوعی (AI) "تقریبا به اندازه کافی مراقب نیستند."

اظهارات دیوید رابینسون در بحبوحه نگرانی های فزاینده در مورد قدرتمند شدن بیش از حد هوش مصنوعی بیان می شود - تهدیدی که دونالد ترامپ، رئیس جمهور ایالات متحده آن را یک "فریب" نامیده است.

OpenAI و Anthropic اخیرا مواردی را فاش کرده‌اند که در آن مدل‌های هوش مصنوعی آنها کنترل‌های ایمنی را پشت سر گذاشته، اشتباهات را پنهان کرده و سیستم‌هایی را که قرار نبود به آنها دسترسی داشته باشند، هک کرده‌اند.

برای مشاهده این ویدیو لطفا جاوا اسکریپت را فعال کنید و به مرورگر وب که از ویدیوی HTML5 پشتیبانی می کند ارتقا دهید.

رابینسون در مقاله‌ای برای The Atlantic گفت که هوش مصنوعی به نرده‌های محافظی شبیه به نرده‌های محافظ انرژی هسته‌ای و هوانوردی نیاز دارد و افزود: «زمان آزمون و خطا به پایان رسیده است».

او خواستار تاکید بیشتر بر ایمنی و تحقیق قبل از توسعه مدل‌های هوش مصنوعی پیشرفته‌تر توسط فناوری بزرگ ایالات متحده شد تا خطای انسانی گاه به گاه و اجتناب‌ناپذیر دری را به روی فاجعه باز نکند.

رابینسون که ناظر گزارش‌های ایمنی برای ۱۲ پرتاب مدل‌های هوش مصنوعی مرزی بود، گفت که خطاهای اخیر معمولی هستند زیرا غول‌های فناوری «سرعت و انعطاف‌پذیری» را در اولویت قرار داده‌اند.

"محیطی که چنین اتفاقاتی می تواند رخ دهد جایی برای رشد ذهن های مصنوعی نیست که می توانند باهوش تر از ما باشند و ممکن است آنچه را که ما می خواهیم انجام ندهند."

کارمند سابق OpenAI خاطرنشان کرد که این شرکت به "استقرار تکراری" متکی است. ابتدا مدل‌های جدید هوش مصنوعی را منتشر می‌کند و تنها پس از بروز مشکلات، محافظ‌ها را تشدید می‌کند.

رابینسون که به مدت 3 سال و نیم در OpenAI کار کرده است، افزود: «از آنجایی که شرکت از یک راه‌اندازی به راه‌اندازی دیگر سرعت می‌گیرد، در رسیدن به سطح مراقبتی که فکر می‌کنم لازم است، شکست می‌خورد.

OpenAI در بیانیه‌ای به آخرین انتقادات واکنش نشان داد: «ما مطمئن می‌شویم که مدل‌های ما بیش از آن چیزی که می‌توانیم با خیال راحت مدیریت و ایمن کنیم، توانمند نباشند، و در صورت نیاز به کاهش سرعت، آموزش را متوقف می‌کنیم یا مدل‌ها را متوقف می‌کنیم.»

در ماه‌های اخیر، هشدارهای مکرر از سوی کارشناسان و سیاست‌گذاران فناوری مبنی بر این که مدل‌های هوش مصنوعی با چنان سرعتی در حال پیشرفت هستند، وجود داشته است که می‌توانند کنترل را در دست بگیرند و احتمالا بشریت را از بین ببرند.

علی‌رغم این ترس‌ها، دونالد ترامپ، رئیس‌جمهور ایالات متحده به شدت مخالف مقررات قوی‌تر است و اصرار دارد که این مقررات سرعت نوآوری را کاهش می‌دهد و مدل‌های هوش مصنوعی آمریکا را برای شکست رقبای چینی دشوارتر می‌کند.

این هفته، ترامپ یک پیمان ایمنی داوطلبانه با شش شرکت Nvidia، SpaceX، OpenAI، Anthropic، Meta و Alphabet's Google اعلام کرد.

رئیس جمهور این توافق را "اخلاقی الزام آور" توصیف کرد، حتی اگر از نظر قانونی قابل اجرا نباشد.

او همچنین به دولت خود دستور داد تا نام هوش مصنوعی را به "هوش فوق العاده" یا SI تغییر دهند.

نظرسنجی رویترز/ایپسوس در ماه گذشته نشان داد که سه چهارم آمریکایی‌ها نگران این هستند که غول‌های هوش مصنوعی به اندازه کافی برای جلوگیری از آسیب جدی هوش مصنوعی به جامعه تلاش نمی‌کنند.

اگر برای گزارش مورد اعتماد به تیم ما اعتماد دارید، لطفا چند لحظه وقت بگذارید و ما را به عنوان منبع برگزیده خود در Google انتخاب کنید تا همیشه اخبار تأیید شده ما را ابتدا ببینید.