محققان هوش مصنوعی می‌گویند که شرکت‌ها با نادیده گرفتن خطرات فاجعه‌بار بالقوه، سیستم‌های خود را بهبود می‌بخشند

محققان فعلی و سابق OpenAI و Google DeepMind هشدار می‌دهند که شرکت‌ها برای محافظت از جهان در برابر پیامدهای بالقوه فاجعه‌بار ساخت سیستم‌های هوش مصنوعی که می‌تواند از توانایی انسان در کنترل آن‌ها پیشی بگیرد، بسیار کم کار می‌کنند. در گواهی‌های ویدیویی که توسط تحقیقات غیرانتفاعی ایمنی هوش مصنوعی Palisade Research جمع‌آوری شده و منحصرا با رویترز به اشتراک گذاشته شده است، کارمندان گفتند که نگرانی‌هایشان در مورد ریسک وجودی نبوده است.

آنها همچنین گفتند که آزمایشگاه‌های هوش مصنوعی کارمندانی را که مدل‌های جدید می‌سازند بیشتر از آنهایی که احتیاط می‌کنند تجلیل می‌کنند. این پروژه که frominside.ai نام دارد، تلاشی است از سوی کسانی که نگران هوش مصنوعی هستند تا نگرانی‌های خود را مستقیما فراتر از اتاق پژواک رسانه‌های اجتماعی با مردم در میان بگذارند. او در مصاحبه ای با رویترز گفت: OpenAI و DeepMind و در این پروژه شرکت کردند. "این بر عهده من و بقیه است که مستقیم باشیم."

سال‌ها با این نگرانی‌ها دست و پنجه نرم می‌کردند، اما از ژوئیه، زمانی که عوامل OpenAI از عرصه آزمایش خود خارج شدند و شرکت هوش مصنوعی Hugging Face را هک کردند، عموم مردم نگران شدند. از آن زمان، بحث در مورد چگونگی تعادل بین ایمنی و پیشرفت در هوش مصنوعی صنعت فناوری را تقسیم کرده و به یک موضوع سیاسی جهانی تبدیل شده است. هوش مصنوعی به شدت پیشرفت کرده است.

اما کارمندان فعلی و سابق، از جمله برخی از محققانی که این مدل‌های جدید هوش مصنوعی را می‌سازند، نگران هستند که جامعه برای آسیب‌های احتمالی آماده نیست. در یک ویدیو، نیل ناندا، دانشمند پژوهشی در DeepMind، گفت که او معتقد است که حداقل 10 درصد احتمال دارد که هوش مصنوعی به انقراض انسان منجر شود، که او آن را به عنوان «گام‌های مضحک بالا» توصیف کرد. خوان فیلیپه سرون اوریبه، مهندس تحقیقات همسویی هوش مصنوعی در OpenAI در ویدئویی جداگانه گفت: در حال مسابقه دادن با یکدیگر هستند، به نوعی چشم بسته.

کسی حدس می‌زند که سرطان را درمان کنیم یا هر شغلی را از دست بدهیم یا شاید همگی مرده باشیم.» رویترز روز دوشنبه گزارش داد که «آنتروپیک» در نظر دارد در عرضه اولیه عمومی خود به سرمایه‌گذاران بالقوه هشدار دهد که هوش مصنوعی پیشرفته می‌تواند «خطرات فاجعه‌بار یا وجودی برای بشریت» داشته باشد. نسل‌های آینده مدل‌های هوش مصنوعی، به‌ویژه زمانی که مدل‌ها ظرفیت خودسازی بازگشتی یا توانایی یادگیری مداوم و به دست آوردن قابلیت‌های جدید را ایجاد کنند.

رزی کمبل، محقق سابق سیاست در OpenAI و مدیر عامل Eleos AI Research، یک موسسه غیرانتفاعی متمرکز بر وضعیت اخلاقی بالقوه سیستم‌های هوش مصنوعی، گفت که این مشکل با سازمان‌دهی مجدد مداوم در برخی از آزمایشگاه‌های هوش مصنوعی ترکیب می‌شود. کمپبل گفت قبل از اینکه OpenAI را در سال 2024 ترک کند، متوجه شد که سازمان در حال تبدیل شدن به فن‌آوری سخت‌تر است. مدیران سعی کرده‌اند این نگرانی‌ها را برطرف کنند، اگرچه فشار سیاسی از سوی دونالد ترامپ، رئیس‌جمهور آمریکا برای حفظ فناوری ایالات متحده وجود دارد.

برتری شناختی نسبت به China.Anthropic: 'Pace the frontier' Dario Amodei، مدیر عامل آنتروپیک، در این ماه مقاله ای را منتشر کرد که در آن از صنعت هوش مصنوعی خواسته بود تا سرعت خود را برای "سرعت پیش برود" کاهش دهد و سام آلتمن، مدیر عامل OpenAI به سرعت با آن موافقت کرد. چندین محقق برجسته هوش مصنوعی، از جمله دانشمند ارشد OpenAI و یکی از بنیانگذاران Anthropic، مقاله ای را در این هفته منتشر کردند که در آن از سیاستگذاران خواستند به بررسی چگونگی ساخت مدل های صنعت با خود-بهبودی بازگشتی بپردازند. هر دو شرکت مدل های جدیدی را در این ماه راه اندازی کرده اند، زیرا در رقابت برای تضمین مشتریان بیشتر هستند، اگرچه OpenAI روز دوشنبه اعلام کرد که انتشار آن را متوقف کرده است.

ایروینگ گفت: مدلی حتی قدرتمندتر. "نسخه آنها از سرعت دادن به مرز این است که "سرعت زیادی نداشته باشید." «اگر کار بسیار خطرناکی انجام می‌دهید، باید سرعت خود را کاهش دهید. شرکت‌های هوش مصنوعی تا چه حد این یک مشکل هماهنگی محض است، بیش از حد بازی می‌کنند. آنها می‌توانند به طور یکجانبه متوقف شوند.» دانیل کوکوتاجلو، محقق سابق مدیریت OpenAI در مصاحبه‌ای گفت که از زمان هک Hugging Face، بسیاری از همکاران سابقش با او تماس گرفته‌اند تا نگرانی‌های خود را در مورد گروه تحقیقاتی Project به طور خصوصی در میان بگذارند. مقامات ارشد در آزمایشگاه h

ave "خود را متقاعد کردند که بچه های خوبی هستند و اگر یک طرفه دست از کار بکشند، وضعیت بدتر خواهد شد."