پیشگامان هوش مصنوعی هشدار می دهند که اگر هوش مصنوعی شروع به بهبود کند، "پنجره عمل ممکن است بسته شود".

برخی از برجسته‌ترین محققان و رهبران سیاست‌های هوش مصنوعی جهان - از جمله OpenAI، Anthropic و Microsoft - هشدار می‌دهند که توانایی رو به رشد هوش مصنوعی برای خودکارسازی توسعه خود می‌تواند به سرعت پیشرفت آن را سرعت بخشد.

چرا اهمیت دارد: آنها می گویند که چنین افزایش سریعی در توانایی ها باعث می شود که دولت ها و موسسات زمان کمی برای آماده شدن یا واکنش به عواقب آن داشته باشند. در یک سناریو، آنها هشدار می‌دهند که پیشرفت‌های یک سال ممکن است در عرض چند هفته اتفاق بیفتد.

نویسندگان این هشدار شامل برندگان جایزه تورینگ مانند جفری هینتون و همچنین دانشمند ارشد OpenAI، مدیر ارشد علمی مایکروسافت و یکی از بنیانگذاران Anthropic هستند. محرک اخبار: در یک مقاله سفید جدید، آنها می گویند مدل های هوش مصنوعی که می توانند فرآیند بهبود خود را خودکار کنند، یک "انفجار اطلاعاتی" ایجاد می کنند. این مقاله به شواهدی اشاره می‌کند که نشان می‌دهد سیستم‌های هوش مصنوعی در Anthropic و OpenAI شروع به انجام کارهای تحقیق و توسعه داخلی بیشتری کرده‌اند و بخش قابل توجهی از وظایف مهندسی را خودکار می‌کنند.

چگونه کار می‌کند: این پیشرفت‌ها نشان می‌دهد که این دو شرکت به آستانه «بهبود خود بازگشتی» نزدیک‌تر می‌شوند، که به موجب آن سیستم‌های هوش مصنوعی به سرعت خود را بهبود می‌بخشند. نویسندگان تخمین می‌زنند که وقتی مدل‌های هوش مصنوعی به قابلیت‌های تحقیق و توسعه در سطح متخصص برسند، برای توسعه‌دهندگان این امکان وجود خواهد داشت که از نیروی کار هوش مصنوعی برابر با میلیون‌ها محقق انسانی برتر پشتیبانی کند. سریع پیگیری کنید: این هشدار پس از آن منتشر شد که Axios فاش کرد که OpenAI و Anthropic در حال بررسی ده‌ها هزار حادثه هستند که در آن مدل‌های مرزی اقداماتی را انجام داده‌اند که ارزیاب‌های خارجی آن را مشکل‌ساز می‌دانند. شرکت

شناسه‌هایی که در بیشتر موارد مشخص نیست باعث آسیب‌رسانی به دنیای واقعی شده‌اند، سؤالاتی را در مورد اینکه شرکت‌ها – یا هر توسعه‌دهنده برتر هوش مصنوعی – می‌توانند فناوری خود را کنترل کنند، ایجاد می‌کنند.

با گسترش بیشتر قابلیت ها، محققان هشدار می دهند که جامعه آماده نیست. بررسی واقعیت: نویسندگان می گویند که چنین انفجار اطلاعاتی دور از دسترس است. تعدادی از پیشرفت‌ها می‌توانند از بسیاری از سناریوهای RSI که ارائه می‌کنند، جلوگیری کند، از جمله محدودیت‌های محاسباتی، چالش‌های اتوماسیون، کاهش بازده ناشی از گسترش قابلیت‌ها یا اجرای آموزشی زمان‌بر. بزرگنمایی: مشارکت هینتون قابل توجه است، زیرا او به طور گسترده ای به عنوان پایه گذاری فکری برای رونق امروز شناخته می شود، اگرچه او در مورد آنچه که انتظار داشت عوارض جانبی منفی آن را داشته باشد هشدار داده است.

هوش مصنوعی برای سال ها از زمان ترک گوگل، هینتون یکی از بلندترین صداها در مورد خطرات بالقوه هوش مصنوعی بوده و در مورد خطرات ناشی از جابجایی گسترده شغل، حملات سایبری، سلاح های بیولوژیکی و سایر نگرانی ها صحبت کرده است. محققان خواستار دید بیشتر دولت در اتوماسیون تحقیق و توسعه هوش مصنوعی، راه هایی برای توقف یا کاهش سرعت شتاب آن در صورت نیاز، و آمادگی بیشتر برای تاثیر آن هستند. آنها گزارش اجباری حوادث، ارزیاب‌های مستقل، الزامات ایمنی برای آزمایش سیستم‌های قدرتمند و ایجاد راه‌هایی برای توقف فعالیت‌های هوش مصنوعی را پیشنهاد می‌کنند. نتیجه نهایی: نویسندگان مقاله الف

عدم قطعیت در مورد RSI و تأثیر آن را تصدیق کنید، اما بگویید که اگر رخ دهد، زمان کمی برای انجام تنظیمات وجود خواهد داشت. این روزنامه می‌گوید: «وقتی یک انفجار اطلاعاتی آغاز می‌شود، ممکن است پنجره عمل بسته شود».