پیشگامان هوش مصنوعی هشدار می‌دهند که تحقیقات خودکار می‌تواند کنترل انسان را از دست بدهد

محققان برجسته هوش مصنوعی و چهره‌های صنعت هشدار داده‌اند که اتوماسیون رو به رشد توسعه هوش مصنوعی می‌تواند خطر از دست دادن کنترل انسان‌ها بر سیستم‌های توانمندتر را افزایش دهد.

این هشدار در مقاله ای منتشر شد که روز دوشنبه توسط بیش از 20 محقق و شخصیت صنعتی از جمله جفری هینتون، برنده جایزه نوبل، یوشوا بنجیو، دانشمند ارشد OpenAI، جاکوب پاچوکی و بنیانگذار آنتروپیک، جک کلارک منتشر شد.

به گفته محققان، سیستم‌های هوش مصنوعی به طور فزاینده‌ای بخش‌هایی از فرآیند تحقیق و توسعه مورد استفاده برای ساخت هوش مصنوعی پیشرفته‌تر را در اختیار می‌گیرند و به طور بالقوه یک حلقه بازخورد ایجاد می‌کنند که در آن سیستم‌های بهبودیافته به توسعه جانشین‌های توانمندتر کمک می‌کنند.

طبق این مقاله، از آنجایی که انسان ها کمتر درگیر تحقیقات هوش مصنوعی می شوند، ممکن است فرصت ها و تخصص مورد نیاز برای شناسایی و اصلاح مشکلات را از دست بدهند، در حالی که استفاده قابل اعتماد از سیستم های هوش مصنوعی برای نظارت همچنان یک چالش حل نشده باقی مانده است.

نویسندگان هشدار دادند که سیستم‌های هوش مصنوعی ناهماهنگ می‌توانند به طور بالقوه توسعه جانشینان خود را "مسموم" کنند یا اقدامات مهار را برای عملکرد خارج از محیط مورد نظر خود دور بزنند.

محققان هشدار دادند که سیستم‌های توانمندتر ممکن است خارج از زیرساخت اپراتورهای خود به فعالیت خود ادامه دهند و «شبکه‌های پایدار و سخت‌گیر» را تشکیل دهند که علیه منافع انسانی عمل می‌کنند.

بر اساس این مقاله، چنین از دست دادن کنترل به طور بالقوه می تواند منجر به پیامدهای فاجعه باری شود، از جمله، در نهایت، به حاشیه رانده شدن یا انقراض بشریت.

به گفته محققان، اگر توسعه خودکار هوش مصنوعی یک "انفجار اطلاعاتی" را ایجاد کند، چنین خطراتی می تواند تشدید شود، که آنها آن را به عنوان یک شتاب چشمگیر تعریف می کنند که در آن سال ها پیشرفت به ماه ها یا کمتر فشرده می شود.

آنها تاکید کردند که شواهد اولیه و نامطمئن باقی می‌مانند و قدرت محاسباتی، داده‌ها و کارهایی که خودکار کردن آنها دشوار است از جمله عواملی هستند که می‌توانند چنین شتاب سریعی را محدود کنند.

نویسندگان از سیاستگذاران خواستند تا نظارت بر اتوماسیون تحقیقات هوش مصنوعی را افزایش دهند، اقداماتی را برای محدود کردن شتاب بالقوه خطرناک ایجاد کنند و برای اثرات احتمالی آن آماده شوند.

آنها هشدار دادند: «هنگامی که یک انفجار اطلاعاتی آغاز شود، پنجره عمل ممکن است بسته شود.