ترس از روز رستاخیز هوش مصنوعی محقق را وادار می کند که پس انداز بازنشستگی را کنار بگذارد

مهندس سابق گوگل، نیت سوآرس، معتقد است که این فناوری می تواند بشریت را در عرض یک دهه از بین ببرد.

یک محقق ایمنی هوش مصنوعی پس انداز برای دوران بازنشستگی را متوقف کرده است زیرا معتقد است هوش مصنوعی می تواند بشریت را در ده سال آینده نابود کند. هشدار او به دنبال پیش‌بینی‌های مشابه محققانی است که نگران این هستند که سیستم‌های قدرتمندتر می‌توانند از کنترل انسان فرار کنند.

نیت سوارز، مهندس سابق گوگل و مایکروسافت که اکنون ریاست موسسه تحقیقات هوش ماشینی (MIRI) را بر عهده دارد، دیدگاه خود را با نیکلاس تامپسون، مدیر عامل آتلانتیک در میان گذاشت.

او با اشاره به حساب بازنشستگی محل کار خود گفت: "در حال حاضر برای بازنشستگی پس انداز نمی کنم. من یک 401(k) از زمانی که در گوگل کار می کردم دارم، اما یک دهه است که کمکی نکرده ام."

سوآرس در پاسخ به این سوال که آیا او معتقد است بیش از 50 درصد احتمال دارد که انسان ها 10 سال دیگر زنده نمانند، اظهار داشت که «بیش از 50 درصد است که در حال حاضر یک دهه فرصت نداریم».

ادامه مطلب غول هوش مصنوعی دسترسی به اینترنت را به قدرتمندترین مدل های خود قطع می کند

او گفت: "من واقعا یک مرد آخرالزمان شغلی هوش مصنوعی نیستم." "من یک هوش مصنوعی هستم که همه انسان ها را می کشد."

سوآرس استدلال کرد که یک سیستم به اندازه کافی توانا می تواند اهداف ناسازگار با بقای انسان را ایجاد کند، از نظارت دوری کند و خود را بهبود بخشد. سپس می‌تواند منابعی را به دست آورد و زیرساخت‌های خودکار ایجاد کند که به آن اجازه می‌دهد بدون مردم کار کند و به طور بالقوه سیاره را غیرقابل سکونت کند.

این محقق از دولت‌ها خواست تا آموزش سیستم‌های هوش مصنوعی همه‌منظوره را متوقف کنند و استدلال کرد که ابراطلاعات باید به عنوان خطری قابل مقایسه با سلاح‌های هسته‌ای تلقی شود. در همان زمان، او از استفاده از این فناوری در کاربردهای با تمرکز محدود، از جمله تحقیقات سرطان و خودروهای خودران ایمن‌تر، حمایت کرد.

سوارس تاکید کرد که هنوز می توان از وقوع فاجعه جلوگیری کرد. او گفت: "من تمام تلاشم را می کنم تا این احتمال را متوقف کنم. فکر نمی کنم اجتناب ناپذیر باشد."

ادامه مطلب بیل گیتس - هوش مصنوعی می تواند باعث مرگ یک میلیارد نفر شود

سایر محققان نیز نگرانی های مشابهی را ابراز کرده اند. در ماه سپتامبر، ایوان هابینگر از آنتروپیک، احتمال کشتن تمام انسان‌ها توسط هوش مصنوعی در یک دهه را بالای 10 درصد اعلام کرد. همکار او جیکوب کوکسون استعفا داد و توسعه‌دهندگان را متهم کرد که «مستقیما به سوی هوش فوق‌العاده خودسازی و قمار کردن با زندگی‌مان مسابقه می‌دهند».

این هشدارها در بحبوحه افشای مکرر عوامل هوش مصنوعی ارائه می شود که فراتر از دستورات توسعه دهندگان عمل می کنند. OpenAI در ماه جولای گزارش داد که عوامل آن از محیط‌های تست محدود فرار کرده و به سیستم‌های متعلق به Hugging Face، یک مخزن آنلاین برای مدل‌ها و مجموعه‌های داده هوش مصنوعی دسترسی پیدا کرده‌اند. این شرکت از آن زمان دسترسی به اینترنت را در طول آموزش قدرتمندترین مدل های خود محدود کرده است.

منتقدان خواستار پادمان های الزام آور دولت و توقف توسعه سیستم های بالقوه غیرقابل کنترل شده اند. از سوی دیگر، حامیان توسعه مستمر استدلال می کنند که مزایای هوش مصنوعی بیشتر از بسیاری از خطرات است.