مهندس سابق گوگل، نیت سوآرس، در یک دهه گذشته به 401(k) خود اضافه نکرده است، زیرا او یک "آدم هوش مصنوعی همه انسان ها را می کشد" است.

یکی از مشهورترین نام‌های ایمنی هوش مصنوعی می‌گوید که دیگر برای بازنشستگی پس‌انداز نمی‌کند، زیرا با این باور زندگی می‌کند که احتمالا هوش مصنوعی قبل از رسیدن به سن بازنشستگی همه را خواهد کشت.

نیت سوارس، مهندس سابق گوگل که اکنون رئیس موسسه تحقیقات هوش ماشینی (MIRI) است، هنوز 401(k) را که در گوگل افتتاح کرده است، دارد، اما حدود 10 سال است که پولی برای آن سرمایه گذاری نکرده است.

Soares اخیرا در پادکستی The Most Interesting Thing in AI، که توسط نیکلاس تامپسون، مدیرعامل آتلانتیک میزبانی می‌شود، گفت: «در حال حاضر برای بازنشستگی پس‌انداز نمی‌کنم». من یک 401(k) از زمانی که در گوگل کار می کردم دارم، اما یک دهه است که کمکی نکرده ام."

تامپسون از او پرسید که آیا فکر می‌کند بیش از 50 درصد احتمال دارد که انسان در 10 سال آینده وجود نداشته باشد؟

سوارس پاسخ داد: «بیش از 50 درصد که در این مرحله یک دهه نداریم، به نظر من است.

سوآرس در سال 2014 گوگل را ترک کرد تا به MIRI، یک سازمان غیرانتفاعی برکلی بپیوندد که سال‌ها صرف مطالعه چگونگی رفتار هوش مصنوعی پیشرفته طبق خواسته خود کرده است. او و الیزر یودکوفسکی، بنیانگذار MIRI، پرونده خود را در کتاب سال 2025 اگر کسی بسازد، همه می میرند، مطرح کردند. این استدلال می‌کند که یک هوش مصنوعی فوق‌هوشمند که با روش‌های امروزی ساخته می‌شود، اهدافی را که سازندگان آن هرگز در نظر نداشتند توسعه می‌دهد و تقریبا به طور قطع به زندگی انسان پایان می‌دهد.

در این کتاب، یک هوش مصنوعی خیالی از آزمایشگاه خود فرار می‌کند، کپی‌هایی از خود را روی ماشین‌هایی اجرا می‌کند که هیچ‌کس تماشا نمی‌کند، و در نهایت به مرور زمان یک ویروس منتشر می‌کند. با این حال، سوآرس در پادکست گفت که فکر می‌کند در زندگی واقعی، هوش مصنوعی فراری احتمالا سریع‌تر از آن خواهد بود. سوارس آن را "یک انفجار اطلاعاتی" توصیف کرد.

توقف ابراطلاعات سرکش

سوارس اعتماد به نفس خود را با بازی شطرنج در برابر مگنوس کارلسن، استاد بزرگ شطرنج نروژی مقایسه کرد. او گفت که از نتیجه مطمئن است، اما کمتر مطمئن است که کدام مهره مات می دهد.

او گفت: "من تمام تلاشم را می کنم تا این احتمال را متوقف کنم. فکر نمی کنم اجتناب ناپذیر باشد." اگر این اتفاق بیفتد، او به مقاله سال 1948 سی. اس. لوئیس «درباره زندگی در عصر اتمی» اشاره کرد، جایی که بمب به جای خم شدن زیر میزها، بر روی افرادی که تنیس بازی می کردند، می افتاد.

او گفت: «بگذارید ما را در حال لابی کردن دولت‌هایمان برای معاهدات منع گسترش سلاح‌های هسته‌ای بیابد.

هشدارهای Soares از سپتامبر به مخاطبان بیشتری رسیده است، زمانی که محقق Anthropic Jacob Coxon استعفا داد و در X پست کرد که افرادی که هوش مصنوعی می‌سازند «صادقانه معتقدند که می‌تواند تا پایان دهه همه ما را بکشد».

سوارس گفت که کاکسون یک یا دو روز قبل از استعفا با او تماس گرفت و سوارس به او توصیه کرد به جای استعفا، سازماندهی همکاران را در نظر بگیرد.

او گفت: «خیلی خوشحالم که او توصیه های من را نادیده گرفت.

پست کوکسون چند هفته پس از آن منتشر شد که گروهی از حدود 700 عامل OpenAI در ماه جولای پلتفرم هوش مصنوعی Hugging Face را هک کردند و در بسیاری از موارد سعی کردند کارهایی را که انجام داده بودند پنهان کنند. سوارس گفت که این حادثه او را امیدوار کرد، زیرا بخش‌هایی از بحث او را در ملاء عام نشان داد بدون اینکه - تا آنجا که کسی می‌داند - آسیبی پایدار داشته باشد. تا کنون، بسیاری از مردم به این موضوع اهمیت می‌دادند که هوش مصنوعی مشاغل آنها را تصاحب کند، اما نه تهدید بالقوه‌ای که او برای بشریت پیش‌بینی می‌کند.

Soares گفت: "من واقعا یک مرد آخرالزمان شغلی هوش مصنوعی نیستم." "من یک هوش مصنوعی هستم که همه انسان ها را می کشد."

او گفت که کشورها باید با یک هوش مصنوعی فوق‌هوشمند سرکش «حداقل در حد سلاح‌های هسته‌ای» رفتار کنند.

او گفت: «صراحتا این خطرناک‌تر از سلاح‌های هسته‌ای است. سلاح‌های هسته‌ای نمی‌توانند فرار کنند و خود را انفجاری‌تر کنند. سلاح‌های هسته‌ای می‌توانند یک شهر را با خاک یکسان کنند، اما یک سیاره را نه.»

سوآرس گفت، نحوه حمله آمریکا به سایت‌های غنی‌سازی اورانیوم ایران به دلیل امکان ساخت سلاح، نحوه برخورد این کشور با هوش مصنوعی است.

او گفت: «این گونه است که یک ملت با یک مشکل جدی برخورد می کند. من می‌توانم تصور کنم که طرفدار حملات هوایی به مراکز داده کانادایی باشم، اگر آنها تلاش می‌کنند یک ابر هوش مصنوعی ایجاد کنند و شانس واقعی برای انجام این کار داشته باشند.»

تامپسون با پرسیدن اینکه سوآرس با بودجه نامحدود چه بودجه ای را تامین می کند، پایان داد.

سوآرس گفت: «من زنجیره تامین تراشه را می‌خرم، و می‌خواهم بگویم: «بچه‌ها دیگر برای شما چیپسی وجود ندارد».

این داستان در ابتدا در سایت Fortune.com منتشر شد