یکی از رهبران ایمنی هوش مصنوعی می گوید که پس انداز را برای بازنشستگی متوقف کرده است زیرا معتقد است هوش مصنوعی در 10 سال آینده همه ما را خواهد کشت.

ناتی سوارز پس انداز برای بازنشستگی را متوقف کرده است زیرا می ترسد که هوش مصنوعی ابتدا به بشریت پایان دهد. با حسن نیت از Nate Soares Nate Soares گفت که اضافه کردن به 401(k) خود را متوقف کرده است زیرا ممکن است هوش مصنوعی ظرف یک دهه ما را بکشد.

رئیس MIRI گفت بشریت بیش از 50 درصد احتمال دارد که ظرف یک دهه بمیرد.

ایلان ماسک گفت هوش مصنوعی می‌تواند با ایجاد عصر فراوانی، پس‌اندازهای دوران بازنشستگی را بی‌اهمیت کند. پس انداز برای بازنشستگی شرطی برای آینده است. نیت سوآرس، رئیس مؤسسه تحقیقاتی هوش ماشینی، چندان مطمئن نیست که هوش مصنوعی به ما اجازه دهد تا این حد پیش برویم.

نیکلاس تامپسون، مدیر عامل شرکت آتلانتیک، نیکلاس تامپسون، اخیرا در مصاحبه‌ای برای مجموعه تامپسون با عنوان «جالب‌ترین چیز در هوش مصنوعی» به آتلانتیک گفت: «در حال حاضر برای بازنشستگی پس‌انداز نمی‌کنم. من یک 401(k) از زمانی که در گوگل کار می‌کردم دارم، اما یک دهه است که کمکی نکرده‌ام.

تصمیم سوآرس نمایانگر دیدگاهی تلخ از مسابقه هوش مصنوعی است.

«پدرخوانده هوش مصنوعی» جفری هینتون و محقق آنتروپیک، ایوان هابینگر، به ترتیب، احتمال کشتن همه افراد توسط هوش مصنوعی در عرض یک دهه را 10 درصد و بیش از 10 درصد اعلام کرده اند. سوآرس بدبین تر است: او به تامپسون گفت که معتقد است بیش از 50 درصد احتمال دارد که هوش مصنوعی باعث انقراض انسان در کمتر از یک دهه شود.

Soares، که همچنین یکی از نویسندگان "اگر کسی آن را بسازد، همه می میرند" است، بیش از 12 سال را بر روی همسویی هوش مصنوعی گذرانده است، این زمینه تمرکز بر اطمینان از عملکرد سیستم های قدرتمند همانطور که در نظر گرفته شده است. او قبل از پیوستن به MIRI، سازمان غیرانتفاعی مستقر در برکلی که بر خطرات هوش مصنوعی متمرکز بود، به عنوان مهندس در گوگل و مایکروسافت کار می کرد.

سوآرس گفت که یک هوش مصنوعی با توانایی کافی می تواند اهدافی را در تضاد با بشریت ایجاد کند، از نظارت فرار کند، خود را بهبود بخشد و زیرساخت های خودکار مورد نیاز برای کار بدون افراد را بسازد.

او گفت که از آنجا می تواند سیاره را حول اهداف خود تغییر شکل دهد و به طور بالقوه آن را برای انسان غیرقابل سکونت کند - هشداری که او سال گذشته با Business Insider در میان گذاشت.

401 (k) برای آخرالزمان؟

این سوال که هوش مصنوعی چگونه آینده را شکل خواهد داد، ایلان ماسک را نیز بر آن داشت تا این سوال را مطرح کند که آیا پس انداز بازنشستگی اهمیت دارد یا خیر. با این حال، چشم انداز ماسک از آینده به طور اساسی با سوآرس متفاوت است.

در ماه ژانویه، مدیرعامل تسلا و اسپیس ایکس گفت که مردم نباید نگران «کم کردن پول برای بازنشستگی» در 10 یا 20 سال باشند، پیش‌بینی پیشرفت‌ها در هوش مصنوعی، روباتیک و انرژی باعث می‌شود پس‌انداز بازنشستگی «بی‌اهمیت» باشد. (کارشناسان امور مالی شخصی و استادان هوش مصنوعی برعکس به Business Insider گفتند: شما واقعا باید برای بازنشستگی پس انداز کنید.)

ماسک گفته است که بهره‌وری فوق‌العاده می‌تواند عصر فراوانی را ایجاد کند که در آن همه به «درآمد جهانی بالا»، کالاها و خدمات ارزان، و مراقبت‌های بهداشتی و آموزش بهتر دسترسی داشته باشند.

ماسک همچنین گفته است که پول در آینده ای که هوش مصنوعی و ربات ها عملا در هر کاری از انسان ها بهتر عمل می کنند، بی اهمیت می شود.

برای سوآرس، چشم انداز یک هوش مصنوعی بسیار توانا یک خطر وجودی است، نه راهی به سوی فراوانی.

سوآرس با تکرار درخواست‌های رهبران فناوری مبنی بر «پیش‌رفت از مرز» توسعه هوش مصنوعی، گفت که دولت‌ها باید آموزش سیستم‌های هوش مصنوعی همه‌منظوره را متوقف کنند. او گفت که آنها باید بر توسعه فناوری برای کاربردهایی مانند تحقیقات سرطان و خودروهای خودران ایمن تمرکز کنند.

او روز چهارشنبه به تامپسون گفت که راه حل این است که چیزی را نسازیم که همه را بکشد.

او گفت: «من هر کاری از دستم برمی‌آید انجام می‌دهم تا جلوی این احتمال را بگیرم. فکر نمی‌کنم اجتناب‌ناپذیر باشد.»

مقاله اصلی را در Business Insider بخوانید