داریو استرنج لاو، یا: چگونه یاد گرفتم که نگران نباشم و بمب هوش مصنوعی را دوست داشته باشم

اخیرا من و همسرم در حال تماشای مجدد آثار کلاسیک تلویزیونی پرستیژ بودیم. اول، آمریکایی ها و همین حالا، دیوانه ها. هر دو بخش در حال حاضر به عنوان اظهاراتی نه تنها در مورد دهه 1980 و 1960، بلکه در مورد جایی که ما هنوز هستیم خوانده می شود. یک چیز در پایان فصل دوم حماسه غرق در مشروب الکلی AMC در خیابان مدیسون برجسته شد: احساس زندگی در آستانه ویرانی که 75 سال به طول انجامیده است.

در پایان، «مدیتیشن‌ها در شرایط اضطراری»، دان دراپر شاهد اعلام کندی از موشک‌های شوروی در کوبا است. اگر این اتفاق بیفتد، شخصیت‌ها به جایی می‌رسند که می‌خواهند باشند. جوآن دفاع مدنی را بالا می برد و دان آن را تکان می دهد. مسلما هیچ چیز در مورد بحران طرح را تغییر نمی دهد. یکی از منتقدان آن را یک پس زمینه هوشمندانه می نامد. دیگری می‌گوید که این کاراکترها را وادار می‌کند تا با آنچه قبلا در آنها وجود دارد روبرو شوند. دان به تازگی از یکی از اقدامات ناپدید شده خود بازگشته است و اضطراب نابودی احتمالی مردم را وادار به انجام کارهای عجیب و غریب می کند.

بحث ایمنی هوش مصنوعی از نظر ماهیت متفاوت است، اما همان ترس هایی را ایجاد می کند که ما از نسل پدربزرگ و مادربزرگ خود متزلزل نشده ایم. در جامعه ای که بارها و بارها گفته می شود که پایان نزدیک است، چه اتفاقی می افتد؟

زیرزمین هر نسل

من آن را حتی در کودکی در دهه 80 به یاد دارم. دیوار برلین زمانی که من 6 ساله بودم فروریخت و تهدید یک رویارویی هسته ای در همه جای فرهنگ وجود داشت. لزومی نداشت که به اندازه «شام نابودی» بری مک گوایر واضح باشد. من آن را در «بلوز دلتنگ زیرزمینی» باب دیلن شنیدم، جایی که جانی در زیرزمین است و راوی روی سنگفرش است و به دولت فکر می‌کند. من زیرزمین را به‌عنوان پناهگاهی برای سقوط شنیدم، اگرچه به نظر می‌رسید که دیلن همیشه بیضوی به فرهنگ «زیرزمینی» شعر بیت دهه 1950 ادای احترام می‌کند. حداقل یک نقل قول از جک کرواک را در سالنامه دبیرستان خود ذکر کنید.

(موسیقی فیلم آمریکایی‌ها بسیار بیشتر با کد پیتر گابریل بود، همانطور که در استفاده از «بازی‌های بدون مرز» دیده می‌شود، با شخصیتی به نام «ویلی» که احتمالا به افتخار صدراعظم آلمان غربی، ویلی برانت ساخته شده است. عنوان آهنگ ترجمه انگلیسی Jeux Sans Frontières، یک بازی تلویزیونی اروپایی بود که در آن تیم‌هایی از کشورهای مختلف با لباس‌های مختلف لباس می‌پوشیدند. بوش این عبارت فرانسوی را در بک آواز خواند.)

خود بیت‌ها از اگزیستانسیالیست‌های فرانسوی استفاده می‌کردند، جنبشی که جهان بی‌خدا را در عصر بمب به حساب می‌آورد. البته یکی از بلاک باسترهای تعیین کننده دهه 2020، اوپنهایمر کریستوفر نولان است که لحظه خلق این فرهنگ را دراماتیک می کند.

طبیعتا، یکی از تأثیرگذارترین روایت‌های روز رستاخیز هوش مصنوعی از کانون علمی-تخیلی، «نابودگر» محصول 1984، محصول نویسنده اکشن جیمز کامرون بود که اغلب به تأثیر 8 ساله بودن و تماشای بحران موشکی کوبا در باز شدن و خواندن پناهگاه بمب پدرش اشاره می‌کند. (کامرون در آگوست 2025 به رولینگ استون گفت که او هنوز از یک آخرالزمان به سبک ترمیناتور می ترسد که در آن هوش مصنوعی را با سیستم های تسلیحاتی، حتی تا سطح سیستم های تسلیحات هسته ای، حمله متقابل دفاع هسته ای، و همه این موارد کنار هم قرار دهید.)

ایده های کامرون چقدر به آخرین نسخه آخرالزمان آمریکا کمک می کند؟

چه کسی بمب را در دست دارد

کمدی استنلی کوبریک در سال 1964، دکتر استرنج لاو یا: چگونه یاد گرفتم از نگرانی دست بردارم و بمب را دوست داشته باشم، تصور می کرد که یک ژنرال سرکش دستور یک حمله غیرمجاز را می دهد در حالی که اتاق جنگ در تلاش بود تا جلوی فاجعه را بگیرد. شوخی آن این بود که ماشینی که قصد جلوگیری از پایان را دارد می تواند باعث آن شود. به نظر می رسد مگابمب امسال تام کروز، Digger، تلاشی خودآگاه برای از بین بردن انرژی بیش از حد دکتر استرنج لاو باشد، اگرچه به نظر می رسد موضوع آن که آب و هوا است نادرست است - موازی واقعی هوش مصنوعی است.

کتاب جدید کوین روز، The AGI Chronicles، مدیر عامل آنتروپیک، داریو آمودی را به عنوان مردی نشان می‌دهد که در مسائل اتمی ریسک و خطر وسواس دارد. او به هر کارمند جدید آنتروپیک یک نسخه از کتاب مورد علاقه خود، ساخت بمب اتمی را تحویل می داد. همچنین گزارش می‌دهد که قهرمان شخصی آمودی، لئو زیلارد، دانشمندی است که واکنش زنجیره‌ای هسته‌ای (به وحشت خودش) را تصور کرد و بعدا نامه انیشتین در سال 1939 به FDR را تهیه کرد که به پروژه منهتن کمک کرد. آیا پرستش زیلارد آمودی آنقدر صادقانه است که او خودآگاه همان مراحل را تکرار می کند؟

در 12 سپتامبر، آمودی یک مقاله 3800 کلمه ای به نام "ما باید در مرز قدم برداریم" منتشر کرد. او نوشت: «ما باید سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهیم. او گفت که این خطرات شامل از دست دادن کنترل سیستم های هوش مصنوعی و سوء استفاده برای حملات سایبری و بیوتروریسم است. او نظارت خارجی، هماهنگی بین آزمایشگاه ها و همکاری بین المللی را پیشنهاد کرد.

در اواخر سپتامبر، رویترز در مورد یک دفترچه برای IPO برنامه ریزی شده Anthropic گزارش داد که هشدار می دهد فناوری آن می تواند یک "خطر فاجعه بار یا وجودی برای بشریت" باشد، یک انتخاب عجیب برای افشای مالی، زیرا بازار بدون انسان برای اداره آن وجود نخواهد داشت.

کال نیوپورت، مقاله نویس نیویورکر و استاد علوم کامپیوتر جورج تاون، اخیرا این طرز فکر را به اد السون در Prof G Markets به عنوان "سلاح اضطراب جمعی" توصیف کرد. او استدلال کرد که بحث عذاب هوش مصنوعی که از دره سیلیکون منتشر می شود، عمدتا محصول یک جامعه ایدئولوژیک است که به مدت 15 سال همین حرف را می زند. در سخنان او، OpenAI، Anthropic و سرسخت ترین منتقدان آنها در یک "دعوای خانوادگی" هستند که آیا جهان برای یک "خدا" هوش مصنوعی آماده است یا خیر و اینکه بسیاری از مفاهیم آنها، مانند خودسازی بازگشتی، مستقیما از نظریه آینده نگر است، نه علم کامپیوتر.

گرگ های واقعی

برای انصاف در برابر قیامت هر نسلی، آنها همه چیز را درست نکردند. جانان گانش، ستون نویس فایننشال تایمز که او را تحسین می کنم و اغلب می خوانم، در ستونی در 10 اکتبر با عنوان "خطر خستگی ناشی از بدبینی" به این نکته اشاره کرد. او نوشت، وحشت‌های سال گذشته بر اساس رویدادهای بزرگ و ملموس بود: استقرار موشک‌های پرشینگ، 11 سپتامبر، یک ویروس کرونا. او همان ترس هایی را می گذراند که من با آن بزرگ شدم: نابودی هسته ای در دهه 1980، سپس القاعده، سپس همه گیری.

و او با عددی که در کل این بحث وجود دارد شروع می کند: به گفته برخی در این زمینه، احتمال 10 درصد وجود دارد که هوش مصنوعی باعث انقراض انسان شود.

با این حال، طبق حسابداری خود گانش، هشدار تقریبا هر بار از تهدید فراتر می رفت. او نوشت: «معلوم شد که جنگ سرد در حال پایان یافتن بود، نه داغ شدن،» و در مورد القاعده نوشت: «تهدید اختراع نشده بود، اما هرگز وجود نداشت.»

همچنین یک مورد جدی وجود دارد که گرگ هوش مصنوعی لباس اشتباه پوشیده است. آرویند نارایانان، استاد علوم کامپیوتر پرینستون که مدیریت مرکز سیاست فناوری اطلاعات دانشگاه را بر عهده دارد، با همکار خود سیاش کاپور، مقاله ای تاثیرگذار به نام «هوش مصنوعی به عنوان فناوری عادی» نوشت. آنها استدلال می کنند که هوش مصنوعی بسیار شبیه به فناوری های انقلابی قبلی است، به این معنی که ما در حال حاضر یک نقشه راه برای مدیریت آن داریم.

نارایانان و کلاین در پادکست هفته گذشته ازرا کلاین، در اپیزودی با عنوان «هوشمندی قدرت نیست» بحث کردند که آیا هوش مصنوعی با «برق، اینترنت، دوچرخه» یا «چیزی بیشتر شبیه یک ذهن بیگانه» قابل مقایسه است. نارایانان استدلال کرد که «انبوه» عوامل خطرناک هستند، اما «کرم‌ها» یا ویروس‌های رایانه‌ای در زمان خود خطرناک بودند. او افزود که ما نیاز به نوآوری داریم تا بتوانیم سرپوش آنها را حفظ کنیم. می توان بحث را به فناوری هسته ای و اشاعه هسته ای نیز تعمیم داد.

جیمز کامرون 8 ساله بود که کندی را در تلویزیون تماشا کرد. من 6 ساله بودم که دیوار فروریخت. در جایی، یک بچه در آن سن می شنود که ماشین ها ممکن است دنیا را به پایان برسانند، و از افرادی که ماشین ها را می سازند می شنود.

کامرون برای تبدیل کوبا به Skynet به 22 سال زمان نیاز داشت. در سال 2048 بازگردید. برای بقیه، می ترسم دوباره به زندگی در زیر شبح بمب عادت کنیم.

این داستان در ابتدا در سایت Fortune.com منتشر شد