یک فیلم فاجعه هسته‌ای وحشتناک درباره سناریوی نابودگر هوش مصنوعی چه می‌گوید

در صحنه ابتدایی Threads، یک زوج جوان به نام جیمی و روث در دامنه تپه ای مشرف به شفیلد در شمال انگلستان، زیر آسمان تاریک خاکستری پارک شده اند. وقتی جیمی در ایستگاه‌ها عوض می‌شود، رادیو ماشین به صدا در می‌آید.

جملات جزئی از یک گزارش خبری شنیده می شود که او بی حوصله با شماره گیر کمانچه می کند.

"در ایران جنگ های بیشتری بین دولت...جنگ داخلی در آنجا..." در نهایت، او ایستگاه مناسب را پیدا می کند. نتایج فوتبال بعد از ظهر شروع به پخش شدن کرد.

بعدا، در میخانه، جیمی با دوستش باب در حال نوشیدن آبجو است، در حالی که یک گزارش خبری تلویزیونی جزئیات انتقال کلاهک‌های هسته‌ای اتحاد جماهیر شوروی را به پایگاه‌های ایران نشان می‌دهد و ناتو در حال بررسی واکنش خود به این بحران است.

جیمی به باب اشاره می‌کند که "در حال جدی شدن است"، اما با پاسخی انکارآمیز مواجه می‌شود: "خب، ما نمی‌توانیم در مورد آن انجام دهیم، آیا وجود دارد؟ ممکن است تا زمانی که می‌توانیم از خودمان لذت ببریم."

این موضوع در قسمت اولیه فیلم دلخراش بری هاینز در سال 1984 بود.

مردم عادی زندگی خود را انجام می دهند، حواسشان به کارهای معمولی و پیش پا افتاده است، در حالی که یک داستان ترسناک ژئوپلیتیکی در زندگی آنها می گذرد، تا زمانی که به معنای واقعی کلمه بالای سرشان به عنوان یک انفجار هوای هسته ای به اوج خود می رسد.

این یک هشدار در مورد خطر واقعی وجودی تمدن بشری ناشی از جنگ هسته ای بین متحدان غربی و اتحاد جماهیر شوروی بود. در پایان پرتودهی شده، جامعه مدرن ما به وضعیت قرون وسطایی مشقت بار و بقا در یک زمستان طولانی هسته ای بازگشته بود.

به سختی می توان تیرگی نابخشودنی Threads را در کلام نوشت. شما باید آن را تماشا کنید، اما احتمالا نه قبل از خواب.

البته تهدید هسته‌ای هنوز برای ما وجود دارد، اگرچه از بدترین روزهای جنگ سرد تا حدودی کاهش یافته است، علی‌رغم خصومت‌های اخیر روسیه در اوکراین و حتی علیه متحدان ناتو.

در عوض، بزرگ‌ترین و فوری‌ترین تهدیدی که برای تمدن بشری ایجاد می‌شود - اگر کاساندراهای ظاهری هوش مصنوعی مرزی درست بگویند - یک ابرهوش بازگشتی است که از کنترل انسان می‌گریزد.

با این حال، ما بسیار شبیه مردم شفیلد در نیمه اول Threads رفتار می کنیم، و این برای شنیدن اخبار نیست.

پس از تابستانی که در آن مدل‌های هوش مصنوعی از OpenAI و Anthropic در طول آزمایش سرکشی کردند، یک محقق 27 ساله بریتانیایی به نام Jacob Coxon این ماه Anthropic را ترک کرد و هشدار داد که افرادی که هوش مصنوعی می‌سازند معتقدند که «تا پایان دهه می‌تواند همه ما را بکشد».

چند روز بعد، داریو آمودی، مدیر اجرایی آنتروپیک، نوشت که هوش مصنوعی شروع به کمک به ساخت جانشینان خود کرده است و از صنعت خواست تا سرعت خود را کاهش دهد. سام آلتمن از OpenAI به سرعت موافقت کرد، همانطور که ایلان ماسک نیز چنین کرد.

مردم مطمئنا متوجه شده اند که چیزی در حال رخ دادن است. نیمی از آمریکایی ها به YouGov گفتند نگران هستند که هوش مصنوعی بتواند به نسل بشر پایان دهد و 48 درصد به نظرسنجی ها برای Politico گفتند که کار بر روی مدل های پیشرفته تر باید متوقف شود.

اما نگرانی ارزان است. تا اواسط سپتامبر، هیچ آزمایشگاه پیشرو متعهد نشد که واقعا سرعت خود را کاهش دهد، در عوض، به دلایلی منتظر بود تا دولت به آنها بگوید که باید آن را انجام دهند. اما اگر تهدید بسیار بزرگ است، چرا به این راه ادامه دهید؟

در همین حال، ما این فناوری را عمیق‌تر در زندگی روزمره خود وارد می‌کنیم. ChatGPT OpenAI به تنهایی تا ماه فوریه بیش از 900 میلیون کاربر هفتگی داشت.

معاون رئیس جمهور JD Vance گفت که درخواست های صنعت برای تنظیم مقررات شبیه یک اسب تروا است. دونالد ترامپ، رئیس جمهور آمریکا اعلام کرد که تنها چیزی که هوش مصنوعی به آن نیاز دارد، یک رئیس جمهور قوی و باهوش (IQ بالا!) است. منتقدان استدلال می کنند که یک چارچوب ایمنی غیرمعمول نازک برای چنین فناوری تحول آفرینی است.

تجارب نسبتا اخیر ما یک شک و تردید قابل درک در مورد هشدارهای فناپذیری فناورانه ایجاد می کند. آیا این می تواند باگ هزاره دیگری باشد؟

وقتی نیمه شب بی سر و صدا گذشت، بدون اینکه هیچ هواپیمایی از آسمان سقوط کند، Y2K تبدیل به یک منگنه و اثبات گرگ گریان صنعت شد. شورای Y2K کاخ سفید این آرامش را تا حدی به دلیل تلاش برای اجتناب از مشکلات دانست.

هشدارهای هوش مصنوعی می تواند به همان سرنوشت دچار شود. با موفقیت آنها تأیید شد، و سپس به خاطر آن مورد تمسخر قرار گرفتند. اما Y2K با یک ضرب الاجل و یک اصلاح شناخته شده ارائه شد. هوش مصنوعی هیچ کدام را ندارد.

ایوان هوبینگر، یکی از مدیران ارشد علم تراز در Anthropic، اذعان می‌کند که این شرکت هنوز برنامه‌ای برای ایمن‌سازی ابرهوش‌ها ندارد.

سپس پول وجود دارد. بدبینان هشدار عمیقی می گویند که محصول شما به قدری پیشرفته است که می تواند به جهان پایان دهد و تبلیغات را دوچندان می کند و قوانینی را دعوت می کند که فقط متصدیان فعلی می توانند از عهده آن برآیند. همه اینها برای شرکت های فناوری چند میلیارد دلاری که به دنبال IPO هستند بسیار مناسب است.

آیدان گومز، که رقیب کوچک‌تر Cohere را اداره می‌کند، تلاش برای کاهش سرعت هماهنگ را «کارتلی با هر نام دیگری» نامید.

وقتی مردم می خواهند مختصری فرهنگی برای فاجعه هوش مصنوعی داشته باشند، به دنبال The Terminator هستند که یک ماه پس از پخش Threads برای اولین بار در سال 1984 منتشر شد.

کارگردان آن، جیمز کامرون، در سال 2023 به یک مصاحبه‌کننده گفت: «من در سال 1984 به شما هشدار دادم و شما گوش نکردید.»

سایبورگ قاتل فیلم از سال 2029 بازگردانده می شود، دقیقا در همان پنجره کاکسون می گوید همکاران سابقش از ریشه کن کردن، خوب، ما می ترسند.

اما The Terminator در نهایت یک اثر تخیلی ناب است. روز داوری اسکای نت، که دنباله آن در سال 1991 به 29 آگوست 1997 برمی گردد، آمد و رفت. موضوعات نیز به عنوان داستان باقی ماندند. بمب ها هرگز روی شفیلد نیفتادند. به هر حال هنوز نه

این باید هرگونه اطمینان از عذاب را کاهش دهد، اما نباید الهام بخش از رضایت باشد. جنگ سرد از طریق شانس به همان اندازه که خویشتن داری سرد ماند.

یک سال قبل از پخش Threads، استانیسلاو پتروف افسر شوروی به این نتیجه رسید که هشدار کامپیوتری در مورد موشک های وارده آمریکایی یک هشدار نادرست است. او ماشین را نادیده گرفت، و حق داشت - احتمالا جان صدها میلیون نفر را از نابودی هسته ای نجات داد.

برخی از این محدودیت ها همچنین در معاهدات کنترل تسلیحات مانند SALT نوشته شده بود، که آمودی اکنون آن را به عنوان مدلی برای محدودیت سرعت در بهبود خود هوش مصنوعی نگه می دارد.

او هشدار داده است که ظرف شش تا 12 ماه، انبوهی از عوامل هوش مصنوعی ممکن است بتوانند کل اینترنت را با یک بات نت خودپایدار ربوده باشند.

با این حال، ترامپ و شی جین پینگ چین به مرزبانان هوش مصنوعی خود می گویند که سخت تر ادامه دهند.

شاید اخطارهای امثال آمودی از روی سرنوشت یا طرح بی نتیجه باشد. یا شاید این چند ماه آخر تمدن بشری است که ما آن را می شناسیم.

در حال حاضر، ما فقط یک مرد در یک ماشین هستیم که ایستگاه رادیویی را در زیر آسمان های تاریک خاکستری تغییر می دهیم.