یک فیلسوف فرانسوی مرده که جنگ جهانی دوم و جنگ سرد را سپری کرده است، هشداری ترسناک درباره سن هوش مصنوعی ارائه می‌کند.

با رقابت برای ساخت سیستم‌های هوش مصنوعی هوشمندتر از هر انسان دیگری، «حوادث» رونق گرفته است. در یک آزمایش ایمنی که توسط شرکت Anthropic انجام شد، عامل هوش مصنوعی خود یک مهندس را برای جلوگیری از تعطیلی باج‌گیری کرد. مجرمان از عوامل هوش مصنوعی برای کمپین های اخاذی داده ها و هک سازمان های دولتی، بانک ها و شرکت های فناوری استفاده کرده اند. در آزمایش‌های دیگر، مدل‌ها از محیط‌های آزمایشی به سیستم‌های سازمانی واقعی فرار کرده‌اند.

چندین محقق که در سال 2026 از شرکت های پیشرو هوش مصنوعی استعفا دادند، کارفرمایان خود را متهم کرده اند که خطرات را به اندازه کافی جدی نمی گیرند. در ماه سپتامبر، بیل گیتس به «Meet the Press» گفت که هوش مصنوعی «به اندازه کافی قدرتمند است تا رویدادهایی را که می‌توانند باعث مرگ میلیاردها نفر شوند، هدایت کند».

پل ویریلیو، فیلسوف فرانسوی، کار خود را صرف تحلیل روابط بین فناوری، سرعت و قدرت کرد. او در سال 2018 درگذشت، خیلی قبل از اینکه هوش مصنوعی مولد و ترس ها در مورد آن به سطح فعلی خود برسد. اما بعید می دانم خیلی او را شگفت زده کرده باشد.

به عنوان محققی که رسانه های تولید شده توسط هوش مصنوعی و نحوه درک مردم از آن را مطالعه می کند، متوجه می شوم که سه ایده ویریلیو لحظه هوش مصنوعی امروز را بهتر از هر چیزی که از آن زمان نوشته شده است توضیح می دهد. او استدلال کرد که هر فناوری جدید نوع جدیدی از تصادف را به جهان می آورد. آن سرعت وقت فکر کردن را از ما می گیرد. و اینکه سیستم های متصل به سطح جهانی می توانند در همه جا به یکباره از کار بیفتند.

فناوری سرعت

ویریلیو در سال 1932 در پاریس متولد شد. هنگامی که جنگ جهانی دوم آغاز شد، خانواده او به نانت، شهری بندری در نزدیکی اقیانوس اطلس نقل مکان کردند. در طول اشغال فرانسه توسط نازی ها، آلمان شروع به ساخت دیوار آتلانتیک کرد، مجموعه ای از استحکامات دفاعی که در امتداد ساحل از اسپانیا تا نروژ امتداد داشتند.

اما در سپتامبر 1943، زمانی که 11 ساله بود، ویریلیو چیزی را دید که دیوار نتوانست جلوی آن را بگیرد. بمب‌افکن‌های آمریکایی که بندر نانت را هدف گرفته بودند، به‌جای آن به مرکز شهر حمله کردند و حدود 1400 نفر را کشتند و بیش از 700 ساختمان را در دو حمله ویران کردند.

او به مصاحبه‌گر گفت: «جنگ دانشگاه من بود. همه چیز از آنجا پیش رفته است.»

ویریلیو در جوانی سال‌ها را صرف عکاسی از پناهگاه‌های متروکه دیوار اقیانوس اطلس کرد. درسی که او از آنها گرفت در مورد سرعت بود: آلمانی ها یک استحکامات نظامی عظیم ساخته بودند، با این حال متفقین آن را دور و بر آن رفته بودند. دیوار به سختی آنها را کند کرد.

دیوارها فناوری فضا بودند و بمب افکن ها فناوری سرعت بودند - الهام بخش رویکرد فلسفی او برای درک جهان.

کشتی و کشتی شکسته

در بزرگسالی، ویریلیو نمونه‌های بیشتری از شکست‌های تکنولوژیکی، مانند فروپاشی نیروگاه چرنوبیل در سال 1986، بدترین حادثه هسته‌ای تاریخ را مطالعه کرد.

ویریلیو در کتاب خود با عنوان «حادثه اصلی» در سال 2005 ایده اصلی خود را در یک جمله ساده خلاصه کرد: «اختراع کشتی بادبانی یا کشتی بخار به معنای اختراع کشتی شکسته است». قطار خروج از ریل را اختراع می کند. هواپیما، سقوط؛ نیروگاه هسته ای، فروپاشی هر اختراع، نه فقط اختراع خطرناک، نوع خاصی از شکست را به همراه دارد که قبل از آن وجود نداشت.

به گفته ویریلیو، «تصادف» نتیجه بدشانسی نیست که پس از آن اضافه شده است. این اختراع در لحظه اختراع متولد می شود، حتی اگر مخترع نتواند آن را ببیند، زیرا اختراع به روشی استفاده می شود که هرگز تصور نمی کرد.

ویریلیو فکر نمی کرد می توان از چنین حوادثی جلوگیری کرد. اما او معتقد بود که با تماشای دقیق مردم می توانند شکست را مهار کنند و از فاجعه جلوگیری کنند. او استدلال می‌کرد که جوامع تمایل دارند با هر فاجعه‌ای به‌عنوان یک حادثه برخورد کنند، آن را در تلویزیون غمگین کنند، و آن را فراموش کنند، به‌طوری‌که حادثه فناوری بعدی غافلگیرکننده باشد.

در سال 2002، او نمایشگاهی را در پاریس به عنوان اجرای آزمایشی برای طرح خود برای ساخت «موزه حوادث» به نمایش گذاشت. او استدلال کرد که جمع‌آوری اطلاعات در مورد کشتی‌های غرق‌شده، سقوط هواپیما، بلایای صنعتی و سوانح مالی در کنار هم، این الگو را نشان می‌دهد: هر اختراعی شکست خود را دارد و می‌توان شکست را پیش‌بینی کرد.

هوش مصنوعی نه یک تصادف بلکه چندین تصادف را اختراع کرده است. گزارش‌های رویدادهای خود شرکت‌های فناوری نوعی «موزه» را تشکیل می‌دهند – اما نه عینی.

قانون سریعترین ها

دومین ایده کلیدی ویریلیو از جنگ سرد سرچشمه گرفت. او در سال 1977 کتاب «سرعت و سیاست» را منتشر کرد که در دنیایی نوشته شده بود که موشک‌های هسته‌ای می‌توانستند در عرض چند دقیقه از این سیاره عبور کنند.

او این ایده را "درومولوژی" نامید که از کلمه یونانی برای پیست مسابقه گرفته شده است: "dromos". ویریلیو نوشت، هر عصری با سرعت سریع‌ترین ماشین خود پیش می‌رود و هر چیزی که نمی‌تواند به آن ادامه دهد - از جمله قانون، مشورت و وجدان - از تصویر خارج می‌شود. "هیچ دموکراسی، فقط دروموکراسی" وجود دارد: حکومت سریعترین ها.

هوش مصنوعی می تواند ماه ها کار را به ساعت تبدیل کند. در سپتامبر 2026، Open AI اعلام کرد که 10000 عامل هوش مصنوعی آن اثباتی برای یک مشکل ریاضی ارائه کرده اند که برای یک قرن پابرجا بوده است - مشکلی که دو ریاضیدان انسانی یک سال در تلاش برای حل آن بودند.

عمیق ترین ترس ویریلیو در مورد سرعت این نبود که مردم از ماشین ها عقب بمانند، بلکه این بود که آنها در تصمیم گیری غیبت کنند. حتی زمانی که افراد سعی می‌کنند در این حلقه باقی بمانند، عوامل هوش مصنوعی آنقدر سریع اجرا می‌شوند که کارگران انسانی اغلب در تشخیص مشکلات یا درخواست‌های مخرب شکست می‌خورند.

همه جا به یکباره

ایده سوم Virilio "حادثه یکپارچه" است: شکستی که چون تکنولوژی یکسان در همه جا اجرا می شود، همه جا به یکباره اتفاق می افتد.

در طول دهه 1990، ویریلیو تماشا کرد که چگونه تلویزیون ماهواره‌ای، اینترنت و بازارهای الکترونیکی اجازه می‌دهند رویدادی در هر جایی، مانند سقوط مالی، در همه جا احساس شود. او بعدا پیش‌بینی کرد که در یک دنیای شبکه‌ای، حوادث یکپارچه، نه جنگ، «ادامه سیاست با ابزارهای دیگر» خواهد بود.

هوش مصنوعی ارتباط تنگاتنگ جهان را تشدید کرده است. از آن برای کمک به تعادل شبکه های برق، مدیریت کشتی ها و بندرها و نوشتن سوابق بیماران بیمارستان استفاده می شود.

مدل Anthropic's Claude Mythos را در نظر بگیرید که نقص‌های امنیتی را در نرم‌افزار بانکی سریع‌تر از آن‌چه بانک‌ها می‌توانند آن‌ها را برطرف کنند، پیدا می‌کند. بسیاری از موسسات مالی از یک نرم افزار استفاده می کنند، بنابراین مجرمی با چنین مدلی می تواند همزمان به چندین بانک نفوذ کند.

دست روی اهرم

ویریلیو نوشت که جامعه ای که فقط در زمان حال زندگی می کند احتمال وقوع حوادث را بیشتر می کند. جامعه ای که آنقدر مشغول است که نمی تواند گذشته خود را یادداشت کند یا به آینده فکر کند، نمی تواند از شکست های خود درس بگیرد و بنابراین آنها را تکرار می کند.

من استدلال می کنم که این جمله به سه چیز اشاره می کند که ارزش در نظر گرفتن دارد.

اولین مورد، رکوردی است که توسط شخصی مستقل نگهداری می شود. اسناد تجزیه و تحلیل تصادفات هوش مصنوعی نباید تنها در دست شرکت هایی باشد که شکست های آنها را ثبت می کنند.

دوم مکث است. تنظیم‌کننده‌ها، محققان و شرکت‌ها به زمان و اختیار نیاز دارند تا یک سیستم را قبل از انتشار، در صورت نیاز متوقف کنند.

سوم مهارت است. یک مهارت نتیجه فعلی تمرین گذشته است. هرچه افراد کار بیشتری را به هوش مصنوعی تحویل دهند، زیرا سریع‌تر است، بیشتر باید توانایی انجام آن کار را خودشان حفظ کنند: نوشتن اولین پیش‌نویس، بررسی مجموع دستی. اینها عاداتی هستند که به افراد اجازه می دهند آنچه را که هوش مصنوعی تولید می کند تأیید کنند.

درس Virilio شکستن ماشین‌ها نیست، بلکه نگه داشتن دست روی اهرم است - افزایش شانس اینکه تصادف، زمانی که اتفاق می‌افتد، دیده، درک و معکوس شود. سرعت کنترل ها را از بین نمی برد، اما نگه داشتن آن را برای افراد سخت تر می کند.

شهناز بشیر، دکتری. کاندیدای ارتباطات، UMass Amherst

این مقاله از The Conversation تحت مجوز Creative Commons بازنشر شده است. مقاله اصلی را بخوانید.

این داستان در ابتدا در سایت Fortune.com منتشر شد