ما نگران آخرالزمان اشتباه هوش مصنوعی هستیم

هوش مصنوعی برای تهدید شبکه برق نیازی به سرکشی ندارد - فقط باید اتاق های کنترل مانند این را هک کند. | کریستن نورمن/ بلومبرگ از طریق گتی ایماژ

نزدیک به دو دهه پیش، گروهی از محققان در آزمایشگاه ملی آیداهو آزمایشی مخفی به نام آزمایش ژنراتور شفق قطبی را بر روی یک دیزل ژنراتور سبز زمردی عظیم انجام دادند. آنها با استفاده از 30 خط کد، به فضای پشتی مجازی ژنراتور هک کردند، محافظ‌ها را خراب کردند و سوئیچ‌هایی را که آن را با بقیه شبکه برق هماهنگ نمی‌کردند، خراب کردند.

قبل از تماشاگرانی از مدیران شرکت برق و مقامات بخش انرژی که از اتاق مجاور تماشا می‌کردند، ژنراتور 27 تنی به شدت تکان خورد و دود تیره‌ای را بیرون زد که درون لاستیکی آن به سرعت خود را از هم جدا کرد.

مایکل آسانته، محقق اصلی، بعدا برای کتاب خود به اندی گرینبرگ برای کتابش «کرم شنی: عصر جدید جنگ سایبری و شکار خطرناک‌ترین هکرهای کرملین» به روزنامه‌نگار اندی گرینبرگ گفت: «مفهوم این بود که تنها با چند خط کد، می‌توانید شرایطی ایجاد کنید که از نظر فیزیکی برای ماشین‌هایی که ما به آن‌ها تکیه می‌کنیم بسیار مضر باشد. "من یک گودال بسیار واقعی در شکمم داشتم. مانند نگاهی اجمالی به آینده بود."

به نظر می‌رسد که این آینده در این هفته بسیار نزدیک‌تر شده است و توسعه‌دهندگان و مدیران برجسته هوش مصنوعی به طور معمول اعتراف کرده‌اند که بر این باورند که خلقت آنها، به تعبیری یک پست X چشمک، به همان اندازه که نیویورک جت‌ها در مرحله پلی‌آف این فصل حضور دارند، به بشریت پایان می‌دهد. اکنون، دقیقا اینکه هوش مصنوعی چگونه می‌تواند همه را بکشد، قلمروی بسیار تیره‌تر است. اما همانطور که Assante تمام آن سال‌ها پیش احساس می‌کرد، ممکن است هوش مصنوعی برای پریدن از قفس مجازی خود به زیرساخت‌های حیاتی که به بیمارستان‌های ما نیرو می‌دهد، توالت‌های ما را سیفون می‌کند و آب را به شیرهای ما پمپاژ می‌کند، نیازی به همه‌قدرت نداشته باشد.

فقط باید به دست اشتباه بیفتد.

تقریبا هر سناریوی روز رستاخیز هوش مصنوعی که فکرش را بکنید با انبوهی از ربات‌های سایه‌ای شروع می‌شود که در فضای مجازی می‌چرخند، دماغ خود را در پشت صحنه نیروگاه‌ها، اجاق‌های توستر، چراغ‌های راهنمایی یا حتی، در یک مورد کاملا شدید، زرادخانه سلاح‌های هسته‌ای ما فرو می‌برند. اگر از بین بردن ژنراتور Aurora حداقل نیاز به یک هکر انسانی برای نوشتن کد داشته باشد، هوش مصنوعی از آن زمان به طور کامل مانع ورود را برای ایجاد ویران کردن، همانطور که حادثه Hagging Face در اوایل سال جاری نشان داد، از بین برده است.

اما هوش مصنوعی برای تهدید شبکه برق یا آشفتگی آب لوله کشی شما نیازی به سرکشی ندارد. کارشناسان می‌گویند عصر جدیدی از هک‌های مبتنی بر هوش مصنوعی، اما هدایت‌شده توسط انسان در حال حاضر در راه است. با توجه به اینکه برخی از حساس ترین زیرساخت های کشور به طور شگفت انگیزی در برابر حمله آسیب پذیر هستند، محتمل ترین آخرالزمان هوش مصنوعی در واقع می تواند با برج آب یا ژنراتور بیکار در حیاط خلوت شما شروع شود. در بدترین سناریو، این می‌تواند منجر به مجموعه‌ای از خرابی‌های ترسناک در سیستم‌هایی شود که ما برای زندگی راحت و مدرن به آن‌ها تکیه می‌کنیم، از راه‌اندازی AC ما در تابستان‌های بسیار گرم تا مکان‌یابی کشتی‌ها و هواپیماهایمان.

آلوارو کاردناس، استاد علوم کامپیوتر در دانشگاه کالیفرنیا سانتا کروز، گفت: «پیش از این، برای انجام برخی از نسخه‌های آزمایش ژنراتور Aurora واقعی، نیاز به تخصص فنی بسیار ماهر داشتید». "و اکنون، شما فقط باید یک ایده کلی از آنچه ممکن است داشته باشید."

هوش مصنوعی یک تهدید قدیمی را بسیار بدتر می کند

اندکی پس از آنکه آزمایشگاه ملی آیداهو آن ژنراتور ضعیف را هک کرد و در حال احتراق بود، دولت فدرال موظف کرد که شرکت های برق به رعایت بهداشت امنیت سایبری اولیه بپردازند.

و با این حال بسیاری از زیرساخت‌های حیاتی آمریکا - مانند خطوط لوله گاز، نیروگاه‌های نمک‌زدایی آب، یا پایانه‌های بار - به طرز غم‌انگیزی برای حملات سایبری متعارف، حتی کمتر از حمله هوش مصنوعی، آماده نیستند.

این تا حدی به این دلیل است که حملات سایبری شبیه‌سازی‌شده در تست ژنراتور Aurora مدت‌هاست - و هنوز هم تا حدودی - بسیار نادر بوده و برای اکثر هکرهای جنایتکار جذاب نبوده است، زیرا برای ایجاد اختلال به‌جای سود مالی بهینه شده‌اند. اما در فرآیندی که کدنویسی را برای هر کسی بسیار آسان می‌کند، هوش مصنوعی همچنین هک کردن حساب بانکی آنلاین شما، یا در تئوری، یک مخزن محلی یا شبکه برق را برای تقریبا هر کسی بسیار آسان کرده است.

عوامل هوش مصنوعی همچنین می‌توانند دامنه اهداف آسان را بسیار گسترش دهند، زیرا همانطور که اندی بوچمن، متخصص انعطاف‌پذیری زیرساخت در West Yost می‌گوید - "آنها نمی‌خوابند، خسته نمی‌شوند و بیمار نمی‌شوند."

در گذشته، حتی کسانی که می‌خواستند حملات گسترده‌ای به زیرساخت‌ها انجام دهند، احتمالا برای انجام این کار به اندازه کافی زرنگ نبودند. و در حالی که سایر کشورها مانند چین، ایران و روسیه در واقع قبلا بسیاری از سیستم‌های زیرساختی ما را نقض کرده‌اند (همانطور که ما زیرساخت‌های آنها را داریم)، ​​آنها تصمیم نگرفته‌اند که یک بار در داخل آن‌ها غوغا کنند.

ژئوپلیتیک این ایده را از بین می برد که آنهایی که توانایی دارند قصد ندارند، و هوش مصنوعی بخشی دیگر از آن را فرسایش می دهد، یعنی کسانی که قصد دارند این توانایی را ندارند. جیسون هیلی، محقق امنیت سایبری دانشگاه کلمبیا

جیسون هیلی، محقق امنیت سایبری در دانشگاه کلمبیا، گفت: اما این هنجار اکنون در حال تغییر است. او به من گفت: «ژئوپلیتیک این ایده را از بین می‌برد که آنهایی که توانایی دارند، قصد ندارند، و هوش مصنوعی بخشی دیگر از آن را فرسایش می‌دهد، یعنی کسانی که قصد دارند فاقد توانایی هستند». بنابراین، از یک سو، کشوری مانند روسیه ممکن است بسیار بیشتر از گذشته تمایل داشته باشد که شبکه برق ما را در حال حاضر مختل کند. و از سوی دیگر، یک گرگ تنهای نیهیلیست یا گروه تروریستی می تواند از هوش مصنوعی برای ایجاد آسیب بسیار بیشتر از قبل استفاده کند.

همین ماه گذشته، زمانی که ده‌ها سیستم آب و فاضلاب در شهرهای کوچک در سراسر کشور مورد حمله گروهی از هکرهای مرتبط با ایران قرار گرفتند که منجر به قطع موقت آب و جاری شدن سیل شد، دیدیم که چگونه می‌تواند به نظر برسد. این حملات به طور قطعی با هوش مصنوعی مرتبط نبوده اند، اما آژانس امنیت ملی بلافاصله پس از آن هشدار داد که هکرها به طور فعال از هوش مصنوعی برای هدف قرار دادن زیرساخت های ایالات متحده مانند آن استفاده کرده اند.

چند هفته بعد، دونالد ترامپ، رئیس جمهور آمریکا به دلیل دخالت خارجی در شبکه برق که به تهدید فزاینده امنیت سایبری اشاره داشت، وضعیت اضطراری ملی اعلام کرد.

آماده شدن برای بدترین

بوچمن گفت: اکثر سیستم های آب کشور به شدت محلی هستند و به طور نامعقولی در معرض چنین حملاتی قرار دارند، به طوری که به گفته بوچمن، «تقریبا مانند یک تشک خوش آمدگویی برای یک هکر بالقوه است»، بیشتر به این دلیل که این شرکت ها بسیار کوچک هستند و بودجه کافی برای جلوگیری از آنها ندارند. او گفت: «شما میلیون‌ها مشکل دیگر دارید که باید از آنها مراقبت کنید، مانند زیرساخت‌های قدیمی - وسایل شما از هم می‌پاشد زیرا 100 سال است که در زمین مانده‌اند. پرداختن به این تعمیر و نگهداری معوق اغلب بسیار ضروری تر از انجام "کاری بیشتر در مورد امنیت سایبری" است.

خواه گروهی از عوامل سرکش باشد یا یک دولت-ملت متخاصم که تلاش می‌کند برق ما را به هم بزند، ما باید مهم‌ترین زیرساخت خود را برای بدترین شرایط آماده کنیم. او گفت، از نظر بوخمن، این ممکن است به معنای رد فشار برای دیجیتالی کردن همه چیز در وهله اول و حرکت به سمت چیزی باشد که شبیه به روزهایی است که «مردم چیزهایی مانند ایستگاه‌های فرعی را سرنشین می‌کردند، با تلفن ثابت ارتباط برقرار می‌کردند و گیج‌ها، چیزهای آنالوگ را می‌خواندند». "صفحه نمایش چیزی است که بی نهایت قابل دستکاری است."

هیلی که در مورد امنیت سایبری و زیرساخت‌ها به دولت بایدن توصیه‌های زیادی کرد، معتقد است که این کشور شدیدا به یک واکنش هماهنگ بین دولت فدرال و شرکت‌های هوش مصنوعی، بلکه بین ایالات متحده و کشورهای دیگر مانند چین، که در آن مدل‌های قدرتمند مشابهی در حال توسعه هستند، نیاز دارد. هیلی می‌گوید، و سیستم‌های خدماتی باید فرض کنند که هدف خواهند بود و شیوه‌های امنیت سایبری خود را بر این اساس بهبود ببخشند، به‌طور ایده‌آل با بودجه دولت فدرال یا، شاید مناسب‌تر، شرکت‌های هوش مصنوعی.

هیچ‌کس دقیقا نمی‌داند که زیرساخت‌های آمریکا در حال حاضر چقدر در برابر هوش مصنوعی آسیب‌پذیر است، تا حدی به این دلیل که سیاست‌گذاران - و شاید نگران‌کننده‌تر، خود خالقان هوش مصنوعی - در وهله اول به‌طور تاسف‌باری در مورد چگونگی جلوگیری از عملکرد بد (یا اطاعت از دستورات بد) فناوری مطمئن نیستند. حداقل در حال حاضر، همانطور که بوچمن پیشنهاد می کند، راه حل ممکن است این باشد که تا حد امکان بسیاری از سیستم های حیاتی خود را به صورت آفلاین بکشیم، بهتر است آن را از هوش مصنوعی و کسانی که از آن سوء استفاده می کنند پنهان کنیم.

بوچمن می‌گوید: «وقتی اتفاقات بد شروع می‌شود، هیچ‌کس نمی‌داند چه باید بکند یا چرا، زیرا جعبه‌های سیاه هستند؛ افرادی که آنها را می‌سازند، نمی‌دانند در داخل چه می‌گذرد. "و افراد فقیر تاسیسات برقی که در نهایت وقتی کسی از یک سیستم صدمه می‌بیند، در معرض خطر قرار می‌گیرند" نیز متوجه نمی‌شوند که چه اشتباهی رخ داده است، "و از خدا می‌خواهند که هرگز آن را قبول نکنند."