تروریسم هوش مصنوعی فقط تروریسم است

جنگ علیه ترور با ظهور اینترنت همزمان شد، زمانی که حملات دیجیتالی تازه به تروریسم سایبری معروف شدند. اکنون یک تهدید جدید ظاهر شده است: تروریسم هوش مصنوعی.

در چند سال گذشته، گزارش‌های دولت‌ها، سازمان‌های بین‌دولتی و اندیشکده‌ها هشدار داده‌اند که هوش مصنوعی احتمالا به فعالیت‌های تروریستی دامن می‌زند و خواستار آمادگی و واکنش است. در سال 2021، دفتر مبارزه با تروریسم سازمان ملل متحد گزارشی در مورد "استفاده بدخواهانه از هوش مصنوعی برای اهداف تروریستی" منتشر کرد. حملات سایبری مانند نرم افزارهای مخرب و نفوذ، مانند حملات فیزیکی از طریق وسایل نقلیه خودران، جعل های تشخیص چهره، جعل های عمیق، و - همه گیری ویروس کرونا هنوز در حال گسترش بود - سلاح های بیولوژیکی مهندسی شده بسیار برجسته بودند.

پیش از این، در سال‌های 2019 و 2020، مؤسسه مطالعات بین‌المللی میدلبری دو گزارش در مورد خطراتی که مدل‌های زبانی که در آن زمان هنوز نامشخص نبود، برای تبلیغات و رادیکال‌سازی منتشر کرد. و همین هفته، گروهی از محققان مدرسه کندی هاروارد مقاله‌ای را منتشر کردند که فرض می‌کرد «اولین رویداد بزرگ تروریستی مبتنی بر هوش مصنوعی» یک تهدید معتبر است و چگونگی وقوع آن را حدس می‌زند.

تروریسم سایبری قبلا یک اصطلاح گیج کننده بود، تا حدی به این دلیل که هک یا غیرفعال کردن زیرساخت رایانه ممکن است توسط بازیگران دولتی و بدون خشونت انجام شود - ویژگی هایی که معمولا با تروریسم مرتبط نیستند. در میان دلایل بد بودن تروریسم، یکی از دلایل بسیار جزئی این است که این واژه تعریف ثابتی ندارد. در فرانسه انقلابی، به خشونت اعمال شده توسط دولت ژاکوبن، در بسیاری از موارد با گیوتین اشاره داشت. در اواخر قرن نوزدهم، به خشونت غیردولتی انقلابیون بالقوه آنارشیست روی آورد.

تروریسم در قرن بیستم با جنبش‌های استقلال‌طلبی همپوشانی پیدا کرد و آن را به درگیری جدایی‌طلبان یا جنگ چریکی نزدیک‌تر کرد. در اواخر قرن بیستم، این انگیزه ایدئولوژیک برای تروریسم اجباری شد. تروریسم به معنای خشونتی بود که برای ایجاد یک اثر روانی طراحی شده بود.

هواپیماربایی ها و بحران های گروگان گیری در دهه 1970 نمونه ای از این هدف تجدید نظر شده است. همینطور حملات داخلی، مانند حمله تیموتی مک وی، که در سال 1995 ساختمان فدرال اوکلاهما سیتی را بمباران کرد. امروز، ربع قرن پس از حملات 11 سپتامبر، تروریسم اغلب به جای توصیف یک عمل یا یک نوع بازیگر، یک قضاوت سیاسی دارد: تقریبا هر دشمنی را که اکنون می توان «تروریست» نامید.

با توجه به لغزش این اصطلاح، هوش مصنوعی به نوعی ماهیت تروریستی دارد: تهدید می کند شغل شما را می گیرد، پول شما را می دزدد، تحصیل فرزندانتان را خراب می کند، هنر و فرهنگ را از بین می برد، مراقبت های بهداشتی شما را از بین می برد، شهر شما را مستعمره می کند، آب و هوا را نابود می کند، وسایل الکترونیکی را برای همیشه غیرقابل استفاده می کند. همچنین به شما گفته شده است که هوش مصنوعی اجتناب‌ناپذیر است – و تنها شرکت‌های بسیار ثروتمند سیلیکون ولی، که احتمالا توسط رهبران جامعه‌گرا اداره می‌شوند، منابع و استعداد لازم برای پیشبرد آن را دارند (که باید انجام دهند، حتی اگر به معنای نابودی نوع بشر باشد).

اما حس قدیمی تروریسم همچنان پابرجاست. این فناوری همچنین می‌تواند علاوه بر هرج و مرج آشنا که هوش مصنوعی به راه انداختن آن تهدید می‌کند، تروریسم را به معنای خشونت یا اختلال دولتی یا غیردولتی، مانند غیرفعال کردن شبکه برق و راه انداختن یک سلاح زیستی در محل کار، تسهیل کند.

[یان بوگوست: هیجان این که می‌خواهی هوش مصنوعی دنیا را نابود کند]

افرادی که تروریسم هوش مصنوعی را مطالعه می کنند، نگرانی های متفاوتی نسبت به نگرانی هایی که توسط افشاگران در صنعت هوش مصنوعی - یا خود رهبران هوش مصنوعی مطرح می شود، مطرح می کنند. رویدادهای انقراض مبتنی بر هوش مصنوعی در صدر لیست خطرات قرار نمی گیرند، و همچنین عوامل سرکش هوش مصنوعی که ممکن است در تئوری، مستقل شوند، در صدر نیستند. در عوض، به نظر می‌رسد محققان، مقامات اطلاعاتی و برنامه‌ریزان سناریو اساسا علاقه‌مند به روش‌هایی هستند که هوش مصنوعی ممکن است به بازیگران بد اجازه دهد تا فعالیت‌های پیچیده‌تری را با تلاش کمتر انجام دهند.

برای مثال، بمب‌گذار سایبرتراک لاس‌وگاس، از ChatGPT در مورد چگونگی منفجر کردن یک انفجار راهنمایی خواست، استفاده‌ای که نشان می‌دهد تروریست‌ها علاوه بر مبتکر بودن، ممکن است احمق باشند.

مدل‌های هوش مصنوعی مرزی امروزی قدرتمند، ارزان و در دسترس هستند. آنها می توانند بسیاری از انواع وظایف را بدون اینکه به صراحت برای انجام آن طراحی شده باشند، انجام دهند (یا به انجام آنها کمک کنند، یا به نظر می رسند که انجام می دهند). جنایتکاران، تروریست ها و حتی دولت ها تمایل دارند از ارتباطات، حمل و نقل و زیرساخت های صنعتی موجود برای انجام کارهای بد استفاده کنند. هوش مصنوعی ابزار دیگری از این دست را ارائه می دهد. این نتیجه گیری هم منطقی است و هم کمی گنگ.

در نتیجه، بیشتر گزارش‌هایی که در مورد تروریسم هوش مصنوعی خوانده‌ام، در نگرانی‌هایشان محافظه‌کارانه هستند. آنها تاکید می کنند که انجام اعمال خشونت آمیز یا سایر حملات فیزیکی دشوار است و هوش مصنوعی نمی تواند به طور جادویی این مشکلات را حل کند. شاید آنها در پاسخ به سال‌ها بیان بیش از حد تهدیدات سایبری هستند که معروف‌ترین نمونه آن ایده «پرل هاربر الکترونیکی» است - حمله ویرانگر به زیرساخت‌های دیجیتال که کشور را ناتوان می‌کند.

این استعاره، که حداقل از سال 1999 در جریان بوده است، در سال 2012، زمانی که وزیر دفاع وقت، لئون پانتا، به کنگره در مورد "پرل هاربر سایبری" هشدار داد که "می تواند به اندازه حمله تروریستی 11 سپتامبر مخرب باشد" ملموس تر شد.

بسیاری از کارشناسان سیاست بین‌الملل استدلال کرده‌اند که پرل هاربر سایبری یک استعاره ترکیبی است. حمله به پرل هاربر یک اقدام پیچیده جنگ دولتی بود، نه یک عملیات سرکش. به احتمال زیاد، حوادث امنیتی سایبری کوچکتر می توانند به حوادث بزرگتر تبدیل شوند یا اثرات ثانویه غیرقابل پیش بینی ایجاد کنند. حملات سایبری واقعی و مخرب به زیرساخت‌های فیزیکی سال‌هاست که امکان‌پذیر بوده است. نقش هوش مصنوعی در تروریسم سایبری احتمالا همانند نقش اینترنت است: ظرفیتی تقویت شده برای تولید و انتشار تبلیغات، سردرگمی و دستکاری سیاسی.

پانتا هشدار در مورد پرل هاربر سایبری را به این دلیل توجیه کرد که خطر ممکن است حتی اگر قابل قبول نباشد. به نظر می رسد توجیه مشابهی انگیزه پژوهشگران مدرسه هاروارد کندی را در مقاله خود ایجاد کند. نویسندگان همکار روش شناسی خود را به عنوان یک "پیش مرگ" توصیف می کنند، که شامل فرض این است که چنین رویدادی رخ داده است و برای درک چگونگی وقوع آن به عقب کار می کنند.

از استفان کاسپر، یکی از نویسندگان مقاله پرسیدم که آیا هوش مصنوعی قابلیت‌های فاجعه‌بار جدیدی ایجاد می‌کند یا به سادگی بدخواهی موجود را آسان‌تر، سریع‌تر یا ارزان‌تر می‌کند. او به من گفت: «این بیشتر دومی است. به طور خاص، مدل‌های هوش مصنوعی که دارای اطلاعاتی در مورد قابلیت‌های خطرناک هستند، مانند نحوه مختل کردن زیرساخت‌ها و ساخت سلاح شیمیایی، می‌توانند به عوامل مخرب اجازه دهند تا از آنها برای اهداف پلید استفاده کنند.

مکس کاماچی، یکی دیگر از نویسندگان، به من گفت که مدل‌های جدید «به‌طور معناداری می‌توانند به یک تازه‌کار در ایجاد یک تهدید بیولوژیکی شدید شناخته‌شده بدون وجود پادمان کمک کنند». به بیان ساده تر، افراد بد با نیت بد می توانند از هوش مصنوعی برای انجام اعمال بد استفاده کنند. این مقاله به جزئیات بسیار بیشتری می‌پردازد، از جمله ارائه پیشنهادات معقول در مورد اینکه چگونه انواع مختلف مدل‌ها ممکن است برای جلوگیری از آسیب کنترل یا تنظیم شوند.

مقاله هاروارد دو نامزد را برای اولین رویداد بزرگ تروریستی هوش مصنوعی معرفی می کند: یکی حمله سایبری است که صدمات اقتصادی به ارزش چندین میلیارد دلار را به همراه خواهد داشت. دیگری، حمله ای با سلاح بیولوژیکی که بیش از 100 نفر را می کشد. من از کاسپر و کماچی پرسیدم که آیا تروریسم نام مناسبی برای این دو سناریو است؟ این مقاله این آزمون‌های تورنسل را از تعاریف قوانین اخیر ایالات متحده که بر توسعه و مدیریت مدل‌ها در صنعت هوش مصنوعی حاکم است، استخراج می‌کند. اما کاسپر اذعان داشت که این نتایج بد ممکن است انگیزه ایدئولوژیکی نداشته باشد.

او به من گفت: «ما آن را تروریسم می‌نامیم، اما او همچنین گفت که نامی معادل «سوء استفاده انسان از هوش مصنوعی برای اهداف مخرب» است. کاماچی این خطر را "استفاده مخرب فاجعه بار" نامید.

[آدام بکر: احمق های مفید حکم هوش مصنوعی]

پیش‌بینی آینده احمقانه است و حدس زدن در مورد اینکه آیا رویدادهای واقعا وحشتناک ممکن است اتفاق بیفتند یا نه حتی بدتر است. از یک طرف، به نظر می رسد کاسپر و همکارانش در هشدار دادن در مورد بدترین سناریوهایی که هوش مصنوعی حتی به طور غیرمستقیم می تواند تسهیل کند، موجه به نظر می رسد. از سوی دیگر، تروریسم هوش مصنوعی در معرض خطر تبدیل شدن به لفاظی های ترسناکی است که پرل هاربر سایبری انجام داد.

من کاسپر را فشار دادم تا نقطه‌ها را بین آنچه که هوش مصنوعی ممکن می‌سازد و نتایج محتمل به هم متصل کند. او به تکامل سریع و تکان دهنده توانایی در مدل‌ها اشاره کرد، به همراه این واقعیت که برخی از شرکت‌های هوش مصنوعی مستقیما در حال ساخت تأسیسات تحقیقات بیولوژیکی مبتنی بر هوش مصنوعی هستند. به عنوان مثال، آنتروپیک آزمایشگاه‌های مرطوبی را برای تحقیقات DNA و پروتئین با قابلیت کلود ساخته است. این آزمایشگاه‌ها ممکن است شکسته شوند، یا وزنه‌های مدل کشف‌شده در داخل آن‌ها ممکن است راه خود را به دست افراد اشتباه باز کنند. کاسپر گفت: «این یک دنیای بزرگ است - افراد زیادی، گروه‌های زیادی، ایالت‌های بسیار، انگیزه‌های زیادی.

می‌دانید که سوءاستفاده پیش‌بینی‌شده از سیستم‌های هوش مصنوعی فعلی برای فعالیت‌های تروریستی، نشانه‌ای کاملا مناسب است.» نشانه چیست؟ اینکه صنعت هوش مصنوعی چیزی را تجربه خواهد کرد که کاسپار آن را "چلنجر یا چرنوبیل یا 11 سپتامبر یا لحظه انرون" می نامد.

و با این حال، آن فجایع تاریخی همه کاملا متفاوت هستند. چلنجر به دلیل یک شکست ساختاری که به دلیل سوء مدیریت سازمانی نادیده گرفته شده بود، محکوم به فنا شد. فاجعه چرنوبیل ناشی از یک نقص طراحی بود که توسط خطای اپراتور و بوروکراسی خفه کننده بزرگ شد. 11 سپتامبر یک حمله غیردولتی با انگیزه ایدئولوژیک بود که با سهولت دسترسی به تخصص تسهیل شد و به لطف اشتباهات اطلاعاتی ملی تحقق یافت. رسوایی انرون کلاهبرداری حسابداری بود که به دلیل شکست مقررات و همدستی حسابرس مجاز بود.

دو مورد از نمونه ها حوادث صنعتی بود، یکی نتیجه ناخواسته سوء رفتار عمدی بود و تنها یکی از آنها به عنوان یک حمله تروریستی به حساب می آید.

خطرات واقعی ایجاد شده توسط هوش مصنوعی نیازی به تروریسم برای ایجاد نگرانی ندارند، و فکر کردن به تروریسم ممکن است ما را از انجام اقدامات پیشگیرانه صحیح گیج کند یا از آن دور کند. از آنجایی که تروریست ها در حاشیه جامعه عمل می کنند، تمایل دارند هر فناوری و زیرساختی را که زندگی معاصر در دسترس قرار می دهد، اتخاذ کنند. آنها ابزار، سلاح و اهداف خود را نه تنها بر اساس آنچه که باعث آسیب یا جلب توجه می شود، بلکه بر اساس آنچه می توانند به آن دست یابند، انتخاب می کنند.

این امر در مورد مواد منفجره مانند دینامیت در اواخر قرن بیستم و خودروهای بمب گذاری شده در اواسط قرن صادق بود. روزنامه ها، رادیو و رسانه های تلویزیونی که برای مهاجمان بدنامی ایجاد می کنند. هوانوردی تجاری زمانی که بالغ شد اما به اندازه کافی امن نبود. و بهره برداری های بانکی و شبکه های مالی خارج از دفتر، از جمله ارزهای دیجیتال. هیچ کس مک وی را تروریست کامیون اجاره ای یا تروریست کود کشاورزی نامید، اما این دو منبع برای هدف مورد نظر او - که در واقع تروریسم بود - مناسب و مؤثر بودند.

تروریسم در طول تاریخ خود بارها و بارها از فناوری های غیرنظامی، به ویژه فناوری های اثبات نشده یا ناکافی مدیریت شده استفاده کرده است. به‌راحتی، چنین زیرساخت‌هایی باعث می‌شوند که عموم مردم احساس خطر کنند، که ترس ما از آسیب‌پذیری را تسریع می‌کند. مانند تروریسمی که از راه آهن، اتومبیل، هواپیما، شهرسازی متراکم و اینترنت استفاده می کند، تروریسمی که از هوش مصنوعی استفاده می کند ممکن و حتی محتمل است. آماده شدن برای حوادث احتمالی آن عاقلانه است، اگر حدس و گمان باشد. از این نظر، تروریسم هوش مصنوعی جدید نیست، حتی اگر هنوز هم ترسناک باشد.