فرار مغزها تهدیدی بزرگتر از هوش مصنوعی برای امنیت سایبری ملی است

خواه اعتراف کنیم یا نه، اکثر ما تا کنون مقداری تلاش شناختی را روی هوش مصنوعی انجام داده ایم. چت ربات ها و نمایندگان آنقدر رایج شده اند که اغلب اجتناب از آنها دشوار است. ریسک این استفاده معمولا بسیار کم است. ممکن است برخی از مهارت‌های تفکر انتقادی و خلاقیت خود را در این فرآیند به خطر بیندازیم، اما آسیب در همین جا متوقف می‌شود. با این حال، در برخی موارد، اتکای بیش از حد به اتوماسیون می تواند عواقب پایین دستی بزرگی داشته باشد.

امنیت سایبری بارزترین نمونه است. خوشبختانه، این زمینه‌ای است که اکثر ما تقریبا هرگز مجبور نیستیم به آن فکر کنیم، زیرا در بیشتر مواقع، سیستم‌های رایانه‌ای که زیرساخت‌های حیاتی را اجرا می‌کنند - از تاسیسات تصفیه آب گرفته تا بازار سهام - همانطور که قرار است عمل کنند. اما بسیاری از این سیستم ها در دهه ها به روز نشده اند. در ژوئیه سال گذشته، گزارشی از دفتر پاسخگویی دولت ایالات متحده نشان داد که سیستم فناوری اطلاعات داخلی وزارت دفاع از قبل از اولین فرود آپولو در ماه مورد استفاده قرار گرفته است.

(وزارت خزانه داری و آژانس حفاظت از محیط زیست فاصله زیادی نداشتند.) GAO در گزارش خود نوشت: "ماموریت های این آژانس ها برای عملیات های دولتی مانند مراقبت های بهداشتی، زیرساخت های حیاتی، پردازش مالیات و امنیت ملی ضروری است، و این سیستم های قدیمی از ماموریت های آژانس ها حمایت حیاتی می کنند." COBOL، یک زبان برنامه نویسی کامپیوتری که در سال 1959 اختراع شد، هنوز به طور گسترده در رایانه های اصلی IBM در سراسر ایالات متحده استفاده می شود.

دولت، به حدی که در طول همه گیری همه گیر، فرماندار نیوجرسی مجبور شد برای کمک به حفظ سیستم بیکاری فرسوده، سالخورده و سرکوب شده ایالت، فراخوانی برای برنامه نویسان «کبالت» (کلام او) ارائه دهد.

متأسفانه برای امنیت سایبری ایالات متحده، از اولین باری که آن سیستم‌های امنیت سایبری «میراثی» نصب شدند، خیلی تغییر کرده است. برنامه نویسان امروز - شاید بیش از هر حرفه دیگری - در کارهای روزمره خود به هوش مصنوعی متکی هستند. و در حالی که ممکن است منجر به افزایش کارایی شود، بسیاری از برنامه نویسی مدرن خود را به یک جعبه سیاه تبدیل کرده است.

در مطالعه اخیر با بیش از 50 مهندس نرم افزار (عمدتا جوان)، Anthropic دریافت که استفاده از هوش مصنوعی برای کدنویسی "به کاهش آماری قابل توجهی در تسلط منجر شد." و در یک نظرسنجی در ماه مه از بیش از 850 متخصص امنیت سایبری، دو سوم آنها گفتند که اکنون بیشتر وقت خود را صرف بررسی خروجی های هوش مصنوعی می کنند و سعی می کنند تصمیم بگیرند که آیا به آنها اعتماد کنند یا نه. به عبارت دیگر، بیشتر امنیت سایبری مدرن حول محور تلاش برای تفسیر هوش مصنوعی می چرخد.

در همین حال، شرکت‌های پیشرو هوش مصنوعی برای ساختن قفل‌سازهای مستقل امنیت سایبری با یکدیگر رقابت می‌کنند. Anthropic’s Mythos که این شرکت برای اولین بار در ماه آوریل اعلام کرد، به‌طور وحشتناکی در یافتن و بهره‌برداری از آسیب‌پذیری‌های سایبری در نرم‌افزار بسیار خوب بود که این شرکت اعلام کرد در ابتدا آن را برای عموم منتشر نمی‌کند و در عوض ترجیح می‌دهد آن را به تدریج در اختیار گروهی از شرکای انتخاب‌شده قرار دهد. پنهانکاری با چشمان گشاد و تقریبا محترمانه ای که با آن آنتروپیک مدل را مسخره کرد، سریعا آن را به یک ابلیس امنیت سایبری تبدیل کرد.

در آزمایش‌های خود، NSA - که به طور گسترده به عنوان فورت ناکس امنیت سایبری شناخته می‌شود - از Mythos برای کشف نقص‌های سیستم خود در عرض چند ساعت استفاده کرد. آزمایشگاه‌های دیگر، مانند OpenAI و Google، به زودی مدل‌های خود را دنبال کردند، مدل‌هایی که به عنوان ابزارهای هک بالقوه خطرناک توصیف می‌شدند، اگر اجازه داده می‌شد به دست اشتباه بیفتند. (و در بسیاری از موارد، به ویژه هک Hugging Face در جولای، مدل‌های هوش مصنوعی شرکت‌های مرزی حتی برای ارتکاب جرایم سایبری به اپراتورهای انسانی نیاز نداشتند.)

در حالی که کسانی بودند که ترس از یک فاجعه سایبری ایجاد شده توسط هوش مصنوعی را به عنوان نابودی یا تبلیغات تبلیغاتی کنار گذاشتند، بسیاری از کارشناسان واقعا نگران بودند. در ژوئن، پنج چشم - اتحادی متشکل از سازمان‌های اطلاعاتی دولتی در ایالات متحده، کانادا، بریتانیا، استرالیا و نیوزلند - هشدار داد که ناوگان جدید مدل‌های هوش مصنوعی وارد بازار می‌شود «پیش‌بینی می‌شود فراتر از انتظارات صنعت فعلی باشد، و اساسا قابلیت‌های سایبری تهاجمی و تدافعی را متحول کند.

در واقع، تهدید امنیت سایبری ناشی از مدل‌های جدید پرهیاهو مانند Mythos و OpenAI’s Astra چنان بر کانون توجه عمومی تسلط یافته است که مسلما ما را نسبت به برخی رویدادهای بسیار ظریف‌تر - اما نه کمتر پیامد - که در بال‌ها آشکار می‌شوند کور کرده است. در حالی که سیستم‌های فناوری اطلاعات که زیرساخت‌های حیاتی دولت ایالات متحده را اجرا می‌کنند کمی رشد کرده‌اند، به طور همزمان متخصصان بسیار با تجربه‌ای که می‌دانند چگونه این سیستم‌های قدیمی را کار کرده و مدیریت کنند، مهاجرت کرده‌اند.

کارشناسان می‌گویند، نسل جدیدی از استعدادهای مهندسی را که تا حد زیادی به کمک هوش مصنوعی وابسته شده‌اند، فاکتور کنید و شما یک موقعیت بالقوه انفجاری دارید.

دارل وست، یکی از همکاران ارشد مرکز نوآوری فناوری در موسسه بروکینگز، به گیزمودو گفت: «در زمانی که چالش‌های امنیت سایبری به هم ریخته است، فرار مغزها از دولت فدرال وجود دارد.

به عنوان مثال آژانس امنیت سایبری و امنیت اطلاعات ایالات متحده (CISA) را در نظر بگیرید. بر اساس وب سایت آن، ترامپ که در وزارت امنیت داخلی قرار دارد، این آژانس را در اولین دوره ریاست جمهوری خود افتتاح کرد تا "تلاش ملی برای درک، مدیریت و کاهش خطر برای زیرساخت های سایبری و فیزیکی ما را رهبری کند." افسوس که بخشی از این زیرساخت شامل ایالات متحده می شود.

سیستم رای گیری، که به این معنی بود که ترامپ پس از باخت در انتخابات 2020 از جو بایدن، با این آژانس تردیدهایی داشت، شکستی که او هنوز علنا اعتراف نکرده است. ترامپ، کریستوفر کربس، مدیر وقت CISA را قبل از ترک سمت خود در ژانویه 2021 برکنار کرد. پس از اینکه ترامپ دوباره ریاست جمهوری را در سال 2024 به دست آورد، دولت جدید او - با هدایت وزارت کارایی دولت (DOGE) کوتاه مدت، شروع به کاهش بودجه CISA کرد و باعث افزایش اخراج کارکنان شد.

بسیاری از مقامات برون‌شده آژانس، دوره‌های طولانی از دوران حرفه‌ای خود را صرف به‌روزرسانی و تقویت سیستم‌های امنیت سایبری دولت فدرال طی دوره‌ای از تغییرات عمیق تکنولوژیکی کرده‌اند که ابتدا با ظهور اینترنت و به دنبال آن رسانه‌های اجتماعی مشخص شد. به گفته جوزفین وولف، استاد سیاست امنیت سایبری در دانشکده حقوق و دیپلماسی فلچر در دانشگاه تافتز، نتیجه از دست دادن ناگهانی و چشمگیر تخصص به دست آمده بود.

وولف می‌گوید: «وقتی در بیست یا چند سال گذشته به گذشته فکر می‌کنید چقدر زمان، انرژی و تلاش صرف تلاش برای ایجاد تخصص امنیت سایبری در سمت غیرنظامی شد، کمی ناراحت‌کننده است. "من نمی دانم چقدر طول می کشد تا [آن] بازیابی شود."

با توجه به مشکلاتی که سازمان‌های دولتی در حال حاضر در تلاش برای جذب و حفظ استعدادهای جدید امنیت سایبری، رقابت با نقش‌های بخش خصوصی پردرآمد از یک سو و کاهش بودجه فدرال از سوی دیگر، دارند، ممکن است زمان زیادی طول بکشد. بر اساس یک نظرسنجی که در اوایل سال جاری انجام شد، بیش از نیمی از تمام سازمان‌های دولتی در سراسر کشور - نه فقط فدرال، بلکه همچنین ایالتی و شهرداری - با استخدام و سرکوب امنیت سایبری دست و پنجه نرم کرده‌اند.

وست می‌گوید خشک شدن خط لوله داخلی ورودی همراه با سرکوب فدرال مهاجرت بر استعدادهای خارجی «ترکیبی فاجعه‌بار» برای امنیت سایبری ایالات متحده است.

بدون جریان ثابت مهندسین امنیت سایبری ورودی و متخصصان با تجربه برای آموزش آنها در مورد پیچیدگی‌های سیستم قدیمی دولت، این سیستم می‌تواند بیش از پیش مبهم‌تر شود و منجر به آسیب‌پذیری بیشتر و بیشتر برای زیرساخت‌های حیاتی شود. هوش مصنوعی ممکن است بتواند به عنوان یک واسطه موقت بین کارمندان فدرال و سیستم های IT آنها عمل کند، اما این نمی تواند مشکلات اساسی را برطرف کند.

این یکی از آن مشکلاتی است که صرفا نادیده گرفتن آن فقط باعث بدتر شدن اوضاع می شود، به خصوص با دولتی که در حال تشدید جنگ طلبی خود در خارج از کشور است. در حالی که خزانه CISA خالی شده است، پنتاگون نیز متورم شده است.

صفا شاهوان ادواردز، مدیر ابتکار سایبری Statecraft در شورای آتلانتیک، یک اتاق فکر مستقر در واشنگتن، می‌گوید: «با بیرون رفتن و مشت زدن به صورت دیگران، ایمن‌تر نمی‌شوید – در واقع این کار شما را به میزان قابل‌توجهی کمتر امن می‌کند، مگر اینکه بخواهید در همان زمان واقعا از خود دفاع کنید.» CISA منابعی را که آنها برای انجام وظایف خود به خوبی نیاز دارند... نمی دانم چه اتفاقی قرار است بیفتد.