هوش مصنوعی پتانسیلی برای تبدیل بچه های اسکریپت به مهاجمان زیرساخت پیچیده دارد

وقتی صحبت از حملات سایبری می‌شود که شبکه‌های برق، سیستم‌های آب آشامیدنی و دیگر زیرساخت‌های حیاتی را تعطیل می‌کنند، هوش مصنوعی - هنوز - بچه‌های فیلم‌نامه را به مهاجمان پیچیده و دولت‌ملت تبدیل نکرده است. اما به گفته کارشناسان امنیتی فناوری عملیاتی (OT) "پتانسیل وجود دارد".

استیو سویک، رئیس سابق امنیت اطلاعات در امریکن الکتریک پاور، می‌گوید: «یک موردی که سال‌ها به آن تکیه کرده‌ایم، امنیت ناشی از ابهام در مورد خدمات شهری است. سویک در یک پنل رسانه ای پیش از انتشار گزارش وضعیت هوش مصنوعی فرنوس در امنیت افزود: «دانش لازم برای انجام برخی از این کارها کمتر می شود.»

هوش مصنوعی هدف قرار دادن زیرساخت‌های حیاتی، دسترسی به تاسیسات و کارخانه‌های تولیدی و انجام شناسایی سیستم OT را برای مهاجمان انسانی آسان‌تر و سریع‌تر می‌کند.

پل شیور، رئیس OT در Armadin، در طول این پنل گفت: «دسترسی اولیه می‌تواند اسناد را مجددا بازیابی کند، و از طریق آن اسناد را خیلی سریع تقطیر کند تا ویژگی‌های طراحی حیاتی کارخانه و تأسیسات شما را بیابد. من می‌توانم کتابچه راهنمای تقریبا برای هر کنترل‌کننده اتوماسیونی را دانلود کنم، آن را خیلی سریع تجزیه و تحلیل کنم و راه‌هایی بیابم که بتوانم از یک ویژگی اختصاصی چیزی که از نظر طراحی ایمن نبود، استفاده کنم.»

Armadin استارت آپ امنیتی جدید کوین ماندیا است که از انبوهی از عوامل هوش مصنوعی مستقل برای شبیه سازی حملات سایبری در دنیای واقعی استفاده می کند. قبل از پیوستن به آرمادین، شیور شش سال را به عنوان رهبر جهانی OT در شرکت قبلی مندیا، Mandiant، که گوگل در سال 2022 خریداری کرد، گذراند.

من پرچم Mandiant خود را برای یک ثانیه به اهتزاز در می‌آورم و سعی می‌کنم از ترس، بلاتکلیفی و مرگ دنیا که به پایان می‌رسد دور شوم، و هر بچه فیلمنامه‌ای اکنون یک دشمن بسیار پیچیده دولت ملت است. اما نمی‌خواهم بگویم که پتانسیل آن وجود ندارد، زیرا ابزارها به گونه‌ای بهبود می‌یابند که دسترسی به اطلاعات بسیار سریع‌تر است.»

Shaver گفت: در Armadin و با کمک هوش مصنوعی، «من خیلی سریع در روزهایی که معمولا ماه‌ها طول می‌کشد، ابزار می‌سازم». "اگر می تواند این کار را برای من انجام دهد، کار مشابهی را برای افرادی انجام می دهد که مجموعه مهارت های بسیار ابتدایی دارند. من هنوز تا جایی پیش نمی روم که فیلمنامه بچه ها را بنویسم، اما با پیشرفت مدل ها، این امکان در این فضا بیشتر می شود."

به علاوه، هری توماس، مدیر ارشد فناوری و یکی از بنیانگذاران Frenos، یک شرکت امنیتی که آزمایش هوش مصنوعی را برای محیط‌های OT انجام می‌دهد، گفت: «هری توماس، از آنجایی که هوش مصنوعی موانع فنی را برای هکرهای OT کاهش می‌دهد، جدول زمانی را پیش می‌برد.

توماس گفت: "اگر یک بچه فیلمنامه بهتر از حد متوسط ​​اکنون می تواند حملات انجام دهد."

آزمایش قدرت LLM برای کمک به برنامه ریزی حملات

گزارش Frenos که روز چهارشنبه منتشر شد، میزان هوش مصنوعی را مورد بررسی قرار می‌دهد که تا چه حد می‌تواند به شخصی برای برنامه‌ریزی حمله به سیستم‌های صنعتی کمک کند. برای انجام این کار، چندین مدل هوش مصنوعی را از طریق 16980 آزمایش بین اکتبر 2025 و سپتامبر 2026 انجام داد. این موارد شامل 13884 تلاش برای تصمیم گیری، 2520 تلاش برای برنامه ریزی و 576 حمله شبیه سازی شده بود.

این شرکت مدل ها یا نام ارائه دهندگان را فاش نمی کند، اما گفت که شش مدل مرزی، دو مدل وزن باز ایالات متحده و دو مدل وزن باز خارجی را در سه نوع کار آزمایش کرده است: انتخاب یک اقدام، برنامه ریزی مراحل رسیدن به یک هدف، و کار بر روی یک سناریوی شبیه سازی شده.

هر آزمایش به مدل اطلاعات پس زمینه و مجموعه ای از اقدامات حمله را برای انتخاب می داد. قبل از انتخاب، هر مدل جزئیاتی در مورد دارایی‌ها، شبکه‌ها و نقاط ضعف شناخته‌شده به‌علاوه دسترسی به هر اقدام مورد نیاز دریافت می‌کرد.

فرنوس سپس بررسی کرد که آیا انتخاب مدل با نتیجه مورد نیاز مطابقت دارد یا خیر. بسته به مدل، بین 6 تا 47 درصد از انتخاب ها قبول شدند.

این آزمایش‌ها نشان داد که قوی‌ترین سه مدل مرزی در حدود 90 درصد از تلاش‌های برنامه‌ریزی خود موفق شدند - به این معنی که یک طرح حمله قابل اجرا تولید کردند - اما همین مدل‌ها سازگار نبودند: 60 درصد، 62.9 درصد و 74.3 درصد از طرح‌های حمله هر بار تکرار شدند.

بر اساس این گزارش، «یک طرح می‌تواند معقول به نظر برسد و همچنان چیزی ضروری را کنار بگذارد». «مدل‌ها اطلاعاتی در مورد این کار داشتند، اما برخی از پاسخ‌ها یک مرحله را رد می‌کردند یا دسترسی را فرض می‌کردند که طرح ایجاد نشده بود».

در همین حال، موفق ترین مدل از چهار مدل وزن باز - یک مدل غیر آمریکایی - به میزان موفقیت کلی 36.2 درصد دست یافت. با این حال، این رقم همچنان بالاتر از میزان موفقیت کلی سه مدل مرزی دیگر ایالات متحده بود که به ترتیب 31.9 درصد، 18.8 درصد و 17.9 درصد امتیاز کسب کردند.

توماس می‌گوید: «ما می‌بینیم که اگرچه مدل‌های هوش مصنوعی به ما کمک می‌کنند تا ابزارسازی‌مان را تسریع کنیم، دسترسی و انتقال دانش را تسریع کنیم، اما هنوز هم مستعد توهم هستند. ما هنوز فکر می‌کنیم که قضاوت انسان برای این مدل‌های هوش مصنوعی ضروری است تا عوامل تهدید به هر مأموریت یا هدفی که می‌خواهند دست یابند، دست پیدا کنند.»

در این آزمایش‌ها، هیچ انسانی از مدل‌ها نخواست که نقشه‌هایشان را اصلاح کنند، در حالی که در یک حمله واقعی، یک نابکار که هدف را درک می‌کرد، می‌توانست شکافی را در طرح هوش مصنوعی تشخیص دهد، اطلاعات بیشتری ارائه دهد و از مدل بخواهد که پاسخ خود را اصلاح کند.

توماس گفت: "علاوه بر آن، زمانی که ما در حال آزمایش مدل های هوش مصنوعی بودیم، از مهاری استفاده کردیم که بسیار ساده بود: در اینجا اطلاعاتی وجود دارد. این متن است. به من پاسخ دهید." یک مهار توانمندتر می توانست به این مدل های هوش مصنوعی برتری بیشتری بدهد.

بر اساس یافته‌ها، فرنوس اقداماتی را برای مدافعان OT توصیه می‌کند که با دفاع لایه‌ای شروع می‌شود. این شامل بخش بندی شبکه ها، محدود کردن دسترسی از راه دور و مجوزهای کاربر و آزمایش مراحل بازیابی است.

توماس گفت: «ما برنامه‌های تداوم کسب‌وکار و برنامه‌های بازیابی فاجعه را به دلایلی داریم. "بیایید آنها را اعدام کنیم." ®