مدل های برتر هوش مصنوعی در 90 درصد تلاش ها با موفقیت حملات سایبری به سیستم های آب و برق را برنامه ریزی می کنند: مطالعه

بر اساس تحقیقات منتشر شده در روز چهارشنبه، برخی از پیشرفته‌ترین مدل‌های هوش مصنوعی جهان با موفقیت برنامه‌های حمله سایبری را با هدف قرار دادن زیرساخت‌های حیاتی، از جمله سیستم‌های آب و برق، در 90 درصد از تلاش‌ها توسعه دادند.

شرکت امنیت سایبری Frenos 10 مدل هوش مصنوعی را در توانایی آنها در شناسایی نقاط ضعف، ارزیابی الزامات دسترسی و برنامه ریزی حملات علیه سیستم های صنعتی که خدمات ضروری را انجام می دهند، آزمایش کرد.

این مطالعه شامل 16980 آزمایش، از جمله 13884 تصمیم فردی، 2520 تلاش برای توسعه طرح های حمله کامل و 576 اجرای شبیه سازی شده بود.

سه مدل تجاری پیشرو هوش مصنوعی در 89.5٪ تا 92.9٪ از تلاش های برنامه ریزی، برنامه های حمله قابل اجرا را تولید کردند، در حالی که سایر مدل ها به طور قابل توجهی بدتر عمل کردند.

قوی‌ترین مدل وزن باز خارجی به میزان موفقیت 36.2 درصد در مقایسه با 5.2 درصد برای بهترین مدل وزن باز ایالات متحده دست یافت. محققان نام مدل ها را فاش نکردند.

فرنوس تاکید کرد، با این حال، این آزمایش ها به جای حملات دنیای واقعی، از اطلاعات ارائه شده و سناریوهای شبیه سازی شده استفاده می کنند.

این مدل‌ها گاهی اوقات مراحل حیاتی را حذف می‌کردند یا دسترسی را فرض می‌کردند که نداشتند، و تحقیقات نشان نداد که هوش مصنوعی می‌تواند به طور مستقل اهداف را شناسایی کند یا حملات سایبری را انجام دهد.

این یافته‌ها در بحبوحه نگرانی‌های فزاینده در مورد حملات به سیستم‌های صنعتی، از جمله حادثه اخیر در فرانسه که در آن هکرها سیستم‌های تبرید را در صدها سوپرمارکت دستکاری کردند، باعث افزایش شدید دما، فاسد شدن مواد غذایی و آتش‌سوزی شدند.

فرنوس همچنین به یک حمله سایبری در ژانویه به یک شرکت آب مکزیکی اشاره کرد که در آن مهاجمان از هوش مصنوعی کلود آنتروپیک برای شناسایی یک رابط نظارت صنعتی و پیشنهاد تلاش‌های اضافی برای دسترسی استفاده کردند. این تلاش‌ها با شکست مواجه شدند و هیچ آسیبی در سیستم‌های کنترل عملیاتی تأیید نشد.

این شرکت از اپراتورهای زیرساخت های حیاتی خواست تا جداسازی شبکه را تقویت کنند، دسترسی از راه دور را محدود کنند و فعالیت های مشکوک را نظارت کنند تا خطر حملات به کمک هوش مصنوعی را کاهش دهند.