اسپانیا اولین طعم حمله سایبری با کمک هوش مصنوعی را می چشد

آژانس حفاظت از داده‌های اسپانیا (AEPD) اولین نقض اطلاعات شخصی در این کشور را گزارش کرده است که ناشی از اقدامات یک عامل هوش مصنوعی مستقل است. فرانسیسکو پرز بس، رئیس و معاون AEPD، روز دوشنبه در یک پست وبلاگی گفت که فردی یک عامل هوش مصنوعی را مستقر کرده است که از "مدل بزرگ زبان شناخته شده (LLM)" برای انجام حمله به یک سازمان استفاده کرده است. این عامل قبل از دسترسی به سیستم سازمان، «فایل‌های عمومی» را اسکن کرد، سپس اسکن‌های آسیب‌پذیری را برای یافتن نقص‌هایی انجام داد که به آن امکان دسترسی خواندن/نوشتن به فایل‌های حاوی داده‌های شخصی و فاکتورها را می‌داد.

پرز بس نام LLM مورد استفاده برای حمایت از حمله را ذکر نکرد، اما گفت هر کسی که پشت آن بود از عامل استفاده کرد تا "فازهای مختلف حمله را با موفقیت به هم متصل کند." او افزود، این نشان می‌دهد که حملات با پشتیبانی هوش مصنوعی دیگر جنبه تئوری ندارند، و از سازمان‌ها خواست تا از ابزارهای دفاعی استفاده کنند که می‌توانند با سرعت اجرای حملات عامل همگام شوند. پرز بس (ترجمه ماشینی) گفت: «نظارت انسانی ضروری است، اما باید با مکانیسم‌های شناسایی، مهار و واکنشی که قادر به کار با سرعت کافی هستند، پشتیبانی شود.

"ورود عوامل هوش مصنوعی به عرصه تهاجمی باید باعث بررسی فوری مدل‌های امنیتی و حفاظت از داده‌ها شود. افسران، مدیران و نمایندگان حفاظت از داده‌ها باید برای سناریویی آماده شوند که در آن سرعت حملات افزایش می‌یابد، اما در آن همان اصول اساسی همچنان حیاتی خواهند بود: درک فعالیت‌های پردازش، به حداقل رساندن داده‌ها، محدود کردن دسترسی‌های کنترل‌کننده، محدود کردن دسترسی‌های کنترل‌کننده، محدود کردن دسترسی‌ها به اطلاعات و پاسخگویی صحیح." ثبت برای اطلاعات بیشتر از AEPD درخواست کرد.

اولین حمله عامل هوش مصنوعی اسپانیا در حالی رخ می دهد که AEPD اخیرا شلوغ ترین سال خود را برای شکایات حفاظت از داده ها ثبت کرده است. طبق آخرین گزارش سالانه خود، که در سال 2025 پوشش می‌دهد، این آژانس 30931 شکایت دریافت کرد - بیشترین شکایت در تاریخ خود - که نشان دهنده افزایش 64 درصدی نسبت به سال قبل است. و اگرچه اسپانیا در حال حاضر برای اولین بار طعم یک اتفاق ناگوار امنیتی ناشی از یک عامل شیطان را می چشد، موارد مربوط به خانه های هوش مصنوعی ایالات متحده در حال حاضر به شدت مستند شده است.

ادعای OpenAI در ماه ژوئیه مبنی بر اینکه مامورانش از جعبه شنی فرار کردند و شروع به حمله به Hugging Face کردند، چیزی شبیه به نبرد بین آن و رقیب آنتروپیک را آغاز کرد که مامورانش می توانند بیشترین آزادی را با امنیت خود بگیرند. هر دو شرکت چندین مورد را گزارش کرده‌اند که عوامل آنها از محیط‌های "امن" فرار کرده و به سازمان‌های ناخواسته حمله می‌کنند. OpenAI نسبت به مقیاس واقعی آسیب عوامل سرکش خود محتاط بوده است، زیرا گزارش های شخص ثالث نشان می دهد که وب سایت های بیشتری از آنچه که اجازه می داد تصرف شده اند.

به طور مشابه، آنتروپیک گفته است که عوامل هوش مصنوعی آن در حال حاضر در چهار مورد به سیستم‌های شخص ثالث در حملاتی دسترسی پیدا کرده‌اند که اگر توسط یک انسان انجام می‌شد، می‌توانست آن‌ها را طبق قوانین رایانه محکوم کنند. ®