سازمان دیده بان داده اسپانیا اولین گزارش نقض داده مرتبط با هوش مصنوعی را منتشر می کند

یک عامل هوش مصنوعی ظاهرا از یک مدل زبان بزرگ شناخته شده برای شناسایی آسیب‌پذیری‌ها، دسترسی به یک سیستم و متعاقبا اصلاح داده‌های شخصی و دسترسی به فاکتورها استفاده کرده است.

مادرید - دیده بان حفاظت از داده های اسپانیا اعلام کرد که اولین اخطار گزارش شده در مورد نقض داده های شخصی را دریافت کرده است که گفته می شود توسط یک عامل هوش مصنوعی انجام شده است، موردی که نشان می دهد سیستم های مستقل شروع به ایفای نقش مستقیم در حملات سایبری کرده اند.

آژانس حفاظت از داده های اسپانیا (AEPD) در 14 سپتامبر در وبلاگی در وب سایت خود اعلام کرد که این حادثه شامل یک عامل هوش مصنوعی است که از یک مدل زبان بزرگ شناخته شده برای شناسایی آسیب پذیری ها، دسترسی به یک سیستم و متعاقبا تغییر داده های شخصی و دسترسی به فاکتورها استفاده می کند.

این آژانس گفت که نقض ادعایی توسط سازمان آسیب دیده به آن گزارش شده است و اطلاعات همچنان در دست بررسی است، و افزود که استفاده از یک مدل هوش مصنوعی خاص به این معنا نیست که خود مدل یا زیرساخت ارائه‌دهنده آن به خطر افتاده است و همچنین این فناوری برای اهداف مخرب توسعه داده شده است.

AEPD بلافاصله به درخواست رویترز برای اظهار نظر پاسخ نداد و مدل زبان بزرگ یا سازمانی را که هدف نقض قرار گرفته است را شناسایی نکرد.

این آژانس گفت که این مورد مرتبط است زیرا شخص ثالثی از یک عامل هوش مصنوعی برای انجام مراحل متعدد حمله با دخالت محدود انسانی استفاده کرده است که نقش رو به رشد سیستم‌های خودگردان در حوادث امنیت سایبری را برجسته می‌کند.

این حادثه در حالی رخ می‌دهد که تنظیم‌کننده‌ها و مقامات امنیت سایبری در سراسر ایالات متحده و اروپا بررسی دقیق خطرات ناشی از سیستم‌های هوش مصنوعی را افزایش می‌دهند، حتی در شرایطی که کسب‌وکارها این فناوری را با سرعت بالایی اتخاذ می‌کنند.

اسپانیا خود را به عنوان یکی از سرسخت ترین حامیان اروپایی مدل «هوش مصنوعی قابل اعتماد» معرفی کرده است که به جای اولویت دادن به سرعت یا سود برای صنعت فناوری، از حریم خصوصی، دموکراسی، خردسالان و امنیت عمومی محافظت می کند.

AEPD افزود: در حالی که یک مورد واحد برای ایجاد یک روند گسترده‌تر کافی نیست، اعلان نشان می‌دهد که حملات با کمک هوش مصنوعی فراتر از مرحله تئوری حرکت می‌کنند و شروع به تأثیرگذاری بر پردازش داده‌های شخصی در دنیای واقعی کرده‌اند.

با توجه به اعلان ارسال شده توسط سازمان آسیب دیده، عامل قبل از جستجوی مستقل برای نقاط ضعف برنامه، با موفقیت به سیستم وارد شد. پس از شناسایی یک آسیب‌پذیری، توانست اطلاعات شخصی را تغییر دهد و سوابق صورت‌حساب را مشاهده کند.

ناظر اسپانیایی نگفت چه زمانی بررسی نقض گزارش شده را به پایان خواهد رساند.

این آژانس گفت هوش مصنوعی تهدیدات جدیدی ایجاد نمی کند. با این حال، سرعت، مقیاس و سازگاری تکنیک های مخرب موجود را افزایش می دهد و زمان موجود برای شناسایی و مهار آنها را کاهش می دهد.

این آژانس افزود، کنترل‌کنندگان، پردازنده‌ها و افسران حفاظت از داده‌ها باید برای سناریویی آماده شوند که در آن سرعت حملات همچنان در حال افزایش باشد. رویترز