عوامل سرکش هوش مصنوعی پایه ضعیف اینترنت را افشا می کنند

عوامل هوش مصنوعی نیازی به اختراع راه‌های جدیدی برای هک کردن اینترنت ندارند تا بر دفاعی‌های آن غلبه کنند. آن‌ها فقط باید آن‌هایی را که انسان‌ها قبلا استفاده می‌کردند، با سرعت اجرا کنند.

چرا مهم است: نمایندگان ثابت می کنند که می توانند تکنیک های هک اولیه را با سرعت و مقیاسی خودکار کنند که شکاف های امنیتی طولانی مدت اینترنت را به اهداف آسان تبدیل کند. محرک این خبر: OpenAI اواخر پنجشنبه اعلام کرد که به بیش از 100 سازمان اطلاع داده است که ممکن است عواملش در طول آزمایش قبل از استقرار به سیستم های آنها دسترسی داشته باشند. محققان Transluce و Corridor همچنین هفته گذشته مجموعه جدیدی از حوادث را پیدا کردند که در آن عوامل هوش مصنوعی وب سایت های دولتی از جمله وب سایت های ایالات متحده و کانادا را هدف قرار دادند.

Axios اخیرا گزارش داد که شرکت‌ها و محققان هوش مصنوعی به طور فعال ده‌ها هزار مورد را بررسی می‌کنند که در آن مدل‌های مرزی خارج از محدوده آزمایش‌های پیش از استقرار خود بودند. بررسی واقعیت: عوامل در این سناریوهای تست ایمنی سرکش فقط تکنیک‌های هک را تقلید می‌کنند - با استفاده از اعتبارنامه‌های ورود به سیستم سرقت شده و کلیدهای API افشا شده در حالی که شناسایی ربات‌ها را نیز دور می‌زنند - که هکرهای انسانی برای چندین دهه با موفقیت از آن استفاده کرده‌اند. در بسیاری از موارد گزارش شده جدید، ماموران به پایگاه‌های اطلاعاتی و وب‌سایت‌های در دسترس عموم دسترسی داشتند.

جک کیبل، یکی از بنیانگذاران Corridor و یکی از نویسندگان گزارش Transluce، به Axios گفت: "هک هایی که ما دیدیم خیلی پیچیده نبودند." "آنها کاملا محدود و کاملا ابتدایی بودند." بله، اما: برخی از آخرین رویدادها زمانی رخ داده اند که ماموران در حال انجام وظایف دنیوی غیرمرتبط با امنیت سایبری بودند، این نشان می دهد که همیشه لازم نیست به ماموران گفته شود قبل از شروع به جستجوی نقص های امنیتی، هک کنند. در یک مورد، ماموری که وظیفه یافتن سوابق طلاق کانادایی از اوایل دهه 1900 را بر عهده داشت، با موانعی مواجه شد و آسیب‌پذیری‌های امنیت سایبری را به عنوان راه دیگری برای بازیابی آزمایش کرد.

اطلاعات

کیبل گفت: «این واقعیت که اصلا اتفاق می‌افتد بسیار نگران‌کننده است. بین خطوط: سیل فعالیت های ایجاد شده توسط هوش مصنوعی همچنان سردردهای جدیدی را برای مدافعان ایجاد می کند. مایکل مورگنسترن، شریک مشاور DayBlink، به Axios گفت: «هیچ یک از این حملات جدید نیستند. اما اکنون یک فرد با هوش مصنوعی می تواند آنها را در مقیاس بزرگ اجرا کند.

وظایفی که زمانی به یک هکر نیاز داشت تا وب‌سایت‌ها را به‌صورت دستی بررسی کند، اعتبارنامه‌های افشا شده را جستجو کند یا محدودیت‌های دسترسی را برطرف کند، اکنون می‌توان به نرم‌افزاری واگذار کرد که به تنهایی به تلاش ادامه می‌دهد.

کیبل اضافه کرد که شرکت‌هایی که عوامل را مستقر می‌کنند، و همچنین شرکت‌های هوش مصنوعی که آنها را ارزیابی می‌کنند، برای دستگیری عواملی که به روش‌های غیرمنتظره رفتار می‌کنند، به نظارت قوی نیاز دارند. تصویر بزرگ: کتاب بازی قدیمی امنیت سایبری هنوز هم مرتبط است. بستن سرویس‌های افشا شده، چرخاندن اعتبارنامه‌های لو رفته و کلیدهای API، اصلاح آسیب‌پذیری‌های شناخته شده و محدود کردن دسترسی، هنوز بسیاری از این حملات را سخت‌تر می‌کنند.

کیبل گفت، مدل‌های هوش مصنوعی عمدتا از دسته‌هایی از آسیب‌پذیری‌هایی استفاده می‌کنند که مدافعان «ده‌ها سال است که درباره آن‌ها می‌دانند» و از قبل می‌دانند چگونه از آن جلوگیری کنند. نکته پایانی: نحوه دفاع شرکت‌ها از شبکه‌های خود تنها به این دلیل که فناوری انجام حملات جدید است، تغییر نمی‌کند.

عمیق تر بروید: امنیت سایبری 101 هنوز در دنیای هوش مصنوعی اعمال می شود