کارشناسان می گویند مدل های جدید هوش مصنوعی قدرتمند موج رو به رشد حملات سایبری را تقویت می کنند

از 25 سپتامبر، یک هکر ارتشی از عوامل هوش مصنوعی را از دست داد که تلاش کردند در چند هفته آینده به بیش از 1200 وب سایت نفوذ کنند، بدون اینکه کار اضافی از هکر انسانی پس از فرستادن آنها به کارشان لازم باشد.

بر اساس گزارش رویترز، که اولین بار این حادثه را که توسط محققان امنیت سایبری کشف شد، گزارش داد، ماموران با موفقیت به حدود 100 شرکت، از جمله سازنده تجهیزات کشاورزی Deere، شرکت لوازم خانگی SharkNinja و سازنده موتور Cummins نفوذ کردند.

در حالی که هکر نیازی به اجرای حمله خود نداشت، آنها مجبور بودند قبض ابزارهای هوش مصنوعی را بپردازند. محققان به رویترز گفتند که این توکن‌هایی به ارزش 5000 دلار از ترکیب مدل‌های DeepSeek و Claude Code آنتروپیک هزینه دارد. این تقریبا 50 دلار برای هر شکست موفق است.

جسیکا جی، تحلیلگر ارشد تحقیقاتی در مرکز امنیت و فناوری های نوظهور جورج تاون (CSET) به فورچون گفت: حملات خودگردانی که توسط عوامل هوش مصنوعی انجام می شود، رایج تر می شوند. او گفت که این در درجه اول به این دلیل اتفاق می افتد که ابزارها در طول یک سال گذشته "به طور معناداری بهتر شده اند". او گفت به طور خاص، شرکت‌های هوش مصنوعی مهارت‌های کدنویسی مدل‌های خود را بهبود بخشیده‌اند، که منجر به "افزایش چشمگیر توانایی آنها در انجام وظایف مرتبط با امنیت سایبری مانند تجزیه و تحلیل حجم زیادی از کدها شده است."

همچنین، آنها عاملیت بیشتری پیدا کرده‌اند، به این معنی که می‌توانند از نرم‌افزارهای دیگر برای تکمیل کارها استفاده کنند، نه صرفا خروجی متن.

جی گفت: «این سیستم‌های هوش مصنوعی اکنون هم قابلیت هک بیشتری دارند و هم می‌توانند مستقل‌تر عمل کنند.

وارون چاندراسکاران، استادیار مهندسی برق و کامپیوتر در کالج مهندسی گرینگر دانشگاه ایلینویز، به فورچون گفت، عواملی که از مدل‌های زبان بزرگ (LLM) پشتیبانی می‌کنند، می‌توانند تمام روز و شب را بدون توقف، با «کسری از هزینه مهاجمان انسانی» اجرا کنند. او با اشاره به مهاجمانی که برای هر دستیابی موفق فقط 50 دلار خرج کردند، گفت: این «به طور اساسی اقتصاد بهره‌کشی را تغییر می‌دهد».

بحث در مورد ارزش و خطرات هوش مصنوعی با وزن باز افزایش می یابد

جی گفت، مدل‌های با وزن باز، یا آن‌هایی که به‌صورت عمومی قابل دانلود و سفارشی‌سازی هستند، همچنین می‌توانند ابزارهای قدرتمند و کم‌هزینه‌ای برای هک‌های عاملی ارائه دهند. او گفت که مهاجمان «به توانمندترین مدل‌های «بسته» محدود نمی‌شوند و می‌توانند از مدل‌های باز با توانایی مشابه استفاده کنند که راه‌اندازی بالقوه دشوارتر، اما کم‌هزینه‌تر هستند.

در دسترس بودن گسترده مدل های باز کم هزینه و قدرتمند یکی از دلایلی است که مدیر عامل آنتروپیک، داریو آمودی، هشدار داده است که مدل های باز به ویژه خطر حملات سایبری گسترده و بالقوه ویرانگر را به همراه دارند. این یکی از دلایلی است که آمودی و دیگران گفته‌اند که ممکن است نیاز باشد محدودیت‌های دولتی برای توزیع و استفاده از مدل‌های باز اعمال شود.

با این حال، دیگران مخالف هستند و می گویند که مدل های باز بیشتر به نفع مدافعان است تا مهاجمان. به عنوان مثال، زمانی که شرکت هوش مصنوعی Hugging Face در ماه ژوئیه متوجه شد که توسط یک مامور به طور مستقل مورد حمله قرار می‌گیرد، ابتدا سعی کرد از یک مدل بسته برای دفاع از خود استفاده کند، اما مدل به دلیل نرده‌های امنیتی خود این درخواست را رد کرد. سپس Hugging Face به یک مدل باز، GLM 5.2 که توسط شرکت چینی Z.ai ساخته شده بود، روی آورد و از آن برای جلوگیری از حمله استفاده کرد.

حملات سایبری خودمختار بیشتر

همین اتفاق در یک حمله عامل دیگر در این هفته رخ داد که OpenCode، یک پلت فرم کدنویسی مبتنی بر هوش مصنوعی را هدف قرار داد. Dax Raad، بنیانگذار OpenCode در 18 اکتبر، یک هکر یک مدل هوش مصنوعی مستقل را در OpenCode منتشر کرد که "بی وقفه در تلاش برای حمله به سیستم های ما در 48 ساعت گذشته بود." به گفته شرکت، مهاجمان به حساب های کاربری OpenCode نفوذ کردند و 1.4٪ از کاربران آن را تحت تاثیر قرار دادند. Dealroom گزارش داد که این پول خود را خرج کرد و برخی از افراد تا 1700 دلار ضرر کردند.

به گفته رعد، این شرکت با عوامل هوش مصنوعی خود که به اجرای آن ها 24 ساعته ادامه داد، مقابله کرد. OpenCode دفاع خود را با یک مدل OpenAI اجرا می کرد که در میانه حمله شروع به رد درخواست های خود کرد. رعد گفت که این "کمی ناامید کننده" بود. اما این شرکت پس از درخواست از OpenAI برای پذیرش آن در Daybreak Blue این شرکت، یک برنامه فقط کاربردی که به متخصصان امنیت سایبری تایید شده اجازه می دهد تا از پیشرفته ترین ابزارهای آن استفاده کنند، توانست به کار خود ادامه دهد.

پس از برخی واکنش‌های خفیف آنلاین به مدل‌های OpenAI که در ابتدا درخواست‌های OpenCode را رد کردند، مدیر OpenAI، Dean Ball گفت که این امر برای جلوگیری از استفاده بازیگران بد از مدل‌های آن برای «حملات سایبری خودمختار پایدار» لازم است. Thibault Sottiaux، رئیس محصولات اصلی OpenAI در X می گوید که به نظر می رسد برای اولین بار، OpenAI به کاربران OpenCode که در این حمله پول از دست داده بودند، بازپرداخت کرد.

در سومین حمله عامل این ماه - شدیدترین حمله - بازیگران بد چندین بانک کره جنوبی را هک کردند. به گفته رویترز، مهاجمان احتمالا در چین مستقر بوده اند و از ترکیبی از ابزار هوش مصنوعی توسعه یافته دولتی چین به نام Artex، ساخته شده بر روی مدل های باز و همچنین Anthropic Claude Code استفاده کرده اند. وال استریت ژورنال گزارش داد که آنها اطلاعات حدود 68000 نفر را سرقت کردند.

مقامات کره جنوبی از بانک ها خواستند تا دفاعیات خود را تقویت کنند. مون چونگ هیون، رئیس مرکز امنیتی Genians، یک شرکت تحلیلی امنیت سایبری سئول، به ژورنال گفت: «حملات امنیت سایبری که توسط عوامل هوش مصنوعی انجام می‌شود در کره جنوبی در حال افزایش است و من انتظار دارم در آینده تعداد آنها در سراسر جهان افزایش یابد.

این داستان در ابتدا در سایت Fortune.com منتشر شد