حفاظ های هوش مصنوعی جلوی هکرهای جنایتکار را نمی گیرند

محققان شرکت اطلاعاتی تهدیدات CrowdStrike به زیرساخت‌های هوش مصنوعی حملاتی که بین ماه‌های می و آگوست توسط چهار گروه گزارش‌نشده قبلی انجام شده‌اند، بررسی کردند - یکی به زبان چینی، یکی به زبان اسپانیایی و انگلیسی، دیگری به زبان اندونزیایی و دیگری به زبان روسی. دو نفر قبلی «هیرنس»های پیشرفته هوش مصنوعی را به نمایش گذاشتند، نرم افزاری که مدلی را برای انجام وظایف پشتیبانی و راهنمایی می کند. محققان دریافتند که دو مورد آخر از خود مهارت فنی کمتری نشان دادند، اما همچنان قادر به به خطر انداختن چندین هدف بودند.

همه زیرساخت‌های هوش مصنوعی خود را به طور آشکار در سرورهای وب در دسترس قرار داده بودند و به محققان این امکان را می‌داد تا فعالیت‌های خود و مدل‌هایی را که استفاده می‌کردند تجزیه و تحلیل کنند - عمدتا نسخه‌هایی از Anthropic's Claude و همچنین نسخه‌هایی از مدل‌های وزن باز Deepseek. همه بازیگران راه‌هایی ابداع کردند که به کمپین‌هایشان اجازه دهند در دوره‌های زمانی نسبتا طولانی به صورت مستقل اجرا شوند. "شما می توانید از مدل های مختلف برای جنبه های مختلف در عملیات استفاده کنید.

مسیریابی و انتخاب مدل بسیار مهم است، زیرا گران است و استفاده از مدل‌های جدیدتر زمان زیادی می‌تواند زیاد باشد.» محققان مهاجمان را با استفاده از هر دو مدل وزن باز و بسته مشاهده کردند؛ تقریبا در همه موارد، آنها از مدل‌های قدیمی‌تر استفاده می‌کردند تا اینکه با آنها کار کنند.

مایرز خاطرنشان می‌کند که انجام تا حد امکان با مدل‌های قدیمی‌تر در استفاده قانونی از هوش مصنوعی نیز رایج است، زیرا هزینه‌ها افزایش می‌یابد. مهاجمان همچنین از مدل‌های متعددی استفاده کردند تا از تفاوت‌ها در نرده‌های محافظ برای جلوگیری از استفاده افراد از هوش مصنوعی برای انجام حملات دیجیتال استفاده کنند. میرز می‌گوید: «همه مدل‌ها حفاظ و حفاظ‌های مشابهی ندارند، حتی از یک شرکت. او در مورد پیچیدگی کمپین های هکری به طور کلی اضافه می کند که «این حملات از سوء استفاده های جدید یا آسیب پذیری های جدید استفاده نمی کنند.

آنها واقعا فقط از سرعت و حجمی که می‌توانید برای انجام این عملیات با هدف قرار دادن بخش عمده مسائل بهداشتی امنیتی در بسیاری از این محیط‌ها استفاده کنید، از هوش مصنوعی استفاده می‌کنند - چیزهایی که قابل پیشگیری بودند اما از آن جلوگیری نشد. محققان دریافتند که هر چهار عامل تهدید، پادمان‌های هوش مصنوعی را دور می‌زنند، اغلب با متقاعد کردن مدلی مبنی بر قانونی بودن و مجاز بودن این فعالیت، اغلب برای آزمایش نفوذ یا سایر ارزیابی‌های امنیتی.

یکی از روش‌هایی که توسط بسیاری از گروه‌ها استفاده می‌شود شامل افزودن فایل‌ها به فهرست کاری یک نماینده برای نشان دادن تایید و مجاز بودن وظایف است. مهاجمان همچنین از روش‌های سنتی فرار از زندان استفاده می‌کردند، اعلان‌ها و روایت‌هایی را می‌ساختند که هک خود را به‌عنوان مجاز و بی‌خطر قاب‌بندی می‌کردند، و به طور فعالانه به سؤالات یا نگرانی‌های احتمالی که مدل‌ها ممکن است ایجاد کنند، پرداختند.

بازیگران پیچیده‌تر معمولا استراتژیک‌تر در ساختن جهان خود بودند، در حالی که بازیگران کمتر پیچیده‌تر گاهی اوقات به درخواست‌های خام‌تر و تهاجمی‌تر متوسل می‌شدند که سعی می‌کرد مدل‌ها را به زورگویی وادار کند تا فعالیت مشروع را بپذیرند. این بازیگر چینی زبان همچنین از چیزی که به عنوان "وصله زمان اجرا" شناخته می شود، در این مورد ابزاری به نام ClawGod، برای افزودن قابلیت به کلود کد و تلاش برای حذف "CYBER_RISK_INSTRUCTION" از اعلان سیستم Claude Code استفاده کرد، دستورالعملی که به کلود کد دستور می دهد فقط در یک تست امنیتی غیر مجاز شرکت کند.

r هک مخرب بازیگری که به زبان های اسپانیایی و انگلیسی کار می کرد نهادهای مراقبت های بهداشتی آرژانتین را هدف قرار داد و با موفقیت حداقل 15 سازمان را به خطر انداخت. محققان CrowdStrike شواهدی را مشاهده می کنند که نشان می دهد این بازیگر مدارک و مدارک پزشکی حداقل یکی از این قربانیان را به سرقت برده است. بازیگر ویژه یک مهار تست نفوذ ساخته است، نوعی که یک سازمان از آن برای آزمایش زیرساخت های خود، برای یافتن و رفع آسیب پذیری ها استفاده می کند.

این گروه با استفاده از مدل‌هایی از جمله Claude Opus 4.5، Claude Haiku 4.5 و Deepseek V4 Pro، زیرساخت کاملی را برای حملات خودگردان ایجاد کرد که شامل یک عامل کلود کد "Supervisor" برای هدایت مراحل حمله و یک عامل "Executor" برای انجام آنها بود. مهاجمی که به زبان چینی کار می‌کند همچنین مهارهای تست نفوذ را برای هدایت کلود کد در شناسایی ساخته و پس از انتخاب یک انسان به صورت مستقل حمله می‌کند.

محققان دریافتند که این بازیگر با موفقیت اهداف دولتی را در برزیل و کلمبیا به خطر انداخته و همچنین سازمان‌های خصوصی در برزیل و ایالات متحده را در طیف وسیعی از بخش‌هایی که شامل بیوتکنولوژی، مراقبت‌های بهداشتی، غذا و نوشیدنی، خرده‌فروشی، فناوری و سفر می‌شود، هدف قرار داده است. به گفته محققان، این بازیگر چینی زبان در درجه اول به Claude Opus 4.8 متکی بود، اما از مدل های دیگری مانند Claude Sonnet 4.6 و Deepseek Chat نیز استفاده کرد.

این بازیگر از طریق یک سرویس پروکسی هوش مصنوعی مستقر در چین به کلود دسترسی پیدا کرد، اما اگر کلود از طریق پروکسی در دسترس نبود، چندین بار دیگر ابزارهای هوش مصنوعی را تنظیم کرد. Anthropic قبل از انتشار نظری ارائه نکرد و Deepseek بلافاصله به درخواست‌های WIRED برای اظهار نظر پاسخ نداد. محققان می‌گویند که هم بازیگر روسی‌زبان که به نظر می‌رسد روی «جرایم الکترونیکی» با انگیزه‌های مالی متمرکز بوده است، و هم بازیگر اندونزیایی زبان (کمترین مهارت در بین این چهار نفر) از مهارت‌ها و مهارهای اولیه و در دسترس عموم برای انجام حملات خود استفاده می‌کنند.

اما هر دو همچنان در به خطر انداختن اهداف موفق بودند. این شامل چندین حوزه دولتی اندونزی، یک حوزه دولتی بنگلادش، و برخی از اهداف بخش خصوصی، در مورد بازیگر اندونزیایی زبان بود. مایرز از CrowdStrike می‌گوید: «آنچه می‌بینیم این است که انسان‌ها در این موقعیت‌ها برخی از کاوش‌های اولیه را انجام می‌دهند و سپس هوش مصنوعی را برای هک کردن در مقیاس درگیر می‌کنند. به نظر من جالب است که حتی با وجود حملات ماموران با تمام این قابلیت‌ها، باز هم می‌توانیم ببینیم که یک انسان پشت آن است و آن‌ها چه کار می‌کنند.»