هکرها از «حملات LLMjacking» برای ربودن استفاده از هوش مصنوعی شرکت و اجرای صورت‌حساب‌های کلود ابری استفاده می‌کنند.

مجرمان سایبری کلیدهای API و اطلاعات ابری هوش مصنوعی را می دزدند تا خدمات و زیرساخت های گران قیمت LLM را ربودند.

دسترسی دزدیده شده برای اجرای بارهای کاری هوش مصنوعی، ایجاد سرویس های پروکسی، و جمع آوری صورت حساب های هنگفت برای قربانیان استفاده می شود.

گوگل هشدار داد "LLMjacking" در حال تبدیل شدن به یک اکوسیستم تخصصی جرایم سایبری با اپراتورهای اختصاصی کسب درآمد است. عوامل تهدید از مدل‌های زبان بزرگ (LLM) برای پشتیبانی از تقریبا هر مرحله از حمله سایبری، از تحقیق در مورد قربانیان احتمالی گرفته تا توسعه بدافزار و خودکارسازی حملات مختلف، استفاده می‌کنند. با این حال، استفاده از هوش مصنوعی ارزان نیست و برای کسانی که مشتاق استفاده از مدل‌های مرزی هستند، هزینه‌ها نسبتا سریع بالا می‌رود.

اما مجرمان سایبری به دزدی اشیا عادت دارند، پس چرا توکن‌های شخص دیگری را نیز سرقت نکنیم؟

گزارش جدیدی از گروه اطلاعاتی تهدیدات گوگل (GTIG) می گوید که گروه های مختلف هک دقیقا همین کار را انجام می دهند و این روش - معروف به LLMjacking - در چند سال گذشته به طور پیوسته محبوبیت بیشتری پیدا کرده است.

اکثر گروه‌ها با تمرکز بر نقاط پایانی LLM که به‌طور عمومی در معرض دید قرار می‌گیرند، یا بر روی دستیابی به کلیدهای واسط برنامه‌نویسی کاربردی LLM (API) معتبر شروع می‌کنند. در بسیاری از موارد، کلاهبرداران از توکن‌های هویت ابری افشا شده یا دزدیده شده (مدارک IAM، کلیدهای حساب سرویس، توکن‌های دسترسی شخصی GitHub و نشانه‌های جلسه فعال) استفاده می‌کنند تا جای پایی اولیه در زیرساخت سازمان‌های هدف ایجاد کنند.

از آنجا، آنها "به طور سیستماتیک" برای افزایش امتیازات، تقویت دسترسی خود و شناسایی اهداف برای مصالحه بیشتر "کار می کنند".

LLMjacking

بازی آخر LLMjacking است که GTIG آن را به عنوان «کسب درآمد و ربودن منابع از مدل‌های بنیادی توصیف می‌کند که بازیگران از طریق پروکسی توکن، پخش خودکار مدل‌ها و تهیه سخت‌افزار GPU به آن دست می‌یابند». به عبارت دیگر، در حالی که شما صورت حساب را دریافت می کنید، شخص دیگری از اشتراک هوش مصنوعی شما استفاده می کند.

صورتحساب ها نیز می توانند باعث سردرد شوند. به عنوان مثال، با رمزنگاری، استخراج توکن نسبتا کند و ثابت است و مدت زمان مشخصی باید بگذرد تا هزینه ها واقعا بالا برود. با این حال، با LLMjacking، هزینه ها می توانند در شش دقیقه به شش رقم تبدیل شوند.

گوگل در این گزارش می‌گوید: «با دریافت کلیدهای دسترسی LLM API، UNC6993 سعی کرد کلیدهای API اضافی تولید کند و خدمات مرتبط را در پروژه‌های ابر قربانی فعال کند، و به سرعت بیش از 100000 دلار هزینه صورت‌حساب جمع‌آوری کرد.

یکی دیگر از عوامل تهدید، حساب‌های قربانی را در قراردادهای Pay-As-You-Go مشترک کرد، مدل‌های پایه ممتاز را انتخاب کرد و جریان‌های استنتاج با حجم بالا را راه‌اندازی کرد. برای دور زدن محدودیت‌های نرخ، عامل تهدید استراتژی «سوزاندن و چرخش» را به کار گرفت، و به طور مداوم حساب‌های خدمات کوتاه‌مدت را ایجاد و حذف کرد و در حین ممیزی بر واسط صورت‌حساب مالی ارائه‌دهنده ابری تأثیر گذاشت.»

در برخی موارد، عوامل تهدید نیز از دسترسی به دست آمده برای میزبانی نقاط پایانی پروکسی و بارهای کاری عامل خود استفاده می کردند. گوگل می‌گوید که یک عامل تهدید، عوامل را فعال می‌کند، پراکسی‌های معکوس در دسترس عموم را مستقر می‌کند، و از بسته‌های پروکسی Node.js سفارشی برای افشای نقاط پایانی سازگار با چندین LLM مرزی که تحت شخصیتی به نام D1337-KAIROS نامگذاری شده‌اند، استفاده می‌کند.

این بازیگر یک درب پشتی کانتینری را مستقر کرد که از یک LLM بالادستی درخواست می کرد تا از طریق دستورالعمل ها استدلال کند و دستورات را به صورت محلی اجرا کند.

یک اکوسیستم در حال رشد

اکوسیستم LLMjacking جوان است، اما سریع رشد می کند و حتی سریعتر بالغ می شود. گوگل می گوید که در حال حاضر بین گروه های هکری که دسترسی اولیه به محیط های در معرض خطر را ایجاد می کنند و اپراتورهایی که زیرساخت های درآمدزایی پایین دستی را مدیریت می کنند، تقسیم کار وجود دارد. این دومی ها "LLM Mixers" نامیده می شوند و به عنوان یک دروازه مسیریابی عمل می کنند که دسترسی غیرمجاز LLM را به مشترکین زیرزمینی پراکسی، جمع می کند و مجددا می فروشد.

گوگل گفت: «در یک تحقیق، GTIG دو خوشه عملیاتی مجزا را مشاهده کرد که برای به خطر انداختن و کسب درآمد از زیرساخت‌های LLM سازمانی هماهنگی می‌کردند، که نشان‌دهنده تخصص پیچیده در حال ظهور در این فضا بود.

با استفاده از دروازه‌های API منبع باز و زیرساخت رله سفارشی، مهاجمان می‌توانستند اعتبارنامه‌های دزدیده شده، استفاده از متر را جمع‌آوری کنند و مخفی کنند که درخواست‌ها واقعا از کجا سرچشمه گرفته‌اند.

گوگل اکنون زنگ خطر را به صدا درآورده است و می‌گوید که انتظار دارد عوامل تهدید به بهای سایر روش‌های سرقت منابع، LLMjacking را به‌طور فزاینده‌ای در اولویت قرار دهند. این سازمان‌ها را ترغیب می‌کند که دید خود را از پلتفرم‌های LLM افزایش دهند، تشخیص تغییرات در حساب‌ها و سرویس‌های LLM را در اولویت قرار دهند و هرگونه فعال‌سازی غیرمجاز را به عنوان یک رویداد امنیتی حیاتی در نظر بگیرند. همچنین به سازمان‌ها توصیه می‌کند که اصل کمترین امتیاز را اجرا کنند و مطمئن شوند حساب‌ها و کاربران فقط مجوزهایی دارند که برای انجام کار به آنها کاملا نیاز دارند.