صورت حساب های ابر و هوش مصنوعی کمی بالا به نظر می رسند؟ عوامل هوش مصنوعی شما ممکن است رها شده باشند و هزینه های زیادی را متحمل شوند

کارشناسان هشدار می‌دهند که یک دستور ساده می‌تواند منجر به بخش‌هایی از محاسبات پایین‌دستی شود

مهاجمان حتی می توانند از هوش مصنوعی کنترل نشده شما برای افزایش هزینه ها سوء استفاده کنند

دید بیشتر و قطع کننده مدار دو راه حل هستند شرکت امنیت داده Forcepoint یک مشکل بزرگ را در رابطه با عوامل هوش مصنوعی فاش کرده است، اما برخلاف بسیاری از تهدیدات امنیتی هوش مصنوعی، این موضوع شامل سرقت داده یا به خطر انداختن مدل نیست.

در عوض، اگر به حال خود رها شود، فورس پوینت می‌گوید که هوش مصنوعی عاملی می‌تواند در واقع مقادیر زیادی از محاسبات، توکن‌ها، تماس‌های API یا سایر منابع را مصرف کند، در صورتی که حفاظت‌ها و محدودیت‌های کافی وجود نداشته باشد، که منجر به صورت‌حساب‌های ابری سازمانی بالاتر از حد انتظار می‌شود.

علاوه بر این، تحقیقات این شرکت استدلال می‌کند که با پیچیده‌تر شدن هوش مصنوعی، این مشکل مهم‌تر شده است.

به شرکت ها هشدار داده شد که مراقب استفاده از محاسبات عامل هوش مصنوعی باشند

نتیجه سیستم‌های هوش مصنوعی عاملی بسیار پیچیده این است که یک درخواست کاربر منفرد و ظاهرا ساده می‌تواند منجر به ده‌ها یا صدها عملیات پایین‌دستی شود. فورسپوینت این را به عنوان "مصرف بی بند و بار" می نامد.

مهمتر از همه، این تجزیه و تحلیل نشان داد که تشخیص مصرف بالای محاسبات و توکن در واقع می تواند بسیار سخت باشد و پروتکل های امنیتی موجود بعید به نظر می رسد که آن را انتخاب کنند، زیرا حتی نیازی به وجود یک مهاجم برای تأثیرگذاری وجود ندارد. تنها چیزی که نیاز دارید یک اتوماسیون با پیکربندی نامناسب یا یک جلسه هوش مصنوعی طولانی مدت است تا به طور تصادفی منجر به هزینه های غیرقابل تحمل شود.

با این حال، Forcepoint نگران است که مهاجمان واقعا بتوانند برای سوء استفاده از این آسیب‌پذیری وارد عمل شوند، زیرا کاربران مخرب پس از به دست آوردن اعتبار یک شرکت، حجم کاری زیادی ایجاد می‌کنند و محاسبات زیادی را به نفع خود مصرف می‌کنند و به آنها اجازه می‌دهند صورتحساب را دریافت کنند.

راه حل ها می توانند مانند خود هوش مصنوعی عامل پیچیده باشند، اما اکنون بیش از هر زمان دیگری ضروری هستند. اولا، شرکت‌ها باید بودجه‌ها را در سطوح مختلف و دقیق‌تر، مانند کلیدهای API، کاربران فردی و تیم‌ها تنظیم کنند. آنها همچنین باید قدرت نظارت بیشتری در مورد محل نسبت دادن هزینه ها داشته باشند.

اما فورسپوینت همچنین خواستار قطع کننده های مدار عامل برای جلوگیری از ترکیب حجم کار و هزینه ها است.

جیوتیکا سینگ، محقق امنیتی، از شرکت‌ها می‌گوید: "تیم‌های امنیتی به ندرت داشبوردهای صورت‌حساب ابری را تماشا می‌کنند. امور مالی به ندرت الگوهای سریع یا طراحی عامل را بررسی می‌کند."