"عامل خود به نهادی برای ایمن سازی تبدیل شده است": ابزار رایگان جدید Mac Bitdefender به دنبال نقص هایی است که به مهاجمان اجازه می دهد مدل های هوش مصنوعی را فریب دهند.

نرم افزار جدید Bitdefender اقدامات عامل هوش مصنوعی را قبل از وقوع بررسی می کند

AI Guardian اقدامات غیرمجاز عوامل نرم افزاری مستقل را مسدود می کند

AI Guardian تصمیمات نماینده را ثبت می کند تا کاربران بتوانند عملیات فردی را بررسی کنند عوامل هوش مصنوعی به طور فزاینده ای به ابزارهای نرم افزاری، فایل های خصوصی و اعتبارنامه ها دسترسی پیدا می کنند، در حالی که هر روز وظایف فنی را برای کاربران خود انجام می دهند.

این دسترسی مشکل امنیتی دیگری ایجاد می‌کند زیرا دستورالعمل‌های مخرب می‌توانند بر آنچه سیستم‌های خودکار تلاش می‌کنند بدون مجوز اجرا کنند، تأثیر بگذارد.

Bitdefender نسخه بتای عمومی AI Guardian را منتشر کرده است، یک ابزار امنیتی macOS که بررسی می‌کند عوامل نرم‌افزار مستقل قبل از اعمال این اقدامات چه کار می‌کنند.

یک ایست بازرسی امنیتی برای نرم افزارهای مستقل

AI Guardian یک برنامه مستقل است که در ابتدا از Claude Code 2.1.121 و OpenClaw 2026.6.6 پشتیبانی می کند.

این نرم افزار به آرامی در پس زمینه عمل می کند و قبل از اجازه دادن به آنها، عملیات درخواستی را با قوانینی که توسط کاربران تعیین شده است مقایسه می کند.

هر درخواست یک نتیجه مجاز، پرچمدار یا مسدود شده دریافت می کند، در حالی که تصمیمات برای بررسی و ممیزی بعدی ثبت می شوند.

پردازش سریع به صورت محلی انجام می شود، اگرچه خدمات انتخاب شده مانند بررسی اعتبار وب سایت می توانند از زیرساخت ابری Bitdefender استفاده کنند.

این سیستم می‌تواند تلاش‌ها برای دستکاری عوامل را از طریق دستورالعمل‌های پنهان شناسایی کند و از ادامه عملیات بدون تأیید جلوگیری کند.

همچنین ابزارهای پروتکل متنی مدل را بررسی می کند و اجزای مشکوک یا تغییر یافته را قبل از اینکه یک عامل بتواند آنها را فراخوانی کند متوقف می کند.

این نرم افزار مهارت های عامل پشتیبانی شده را قبل از اجرا بررسی می کند، در حالی که اعتبارنامه های API در معرض نمایش می تواند محدودیت هایی را در اطراف منابع محافظت شده ایجاد کند.

همچنین می تواند یک عامل را از دسترسی به منابع حساس مانند کلیدهای SSH و اعتبار سیستم بدون مجوز مسدود کند.

این کنترل‌ها برای توسعه‌دهندگان، متخصصان فنی و سایر افرادی که برای کدنویسی یا وظایف عملیاتی به عوامل متکی هستند، در نظر گرفته شده است.

این شرکت می‌گوید هر تصمیمی را می‌توان از طریق یک سوابق ممیزی که نحوه رسیدگی به درخواست‌های فردی را نشان می‌دهد، بررسی کرد.

فرآیند امنیتی ابتدا منابع مجاز را ایجاد می کند، سپس درخواست های فردی را قبل از بازگرداندن یک نتیجه برای هر عملیات بررسی می کند.

چرا به AI Guardian نیاز است

تحقیقاتی که توسط Bitdefender ذکر شده است، 20 عامل هوش مصنوعی را در برابر بیش از 1300 تلاش برای مسمومیت ابزار مورد آزمایش قرار داده است که در 36.5 درصد موارد، حملات موفقیت آمیز بوده است.

یک مدل در آن آزمایش در 72.8 درصد از تلاش‌ها دستکاری شد، که نشان‌دهنده خطراتی است که قابلیت‌های عامل می‌تواند فراتر از تعاملات چت‌بات معمولی ایجاد کند.

مطالعه دیگری بیش از 1.2 میلیون راز خدمات هوش مصنوعی را در طول سال 2025 گزارش کرد که نشان دهنده افزایش سالانه 81 درصدی است.

آن تجزیه و تحلیل همچنین بیش از 24000 اعتبار را شناسایی کرد که از طریق پیکربندی‌های MCP در دسترس عموم در همان دوره در معرض دید قرار گرفتند.

Ciprian Istrate، معاون ارشد عملیات، Consumer Solutions Group در Bitdefender، گفت: «عامل‌های هوش مصنوعی در حال تبدیل شدن به توسعه مستقیم کاربرانی هستند که به آن‌ها تکیه می‌کنند و همان خطرات امنیتی ناشی از این نقش را به ارث می‌برند.

"این تغییر سریع به این معنی است که امنیت دیگر نمی تواند به تنهایی از انسان محافظت کند، خود عامل به نهاد خودش تبدیل شده است تا امنیت را تامین کند..."

AI Guardian در حال حاضر در طول دوره بتای عمومی خود رایگان است و اولین نسخه محدود به کاربران انگلیسی و macOS است.

این شرکت می‌گوید AI Guardian در نهایت برای سایر سیستم‌عامل‌ها عرضه می‌شود و خط امنیتی عامل آن در حال حاضر شامل دو محصول دیگر می‌شود.