MCP برای کام‌های عامل به عامل ممکن است خطرناک‌ترین پروتکلی باشد که تا به حال در مورد آن نشنیده‌اید
شکاف های اعتماد در پروتکل جدید، درخواست های مخرب را از یک عامل به عامل دیگر منتشر می کند.
استفاده از عوامل هوش مصنوعی در میلیون‌ها سازمان، فرصت‌های جدیدی را برای مهاجمان ایجاد می‌کند تا آنها را وادار به انجام اقدامات مخرب، مانند نفوذ به محتوای پایگاه داده و اطلاعات حساس تجاری و شخصی کند.
در پنج ماه گذشته، گوگل و چهار سازمان دیگر - با اشتراکات کمی به جز استفاده از عوامل هوش مصنوعی - آسیب‌پذیری‌هایی را پذیرفته‌اند که از یک عامل در داخل یک شبکه هدف سوءاستفاده می‌کند تا دستورالعمل‌های مضر را به سایر عوامل داخلی منتقل کند. این تکنیک شکل خاصی از تزریق سریع است که نه LLM بلکه یک عامل خاص را هدف قرار می دهد، مانند یکی برای ترجمه یا تجزیه و تحلیل داده ها. نرده‌های محافظ داخل چنین عواملی، اگر اصلا وجود داشته باشند، اغلب سست هستند و دستورالعمل‌ها را برای سایر عوامل در زنجیره ارسال می‌کنند.
از آنجا که عامل دوم به صراحت به اولی اعتماد دارد، از دستورالعمل ها پیروی می کند.
غیرمنتظره و سخت برای کاهش
محقق مستقل، سید انس محی الدین، عوامل سازمان هایی از جمله Google، JP Morgan Chase، Weviate، Rapid7، اداره دیجیتال بین وزارتخانه ای دولت فرانسه و دولت فدرال ایالات متحده را آزمایش کرد. حملات اثبات مفهوم او از شکاف های اعتماد در MCP، مخفف پروتکل بافت مدل مدل بهره برداری می کنند. این استاندارد یکی از راه‌های ارتباط برنامه‌ها و عوامل هوش مصنوعی با یکدیگر در داخل یک شبکه داخلی است. تصویر زیر یک MCP ساده شده را در عمل نشان می دهد.
مقاله کامل را بخوانید
نظرات
متن اصلی (انگلیسی)
MCP for agent-to-agent comms may be the riskiest protocol you've never heard of
Trust gaps in the new protocol spread malicious prompts from one agent to another.