پرش به محتوای اصلی

عوامل هوش مصنوعی که احراز هویت را انجام می‌دهند همچنان می‌توانند داده‌ها را در معرض دید قرار دهند، یا دچار مسمومیت حافظه شوند.

ونچربیت۱۴۰۵ شهریور ۸, یکشنبه، ساعت ۲۳:۴۵حدود 1 دقیقه مطالعه

یک روند تکراری واضح در استقرار عوامل وجود دارد: دروازه اولین تیم کنترلی است که به آن دسترسی پیدا می‌کنند، اما این دروازه‌ای است که کمترین آمادگی را برای اجرا دارند. این به این دلیل است که دروازه‌ها در بالای لایه‌های هویت و انتساب قرار می‌گیرند که عمدتا وجود ندارند. اولین لایه ریسک فرضی نیست. در ماه ژوئن، CISA یک نقص LiteLLM را به کاتالوگ آسیب پذیری های شناخته شده خود اضافه کرد، پس از اینکه مهاجمان در حال سوء استفاده از آن در…

خواندن متن کامل در ونچربیتبه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

AI agents that pass authentication can still drift, expose data, or get memory-poisoned

There is a clear repeating trend in agent deployments: The gateway is the first control teams reach for, but it is the one they are least ready to run. This is because gateways sit on top of identity and attribution layers that are mostly not there. The first layer of risk is not hypothetical. In June, CISA added a LiteLLM flaw to its Known Exploited Vulnerabilities catalog after attackers were caught abusing it in…

همه‌ی اخبار فناوری