گزارشهای OpenAI در مورد حمله عوامل هوش مصنوعی به Hugging Face باید زنگ خطر را به صدا درآورد و همه شرکتها را وادار کند که در مورد نحوه محافظت از عوامل هوش مصنوعی تجدید نظر کنند.
استفاده از هوش مصنوعی برای نظارت بر «زنجیره فکری» عوامل ممکن است ناکافی باشد. کنترل دسترسی و رفتار نظارت، درست مانند کارمندان انسانی، کلیدی است.
خواندن متن کامل در فورچونبه زبان اصلی، در سایت ناشر باز میشودمتن اصلی (انگلیسی)
OpenAI’s reports on its AI agents’ attack on Hugging Face should be ringing alarm bells—and making all companies rethink how they secure AI agents
Using AI to monitor agents' "chain of thought" may be insufficient. Access control and monitoring behavior, just as with human employees, is key.