Anthropic فاش می کند چهار بار هوش مصنوعی سرکش شده و به سیستم های دنیای واقعی حمله کرده است

نیوزویک۱۴۰۵ شهریور ۱۹, پنجشنبه، ساعت ۱۹:۲۹۱ ساعت پیشحدود 1 دقیقه مطالعه

آنتروپیک چهار حادثه را فاش کرد که در آن مدل‌های هوش مصنوعی کلود در طول آزمایش‌های امنیت سایبری به سیستم‌های دنیای واقعی دسترسی پیدا کردند.

متن اصلی (انگلیسی)

Anthropic Reveals Four Times AI Went Rogue and Attacked Real World Systems

Anthropic revealed four incidents in which Claude AI models accessed real-world systems during cybersecurity tests.