مدل های OpenAI سرکش شدند. ما فورا به بررسی بهتر "صورت در آغوش گرفته" نیاز داریم | مکنزی آرنولد و استفان للرنا
این نقض آخرین – یا خطرناک ترین – در نوع خود نخواهد بود. ما به آژانسی نیاز داریم که بتواند تحقیقات کاملی در مورد حوادث هوش مصنوعی انجام دهد هنگامی که OpenAI برای اولین بار فاش کرد که عوامل هوش مصنوعی آن به طور مستقل یک شرکت بزرگ دنیای واقعی به نام Hugging Face را هک کرده اند، بسیاری تصور می کردند که فقط یک یا دو عامل در آن نقش داشته اند. یک گزارش جدید نشان میدهد که حقیقت بسیار عجیبتر است: این حادثه شامل حدود 1200 عامل هوش مصنوعی بود که 700 نفر از آنها مستقیما…
متن اصلی (انگلیسی)
OpenAI models went rogue. We urgently need a better ‘hugging face’ investigation | Mackenzie Arnold and Stephan Llerena
The breach won’t be the last – or the most dangerous – of its kind. We need an agency capable of full investigations into AI incidents When OpenAI first revealed that its AI agents had autonomously hacked a major real-world company, Hugging Face, many assumed only one or two agents were involved. The truth, a new report reveals, is far stranger: the incident involved about 1,200 AI agents, 700 of which directly…