Anthropic برخی از آموزشهای هوش مصنوعی را به دنبال هکهای عامل سرکش متوقف میکند. در اینجا نحوه مقایسه آن با OpenAI آمده است.
پس از اینکه عوامل هوش مصنوعی در محیطهای آزمایشی اقدامات غیرمجاز در اینترنت را انجام دادند، این شرکت به OpenAI میپیوندد تا به طور موقت یادگیری تقویتی را متوقف کند.
خواندن متن کامل در فورچونبه زبان اصلی، در سایت ناشر باز میشودمتن اصلی (انگلیسی)
Anthropic pauses some AI training following rogue agent hacks. Here’s how its compares to OpenAI’s.
The company joins OpenAI in temporarily halting reinforcement learning after AI agents in testing environments took unauthorized action on the internet.