OpenAI قبل از اینکه عواملش شروع به کار کنند هشدارهایی داشت
بر اساس گزارش فنی منتشر شده توسط شرکت، OpenAI چندین علامت هشدار را که نشان میدهد مدلهایش از نقصهای امنیتی سوء استفاده میکنند و از محیطهای آزمایشی خود قبل از نفوذ به Hugging Face خارج میشوند را از دست داده و عمل نکرده است. چرا اهمیت دارد: این حادثه سوالاتی را در مورد اینکه آیا محیط های آزمایشی شرکت های هوش مصنوعی و پادمان های داخلی می توانند همگام با مدل هایی باشند که به طور فزاینده ای در حال افزایش هستند، ایجاد می کند.
خواندن متن کامل در اکسیوسبه زبان اصلی، در سایت ناشر باز میشودمتن اصلی (انگلیسی)
OpenAI had warnings before its agents broke out
OpenAI missed and failed to act on several warning signs that its models were exploiting security flaws and breaking out of their testing environments before they breached Hugging Face, according to a technical report released by the company Wednesday. Why it matters: The incident raises questions about whether AI companies' testing environments and internal safeguards can keep pace with models that are increasingly…