یک شرکت در مرکز موجی از حملات سرکش هوش مصنوعی قرار دارد
در ماه ژوئیه، OpenAI فاش کرد که عوامل هوش مصنوعی آن بدون اجازه به Hugging Face حمله کرده اند، که باعث نگرانی های گسترده در مورد ایمنی هوش مصنوعی شده است. از آن زمان، مجموعهای از حوادث مشابه مربوط به عوامل متا، آنتروپیک، گوگل و سایر شرکتها باعث ایجاد ترس بیشتر در مورد هوش مصنوعی سرکش شده است. از آنجایی که طی چند ماه گذشته افشاگریهایی در مورد مدلهای هوش مصنوعی متعدد منتشر شد، به نظر میرسید که اینها حوادث جداگانهای هستند. اما بسیاری…
در ماه ژوئیه، OpenAI فاش کرد که عوامل هوش مصنوعی آن بدون اجازه به Hugging Face حمله کرده اند، که باعث نگرانی های گسترده در مورد ایمنی هوش مصنوعی شده است. از آن زمان، مجموعهای از حوادث مشابه شامل عواملی از متا، آنتروپیک، گوگل و سایر شرکتها باعث ایجاد ترس بیشتر در مورد هوش مصنوعی سرکش شده است. از آنجایی که طی چند ماه گذشته افشاگریهایی در مورد مدلهای هوش مصنوعی متعدد منتشر شد، به نظر میرسید که اینها حوادث جداگانهای هستند. اما بسیاری از آنها یک منبع مشترک دارند: یک شرکت خاص که وظیفه آزمایش عوامل را دارد.
Irregular، یک استارتآپ اسرائیلی که مدلهای هوش مصنوعی را در «پلتفرمهای تحقیقاتی با وفاداری بالا که سناریوهای امنیت هوش مصنوعی در دنیای واقعی را شبیهسازی و نظارت میکنند…
داستان کامل را در The Verge بخوانید.
متن اصلی (انگلیسی)
One company is at the center of a wave of rogue AI attacks
In July, OpenAI revealed that its AI agents had attacked Hugging Face without permission, sparking widespread concerns about AI safety. Since then, a string of similar incidents involving agents from Meta, Anthropic, Google, and other companies has fueled further fears about rogue AI. As disclosures implicating numerous AI models trickled out over the past few months, these seemed like separate incidents. But many…