محققان از یک فاجعه ایمنی قبل از انتشار Astra OpenAI می ترسند
OpenAI در آستانه انتشار قدرتمندترین مدل هوش مصنوعی خود، Astra است، پس از هفتهها تاخیر برای تقویت پروتکلهای ایمنی پس از حمله عواملش به اهداف واقعی در طول آزمایش. از آنجایی که جزئیات این مدل منتشر می شود، محققان هشدار می دهند که "ممکن است بدترین توسعه برای امنیت و ایمنی هوش مصنوعی تا به امروز باشد." اندکی پس از اینکه OpenAI در روز سهشنبه اعلام کرد که انتشار Astra را برای کار روی مسائل ایمنی به تاخیر انداخته است،…
خواندن متن کامل در دِ ورجبه زبان اصلی، در سایت ناشر باز میشودمتن اصلی (انگلیسی)
Researchers fear safety disaster ahead of OpenAI’s Astra release
OpenAI is on the cusp of releasing its most powerful AI model yet, Astra, following weeks of delays to shore up safety protocols after its agents attacked real targets during testing. As details about the model trickle out, researchers are warning it "may be the single worst development for AI security/safety to date." Shortly after OpenAI said on Tuesday that it had delayed Astra's release to work on safety issues,…