از آنجایی که رفتار هوش مصنوعی نگرانیهایی را ایجاد میکند، محقق سابق جیکوب کوکسون هشدار میدهد که چه چیزی ممکن است در پیش باشد.
OpenAI اعلام کرد که شش مورد جدید از رفتارهای "مشغول یا غیرمنتظره" توسط مدل های هوش مصنوعی خود را کشف کرده است. این به دنبال هشدارهای مکرر در مورد اینکه چگونه پیشرفت های سریع در هوش مصنوعی تهدیدی برای پیشی گرفتن از توانایی توسعه ایمن این فناوری است. یکی از این هشدارها از سوی Jacob Coxon، محقق سابق Anthropic و OpenAI بود. کاکسون به جف بنت پیوست تا در مورد نگرانی هایش صحبت کند.
OpenAI اعلام کرد که شش مورد جدید از رفتارهای "مشغول یا غیرمنتظره" توسط مدل های هوش مصنوعی خود را کشف کرده است. این به دنبال هشدارهای مکرر در مورد اینکه چگونه پیشرفت های سریع در هوش مصنوعی تهدیدی برای پیشی گرفتن از توانایی توسعه ایمن این فناوری است. یکی از این هشدارها از سوی Jacob Coxon، محقق سابق Anthropic و OpenAI بود. کاکسون به جف بنت پیوست تا در مورد نگرانی هایش صحبت کند.
متن اصلی (انگلیسی)
As AI behavior raises concerns, ex-researcher Jacob Coxon warns what may lie ahead
OpenAI announced it had discovered six new instances of "concerning or unexpected" behavior by its artificial intelligence models. It follows repeated warnings about how rapid advances in AI threaten to outpace the ability to develop the tech safely. One of those warnings came from Jacob Coxon, a former researcher at Anthropic and OpenAI. Coxon joined Geoff Bennett to discuss his concerns.