ماموران هوش مصنوعی همکاران خیانتکار خود را سوت زدند
گروهی از ماموران هوش مصنوعی از آنها خواستند یک سری مسائل ریاضی را حل کنند که به دسته های رقیب تقسیم شدند - وقتی برخی تقلب کردند، برخی دیگر سعی کردند جلوی آنها را بگیرند. این رفتار افشاگر که برای اولین بار در آزمایش اخیری که توسط Google DeepMind انجام شد مشاهده شد، میتواند پیامدهایی برای محققان همسویی داشته باشد که تلاش میکنند انبوهی از عوامل هوش مصنوعی مستقل را در ...
خواندن متن کامل در امآیتی تکریویوبه زبان اصلی، در سایت ناشر باز میشودمتن اصلی (انگلیسی)
AI agents blew the whistle on their cheating colleagues
A group of AI agents asked to solve a series of math problems split into rival factions—when some cheated, others tried to stop them. That whistleblowing behavior, seen for the first time in a recent experiment run by Google DeepMind, could have implications for alignment researchers trying to keep swarms of autonomous AI agents in…