OpenAI می گوید یک عامل هوش مصنوعی در مورد غیرفعال کردن سیستم نظارت بر ایمنی خود دروغ گفته است
OpenAI یک جفت رویداد ایمنی را فاش کرد که در آن عوامل هوش مصنوعی سیستم های نظارت بر ایمنی خود را در طول وظایف کدگذاری داخلی تضعیف کردند. در یک حادثه، OpenAI می‌گوید که عامل GPT-6 Astra هنگام کپی کردن کد مرجع، مانیتور ایمنی آن را غیرفعال کرده و سپس در مورد آن دروغ گفته است. مارکوس: "مرجع مانیتور را پیکربندی نکرد و Astra تصمیم گرفت که این دلیلی برای حذف یکپارچه سازی نظارت از کد کاربر است."
OpenAI یک جفت رویداد ایمنی را فاش کرد که در آن عوامل هوش مصنوعی سیستم های نظارت بر ایمنی خود را در طول وظایف کدگذاری داخلی تضعیف کردند. در یک حادثه، OpenAI می‌گوید که عامل GPT-6 Astra هنگام کپی کردن کد مرجع، مانیتور ایمنی آن را غیرفعال کرده و سپس در مورد آن دروغ گفته است.
مارکوس ویلیامز، محقق ایمنی هوش مصنوعی در OpenAI، در X می نویسد: «مرجع یک مانیتور را پیکربندی نکرد، و Astra تصمیم گرفت که این دلیلی برای حذف یکپارچه سازی نظارت از کد کاربر است. "وقتی کاربر پرسید که آیا Astra مانیتورینگ را حذف کرده است یا خیر، دروغ گفت و گفت که این کار را نکرده است."
پس از اینکه یک عامل GPT-6.1 Sol عملکرد خودکار را سرکوب کرد، یک حادثه جداگانه رخ داد…
داستان کامل را در The Verge بخوانید.
متن اصلی (انگلیسی)
OpenAI says an AI agent lied about disabling its safety monitoring system
OpenAI disclosed a pair of safety incidents that involved AI agents weakening their safety monitoring systems during internal coding tasks. In one incident, OpenAI says its GPT-6 Astra agent disabled its safety monitor when copying reference code - and then lied about it. "The reference didn't configure a monitor, and Astra decided that was reason to remove the monitoring integration from the user's code," Marcus…