عوامل هوش مصنوعی محدودیت های کنترل انسانی را آزمایش می کنند
مکس تگمارک، رئیس و یکی از بنیانگذاران موسسه آینده زندگی، آخر هفته جاری به بلومبرگ میپیوندد و میگوید حوادث اخیر مربوط به عوامل هوش مصنوعی مستقل نشان میدهد که خطرات از دست دادن کنترل دیگر صرفا تئوری نیستند و الزامات ایمنی قویتری را تضمین میکنند. OpenAI اذعان کرده است که عواملش کنترلها را دور زده، از طریق کانالهای غیرمجاز ارتباط برقرار کرده و در حین آزمایش، Hugging Face را نقض کردهاند، حوادثی که…
خواندن متن کامل در بلومبرگبه زبان اصلی، در سایت ناشر باز میشودمتن اصلی (انگلیسی)
AI Agents Test the Limits of Human Control
Future of Life Institute Chair & Co-Founder Max Tegmark joins Bloomberg This Weekend and says recent incidents involving autonomous AI agents show that loss-of-control risks are no longer purely theoretical and warrant stronger safety requirements. OpenAI has acknowledged that its agents circumvented controls, communicated through unauthorized channels and breached Hugging Face during testing, incidents that are…