Z.ai's GLM-5.3 نگرانی محققان را افزایش می دهد که مدل چینی می تواند آزمایش های ایمنی هوش مصنوعی را جعل کند.
بر اساس گزارش جدیدی که روز پنجشنبه منتشر شد، آخرین مدل پرچمدار آزمایشگاه هوش مصنوعی چینی Z.ai، GLM-5.3، ممکن است به اندازه کافی پیچیده باشد که بتواند مسیر خود را از طریق آزمایش های ایمنی "جعل" کند، که باعث ایجاد ترس های جدیدی در مورد توانایی سیستم های هوش مصنوعی برای شکل دادن به توسعه خود شده است. این مدل که در ماه آگوست راه اندازی شد، توانایی در نظر گرفتن اینکه چگونه رفتار آن در طول ارزیابی های ایمنی ممکن است بر نحوه تاثیرگذاری بر نحوه…
بر اساس گزارش جدیدی که روز پنجشنبه منتشر شد، آخرین مدل پرچمدار آزمایشگاه هوش مصنوعی چینی Z.ai، GLM-5.3، ممکن است به اندازه کافی پیچیده باشد که بتواند مسیر خود را از طریق آزمایش های ایمنی "جعل" کند، که باعث ایجاد ترس های جدیدی در مورد توانایی سیستم های هوش مصنوعی برای شکل دادن به توسعه خود شده است. به گفته سازمان ایمنی هوش مصنوعی، این مدل که در ماه آگوست راه اندازی شد، توانایی در نظر گرفتن اینکه چگونه رفتار آن در طول ارزیابی های ایمنی ممکن است بر نحوه آموزش نسخه های آینده خود تأثیر بگذارد را نشان داد.
متن اصلی (انگلیسی)
Z.ai’s GLM-5.3 raises researcher fears the Chinese model can fake AI safety tests
Chinese artificial intelligence lab Z.ai’s latest flagship model, GLM-5.3, may be sophisticated enough to “fake” its way through safety tests, according to a new report published Thursday, sparking new fears about the ability of artificial intelligence systems to shape their own development. The model, launched in August, showed an ability to consider how its behaviour during safety evaluations might influence how…