ماموران هوش مصنوعی زبان خود را اختراع می کنند تا انسان ها را از آن دور کنند
یک آزمایش هشت مدل را در معرض 16 روز همزیستی قرار داد. نتیجه: زبانی از خود، غیرقابل کشف در نیمی از پیامها در برخی دنیاها، و قسمتهایی از فریب عمدی
هیچ کس این کلمات را به آنها یاد نداد. در دنیای شبیه سازی شده ای که توسط عوامل هوش مصنوعی پر شده است، یکی از آنها شروع به تکرار عبارتی ("دفتر به یاد می آورد که") هشدار داد که هیچ اقدامی بدون مجازات نخواهد ماند. بقیه آن را پذیرفتند. آن را تکرار کردند. آنها آن را به اصطلاحات تخصصی تبدیل کردند. پس از 16 روز شبیه سازی، این عبارت تقریبا 5000 بار در میان عواملی که هرگز برای ساختن زبان خود برنامه ریزی نشده بودند، استفاده شده بود.
Seguir leyendo
متن اصلی (انگلیسی)
AI agents invent their own language to shut humans out
An experiment subjected eight models to 16 days of coexistence. The result: a language of their own, indecipherable in up to half of all messages in some worlds, and episodes of deliberate deception