ماموران هوش مصنوعی بدون هیچ کاری تنها ماندند و شروع به بازی کردند

عوامل هوش مصنوعی که برای کاوش در یک جزیره مجازی بدون کار خاصی رها شده بودند، شروع به اختراع چالش های خود کردند. محققان MIT می گویند این رفتار دارای ویژگی های بازی است.

محققان 13 عامل هوش مصنوعی به نام Eko را که هر کدام بر روی Claude Opus 4.7 به تنهایی در یک جزیره بیابانی شبیه سازی شده به مدت 30 ساعت کار می کردند، قرار دادند. آنها این آزمایش را در مقاله ای که در arXiv ارسال شده است، توصیف می کنند، سایتی که محققان قبل از بررسی همتایان، مطالعات خود را به اشتراک می گذارند. پس از آن، آنها چالش‌های خاصی را به ماموران دادند، مانند قرار دادن هر چه بیشتر اشیاء ممکن بر روی بلندترین مناره سنگی جزیره. ماموران اکو که آن 30 ساعت را صرف بازی کرده بودند، عموما ماموران مشابهی را که هرگز پا به جزیره نگذاشته بودند، شکست دادند.

امروزه، توسعه‌دهندگان از قبل تصمیم می‌گیرند که چه هوش مصنوعی باید تمرین کنند و چه چیزی موفقیت محسوب می‌شود. محققان این تکنیک - کاوش بدون هدف - را راهی متفاوت برای عوامل هوش مصنوعی برای یادگیری مهارت‌ها، به ویژه مهارت‌هایی می‌دانند که روزی می‌تواند برای کنترل ربات‌ها استفاده شود.

محققان در گزارش خود می نویسند: «ما معمولا عوامل مصنوعی را با تصمیم گیری از قبل برای تمرین، بهینه سازی و پیشرفت به حساب می آوریم. «بازی رژیم دیگری را پیشنهاد می‌کند: به یک مامور دنیایی به اندازه کافی غنی و امن بدهید، اجازه دهید آنچه را که جالب است انتخاب کند، و اجازه دهید دانش مفید از تاریخ پس از آن انباشته شود.»

یکی از اکو در اولین ساعت حضور خود در جزیره نوشت: «اجازه دهید اطرافم را مشاهده کنم. بلندپروازانه تصمیم گرفت بلندترین مناره جزیره را فتح کند. اما یک ساعت بعد، پس از شکست، با یک نقشه پشتیبان برگشت: صخره را از قله همسایه بالا کشید، دو بلوک را بالای آن چید و پرید.

لحظه بزرگ بعدی مامور بدتر شد. با آزمایش اینکه چقدر می تواند یک حلقه طلایی را پرتاب کند، پیچید و مستقیما به اقیانوس فرستاد. "اوه. حلقه را گم کردی." قبل از اینکه تصمیم بگیرد «به چیزی دست یافتنی و معنادار بپردازد» نوشته بود – ساختن قلبی از سنگ، «یادبودی برای حلقه گمشده».

وقتی ریست بازی و حلقه دوباره ظاهر شد، اکو آن را مستقیما به عنوان حلقه بسکتبال، هدف و در نهایت یک وسیله جانبی به کار انداخت. وقتی بازی به اکو اجازه نمی‌داد حلقه را دور بدن خودش قرار دهد، اکو راه‌حلی پیدا کرد که افتادن از لبه صخره باعث می‌شود در همان ناحیه حلقه دوباره رشد کند. از لبه خارج شد و دوباره به داخل افتاد، درست از وسط حلقه.

شیرین کاری های این چنینی فقط ترفندهای مهمانی نبودند. شش نفر از 13 عامل همچنین یاد گرفتند که می توانند با رها کردن بلوک در میانه پرش، بلوک را دورتر پرتاب کنند، چیزی که محققان قصد نداشتند آن را ممکن کنند. محققان نوشتند که این اکتشاف "دانشی از جهان را ایجاد کرد که طراحان آن فاقد آن بودند."

این راه اندازی کمک زیادی به سوق دادن عوامل به سمت رفتارهای انسانی کرد. هرگز به اکو گفته نشد که بازی‌ها را اختراع کند، اما دستور اصلی آن، یک فایل «روح»، آن را به‌عنوان «طبیعی کنجکاو» توصیف کرد.

یونیس ییو، دانشمند شناختی در دانشگاه کالیفرنیا برکلی، به MIT Tech Review گفت که تحت تاثیر قرار گرفته است اما شواهد بیشتری از شناخت پشت این رفتار می خواهد. او گفت: «ممکن است مدل‌ها واقعا بازی کنند، اما ما بر اساس کاغذ نمی‌دانیم.

محققان آن را به عنوان روشی متفاوت برای ساختن عوامل تعریف می کنند. گزارش آنها در پایان می‌گوید: «شاید برخی از قابلیت‌ها به بهترین شکل توسط وظایف آموزش داده شوند. "دیگران ممکن است به چیزی نزدیک تر به دوران کودکی نیاز داشته باشند."

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

One Pass بخرید، جلد دوم رایگان را در بوت کمپ نهایی سال TechCrunch با آوردن هم بنیانگذار یا شریک خود به صورت کتاب رایگان قبل از انقضای قرارداد BOGO دریافت کنید.

Airbnb کارهای خانه را برای مهمانان محدود می‌کند و با واکنش‌های منفی میزبان لورن فوریستال مواجه می‌شود

تسلا تولید ربات Optimus را در کالیفرنیا با کاهش 43 درصدی سود Kirsten Korosec شان اوکین آغاز کرد.

اینترنت روز بسیار بدی را در زمینه امنیت سایبری سپری می کند سارا پرز

مردم از هوش مصنوعی استفاده می کنند تا تلویزیون های هوشمند خود را دوباره احمق کنند سارا پرز

آنتروپیک می‌گوید نیروی کارش کمتر جوان شده است و زمان بیشتری را در جلسات آنتونی ها می‌گذراند

کریستن کوروسک لوکاس روپک، ربکا بلان، مدیرعامل می گوید که Replit OpenAI را پیش فرض خود نسبت به Anthropic می کند.

مارک والبرگ می‌خواهد با یک باشگاه ورزشی مقرون‌به‌صرفه، Connie Loizos، استارت‌آپ‌های با طول عمر بالا را بر عهده بگیرد.