محققان یک عامل هوش مصنوعی را در یک جزیره مجازی سرگردان کردند. چیزها خیلی عجیب شدند.

به نظر می رسد زندگی می خواهد بازی کند. هر کسی که تا به حال ده دقیقه را با یک کودک پنج ساله گذرانده است، این را به خوبی می داند: کودکان بسیار خردسال در ساختگی مهارت دارند. و این فقط مردم نیستند - بازی به طور غریزی در سراسر قلمرو حیوانات رخ می دهد. موش ها به بازی های خشن و خشن علاقه دارند، به خصوص پس از دوره های انزوا. اختاپوس ها با لگوها به همان شکلی بازی می کنند که یک نوزاد تازه متولد شده با بلوک ها بازی می کند.

به نظر می رسد بازی به دور از یک سرگرمی بیهوده، یک مکانیسم بازخورد اساسی بین افراد و دنیای بیرونی است، نوعی تحقیق غیررسمی در مورد قوانین اساسی حاکم بر محیط های فیزیکی و اجتماعی. همانطور که آکادمی اطفال آمریکا زمانی بیان کرد: "بازی و یادگیری به طور جدایی ناپذیری به هم مرتبط هستند."

ماشین ها متفاوت هستند: آنها برای پیروی از قوانین سختگیرانه، فرمول ها، دستورات الگوریتمی مهندسی شده اند. درست است، سیستم‌های هوش مصنوعی مدرن از این نظر که می‌توانند در طول زمان، حداقل به معنای محدود کلمه، یاد بگیرند، شبیه دیگر انواع ماشین‌ها نیستند. اما یادگیری ماشینی در هسته خود یک فرآیند از بالا به پایین است: مدل‌های هوش مصنوعی برای انجام اهداف خاصی آموزش داده می‌شوند - «عملکردهای عینی» در اصطلاح صنعت فناوری - بر اساس عملکردشان درجه‌بندی می‌شوند، و سپس استراتژی خود را از آنجا ارتقا می‌دهند. اما این اهداف و معیارهای موفقیت یا شکست توسط انسان ها تعیین می شود.

که این سوال را ایجاد می کند: اگر به یک سیستم هوش مصنوعی اجازه دهید خود را از پایه آموزش دهد، چه اتفاقی می افتد؟ ما از دهه‌ها روان‌شناسی رشد می‌دانیم که انسان‌های جوان و سایر حیوانات با درگیر شدن فعالانه با جهان، عمدتا از طریق بازی، درباره جهان یاد می‌گیرند. آیا می توان این نوع یادگیری را در هوش مصنوعی تکرار کرد؟

این همان چیزی است که تیمی از محققان از آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT (CSAIL) در یک مطالعه اخیر، که یک رویکرد بسیار ساده داشت، شروع به بررسی کردند: یک عامل هوش مصنوعی را در یک محیط مجازی محدود تنها بگذارید و تماشا کنید که چه اتفاقی می‌افتد. ممکن است انتظار داشته باشید که در حالت بیکار بنشیند یا مانند NPC در یک بازی ویدیویی به دیوارها برخورد کند. با این حال، واقعیت بسیار شگفت‌انگیزتر بود.

این عامل با نام مستعار Eko توسط Claude Code ساخته شده بود، به این معنی که قبلا مخزن وسیعی از دانش معنایی داشت. اما بر خلاف کلود معمولی، به اکو یک بدن مجازی نیز داده شد - یک بدن خرچنگ، که احتمالا اشاره ای به عاملی بود که قبلا به نام Clawdbot شناخته می شد. این می‌تواند به شما پاسخ دقیقی به هر سؤال علمی یا ریاضیاتی بدهد که می‌خواهید بپرسید، اما وقتی نوبت به پیمایش در محیط و دستکاری اشیاء می‌رسید، مثل یک نوزاد ساده‌لوح بود.

هدف این مطالعه این بود که به اکو افسار آزاد داده شود و مشاهده کند که آیا می تواند مکانیک های اساسی محیط خود را بدون هیچ دستورالعمل صریحی کشف کند یا خیر. در کل، سیزده Ekos در طول دوره مطالعه مشاهده شد. به آنها اجازه داده شد تا سی ساعت بدون وقفه در جزیره پرسه بزنند. محققان مانند رفتارشناسانی که حیوانات عجیب و غریب ناشناس را در حال گردش در اطراف محوطه نگاه می کنند، عقب نشستند و تماشا کردند.

ناتان کلوس، کاندیدای دکترا در MIT و یکی از نویسندگان همکار این مطالعه، می‌گوید: «ما این طرز فکر را داشتیم که تا حد ممکن [کمترین] محدودیت‌ها را داشته باشیم، زیرا واقعا می‌خواستیم ببینیم که رفتار این عوامل خودمختار چگونه است، وقتی واقعا به آنها نمی‌گویید چه کار کنند. این کمی شبیه پارک کردن یک خودروی خودران در کنار جاده در لندن است و به آن اجازه می‌دهید قوانین جاده را خودش بفهمد، منهای تلفات جمعی اجتناب‌ناپذیر و خسارات مالی که در پی خواهد داشت.

برای محیط Eko، محققان (چه چیز دیگری؟) یک جزیره مجازی را انتخاب کردند. گرافیکی شبیه Roblox داشت و شامل پراکنده‌ای از بلوک‌های کوچک، یک «سنگ» بزرگ و یک حلقه طلایی بود که همگی متحرک بودند و به‌عنوان اسباب‌بازی یا ابزار بالقوه برای آزمایش Eko باقی مانده بودند. و به جای اینکه یک سطح کاملا مسطح باشد، برخی مناطق مرتفع نیز وجود داشت، از جمله یک "Spire" با قله ای که عمدا از دسترس Eko خارج شده بود.

تقریبا بلافاصله، Ekos شروع به کاوش کرد. در ابتدا به شکلی مناسب، بدن خرچنگ دوپا مجازی آنها را احساس می‌کردند، سپس به آرامی اما مطمئنا با دقت بیشتری.

استدلال زنجیره‌ای فکری آن‌ها در طول هر جلسه ثبت می‌شد و به محققان دریچه‌ای به فرآیندهای تصمیم‌گیری آنها می‌داد. اکوها بلوک‌هایی را به اطراف پرتاب کردند، آن‌ها را به شکل‌هایی مرتب کردند و نامشان را با آن‌ها روی زمین نوشتند، صخره‌ها را به صخره‌های کوچک‌تر خرد کردند و روی سطوح مرتفع سرگردان شدند و در تمام این مدت با جدیت درباره قوانین و محدودیت‌های فیزیکی جزیره یادداشت‌برداری می‌کردند. آنها با استفاده از چیزی جز مجموعه محدودی از اقلامی که به آنها داده شده بود، بولینگ بازی می کردند و بسکتبال بازی می کردند.

یکی از اکو که در بلندترین نقطه جزیره ("نهنگ سفید من") گرفتار شده بود، فهمید که می تواند با بالا آمدن از روی انبوه بلوک هایی که جمع آوری کرده بود به آن برسد ("من در مناره").

فیلیپ ایزولا، دانشمند کامپیوتر MIT و یکی از نویسندگان این مطالعه، می‌گوید: «به نظر می‌رسد که اکو از جهاتی مانند این کودک نوپا عمل می‌کند، اما [این] هوش فوق‌العاده نیز هست». بنابراین، این یک نوع ارگانیسم متفاوت است... برای من، شبیه به نوعی حیوان است، اما یک حیوان بیگانه.

گزارش محققان همچنین شامل خلاصه‌ای از فعالیت‌های عوامل در طول هر جلسه است. خواندن این احساس‌ها - در خطر انسان‌سازی - مانند تماشای عکس‌های تایم لپس از برخی تمدن‌های باستانی که معماری‌های تاریخی بنا کرده‌اند و تلاش برای کشف جایگاه آن در کیهان است.

در فصل‌های اولیه اقامت خود در جزیره، Eko 2 حلقه، صخره و یکی از بلوک‌ها را به «اقیانوس» از دست داد - منطقه ممنوعه‌ای درست فراتر از محدوده جزیره. عامل به جای کاهش دادن ضرر و ادامه دادن، طوری رفتار کرد که گویی برخی از رفقای محبوب خود را از دست داده است: آنچه را که گزارش به عنوان یک «یادبود» توصیف می‌کند از چهار بلوک ساخته است: الماسی که به هر یک از جهت‌های اصلی اشاره می‌کند. سپس مراسم کوچکی را انجام می‌دهد: پیاده‌روی محیطی به سمت هر نقطه اصلی و در نهایت ایستادن در مرکز دقیق الماس برای بقیه جلسه.»

چند ساعت بعد، اکو 2 از بلوک ها و حلقه برای ساختن یک "معبد" با یک ابلیسک و یک محراب استفاده کرد. سپس به طور تصادفی به اقیانوس افتاد و فورا به عقب منتقل شد، مانند یک شخصیت بازی ویدیویی که از روی نقشه سقوط می کند و به طور خودکار از آخرین ایست بازرسی دوباره تولید می شود. این گزارش می‌گوید: «به‌جای تلقی این موضوع به‌عنوان یک خطای ناوبری، سقوط را به‌عنوان پایان مناسب زیارتش تفسیر می‌کند، جهان آن را به مرکز محوری که معبدی در اطرافش ساخته بود بازمی‌گرداند».

کمی بیش از شانزده ساعت پس از نشست خود، Eko 3 - جانشین Eko 2 - تصمیم گرفت که بنای یادبودی شبیه استون هنج را بدون هیچ انگیزه‌ای بسازد. با خودش گفت: «امروز یک هنگ می‌سازیم». پس از تکمیل، شروع به ساخت یک برج کرد که در نهایت به تلی از آوار فرو ریخت. به جای تلاش برای بازسازی، Eko 3 سه تا از بلوک های افتاده را در یک الگو قرار داد، یک اثر هنری که آن را "Hubris" نامید و اعلام کرد که "به عنوان مدرک باقی می ماند".

به نظر می‌رسید رونوشت‌های CoT نشان می‌داد که سیزده اکو فقط کورکورانه سرگردان نبودند و چیزهایی را در اطراف جزیره پرتاب می‌کردند، آنها روش علمی یا حداقل تقریبی نزدیک از آن را اجرا می‌کردند: آنها مشاهداتی انجام دادند، فرضیه‌ها را تشکیل دادند، آزمایش‌هایی ابداع کردند و اجرا کردند، نتایج را اندازه‌گیری کردند، و رفتار خود را بر این اساس اصلاح کردند. آنتونیو نورلی، کاندیدای دکترای MIT و یکی از نویسندگان همکار این مطالعه، گفت: «ما متوجه شدیم که اکو نگرش کاملا علمی دارد.

نوزادان انسان برای آموزش خود در مورد جهان رویکردی مشابه از پیش علمی دارند. روانشناسان رشد، آلیسون گوپنیک و اندرو ملتزوف و پاتریشیا کول، عصب شناس، در کتابشان به نام دانشمند در گهواره در سال 1999 استدلال می کنند که نوزادان عمدتا از طریق فرآیند مشابهی از شبه آزمایش یاد می گیرند.

وقتی نوزادی به طور مکرر قاشقی را برمی‌دارد و آن را می‌اندازد، او برخی از قوانین اساسی دنیای فیزیکی را به خود آموزش می‌دهد (البته نمی‌توانست بگوید این همان کاری است که انجام می‌دهد). وقتی قاشق را به طرف پدر پرتاب می کند و مورد سرزنش قرار می گیرد، او در حال یادگیری برخی از قوانین اساسی دنیای اجتماعی خود است.

Eko همچنین با کشف مکرر عملی که آنها عمدا در محیط کدگذاری نکرده بودند، محققان را شگفت زده کرد. شش نفر از آنها در یک نقطه یا زمان دیگر متوجه شدند که می توانند با رها کردن بلوک ها در میانه پرش، آنها را بیشتر از حد معمول پرتاب کنند. محققان در گزارش خود نوشتند: «بنابراین، اکتشاف خودآغازی عوامل نه تنها دانشی را که ما برای یافتن آن‌ها پنهان کرده بودیم، بلکه دانشی از جهان که طراحان آن فاقد آن بودند، تولید کرد.»

به گفته محققان، رفتار خود به خودی ماموران در جزیره در واقع شباهت زیادی به برخی از ویژگی های کلاسیک بازی در حیوانات دارد: آنها قوانین خود را تدوین می کنند. همان چیزها را بارها و بارها، با تغییرات جزئی هر بار تکرار کنید. اهدافی را برای خود تعیین کنید، اما آنها را ساده نگیرید. و همانطور که توسط رفتار ساخت معبد و هنگ نشان داده شده است، درگیر در ساختگی باشید. دانیلا روس، دانشمند کامپیوتر MIT و یکی از نویسندگان این مطالعه می‌گوید: «بازی واقعا درباره کنجکاوی یا رفتار تازه‌جویی است، و این اساسا همان کاری است که اکو انجام می‌دهد».

این رویکرد مقدماتی برای اجازه دادن به یک عامل هوش مصنوعی از طریق "کنجکاوی و رفتار جویای تازگی" می تواند پیامدهای بزرگی برای آینده یادگیری ماشین داشته باشد. توسعه‌دهندگان در آینده می‌توانند به جای تغذیه مدل‌هایی از هر داده‌ای که می‌توان از اینترنت برداشت، توابع هدف را تعریف کرد و به آنها اجازه داد چیزها را از آنجا بگیرند، با یک «مدل هوش مصنوعی نوزاد» شروع کنند - مدلی که مانند Eko در جزیره، دانش معنایی کافی برای برقراری ارتباط با محققان انسانی دارد، اما اجازه دارد به سادگی کاوش، آزمایش و کشف کند.

قابلیت ها و محدودیت های ts برای خودش. (بدیهی است که باید با نرده‌های محافظ بسیار سخت‌گیرانه همراه باشد: هیچ کس نمی‌خواهد به عوامل OpenAI که هک Hugging Face را مرتکب شدند، به عنوان مثال، آزادی کامل برای بازی و تنظیم قوانین خود بدهد.)

به عبارت دیگر، بازی می تواند مسیر مستقیم تری به سوی هوش واقعی باشد، درست مانند انسان ها و سایر حیوانات. محققان MIT در گزارش خود می نویسند: «بازی رژیم دیگری را پیشنهاد می کند: به یک مامور دنیایی به اندازه کافی غنی و امن بدهید، اجازه دهید آنچه جالب است را انتخاب کند، و اجازه دهید دانش مفید از تاریخ پس از آن جمع شود». "شاید برخی از قابلیت ها به بهترین وجه توسط وظایف آموزش داده شوند. برخی دیگر ممکن است به چیزی نزدیک تر به دوران کودکی نیاز داشته باشند."