محققان یادگیری ماشین مدل جهانی بهتری می سازند

محققان یادگیری ماشین تکنیکی را توسعه داده‌اند که به مدل‌های جهانی اجازه می‌دهد پیش‌بینی‌های بهتری در مورد نحوه رفتار اشیا انجام دهند.

مدل‌های جهانی برای آموزش سیستم‌های هوش مصنوعی فیزیکی مانند روبات‌ها استفاده می‌شوند که چگونه در دنیای واقعی حرکت کنند. آنها عواقب اعمال را پیش بینی می کنند. اما آنها این کار را بر اساس داده های مشاهده شده انجام می دهند. این مدل‌ها می‌توانند جهت بهتری را برای روبات‌ها فراهم کنند، اگر بتوانند در مورد اقدامات احتمالی استنباط کنند، بدون اینکه برای همه نتایج ممکن آموزش ببینند.

راندال بالستریرو (دانشگاه براون، آزمایشگاه های AMI)، کردا واراکو، و برنده جایزه تورینگ، یان لیکان (NYU، آزمایشگاه های AMI) رویکردی را توصیف می کنند که ممکن است این امکان را در یک مقاله پیش از چاپ، "مدل های جهان خلاف واقع: Natura Non Facit Saltus" انجام دهد.

زبان لاتین به اصل اصل گوتفرید لایبنیتس «طبیعت هیچ جهشی نمی‌کند» اشاره می‌کند که تا زمانی که به مکانیک کوانتومی تبدیل شد، عملکرد خوبی داشت. با این حال، برای نویسندگان، این ضرب المثل توضیح می دهد که چگونه آنها توانسته اند روشی برای استنتاج فیزیک شات صفر ابداع کنند.

Balestriero در ایمیلی به The Register گفت که مدل‌های جهان خلاف واقع از «عدم تطابق بین پیش‌بینی شما و دنیای واقعی برای فهمیدن اشتباهات شما استفاده می‌کنند، و از این طریق می‌توانید بهتر بفهمید که چه اتفاقی افتاده است برای پیش‌بینی‌های آینده، اشکال‌زدایی، استدلال، همه در زمان آزمون».

مدل‌های معماری پیش‌گویانه تعبیه‌شده مشترک (JEPA) که توسط LeCunn و همکارانش در سال 2023 توسعه یافتند، برای روبات‌ها پیشنهاد شده‌اند، زیرا آنها می‌توانند اقدامی را به عنوان ورودی انجام دهند و بپرسند که جهان با آن عمل چگونه خواهد بود.

اما یک مدل جهانی JEPA میانگین نتایج را تولید می کند و نمی تواند سناریوهای خلاف واقع را پیش بینی کند - رویدادهایی که اتفاق نیفتادند. تکنیکی که محققان توسعه دادند مختص JEPA ها نیست - می توان آن را برای هر مدل جهانی که میانگین حالت بعدی را تحت هر اقدامی پیش بینی می کند، اعمال کرد. اما مدل های JEPA به ویژه برای سازگاری مناسب هستند.

بالستریرو گفت که آزمایش‌های مدل جهانی خلاف واقع با استفاده از رمزگذارهای خارج از قفسه (DINOv2 و MAE) بدون تنظیم دقیق و فقط یک پیش‌بینی‌گر کوچک در بالا انجام شد. ایجاد یک مدل جهانی خلاف واقع از آن نقطه شروع فقط به اضافات جزئی نیاز دارد.

مدل‌های جهان خلاف واقع، سناریوهای جایگزین را با استنباط احتمالات از آنچه رخ داده است، به طور مؤثرتری پیش‌بینی می‌کنند.

"در استنباط علی، پاسخ دادن به "اگر من طور دیگری عمل می کردم چه اتفاقی می افتاد؟" بالستریرو توضیح داد که سه قدم برداشته است. «شما از آنچه مشاهده کردید برای یادگیری چیزی در مورد آن عوامل پنهان استفاده می‌کنید، عمل را تغییر می‌دهید، و دوباره پیش‌بینی می‌کنید که عوامل پنهان دقیقا همان‌طور که بودند حفظ شوند.

"مدل جهان خلاف واقع ما هر سه مرحله را با یک تفریق انجام می دهد."

بالستریرو مثالی از این مقاله ذکر کرد: قایق در حال عبور از رودخانه با جریانی پنهان و اینکه چگونه مدل جهانی JEPA و مدل جهانی خلاف واقع حرکت قایق را پیش‌بینی می‌کردند.

او توضیح داد: «مدل جهانی پیش‌بینی می‌کرد که قایق پس از هدایت به چپ به کجا ختم می‌شود و در واقع دو متر پایین‌تر به سمت پایین دست می‌رود. "این دو متر امضای جریانی است که اتفاق افتاده است. برای پاسخ به "اگر من درست هدایت می‌کردم قایق کجا می‌شد؟"، پیش‌بینی مدل جهانی را برای فرمان راست می‌گیریم و همان دو متر را اضافه می‌کنیم. به عبارت دیگر، خلاف واقع چیزی است که در واقع اتفاق افتاده است، به علاوه تفاوت بین پیش‌بینی‌های مدل برای اقدام جایگزین و برای اقدام انجام شده.

"فیزیک برای توجیه این قاعده وارد می شود، نه به عنوان معادله ای که مدل مطابقت دارد. در مدت کوتاهی، اثر عمل و اثر جریان هر کدام متناسب با مدت زمان رشد می کنند، در حالی که بر هم کنش آنها فقط با مربع آن رشد می کند، بنابراین در طی مراحل کوتاه آنها به سادگی جمع می شوند، مانند نیروها.

ما ثابت می‌کنیم که کسری از تأثیر اختلال که این قانون اشتباه می‌شود، با مجذور گام زمانی کوچک می‌شود و هیچ روشی با استفاده از همان داده‌های معمولی نمی‌تواند در بدترین حالت بهتر از این نرخ عمل کند.»

به گفته Balestriero، مدل‌های جهان خلاف واقع سه کاربرد محتمل دارند. اولین مورد این است که یک ربات پس از یک رویداد غافلگیرکننده، یک عمل را دوباره امتحان کند.

او توضیح داد: «وقتی تلاشی به دلیل چیزی که ربات نمی‌تواند ببیند شکست می‌خورد، مانند بار غیرمنتظره، جریان یا یک موتور ضعیف، مدل جهان خلاف واقع به آن اجازه می‌دهد تخمین بزند که کدام عمل در همان موقعیت کار می‌کرد. "در کارهای شبیه سازی شده ما، انتخاب عمل به این شکل در 35 تا 69 درصد از رویدادها به هدف می رسد، در مقابل 14 تا 23 درصد برای برنامه ریزی که شبیه ساز واقعی را می شناسد اما نتیجه مشاهده شده را نادیده می گیرد. با دو تلاش دیگر در همان رویداد، موفقیت به 51 تا 97 درصد افزایش می یابد."

او همچنین می‌بیند که این مدل‌ها برای انطباق با خطای مداوم، مانند یک موتور اشتباه کالیبره‌شده، و کمک به مردم برای درک خرابی‌ها مفید هستند.

بالستریرو گفت: «مدل‌های جهانی برای پیش‌بینی آموزش دیده‌اند و در این کار خوب عمل می‌کنند. اما یک ربات، یک ماشین یا یک هواپیمای بدون سرنشین که در دنیای واقعی عمل می‌کند دائما از چیزهایی که نمی‌توانست ببیند غافلگیر می‌شود. بعد از یک غافلگیری، سؤال مفید دیگر این نیست که انتظار می‌رفت، بلکه چه اتفاقی می‌افتاد اگر در همان موقعیت متفاوت عمل می‌کرد.

تلاش‌های اولیه محققان برای پرداختن به این موضوع شامل افزودن یک مؤلفه آموخته‌شده به مدل جهانی بود که هر گونه اختلال پنهان (مثلا جریان در سناریوی قایق) را استنباط می‌کند که بر نتیجه پیش‌بینی‌شده تأثیر می‌گذارد. اما این رویکرد بسیار شکننده بود.

بالستریرو توضیح داد: «تلاش برای درک اینکه چرا منجر به این نظریه شد. "یادگیری اختلال از داده های معمولی نه تنها سخت است، بلکه به طور کلی غیرممکن است: نویز پنهان را می توان برای هر عمل به طور متفاوتی بدون تغییر یک پیش بینی مجددا برچسب گذاری کرد، بنابراین داده ها نمی توانند به شما بگویند کدام برچسب گذاری مناسب است. قطعه گم شده باید از خارج از داده ها باشد. برای سیستم های فیزیکی، از این واقعیت ناشی می شود که نیروها اضافه می شوند و تعامل آنها به کندی در زمان ایجاد می شود.

هنگامی که آن را بپذیرید، مدل اختلال آموخته شده غیرضروری می شود: شکاف بین آنچه اتفاق افتاده و آنچه پیش بینی شده بود، اطلاعات مورد نیاز شما را حمل می کند و شما آن را به عمل دیگر منتقل می کنید.

Balestriero گفت که مهندسان کنترل چندین دهه است که اصلاحاتی از این نوع را برای تنظیم مدل های دست ساز انجام داده اند.

او گفت: «آنچه گم شده بود این بود که چرا همین تصحیح برای مدل‌های جهان آموخته‌شده که دنیا را از طریق تصاویر می‌بینند، چه چیزی را می‌توان و چه چیزی را نمی‌توان بدون داده‌های جفت شده بازیابی کرد و کجا شکسته می‌شود، توجیه کرد. این مقاله با پیوند استنتاج علی، کنترل و مدل‌های جهان به این سؤالات پاسخ می‌دهد. عنوان از قانون تداوم لایب‌نیتس، natura non facit saltus، «طبیعت هیچ جهشی نمی‌کند» گرفته شده است، که دقیقا خاصیتی است که همه این کارها را انجام می‌دهد.

مقاله محققان قبل از انتشار در ArXiv در اختیار The Register قرار گرفت. انتظار می رود این هفته منتشر شود. ®