این استارت‌آپ همه‌چیز در زمینه بهبود خود بازگشتی است. آخرین مدل آن ترسناک خوب است

Flint اولین پیشنهاد از Recursive است، شرکتی که هدف آن استفاده از RSI برای پیشبرد خود هوش مصنوعی و سایر حوزه های علمی با استفاده از هوش مصنوعی است. ریچارد سوچر، مدیرعامل و بنیانگذار Recursive به من گفت: «تقریبا تمام جنبه‌های کل خط لوله مدل در واقع توسط هوش مصنوعی انجام شده و بهبود یافته است. سوچر می گوید که شرکت او از سیستم هوش مصنوعی بازگشتی خود به نام Eureka Machine برای خودکارسازی بیشتر عناصر توسعه مدل استفاده کرده است.

او می گوید که این یک شرکت با تعداد انگشت شماری از محققین را قادر می سازد تا تنها در چند ماه یک مدل در سطح جهانی بسازند. سوچر به من گفت که Eureka Machine تعدادی نوآوری ابداع کرده است، از جمله روش جدیدی برای آموزش مدل پایه، معماری‌های مدل جدید و کد بهینه‌سازی شده برای تراشه‌های سیلیکونی خاص. نمرات معیار مشترک بازگشتی که نشان می‌دهد Flint از سایر مدل‌های با اندازه و معماری مشابه در کارهای کدنویسی بهتر عمل می‌کند. به لطف مهارت های کدنویسی شگفت انگیز، هوش مصنوعی در حال حاضر به طور گسترده برای کمک به ساخت، آزمایش و بهبود هوش مصنوعی استفاده می شود.

این می‌تواند فرآیند اصلاح یک مدل و آزمایش ایده‌های جدید را بدون نیاز به ورودی‌های زیادی از سوی انسان سرعت بخشد. همچنین می‌توان حلقه‌ای ایجاد کرد که از طریق آن هوش مصنوعی تصمیم می‌گیرد چه پیشرفت‌هایی را انجام دهد و سپس دور دیگری از بهبود را آغاز کند. در حال حاضر این تکنیک محدود است، اما اگر هوش مصنوعی بتواند به هر جنبه ای از توسعه مدل کمک کند، از نظر تئوری این فرآیند می تواند به طور نامحدود ادامه یابد. برخی از کارشناسان نگرانند که اجازه دادن به هوش مصنوعی به این شکل خود را بهبود بخشد، در نهایت می تواند منجر به فاجعه شود.

این قیامت ها ادعا می کنند که هوش مصنوعی قادر به بهبود بی نهایت می تواند از کنترل انسان فرار کند و ممکن است تصمیم بگیرد که انسان ها مانعی برای اهداف آن هستند. این نگرانی‌ها در سپتامبر امسال زمانی که محققی از Anthropic کناره‌گیری کرد و هشدار داد که پیشرفت‌های هوش مصنوعی، از جمله خودسازی بازگشتی، می‌تواند منجر به انقراض انسان در عرض چند سال شود، توجه بیشتری به خود جلب کرد - نگرانی‌ای که پس از آن توسط تعدادی از کارشناسان دیگر تکرار شد.

ایده RSI آنقدر بحث برانگیز شده است که چندین لایحه در کنگره پیشنهاد ممنوعیت آن را داده اند. Recursive این ترس‌ها را بیشتر علمی تخیلی می‌داند تا واقعیت و معتقد است قوانینی برای جلوگیری از RSI مانعی غیرضروری برای پیشرفت است. سوچر می گوید فلینت با استفاده از سیستمی ساخته شده است که قادر به فرار از کنترل انسان نیست. او می‌گوید هدف این است که خود ماشین یورکا به بهبود کامل بازگشتی خود دست یابد، اما این امر همچنان توسط انسان‌ها نظارت می‌شود که می‌توانند در صورت خرابی این فرآیند را متوقف کنند.

او می‌گوید: «امیدواریم که این به مردم نشان دهد که ما تمام مراحل را برای ساختن چنین سیستمی آماده کرده‌ایم». Recursive 650 میلیون دلار با ارزش 4.65 میلیارد دلاری از Google Ventures، Greycroft، Nvidia و AMD Ventures جذب کرده است. سوچر قبلا دانشمند ارشد Salesforce بود و جف کلون، استاد دانشگاه بریتیش کلمبیا، که در مورد راه‌های ساخت سیستم‌های هوش مصنوعی با قابلیت یادگیری به طور نامحدود تحقیق می‌کند، از جمله بنیان‌گذاران او هستند. باید بگویم که تحت تأثیر فلینت هستم.

من آن را روی یک مک با 48 گیگابایت رم آزمایش کردم - مقداری سالم اما برای اجرای یک مدل هوش مصنوعی با اندازه متوسط ​​مانند Flint که 40 میلیارد پارامتر دارد کافی است. بزرگ‌ترین مدل‌های موجود چندین تریلیون پارامتر دارند و فقط می‌توانند روی رک‌های سرورهای صنعتی اجرا شوند. من از Flint برای ساخت یک سری برنامه استفاده کردم و متوجه شدم که هم سریع و هم بسیار توانا است. در تجربه من، مدل‌هایی با این اندازه در مقایسه با Claude یا Codex می‌توانند به طرز آزاردهنده‌ای مستعد خطا یا کند باشند، اما فلینت هر بار درخواست‌های کدنویسی من را پاسخ می‌دهد.

من از آن برای ایجاد یک لیست وظایف خط فرمان استفاده کردم، سپس سعی کردم از آن بخواهم برنامه ای بسازد که وب را برای تحقیقات جالب مرتبط با خود-بهبودی بازگشتی جستجو کند. من همچنین از Flint یک وب سایت ساده ایجاد کردم که نحوه عملکرد RSI را توضیح می دهد. شما می توانید آن را در اینجا ببینید. مشخص نیست که دیگر آزمایشگاه‌های ایالات متحده چقدر پیشرفت در تعقیب خود-بهبودی بازگشتی داشته‌اند، اما برخی از کارهای منتشر شده نشان می‌دهند که سیستم‌های کاملا بازگشتی در حال حاضر امکان‌پذیر هستند.

به عنوان مثال، تیمی از مایکروسافت، دانشگاه کارنگی ملون و دانشگاه ویرجینیا اخیرا کار خود را منتشر کرده‌اند که نشان می‌دهد چگونه یک عامل کدنویسی هوش مصنوعی می‌تواند به صورت بازگشتی خود را با اصلاح مهار نرم‌افزاری که استدلال را به اقدام مفید و وزن مدل خود تبدیل می‌کند، بهبود بخشد. اگر به ساختن یک هوش خداگونه نزدیک هستید، شاید RSI کامل خطراتی را به همراه داشته باشد، اما در حال حاضر به نظر می رسد این روش بسیار امیدوارکننده ای برای بهبود مدل های هوش مصنوعی شما باشد.

این چیزی است که من در نسخه‌های قبلی آزمایشگاه هوش مصنوعی به آن پرداخته‌ام. در واقع، سوچر می گوید رویکرد مورد استفاده برای ساخت Flint می تواند هوش مصنوعی پیشرفته را در دسترس تر کند. او به من گفت: "این تنها راهی است که این تیم بسیار کوچک می تواند مدلی تولید کند که در واقع بهتر از هر مدل دیگری در کلاس خود باشد." "امید است که این به مردم نشان دهد که [خودسازی بازگشتی] در واقع بسیار خوب است و به نفع بسیاری از مردم خواهد بود."

این نسخه ای از خبرنامه آزمایشگاه هوش مصنوعی ویل نایت است. خبرنامه های قبلی را اینجا بخوانید.