آیا هوش مصنوعی می تواند خودش را بسازد؟ دانشمندان مسیر رسیدن به آخرین هوش مصنوعی ساخته شده توسط انسان را ترسیم می کنند.

دانشمندان در چین در حال بررسی آنچه برای توسعه «آخرین هوش مصنوعی ساخته شده توسط انسان» نیاز است - یک سیستم هوش مصنوعی (AI) قدرتمند و خود-بهبود که قادر به ایجاد جانشینان خود است، هستند.

در مقاله‌ای جدید، محققان بررسی می‌کنند که چگونه رویکردهای خود-بهبودی بازگشتی (RSI) می‌تواند به مقابله با افزایش هزینه‌های مالی و محاسباتی توسعه مدل‌های پیشرفته‌تر هوش مصنوعی کمک کند.

RSI به این ایده اشاره دارد که مدل‌های هوش مصنوعی آینده می‌توانند آموزش و توسعه خود را هدایت کنند و از آنچه از هر دور بهبود یاد می‌گیرند برای هدایت دورهای بعدی توسعه استفاده کنند.

این حلقه بازخورد بازگشتی در نهایت می‌تواند سیستم‌های هوش مصنوعی را قادر سازد تا نسل‌های جدیدتر و قدرتمندتری از مدل‌ها را با حداقل ورودی انسانی توسعه دهند.

این مطالعه که در 10 سپتامبر در پایگاه داده پیش‌چاپ arXiv آپلود شد اما مورد بازبینی همتا قرار نگرفت، چارچوبی را برای طبقه‌بندی سیستم‌های هوش مصنوعی بر اساس قابلیت‌های خود-بهبودی آن‌ها، از سطح 1 (پایین‌ترین) تا سطح 5 (بالاترین) پیشنهاد می‌کند.

در سطوح پایین تر، توسعه تا حد زیادی تحت رهبری انسان باقی می ماند. همانطور که سیستم های هوش مصنوعی در مقیاس بالا می روند، آنها به طور فزاینده ای قادر می شوند نقاط ضعف خود را شناسایی کنند و تصمیم بگیرند که چگونه آنها را برطرف کنند و در نهایت توانایی ایجاد "فرات-بهبود" خود را به دست می آورند - بهبود نحوه بهبود خود.

آیا خودسازی هوش مصنوعی «مزخرف» است؟

این که آیا هوش مصنوعی می تواند به این سطح از خودسازی پایدار دست یابد یا خیر، یک سوال باز باقی می ماند. با این حال، آزمایش‌های قبلی اشکال محدودتری از RSI را نشان داده‌اند.

در یک مطالعه در اوایل سال جاری، یک سیستم هوش مصنوعی به نام A-Evolve-Training وظیفه بهبود عملکرد یک مدل زبان بزرگ (LLM) با 30 میلیارد پارامتر را داشت.

طی چهار دور، A-Evolve-Training با آزمایش تکنیک‌های آموزشی مختلف و استفاده از نتایج برای تغییر نحوه نزدیک شدن به آزمایش‌های بعدی، عملکرد معیار LLM را به طور متوسط ​​بهبود بخشید.

پیتر بنتلی، استاد زیست‌شناسی دیجیتال در دانشگاه کالج لندن، این سوال را مطرح کرد که آیا چنین آزمایش‌هایی مسیری معتبر برای RSI ارائه می‌دهند یا خیر.

بنتلی در ایمیلی به لایو ساینس گفت: «این ایده که برخی از هوش مصنوعی به طور جادویی شروع به تولید هوش مصنوعی بهتر و بهتر به خودی خود خواهند کرد، بی معنی است.

بنتلی خاطرنشان کرد که سیستم های کامپیوتری خود-بهبود ده ها سال است که وجود داشته است. به عنوان مثال، محاسبات تکاملی و یادگیری تقویتی، هر دو بر اساس اصل سیستم هایی هستند که عملکرد خود را در طول زمان در پاسخ به بازخورد اصلاح می کنند.

آیا هوش مصنوعی واقعا می تواند خود را بهبود بخشد؟ برخی کارشناسان تردید دارند. (اعتبار تصویر: Mina De La O/Getty Images) به گفته او، چالش بسیار بزرگ‌تر، توسعه سیستم‌های هوش مصنوعی است که قادر به انجام مستقل تحقیقات مورد نیاز برای ایجاد جانشینان قدرتمندتر هستند - نه به ذکر غلبه بر وابستگی آنها به تخصص انسانی و زیرساخت‌های محاسباتی فیزیکی.

بنتلی افزود: "شما نمی توانید به صورت بازگشتی خود را بهبود بخشید، مگر اینکه بتوانید آموزش خود را ارتقا دهید، سخت افزار خود را ارتقا دهید و آن را به طور کامل در تنظیمات دنیای واقعی آزمایش کنید."

چالش RSI واقعی

نویسندگان این مطالعه به برخی از این چالش ها اذعان داشتند. توسعه سیستم‌های دارای قابلیت RSI می‌تواند به سرمایه‌گذاری‌های عظیم در قدرت محاسباتی و همچنین نظارت انسانی نیاز داشته باشد تا اطمینان حاصل شود که پیشرفت‌های متوالی دستاوردهای معناداری را به همراه دارد. نویسندگان خاطرنشان کردند، اگر منابع مورد نیاز برای توسعه و آزمایش مدل‌های هوش مصنوعی بعدی از مزایایی که ارائه می‌دهند، بیشتر باشد، همه این‌ها به طور مؤثر زائد می‌شوند.

انحصاری Live Science Pro

ما قرار نیست یک خدای دیجیتالی شیطانی را بیدار کنیم - هوش مصنوعی به احتمال زیاد به یک ناامیدی بزرگ ختم می شود.

آخرین ابزار هوش مصنوعی Google DeepMind نوید عصر جدیدی را برای تحقیقات ژنتیک می دهد، اما کارشناسان هشدار می دهند که پیش بینی های آن را با احتیاط انجام دهید.

OpenAI ادعا می کند که ما وارد دوران AGI شده ایم - آیا GPT-6 Astra واقعا هوش عمومی را نشان داده است؟

دانشمندان همچنین به روشی قابل اعتماد برای تعیین اینکه آیا یک سیستم هوش مصنوعی واقعا در طول تکرارها توانمندتر می شود، به جای استفاده از نقاط ضعف در آزمایش های مورد استفاده برای اندازه گیری قابلیت های آن، نیاز دارند. این یک مشکل شناخته شده در توسعه هوش مصنوعی است، که در آن مدل‌ها می‌توانند با بهره‌برداری از روش‌های آزمایش یا نتایج انتخاب گیلاس به امتیازات معیار بالاتری دست یابند.

Kayla Blomquist، محقق هوش مصنوعی در دانشگاه آکسفورد و یکی از بنیانگذاران آزمایشگاه سیاست آکسفورد چین، گفت که اگرچه این مقاله یک نقشه راه عملی برای RSI ارائه نمی‌کند، اما می‌تواند به توسعه‌دهندگان و سیاست‌گذاران کمک کند تا چالش‌های فنی و خطرات ایمنی مرتبط با سیستم‌های خودکار هوش مصنوعی را درک کنند.

او همچنین این سوال را مطرح کرد که آیا هرگز نقطه روشنی وجود خواهد داشت که در آن هوش مصنوعی کاملا مستقل از توسعه انسانی شود. بلومکوئیست افزود: «این مقاله به جای یک لحظه، یک واگذاری تدریجی مسئولیت را توصیف می‌کند، بنابراین ممکن است هرگز یک مدل «آخرین» آشکار توسط انسان‌ها ساخته نشود.

به ما در بهبود Live Science Pro کمک کنید: ما همیشه در تلاش هستیم تا محتوای خود را بهتر کنیم. نظرات خود را در مورد Pro در اینجا برای ما بگذارید.