آنتروپیک می گوید که مدل های هوش مصنوعی ممکن است به زودی در دستگاه های هوشمند بدون کنترل انسان تکرار شوند

بر اساس تحقیقات جدید Anthropic، مدل‌های کوچک هوش مصنوعی به زودی می‌توانند بدون کنترل انسان یا دسترسی به مراکز داده، خود را در دستگاه‌های متصل به اینترنت کپی کنند.

این مطالعه که یکشنبه توسط تیم Frontier Red متعلق به شرکت هوش مصنوعی ایالات متحده منتشر شد، بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند به طور مستقل دستگاه‌ها را پیدا کنند، فایل‌های مدل را انتقال دهند، نرم‌افزار مورد نیاز برای کار کردن را ایجاد کنند و از هر دستگاه تازه آلوده شده ادامه دهند.

محققان می‌گویند مدل‌هایی با کمتر از 30 میلیارد پارامتر می‌توانند بسیاری از مراحل منفرد این فرآیند را تکمیل کنند، اگرچه اکثر آنها هنوز برای ترکیب قابل اعتماد آنها تلاش می‌کنند.

در یک آزمایش کنترل شده و ساده شده، مدل GLM-5.2 با موفقیت در تمام هشت دستگاه آزمایشی موجود در چهار آزمایش از پنج آزمایش گسترش یافت و در آزمایش باقی مانده به هفت دستگاه رسید.

آنتروپیک تاکید کرد که این آزمایش با استفاده از دستگاه هایی با اتصال ناامن، مرحله هک را ساده کرد. بنابراین، نتایج نشان نمی‌دهد که یک مدل هوش مصنوعی در حال حاضر می‌تواند به‌طور مستقل تحت شرایط دنیای واقعی فرار کرده و تولید مثل کند.

محققان گفتند: «ما هنوز یک تکثیر کننده سرکش کامل نداریم. با این حال، آنها هشدار دادند که عوامل به طور فزاینده‌ای در تکمیل مراحل لازم و انتقال اطلاعات مفید به نسخه‌های بعدی خود توانایی بیشتری پیدا می‌کنند.

این مطالعه به‌ویژه بر دستگاه‌های ارزان‌قیمت اینترنت اشیا متمرکز بود که اغلب دارای حفاظت‌های امنیتی محدودی هستند. اهداف بالقوه می تواند شامل تلویزیون های هوشمند، یخچال ها، اجاق ها، جاروبرقی ها، دوربین های امنیتی و تجهیزات ویدئو کنفرانس باشد.

برخلاف کرم‌های رایانه‌ای معمولی، یک سیستم هوش مصنوعی خود تکرار می‌تواند به طور بالقوه با دستگاه‌های ناآشنا سازگار شود، مشکلات فنی را تشخیص دهد و استراتژی‌های موفق را به نسخه‌های بعدی منتقل کند.

محققان گفتند که چنین سیستمی در ابتدا به آرامی گسترش می یابد و تولید هر نسخه جدید احتمالا یک یا دو روز طول می کشد. با این حال، حذف آن ممکن است دشوار باشد زیرا هیچ سرور مرکزی برای خاموش کردن وجود نخواهد داشت.

آنتروپیک تخمین زد که اگر مدل‌های کوچک‌تر با سرعت تاریخی خود به بهبود ادامه دهند، می‌توانند تا پایان سال 2026 به توانایی نشان‌داده‌شده توسط GLM-5.2 دست یابند. این شرکت هشدار داد که این فقط یک پیش‌بینی تقریبی بر اساس روندهای کلی قابلیت است.

محققان نظارت بر ترافیک غیرمعمول شبکه، جداسازی دستگاه‌های آلوده و الزام تولیدکنندگان را به تقویت تنظیمات امنیتی پیش‌فرض توصیه کردند.

آنها هشدار دادند که تکثیرگرهای زودهنگام و آهسته می‌توانند به آینده سیستم‌های سریع‌تری که قادر به نفوذ به رایانه‌های ایمن‌تر هستند، سیگنال دهند.

آنها گفتند: "ما باید سیستم های خود را سخت تر کنیم تا گسترش چنین شبیه سازهایی را دشوار کنیم، اما همچنین آماده مقابله با دنیایی باشیم که آنها اینجا هستند تا بمانند."