آنتروپیک می گوید مدل های کوچک هوش مصنوعی به زودی می توانند خود را در دستگاه های روزمره کپی کنند

بر اساس تحقیقات جدید Anthropic، مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه تا امکان کپی کردن خود در دستگاه‌های خانگی روزمره مانند اجاق‌های هوشمند و جعبه‌های تلویزیون فاصله داشته باشند.

در یک پست وبلاگی که روز دوشنبه منتشر شد، محققان گفتند که آزمایش کرده‌اند که آیا مدل‌های کوچک هوش مصنوعی می‌توانند خود را روی گجت‌های ارزان قیمت نصب کنند و سپس بدون کمک انسان از یک دستگاه به دستگاه دیگر پخش شوند. آن‌ها دریافتند که مدل‌های کوچک امروزی می‌توانند بسیاری از مراحل فردی را انجام دهند، اما نمی‌توانند کل فرآیند را به تنهایی کامل کنند. با این حال، این سازمان گفت که انتظار دارد این شکاف تا پایان سال جاری کاهش یابد.

خود تکراری برای مدت طولانی یکی از بزرگترین نگرانی های ایمنی صنعت هوش مصنوعی بوده است. کارشناسان ایمنی استدلال می‌کنند که این یک نقطه کلیدی است که در آن یک سیستم می‌تواند از کنترل انسان خارج شود، زیرا هنگامی که نسخه‌ها در مکان‌هایی اجرا می‌شوند که سازندگان آن‌ها از آن اطلاعی ندارند، نمی‌توان به راحتی آن‌ها را ردیابی یا خاموش کرد.

اخیرا بیشتر نگرانی‌های ایمنی بر روی مدل‌های مرزی متمرکز شده‌اند، مانند OpenAI's Astra یا Anthropic's Mythos، که بسیار بزرگ هستند، همانطور که با تعداد پارامترها یا گره‌های قابل تنظیم اندازه‌گیری می‌شوند. برخی از مدل های مرزی بیش از 5 تریلیون پارامتر دارند. مدل‌هایی با این اندازه باید در دیتاسنترها اجرا شوند، که باعث می‌شود توسعه‌دهندگان آن‌ها را راحت‌تر نظارت کنند و در صورت لزوم آن‌ها را خاموش کنند.

مدل‌های کوچک‌تر با وزن باز که Anthropic به آنها اشاره می‌کند ممکن است فقط چند میلیارد پارامتر داشته باشند. مهار آنها سخت تر است زیرا هر کسی می تواند آنها را دانلود کند، هیچ شرکتی محل اجرا را کنترل نمی کند و برخی از دستگاه هایی که به طور بالقوه می توانند هدف قرار دهند ناامن هستند. این بدان معناست که یک برنامه هوش مصنوعی خودکپی می‌تواند در تئوری در میلیون‌ها دستگاه با امنیت ضعیف پخش شود و توسعه‌دهندگان را بدون سوئیچ خاموش متمرکز بگذارد.

برای اینکه ببینند آیا یک مدل کوچک حتی می‌تواند با چنین سخت‌افزار ارزان‌قیمتی کار کند، محققان نسخه‌ای از Gemma 4، یکی از مدل‌های کوچک و رایگان هوش مصنوعی گوگل را که از 26 میلیارد پارامتر استفاده می‌کند، انتخاب کردند و آن را در 15 جعبه تلویزیون Android تقسیم کردند که هر کدام حدود 55 دلار قیمت دارد و دارای 4 گیگابایت حافظه است. در حالی که هیچ جعبه‌ای حافظه کافی برای نگهداری مدل نداشت، هر کدام قطعه کوچکی از آن را اجرا کردند که به مدل اجازه می‌داد کار کند، هرچند آهسته.

در آزمایشی جداگانه، آنتروپیک یک شبکه شبیه‌سازی شده از هشت رایانه ابری ایجاد کرد که برای رفتار شبیه دستگاه‌های اندرویدی تنظیم شده بودند و یک «کرم» هوش مصنوعی - نوعی برنامه مخرب که خودش را از رایانه‌ای به رایانه دیگر به تنهایی کپی می‌کند - روی یکی از آنها نصب کرد. این کرم وظیفه پیدا کردن سایر ماشین‌ها، کپی کردن خود و راه‌اندازی یک مدل هوش مصنوعی در هر کدام را داشت. از مدل‌های وزن باز آزمایش‌شده، تنها GLM-5.2، یک مدل منبع باز بزرگ‌تر از شرکت چینی هوش مصنوعی Z.ai، تمام مراحل را تکمیل کرد و در چهار آزمایش از پنج آزمایش به هر هشت دستگاه رسید.

مدل‌های کوچک‌تر می‌توانستند مراحل جداگانه را انجام دهند، اما نمی‌توانستند آنها را به هم متصل کنند.

با این حال، در مقاله تحقیقاتی، آنتروپیک می گوید شکاف بین مدل ها در حال بسته شدن است. محققان سرعت بهبود مدل‌های کوچک و آزادانه را در طول زمان پیگیری کردند و تخمین زدند که یک مدل کوچک می‌تواند تا پایان سال 2026 با GLM-5.2 مطابقت داشته باشد. آنها همچنین دریافتند که وقتی مدل‌های کوچک یادداشت‌هایی را برای نسخه‌های بعدی از خود می‌گذارند، موفقیت در کار راه‌اندازی از 45 درصد در نسل اول به 84 درصد در نسل‌های بعدی افزایش یافته است.

این شرکت گفت که یک هوش مصنوعی خودکپی شونده که بر روی مدل های کوچک ساخته شده است به آرامی گسترش می یابد و تعداد دستگاه های آلوده هر چند روز یکبار دو برابر می شود، اما پس از شل شدن به سختی می توان آن ها را از بین برد.

"ترس مدرک نیست"

برخی در این صنعت قبلا در مورد اینکه آیا آزمایش‌های آنتروپیک ادعاهای آن را در مورد خطرات قریب‌الوقوع مدل‌های هوش مصنوعی خود تکراری تأیید می‌کند یا خیر، تردید داشتند.

گرگوری کورتزر، بنیانگذار راکی لینوکس و مدیر عامل شرکت نرم‌افزاری CIQ، در X نوشت: «مدل‌های هوش مصنوعی می‌توانند مانند کرم‌ها بدون زیرساخت مرکز داده تکثیر شوند و منتشر شوند؟ بله، نه. برای ورود نیاز به ورود بود.

او نوشت: «این آزمایش برای موفقیت طراحی شد، و حتی در آن زمان هم نتوانست سرفصل را نشان دهد. "از اشتباه گرفتن سناریوهای حدس و گمان با قابلیت های نشان داده شده خودداری کنید. ترس مدرکی نیست."

راوید شوارتز-زیو، محقق هوش مصنوعی در دانشگاه نیویورک، همچنین استدلال کرد که این تحقیق شواهدی از گسترش کرم‌های هوش مصنوعی در دنیای واقعی نیست. او نوشت: «ما موفق شدیم یک مدل بسیار کند را روی تلویزیون‌های ارزان اجرا کنیم» تیتر یکسانی نیست که «هوش مصنوعی خود تکراری در راه است».

برخی از محققان امنیت سایبری همچنین خاطرنشان کردند که نرم‌افزارهای مخرب خود-تکثیر شونده «کرم‌ها» برای دهه‌ها موضوعی بوده و این کرم‌ها با وجود اینکه از هوش مصنوعی استفاده نمی‌کنند، خطراتی را ایجاد می‌کنند. در مورد کرم‌های موجود، نرم‌افزار به سادگی کدگذاری شده است تا خود را از طریق شبکه‌های رایانه‌ای کپی کند یا با دستور دادن به رایانه‌های آلوده برای ارسال ایمیل‌های حاوی کپی‌هایی از بدافزار پخش شود.

کارشناسان امنیت سایبری تاکتیک‌های آزمایش‌شده‌ای را توسعه داده‌اند تا با استقرار وصله‌های سریع، بستن دامنه‌های وب که کرم‌ها برای دریافت دستورالعمل‌ها از آن‌ها استفاده می‌کنند، و توسعه امضا برای به‌روزرسانی نرم‌افزار ضد ویروس، آسیب‌هایی را که این کرم‌ها می‌توانند ایجاد کنند محدود کنند. در حالی که مدل‌های هوش مصنوعی ممکن است با تکامل تاکتیک‌هایی که برای به خطر انداختن سیستم‌ها در پاسخ به اقدامات مدافعان انجام می‌دهند، چالش بیشتری ایجاد کنند، آزمایش‌های آنتروپیک این قابلیت را در این مدل‌های کوچک نشان نداد.

Anthropic چندین مورد از این محدودیت ها را در پست خود تصدیق کرد. محققان گفتند که آنها عمدا مرحله هک را آسان کرده اند و کرم را بدون رمز عبور در هر دستگاه جدید قرار می دهند. مدل هوش مصنوعی که کرم را هدایت می‌کند، روی یک سرور جداگانه و قدرتمندتر اجرا می‌شود، نه بر روی دستگاه‌های شبیه‌سازی‌شده که آلوده می‌کرد، زیرا آن‌ها برای میزبانی آن بسیار کوچک بودند. Anthropic همچنین جدول زمانی خود را به عنوان "فقط یک برآورد تقریبی" توصیف کرد.

این داستان در ابتدا در سایت Fortune.com منتشر شد