Anthropic تهدید دیگری را تداعی می کند که هنوز وجود ندارد تا ترس از آخرالزمان هوش مصنوعی را برانگیزد.

هیچ چیز به اندازه ترس محصولات هوش مصنوعی را نمی فروشد. با استفاده از تحقیقات جدید، آنتروپیک ادعا می‌کند که کرم‌های خود-تکثیر شونده می‌توانند تنها چند ماه تا انتشار در دستگاه‌های آسیب‌پذیر اینترنت اشیا فاصله داشته باشند، که در صورت تحقق، مشکل ساز خواهد شد. آزمایشگاه مرزی روز دوشنبه یک گزارش تحقیقاتی منتشر کرد که نشان می‌دهد مدل‌های هوش مصنوعی می‌توانند در نهایت بدون اتکا به سخت‌افزار مرکز داده، خود را تکرار کنند، با یک مدل 9 میلیارد پارامتری که با موفقیت استنتاج بر روی هشت نوع از 9 نوع سخت‌افزاری که Anthropic آزمایش شده است، انجام داد.

آنتروپیک هشدار داد: «خاموش شدن یک شبیه‌ساز مانند این چالش‌برانگیز است، زیرا هیچ نقطه متمرکزی برای خاموش کردن وجود ندارد. محققان Anthropic موفق شدند یک نمونه توزیع شده از Gemma4-26B-A4B را در 15 باکس پخش عمومی Android set-top اجرا کنند - یک هدف رایج بدافزارهای بات نت سنتی به دلیل امنیت ضعیف آنها.

پس از راه‌اندازی و اجرا، مدل Gemma4 توزیع‌شده قادر به انجام وظایف استنتاج با سرعت 0.39 توکن در ثانیه بود. به گفته آنتروپیک، این ثابت می‌کند که مدل‌های هوش مصنوعی می‌توانند با لایه‌های مختلف خود که در سخت‌افزار ارزان توزیع شده است، استنتاج کنند، اما ثابت نمی‌کند که چنین مدلی می‌تواند خود تکرار شود. برای این منظور، محققان به GLM 5.2 Z.ai روی آوردند.

GLM برای انتشار یک کپی از Llama3.1-8B در هشت نمونه Google Cloud استفاده شد که شبیه‌ساز Android 15 را در یک ابر خصوصی مجازی اجرا می‌کرد، که Anthropic گفت که توانست با درجه بالایی از موفقیت انجام دهد، با موفقیت این مدل در هر هشت گره در چهار آزمایش از پنج آزمایش و هفت مورد از هشت مورد در دیگری.

آنتروپیک توضیح داد: «به نظر می‌رسد که GLM-5.2 می‌تواند Llama3.1-8B را به خوبی منتشر کند، که نشان می‌دهد مدل‌های کوچک آینده با همان سطح توانایی نیز می‌توانند مراحل شمارش شبکه، تحویل بار و استنتاج مراحل تکثیر را تکمیل کنند. بررسی سلامت: این به پایان جهان نخواهد رسید، یا آزمایشگاه‌های هوش مصنوعی مرزی در انتشار یافته‌هایی که عذابی را نشان می‌دهند که فقط آنها می‌توانند از آن جلوگیری کنند ماهر شده‌اند. انجام بیش از یک مطالعه گذرا از این گزارش نشان می دهد که این تهدید به اندازه بقیه سزاوار یک ستاره بزرگ و بوق است.

به عنوان مثال، آنچه را که یک مدل هوش مصنوعی برای بهره برداری از آسیب پذیری ها و گسترش به سیستم های مختلف لازم است، در نظر بگیرید. می توان فکر کرد که چنین عنصری بخش مهمی از نشان دادن خطر یک بات نت هوش مصنوعی است که خود تکرار می شود، اما Anthropic تصمیم گرفت که برای این مطالعه نیازی به نگرانی در مورد آن نداشته باشد. آنتروپیک در این نوشته توضیح داد: «ما تا حد زیادی عنصر بهره‌برداری سایبری در فرآیند تکرار را نادیده می‌گیریم، زیرا مقالات قبلی CyberGym، ExploitBench و کرم‌های تطبیقی ​​نشان می‌دهند که مدل‌های کوچک قادر به سوءاستفاده‌های سایبری هستند، به‌ویژه زمانی که ابزارهای مناسب به آنها داده شود.

به عبارت دیگر، تکراری که این مدل‌ها به آن دست یافتند، روی گره‌هایی انجام شد که به‌صورت سفارشی برای این پروژه ساخته شده بودند و عمدا برای حمله باز گذاشته شدند، اگرچه نمایش استنتاج بسیار کند روی جعبه‌های تلویزیون اندروید واقعی و ارزان اجرا شد. همانطور که Anthropic اشاره می کند، مدل های هوش مصنوعی همچنین می توانند از ابزارهای مناسب برای تبدیل آنها به عوامل حمله سایبری توانمند بهره مند شوند. یک مهار سفارشی به نام Memento نیز در این سناریو دخیل بود.

آیا گره های اینترنت اشیا که توسط بات نت ها ربوده می شوند، ناامن هستند؟ بله، اما برای جلوگیری از متداول ترین مسیرهای ورودی، کار زیادی لازم نیست - این فقط بهداشت امنیتی خوب است که هیچ ارتباطی با دخالت هوش مصنوعی ندارد. آنتروپیک تصدیق کرد که آزمایش‌های بهره‌برداری عمدا ساده‌شده‌اش «یک حد بالایی برای موفقیت در دنیای واقعی» ارائه می‌کند. سپس سرعت ذکر شده وجود دارد. آنتروپیک می‌گوید خاموش کردن چنین کرم‌هایی با هوش مصنوعی چالش‌برانگیز است، اما تخمین می‌زند که ممکن است روزها طول بکشد تا اندازه آنها دو برابر شود. وقتی میرای در سال 2016 روی صحنه ظاهر شد، در حدود یک ساعت دو برابر شد.

Anthropic اشاره می کند که سرعت عاملی برای تشخیص و کاهش نیز است. مدل‌های هوش مصنوعی بسته‌های بدافزار ساده‌ای نیستند: آنها چیزهای عظیمی هستند که هزاران تن پهنای باند را می‌خورند و به سرعت به منابع خود اشاره می‌کنند. همانطور که یک بات نت هوش مصنوعی رشد می کرد، این ترافیک می توانست قابل توجه تر شود و تشخیص دستگاه های آلوده را آسان تر کند. در نهایت، تکرار سرتاسر ممکن است با GLM-5.2 موفقیت آمیز بوده باشد، اما همین. آنتروپیک دیگر مدل‌های با وزن باز را آزمایش کرد و طبق این گزارش، همه آنها به طور قابل اعتمادی شکست خوردند. آنتروپیک به چند مدل آزمایش شده اشاره نکرد.

این گزارش همچنین اشاره می‌کند که موفقیت منحصربه‌فرد GLM شرط مهم دیگری نیز دارد: فرض می‌کند که قابلیت‌های آن «می‌تواند در Llama3.1-8B بسته‌بندی شود»، و فرض دیگری را در این آخرین خانه از کارت‌های هوش مصنوعی قرار می‌دهد. آنتروپیک گفت: «مدل‌هایی با پارامترهای 30B و کمتر از قبل می‌توانند بسیاری از مراحل تکثیر را برای امروز تکمیل کنند، اگرچه هنگام نوشتن آن‌ها اشتباه می‌کنند.

آنتروپیک همچنین اعتراف می‌کند که هیچ ایده‌ای ندارد که «تکثیر خودکار هوش مصنوعی دقیقا چه شکلی خواهد داشت» یا اینکه چه زمانی ممکن است ایجاد شود. این شرکت افزود: «اگر مدل‌های کوچک با نرخ تاریخی خود بهبود پیدا کنند، تا پایان سال جاری با این سطح توانایی برابری خواهند کرد» - و دوباره شرط اساسی را برای این تهدید فرضی تحمیل می‌کند. این شرکت در پایان گزارش خود گفت: «به عنوان پیش‌بینی فراتر از آزمایش‌های ما، ما انتظار داریم که در آینده با عواملی که روی همه انواع سخت‌افزار کار می‌کنند، از جمله برخی که تحت کنترل انسان نیستند، غرق شود».

ما باید سیستم‌هایمان را سخت‌تر کنیم تا گسترش چنین تکثیرکننده‌هایی را دشوار کنیم، اما همچنین باید برای مقابله با جهانی که در آن اینجا هستند، آماده شویم.» البته در اینجا برای یک مقدار معین باقی می ماند که هنوز وجود ندارد. با این حال، یک آزمایشگاه مرزی به ما درباره تهدیدی هشدار می‌دهد که هنوز وجود ندارد – حداقل در این مورد، اقدامات امنیتی اولیه می‌تواند زندگی هر بات‌نت مجهز به هوش مصنوعی آینده را سخت‌تر کند. ®