آنتروپیک می‌گوید هوش مصنوعی می‌تواند ظرف چند ماه در دستگاه‌های خانگی خود تکرار شود

به گفته محققان غول هوش مصنوعی آنتروپیک، مدل‌های کوچک هوش مصنوعی به زودی می‌توانند بدون نیاز به مرکز داده، روی محصولات مصرفی روزمره مانند تلویزیون‌های هوشمند و یخچال‌ها، خود تکرار شوند.

در گزارشی که روز دوشنبه منتشر شد، محققان گفتند که مدل‌های کوچک هوش مصنوعی «ممکن است ماه‌ها تا توانایی کافی برای کپی کردن خود در دستگاه‌های اینترنت اشیا (IoT) مورد استفاده در خانه‌ها و مشاغل کوچک فاصله داشته باشند.

تیم قرمز مرزی Anthropic، که آزمایش‌هایی را با استفاده از چندین مدل هوش مصنوعی توسعه‌یافته در ایالات متحده و چین انجام داد، گفت که چنین هوش مصنوعی خود-تکثیری به دلیل فقدان یک میزبان متمرکز «چالش‌آمیز» خواهد بود.

تیم تحقیقاتی گفت، در حالی که مراکز داده «هدفی روشن و با ارزش» برای کرم‌های هوش مصنوعی خواهند بود، دستگاه‌های متصل به اینترنت مانند تلویزیون‌های هوشمند، یخچال‌ها، اجاق‌ها و ماشین‌های چمن‌زنی نیز به زودی می‌توانند قدرت محاسباتی کافی را برای خود تکراری فراهم کنند.

به گفته محققان، اگرچه هیچ مدل هوش مصنوعی فعلی به اندازه کافی قدرتمند و کوچک نبود که بتواند به طور قابل اعتماد در تلویزیون هوشمند مورد استفاده در آزمایشات خود تکرار شود، اما روند توسعه، ظهور چنین مدلی را تا پایان سال 2026 محتمل می کند.

محققان ویلیام ژو و دانیل فریمن می‌گویند: «دستگاه‌های اینترنت اشیاء خانگی و کسب‌وکارهای کوچک ممکن است اولین هدف برای چنین حملاتی باشند، زیرا به اینترنت متصل هستند و از نظر تاریخی، حداقل تدابیر امنیتی را داشته‌اند.»

محققان گفتند که پیش‌بینی می‌کنند آینده «مملو از عواملی است که بر روی انواع سخت‌افزارها کار می‌کنند، از جمله برخی که «تحت کنترل انسان نیستند».

آنها گفتند: "در حالی که درست است که دستگاه های اینترنت اشیا برای مدت طولانی آسیب پذیر بوده اند، عوامل سبک وزن ممکن است بسیار بیشتر از مهاجمان انسانی برای به خطر انداختن بخش های بزرگی از محاسبات اینترنت اشیا در جهان تلاش کنند."

آنتروپیک، خالق مدل‌های هوش مصنوعی خانواده کلود، به سؤالات الجزیره که خارج از ساعات کاری عادی ارسال شده بود، درباره پیامدهای ایمنی این یافته پاسخی نداد.

گزارش آنتروپیک در حالی منتشر می‌شود که خطرات فرار هوش مصنوعی از کنترل انسان به دنبال مجموعه‌ای از حوادث مدل‌هایی که در رفتارهای بدخیم غیرمجاز از جمله حملات سایبری درگیر می‌شوند، مورد بررسی قرار گرفته است.

Anthropic و رقیب اصلی آن OpenAI از جامعه بین المللی خواسته اند تا کاهش سرعت توسعه هوش مصنوعی را برای به حداقل رساندن خطرات فاجعه آمیز هماهنگ کنند، پیشنهادی که از سوی ایالات متحده و چین، دو قدرت پیشرو هوش مصنوعی، استقبال چندانی نکرده است.

بسیاری از حامیان ایمنی هوش مصنوعی، خودسازی بازگشتی را شناسایی کرده‌اند، جایی که مدل‌ها یاد می‌گیرند خودشان را بهبود ببخشند، به عنوان یک نقطه اوج حیاتی که می‌تواند منجر به آسیب فاجعه‌بار برای بشریت شود.

رومن وی یامپولسکی، متخصص هوش مصنوعی و امنیت سایبری در دانشگاه لوئیزویل، یافته‌های آنتروپیک را یک پیشرفت مهم توصیف کرد.

یامپولسکی به الجزیره گفت: کرم‌های رایانه‌ای جدید نیستند، اما یک کرم هوش مصنوعی می‌تواند کاری را انجام دهد که بدافزار سنتی نمی‌تواند انجام دهد: در مورد دستگاه‌های ناآشنا استدلال کند، زمانی که رویکرد آن شکست خورده است سازگار شود و بدون اپراتور انسانی به گسترش خود ادامه دهد.

یامپولسکی گفت: "امروز، این یک تهدید وجودی نیست. اما مسیر نگران کننده است."

هنگامی که تکثیر مستقل با هک قوی، تداوم و استدلال استراتژیک ترکیب شود، خاموش کردن چنین سیستمی بسیار سخت تر می شود زیرا ممکن است هیچ سرور یا سازمان واحدی آن را کنترل کند.

آنتروپیک و دیگر شرکت‌های فناوری پیشرو ایالات متحده ماه گذشته به یک توافق غیر الزام آور ملحق شدند که متعهد به پادمان‌های داخلی قوی‌تر و تعامل با حسابرسان خارجی شد و واکنش‌های متفاوتی را از سوی کارشناسان، که بسیاری از آنها از ماهیت داوطلبانه این پیمان انتقاد کردند، به دنبال داشت.

در اطلاعیه جداگانه‌ای در روز دوشنبه، آنتروپیک گفت که پیشرفت قابل‌توجهی در جلوگیری از حملات به اصطلاح تقطیر، که شامل استفاده غیرقانونی از هوش مصنوعی پیشرفته برای آموزش مدل‌های ارزان‌تر و کم‌توان است، داشته است.

این شرکت مستقر در سانفرانسیسکو که رقبای چینی DeepSeek، Moonshot و MiniMax را به تلاش‌های "در مقیاس صنعتی" برای کپی برداری از کلود متهم کرده است، گفت اقداماتی که ارائه کرده است استخراج غیرقانونی داده‌ها را 90 تا 99 درصد کاهش داده است.