آنتروپیک هشدار می‌دهد که مدل‌های کوچک هوش مصنوعی می‌توانند از طریق دستگاه‌های اینترنت اشیاء خود تکرار شوند
«تکثیرگرهای کوچک مبتنی بر وزن» می‌توانند نسل جدیدی از کرم‌های رایانه‌ای را به وجود آورند.
شرکت هوش مصنوعی Anthropic هشدار می دهد که پیشرفت در مدل های کوچک هوش مصنوعی می تواند به زودی دوره جدیدی از بدافزارهای خود-تکثیر شونده را آغاز کند که می تواند یخچال های هوشمند، جاروبرقی ها و طیف گسترده ای از سایر دستگاه های اینترنت اشیاء را آلوده کند و در برابر حذف مقاوم تر است.
به گفته این شرکت، تا سال آینده، مدل‌های کوچک‌تر هوش مصنوعی ممکن است بتوانند به‌طور خودکار روی انواع دستگاه‌های اینترنت اشیا تکثیر شوند. در نهایت، این قابلیت می‌تواند کرم‌های رایانه‌ای را فعال کند که بدون نیاز به تعامل انسانی منتشر می‌شوند و می‌توانند دستگاه‌های اینترنت اشیا ناآشنا را آلوده کنند. آزمایشی که این شرکت اخیرا انجام داد، چالش‌های مهمی را در به ثمر رساندن چنین بدافزاری مشابه هوش مصنوعی نشان داد، بنابراین این یافته لزوما تعدیل می‌شود. با این حال، نتایج نگرانی‌هایی را در مورد امکان شکل‌های جدیدی از کرم‌های کامپیوتری ایجاد می‌کند.
چالشی برای تعطیل کردن
Anthropic علاوه بر این هشدار داد که نه تنها در مورد بدافزار جدید بالقوه، بلکه همچنین می تواند متوقف کردن آن دشوار باشد. در پست وبلاگ خود، نوشت که «تعطیلی مانند این برای خاموش شدن چالش برانگیز خواهد بود، زیرا هیچ نقطه متمرکزی برای خاموش کردن وجود ندارد – اگرچه ممکن است کند باشد (با دو برابر شدن زمان روز).
مقاله کامل را بخوانید
نظرات
متن اصلی (انگلیسی)
Anthropic warns small AI models could self-replicate through IoT devices
"Small weight-based replicators" could usher in a new generation of computer worms.