مدل های هوش مصنوعی ممکن است به زودی بدون دسترسی به مراکز داده، خود را تکرار کنند: Anthropic

Anthropic دریافت که GLM-5.2 و مدل های قوی تر قادر به تکرار سرتاسر هستند.

سان فرانسیسکو - آنتروپیک در 12 اکتبر گفت که آزمایش‌هایش نشان می‌دهد که مدل‌های کوچک هوش مصنوعی ممکن است ماه‌ها تا توانایی کافی برای تکثیر خود در دستگاه‌های تجاری اینترنت اشیا (IoT) مانند اجاق‌های هوشمند و جعبه‌های تلویزیون اندرویدی بی‌نام تجاری فاصله داشته باشند.

آنتروپیک در آزمایش‌های خود به بررسی این موضوع پرداخت که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را در آن دستگاه‌ها کپی کنند و بدون کمک انسان به گسترش خود ادامه دهند.

این نشان داد که مدل های کوچک زیر 30 میلیارد پارامتر می توانند بسیاری از مراحل مورد نیاز برای تکرار را تکمیل کنند.

با این حال، این شرکت متوجه شد که چنین مدل‌هایی با هوش مصنوعی نیز برای تکمیل کل دنباله از ابتدا تا انتها مشکل داشتند.

در آزمایش‌های ساده‌شده‌اش، جایی که برخی از مراحل امنیتی حذف شدند، آنتروپیک دریافت که GLM-5.2 و مدل‌های قوی‌تر قادر به تکرار سرتاسری هستند.

آنتروپیک هشدار داد که خاموش کردن مدل‌های تکراری دشوار است زیرا هیچ نقطه خاموشی مرکزی وجود ندارد و برخلاف بدافزارهای غیر AI، آنها می‌توانند دستگاه‌های ناآشنا را نیز به تنهایی کشف کنند و پردازنده‌های مرکز داده را هدف قرار دهند.

این شرکت در تحقیقات خود بر روی دستگاه‌های IoT مانند تلویزیون‌های اندروید، لوازم هوشمند و سایر ابزارهای متصل به اینترنت تمرکز کرده است زیرا معمولا امنیت ضعیفی دارند.

این کارشناس ارشد هوش مصنوعی همچنین هشدار داد که اگر مدل‌های کوچک با سرعت تاریخی خود بهبود یابند، می‌توانند تا پایان سال 2026 به‌طور مستقل تکثیر شوند، و ماکت‌کننده‌های کوچک مبتنی بر وزن نیز به‌زودی از آن پیروی می‌کنند.

آنتروپیک همچنین گفت که چنین سیستم‌های هوش مصنوعی خودگردان احتمالا به کندی تکثیر می‌شوند و بر منابع محاسباتی نسبتا ناامن در دسترس هستند. این سازمان افزود که سیستم‌ها باید تقویت شوند تا انتشار چنین عوامل هوش مصنوعی دشوارتر شود. رویترز