آنتروپیک هشدار می دهد که هوش مصنوعی به زودی از دستگاه های هوشمند مانند «قالب اسلایم دیجیتال» تغذیه می کند

دنیا پر از دستگاه های هوشمند است، ابزارهایی که می توانند به اینترنت متصل شوند و داده ها را بین یکدیگر انتقال دهند. گوشی‌های هوشمند، بلندگوهای هوشمند، تلویزیون‌های هوشمند، یخچال‌های هوشمند، حلقه‌های هوشمند، ساعت‌های هوشمند، لرزاننده‌های هوشمند (نه شوخی)، ترموستات‌های هوشمند، اجاق‌های هوشمند، میزهای هوشمند، جعبه‌های زباله هوشمند، توسترهای هوشمند، ماشین‌های لباسشویی هوشمند و غیره وجود دارند.

به زودی، به اصطلاح «اینترنت اشیا» (IoT) که همه این محصولات مصرفی بخشی از آن هستند، می‌تواند میزبان یک ویروس هوش مصنوعی شود که از دستگاهی به دستگاه دیگر مانند قالب لجنی که در یک ظرف پتری استعمار می‌کند، پخش می‌شود.

این بر اساس تحقیقات جدید Anthropic است که نشان می دهد چنین سیستم هوش مصنوعی می تواند تنها چند ماه دیگر باقی بماند. به یاد داشته باشید، آزمایش‌هایی که بر اساس آن تحقیق انجام شد، تا آنجا که حفاظت از امنیت سایبری انجام شد، بسیار سست بودند، و آنتروپیک در واقع یک «قالب لجن دیجیتالی» کاملا مستقل ایجاد نکرد، همانطور که در یک پست وبلاگ شرکت به طرز جذابی توضیح داده شد.

اما این تحقیق به ترس دیرینه‌ای در جامعه امنیت سایبری مبنی بر اینکه سیستم‌های هوش مصنوعی در نهایت می‌توانند از کنترل انسان فرار کنند و دستگاه‌های مصرف‌کننده را ربوده و آنها را به یک باتری غول‌پیکر توزیع‌شده تبدیل کند که خاموش کردن آن دشوار است، نشان می‌دهد. در اوایل سال جاری، تیمی از دانشگاهیان از یک LLM منبع باز ناشناس برای ایجاد یک کرم مبتنی بر هوش مصنوعی استفاده کردند که می‌توانست از آسیب‌پذیری‌های سایبری رایج، مانند رمزهای عبور استفاده مجدد، برای پخش در شبکه‌ای از دستگاه‌های لینوکس، ویندوز و اینترنت اشیا استفاده کند.

به گفته آنتروپیک، محتمل‌ترین سناریو یک مدل کوچکتر است - مدلی با 30 میلیارد پارامتر یا کمتر - که با آلوده کردن دستگاه‌های میزبانی که قدرت محاسباتی خود را تولید می‌کنند به جای مهار آن از ابر، خود تکرار می‌شود. محاسبات لبه اصطلاح فنی است.

این شرکت می‌نویسد: «دستگاه‌های اینترنت اشیاء خانگی و مشاغل کوچک ممکن است اولین هدف برای چنین حملاتی باشند، زیرا به اینترنت متصل هستند و از نظر تاریخی، حداقل اقدامات امنیتی را در کار خود داشتند.

به گفته آنتروپیک، GLM-5.2، یک مدل وزن باز با صدها میلیارد پارامتر از توسعه دهنده چینی Z.ai، در حال حاضر "قابلیت تکرار از انتها به انتها" را دارد. اگر مدل‌های کوچک با نرخ تاریخی خود بهبود پیدا کنند، تا پایان سال جاری به این سطح توانایی خواهند رسید.» در محافل هوش مصنوعی، این فرآیند به عنوان تکثیر و سازگاری مستقل یا ARA شناخته می شود.

با این حال، محققان خاطرنشان می‌کنند که مدل‌های آزمایش اخیر مزیت قابل‌توجهی داشتند: فرآیند استنتاج و شکستن موانع امنیت سایبری برای آنها انجام شد. به گفته آنتروپیک، آزمایش دیگری نیز یک مرحله بهره برداری از امنیت سایبری «بی اهمیت» داشت که به آن «محدوده بالایی برای موفقیت در دنیای واقعی» می داد. این میانبرها، مارکو فیگوئروآ، محقق امنیت سایبری و رهبر برنامه جایزه باگ موزیلا را بر آن داشت تا آنتروپیک را متهم کند که جدیت یافته‌هایش را بیش از حد تحت تأثیر قرار داده است.

او روز دوشنبه در پست ایکس نوشت: «ایمنی هوش مصنوعی مستحق علم دقیق است، نه ترس از بازاریابی مبتنی بر ایجاد یک پیشرفت.

آنتروپیک در واقع پست وبلاگ خود را به پایان می رساند و اذعان می کند که تهدید یک «تکثیر کننده کامل سرکش» - یک سیستم هوش مصنوعی که قادر به پخش مستقل، قالب مانند، در سراسر دستگاه های هوشمند متصل به هم است - در حال حاضر کاملا تئوری است. اما همانطور که اغلب در میان آزمایشگاه‌های هوش مصنوعی مرزی اتفاق می‌افتد که به دنیا درباره خطرات فناوری‌هایی که به شدت در حال ساختن آن هستند هشدار می‌دهند، آنتروپیک افزایش هوش مصنوعی خود را یک امر اجتناب‌ناپذیر می‌داند.

این شرکت می‌نویسد: «ما باید سیستم‌های خود را سخت‌تر کنیم تا گسترش چنین تکثیرکننده‌هایی را دشوار کنیم، اما همچنین آماده مقابله با دنیایی باشیم که در آن اینجا هستند تا بمانند.»