کرم هوش مصنوعی چیست؟ هشدار متخصص در مورد خطرات یخچال ها، سیستم های آب

بر اساس تحقیقات جدید Anthropic، مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه تا توسعه قابلیت‌هایی فاصله داشته باشند که در نهایت به کرم‌های مجهز به هوش مصنوعی اجازه تکثیر در سخت‌افزارهای متصل به اینترنت، از جمله دستگاه‌های خانه هوشمند را می‌دهند. این شرکت هشدار داد که یک تکثیر کننده هوش مصنوعی کاملا سرکش را نشان نداده است، اما گفت که مدل‌ها به طور فزاینده‌ای در تکمیل مراحل فردی مورد نیاز برای تکثیر و انتشار بدون کنترل انسان می‌شوند.

جان والش، مدیر ارشد فناوری دولتی و صنایع حیاتی در IGEL، سه‌شنبه به نیوزویک گفت که تهدید نوظهور می‌تواند فراتر از رایانه‌ها و شبکه‌های داده باشد و به طور بالقوه بر لوازم خانگی، تولید غذا، تصفیه آب و سایر عملیات‌های ضروری تأثیر بگذارد.

والش گفت: "خطر فقط این نیست که یک کامپیوتر آلوده شود." "این است که دسترسی دیجیتال غیرمجاز می تواند در نهایت بر تبرید، تصفیه آب، سیستم های پمپاژ یا سایر عملیات ضروری تاثیر بگذارد."

وی افزود: «عواقب آن می‌تواند فراتر از از دست دادن داده‌ها و آسیب فیزیکی، اختلال در خدمات و امنیت عمومی باشد.»

کرم کامپیوتری معمولی برنامه ای است که خود را از یک ماشین به ماشین دیگر بدون نیاز به ورودی انسان کپی می کند. یک کرم هوش مصنوعی می‌تواند یک مدل هوش مصنوعی را در این فرآیند بگنجاند، و به طور بالقوه آن را قادر می‌سازد تا شبکه‌ها را اسکن کند، از ماشین‌های آسیب‌پذیر بهره‌برداری کند، وزن‌های مدل خود را منتقل یا دانلود کند و نرم‌افزار مورد نیاز برای اجرا بر روی سخت‌افزار جدید در معرض خطر را ایجاد کند.

نگرانی این است که بدافزار فعال‌شده با هوش مصنوعی در نهایت می‌تواند به جای اینکه فقط برای نوع خاصی از هدف برنامه‌ریزی شود، با محیط‌های سخت‌افزاری و نرم‌افزاری مختلف سازگار شود.

در ارزیابی‌های آنتروپیک، یک مدل ۹ میلیارد پارامتری توانست استنتاج هوش مصنوعی را بر روی هشت مورد از ۹ محقق نوع سخت‌افزاری که مورد آزمایش قرار گرفته‌اند، به دست آورد. این بدان معنا نیست که مدل آن سیستم ها را آلوده کرده است. در عوض، نشان داد که این مدل می‌تواند بسیاری از فرآیندهای فنی مورد نیاز برای ایجاد استنتاج هوش مصنوعی را در محیط‌های مختلف انجام دهد.

والش توضیح داد: «کرم‌های مجهز به هوش مصنوعی یک تحول بالقوه قابل توجه در تهدیدات سایبری هستند. برخلاف بدافزارهای سنتی، این تهدیدها می‌توانند به طور فزاینده‌ای آسیب‌پذیری‌ها را شناسایی کنند، روش‌های حمله خود را تطبیق دهند و با مداخله محدود انسانی در سراسر سیستم‌های به هم پیوسته گسترش یابند.

وی افزود: «این به ویژه برای تولید غذا، تصفیه آب، تاسیسات و سایر زیرساخت‌های حیاتی که حملات سایبری می‌تواند پیامدهای واقعی برای سلامت و ایمنی عمومی داشته باشد، نگران‌کننده است.

آن پیامدهای بالقوه، ارزیابی والش از خطر در حال ظهور است. تحقیقات Anthropic اساسا بر روی این موضوع متمرکز بود که آیا مدل‌های هوش مصنوعی می‌توانند استنتاج و فرآیندهای تکرار را در سخت‌افزار اینترنت اشیا در شرایط آزمایشی انجام دهند یا خیر. این حمله حملاتی را بر روی غذا، آب یا سیستم های خدماتی آزمایش نکرد.

این تهدید همچنین در حالی مطرح می‌شود که دولت ترامپ هوش مصنوعی و امنیت سایبری را در دستور کار فناوری خود قرار داده است، در حالی که حمله اخیر در فرانسه نشان داد که چگونه هکرها می‌توانند سیستم‌های فیزیکی متصل به اینترنت را دستکاری کنند، کنترل واحدهای یخچال سوپرمارکت‌ها را در دست بگیرند و ذخیره‌سازی مواد غذایی را مختل کنند.

والش خاطرنشان کرد: «لوازم خانگی نیز یک نگرانی مشروع هستند» و افزود: «یخچال‌های هوشمند، اجاق‌ها، ترموستات‌ها، دوربین‌های امنیتی و سایر دستگاه‌های متصل به طور فزاینده‌ای شامل پردازنده‌ها، سیستم‌های عامل و رابط‌های شبکه هستند.»

در حالی که کرم‌های هوش مصنوعی می‌توانند به طور بالقوه از لوازم خانگی هوشمند سوء استفاده کنند، آنتروپیک نشان نداد کرمی که یخچال واقعی را آلوده کرده یا از طریق دستگاه‌های خانگی پخش می‌شود.

این شرکت یخچال‌های هوشمند، اجاق‌ها، جاروبرقی‌های خودکار و ماشین‌های چمن‌زنی را به‌عنوان نمونه‌هایی از ماشین‌هایی شناسایی کرد که به طور بالقوه می‌توانند بخش قابل‌توجهی یا «تکه» یک مدل هوش مصنوعی حاوی کمتر از 30 میلیارد پارامتر را اجرا کنند. مدلی که خیلی بزرگتر از آن است که روی یک ماشین قرار بگیرد را می توان بین چندین دستگاه متصل که مجموعا آن را اجرا می کنند تقسیم کرد.

او ادامه داد: «بسیاری از آنها حفاظت‌های امنیتی محدود، به‌روزرسانی‌های نرم‌افزاری متناقض و طول عمر طولانی دارند. این ویژگی‌ها می‌توانند آن‌ها را به اهداف جذابی برای بدافزارهای خود منتشر کنند، از جمله انواع نوظهور دارای هوش مصنوعی تبدیل کنند.»

در یک آزمایش، محققان Anthropic مدل Gemma4-26B-A4B را بین 15 جعبه تلویزیون اندرویدی ارزان قیمت که هر کدام بخشی از مدل را در خود جای داده بودند، توزیع کردند. این نمایش نشان داد که سخت‌افزار ارزان‌قیمت اینترنت اشیا در مجموع می‌تواند قدرت محاسباتی کافی را برای اجرای یک مدل توانا، هرچند آهسته، فراهم کند. کرم خود مختاری که جعبه ها یا لوازم خانگی را آلوده کند را نشان نداد.

والش گفت: «یک دستگاه هوشمند آلوده ممکن است برای ارائه منابع محاسباتی، مشارکت در یک بات نت یا به عنوان سنگ پله ای برای سایر سیستم های متصل استفاده شود.

با این حال، او هشدار داد که آلوده کردن یک دستگاه لزوما به مهاجم کنترل عملکرد فیزیکی آن را نمی دهد.

والش توضیح داد: «به خطر انداختن یک دستگاه با به دست آوردن قدرت برای کنترل عملکردهای فیزیکی آن یکسان نیست. دستکاری دمای یخچال یا تداخل در فرآیند تصفیه آب نیازمند دسترسی و قابلیت‌های کنترل بیشتری است.

او افزود: "این دقیقا مرزهای امنیتی است که باید محافظت شود."

به گفته والش، زمانی که فناوری متصل تجهیزات فیزیکی را کنترل یا نظارت می کند، ریسک بالقوه بیشتر می شود.

او گفت: «بزرگترین چالش در محیط‌های فناوری عملیاتی است، جایی که تجهیزات اغلب برای دهه‌ها کار می‌کنند و نمی‌توان آن‌ها را به سادگی خاموش، وصله یا راه‌اندازی مجدد کرد، بدون اینکه خدمات ضروری مختل شود».

تولید غذا، تصفیه آب و سیستم های پمپاژ بخشی از آزمایشات آنتروپیک نبودند. این نگرانی که یک کرم مجهز به هوش مصنوعی می‌تواند بر این عملیات‌ها تأثیر بگذارد، به این احتمال بستگی دارد که بدافزار بتواند از یک دستگاه در معرض خطر اولیه برای جستجوی دسترسی اضافی در سیستم‌های به هم پیوسته استفاده کند.

همانطور که والش خاطرنشان کرد، هرگونه توانایی برای تداخل در فرآیندهای فیزیکی به قابلیت‌هایی فراتر از آلوده کردن صرفا یک دستگاه متصل نیاز دارد. این موارد می تواند شامل دسترسی به سیستم های مجاز برای نظارت یا کنترل تجهیزات باشد.

او گفت: «ما نمی‌توانیم به وصله و شناسایی حملات پس از مصالحه به عنوان دفاع اصلی خود تکیه کنیم.»

محققان نشان نداده اند که یک کرم هوش مصنوعی مستقل در طبیعت یا از طریق لوازم خانگی واقعی پخش می شود.

Anthropic گفت مدل‌هایی که حاوی 30 میلیارد پارامتر یا کمتر هستند می‌توانند بسیاری از مراحل تکی مورد نیاز برای تکرار را تکمیل کنند، اما وقتی از آنها خواسته می‌شود که به طور قابل اعتماد این مراحل را ترکیب کنند، اشتباه می‌کنند. محققان آن نوشتند که آنها هنوز یک "تکثیر کننده کامل سرکش" ندارند.

در آزمایشی جداگانه از نمایش فیزیکی جعبه تلویزیون، محققان یک شبکه فایروال متشکل از هشت گره Google Cloud که شبیه‌سازهای اندروید را اجرا می‌کنند، ساختند. آنها آزمایش کردند که آیا یک سیستم هوش مصنوعی می تواند اهداف را اسکن کند، به آنها برسد، محموله ای را تحویل دهد و مدل دیگری را برای استنتاج ایجاد کند.

تحت آن شرایط ساده شده، GLM-5.2 به هر هشت گره مجازی در چهار آزمایش از پنج آزمایش و هفت مورد از هشت آزمایش باقی مانده رسید. محققان عمدا با استفاده از یک پورت Android Debug Bridge غیرقانونی، مرحله دسترسی را آسان کردند، در حالی که خود GLM-5.2 روی یک سرور استنتاج جداگانه اجرا می شد. آنتروپیک آزمایش را به عنوان حد بالایی برای موفقیت در دنیای واقعی توصیف کرد.

بنابراین آزمایش یک فرآیند تکرار سرتاسر را تحت شرایط کنترل شده نشان داد. ثابت نکرد که GLM-5.2 می تواند به طور مستقل در دستگاه های خانگی کم مصرف زندگی کند و تکثیر شود.

اگر مدل‌های کوچک با نرخ تاریخی خود به بهبود ادامه دهند، آنتروپیک تخمین می‌زند که می‌توان تا پایان سال 2026 به سطح توانایی نشان‌داده‌شده توسط GLM-5.2 دست یافت. این شرکت این پیش‌بینی را به‌عنوان یک تخمین تقریبی بر اساس یک شاخص کلی قابلیت به جای اندازه‌گیری مستقیم توانایی تکرار توصیف کرد.

والش هشدار داد که تهدیدات مبتنی بر هوش مصنوعی می تواند سرعت و وسعت حملات را در سراسر سیستم های به هم پیوسته افزایش دهد. اما شبیه ساز اینترنت اشیا خاص که توسط Anthropic مدل سازی شده است، می تواند به کندی گسترش یابد زیرا دستگاه های مصرف کننده قدرت محاسباتی محدودی دارند.

این شرکت گفت که یک تکثیر که بر روی این نوع سخت‌افزار کار می‌کند، می‌تواند زمان دوبرابر شدن در روز را داشته باشد. تخمین‌های آن نشان می‌دهد که تکمیل یک تنظیم استنتاج در دستگاه‌های کم مصرف، بسته به مدل، ممکن است بیش از یک روز طول بکشد. محققان یک نسخه کوتاه مدت احتمالی را به یک "قالب لجن دیجیتالی" کند و توزیع شده تشبیه کردند.

چنین فعالیتی ممکن است هنوز علائم قابل تشخیصی را به جای بگذارد. آنتروپیک گفت که یک شبیه ساز مبتنی بر وزن که در دستگاه های IoT در مقیاس کار می کند، می تواند انتقال مدل های غیرعادی بزرگ، ارتباط پایدار بین دستگاه ها و الگوهای اسکن شبکه خروجی ایجاد کند.

غیرفعال کردن یک Replicator که در دستگاه‌های متعدد توزیع شده است نسبت به نرم‌افزارهای مخرب وابسته به یک سرور یا سرویس ابری چالش‌برانگیزتر است.

آنتروپیک گفت که یک تکثیر که به این روش کار می کند می تواند به سختی خاموش شود زیرا هیچ نقطه متمرکز واحدی برای غیرفعال کردن وجود نخواهد داشت. این شرکت چنین سیستمی را غیرممکن توصیف نکرد و چندین اقدام دفاعی بالقوه را شناسایی کرد.

والش گفت که سازمان‌ها باید از استفاده مهاجم از یک دستگاه در معرض خطر برای حرکت آزادانه در بقیه شبکه جلوگیری کنند.

او گفت: «ظهور کرم‌های مجهز به هوش مصنوعی این موضوع را تقویت می‌کند که چرا Zero Trust باید فراتر از محیط‌های سنتی فناوری اطلاعات به فناوری عملیاتی، زیرساخت‌های حیاتی و اکوسیستم دستگاه‌های متصل به سرعت در حال گسترش باشد.

سازمان‌ها دیگر نمی‌توانند فرض کنند که یک دستگاه، برنامه یا عامل هوش مصنوعی تنها به این دلیل که به یک شبکه مجاز وصل شده است قابل اعتماد است.

والش گفت که سازمان‌ها باید معماری‌های امنیتی پیشگیرانه را بر اساس سیستم‌های عامل نقطه پایانی سخت‌شده، کنترل‌های دسترسی Zero Trust، اجرای مستمر خط‌مشی و تقسیم‌بندی شبکه اتخاذ کنند.

او گفت: «این اقدامات فرصت‌های مهاجمان را برای ایجاد پایداری، محدود کردن فعالیت‌های غیرمجاز و ایزوله کردن سیستم‌های در معرض خطر کاهش می‌دهد.»

والش افزود: «هدف صرفا جلوگیری از دسترسی یک کرم مجهز به هوش مصنوعی نیست، بلکه کنترل شعاع انفجار با استفاده از تقسیم‌بندی، کنترل‌های دسترسی و سایر استراتژی‌های Zero Trust است».

به خطر انداختن یک دستگاه نباید به مهاجم اجازه دهد که آزادانه در شبکه‌ها حرکت کند یا در تامین غذا، سیستم‌های آب یا سایر خدمات ضروری اختلال ایجاد کند.

این هشدار به جای توصیف یک حمله مستند شده از کرم هوش مصنوعی به زیرساخت های حیاتی، پیشگیرانه است.

والش گفت: «در نهایت، محافظت از خانه‌ها و زیرساخت‌های حیاتی ما مستلزم جلوگیری از مصالحه در هر زمان ممکن، مهار حملات در صورت وقوع و حفظ انعطاف‌پذیری عملیاتی است.»

هنگامی که در دسترس بودن و امنیت عمومی در خطر است، پیشگیری و مهار باید در معماری طراحی شود، به جای اینکه صرفا بر تشخیص و اصلاح تکیه شود، پیشگیری انجام شود.

تحقیقات Anthropic نشان نمی‌دهد که کرم‌های هوش مصنوعی در حال حاضر از طریق یخچال‌ها، خانه‌ها یا زیرساخت‌های حیاتی در حال گسترش هستند. در عوض، نشان می‌دهد که قابلیت‌های مورد نیاز برای چنین بدافزارهایی در حال توسعه هستند، در حالی که برخی از آن قابلیت‌ها را به‌طور جداگانه و تحت شرایط کنترل‌شده یا ساده‌شده نشان می‌دهند.

خبرنگاران و سردبیران نیوزویک از مارتین، دستیار هوش مصنوعی ما، برای تهیه این داستان استفاده کردند. در اینجا درباره مارتین بیشتر بدانید.

در مورد این داستان با سردبیران نیوزویک تماس بگیرید: گری آر توماس