هوش مصنوعی خود تکرار: آیا یخچال شما یک خطر امنیت سایبری است؟

در اتاق نشیمن، یک ربات جاروبرقی به جلو و عقب حرکت می کند، چراغ ها توسط دستیارهای صوتی کم می شوند، گرمایش از طریق تلفن هوشمند کنترل می شود و تلویزیون برای دسترسی به سرویس پخش مورد علاقه به اینترنت متصل می شود. اینها همه نمونه هایی از «اینترنت اشیا» هستند که در آن دستگاه های الکترونیکی متصل داده ها را مبادله می کنند و با یکدیگر ارتباط برقرار می کنند.

بر اساس تحقیقات بازار اخیر توسط انجمن صنعتی Bitkom، حدود نیمی از خانواده‌ها در آلمان از چنین برنامه‌های «خانه هوشمند» یا مشابهی استفاده می‌کنند - و این رقم در حال افزایش است.

اکنون، شرکت هوش مصنوعی Anthropic گزارشی منتشر کرده است که هشدار می دهد بدافزار مجهز به هوش مصنوعی می تواند به زودی به دستگاه های خانگی متصل شده نفوذ کند، خود را در دستگاه های دیگر کپی کند و در آنجا فعال شود.

ویروس‌های کامپیوتری که خود را از یک ماشین به ماشین دیگر کپی می‌کنند دهه‌هاست که وجود دارند. آنها همچنین به عنوان کرم شناخته می شوند و دنباله ای از دستورالعمل های از پیش تعریف شده را دنبال می کنند. آنها از آسیب پذیری های امنیتی شناخته شده یا نقاط دسترسی ضعیف محافظت شده سوء استفاده می کنند. با این حال، هنگامی که آسیب‌پذیری‌ها وصله می‌شوند یا بردارهای حمله مناسب دیگر در دسترس نیستند، یک کرم دیگر نمی‌تواند به این راحتی گسترش یابد.

با این حال، کرم‌های هوش مصنوعی بسیار پیچیده‌تر و به طور بالقوه بسیار مضرتر خواهند بود. آنها می توانند مشکلات را به طور مستقل حل کنند و با دستگاه های مختلف سازگار شوند، به عنوان مثال با یک سیستم عامل متفاوت یا حافظه محدود. آنها همچنین ممکن است خودشان بفهمند که چگونه روی دستگاه‌های دیگر کار کنند یا به‌روزرسانی‌های امنیتی جدید را شناسایی و دور بزنند

برای مشاهده این ویدیو لطفا جاوا اسکریپت را فعال کنید و به مرورگر وب که از ویدیوی HTML5 پشتیبانی می کند ارتقا دهید.

محققان Anthropic بررسی کردند که آیا مدل‌های هوش مصنوعی می‌توانند روی سخت‌افزار نسبتا ارزان نیز اجرا شوند. در آزمایشی، آنها یک مدل هوش مصنوعی را بین 15 جعبه تلویزیون اندرویدی ارزان قیمت توزیع کردند که هر دستگاه بخشی از محاسبات را انجام می داد. این نشان داد که برخی از برنامه های کاربردی هوش مصنوعی می توانند بدون یک مرکز داده بزرگ اجرا شوند.

در یک محیط آزمایش کنترل‌شده، محققان هشت دستگاه اندرویدی شبیه‌سازی‌شده اضافی را راه‌اندازی کردند. مدل هوش مصنوعی توانست به یکی از آنها نفوذ کند، خودش را تکرار کند و دستگاه های دیگر را آلوده کند. در چهار مورد از پنج تلاش، به هر هشت دستگاه هدف رسید. در تلاش باقی مانده، به هفت مورد از هشت رسید.

اگر به بدافزار مجهز شود، چنین مدل هوش مصنوعی می تواند به طور بالقوه نسبتا سریع با محیط های ناشناخته قبلی سازگار شود و فرآیندها و عملیات را مختل کند. می تواند یاد بگیرد که به جای استفاده از یک آسیب پذیری، اقدامات امنیتی مختلف را دور بزند. به گفته توسعه دهندگان آنتروپیک، این نوع کرم هوش مصنوعی می تواند تقریبا یک تا دو روز طول بکشد تا خود را بر روی یک دستگاه جدید و قبلا ناشناخته مستقر کند.

یکی از احتمالات نگران کننده این است که هوش مصنوعی می تواند دستگاه های آلوده را به یک بات نت بزرگ مرتبط کند. یک دستگاه آلوده تنها قدرت محاسباتی محدودی دارد، اما هرچه دستگاه‌های بیشتری در معرض خطر قرار گیرند، کرم هوش مصنوعی سریع‌تر پخش می‌شود. این بدافزار دیگر به سرور مرکزی که به سادگی می تواند خاموش شود، وابسته نخواهد بود.

همچنین ممکن است به طور مداوم در حین گسترش آن یاد بگیرد. می توان تصور کرد که می تواند به انواع مختلف دستگاه های الکترونیکی که همگی نرم افزارهای متفاوتی را اجرا می کنند، بپرد.

دستگاه‌های آلوده می‌توانند از شبکه جدا شوند و آسیب‌پذیری‌های امنیتی همچنان قابل اصلاح هستند. با این حال، ساختار غیرمتمرکز بدافزار، مهار آن را دشوار می کند. خود آنتروپیک این توسعه بالقوه را با یک قالب دیجیتالی که به آرامی در حال گسترش است مقایسه می کند.

محققان در Anthropic عمدا دسترسی به دستگاه‌های آزمایشی را بسیار آسان کردند و از پادمان‌های دیجیتالی عمده کنار گذاشتند. با این حال، این شرکت معتقد است که مدل‌های کوچک‌تر هوش مصنوعی می‌توانند در اواخر سال جاری به سطح لازم از توانایی برای گسترش در دنیای واقعی برسند.

عواقب احتمالی حملات سایبری به سیستم های کنترل متصل قبلا در یک حادثه در فرانسه دیده شده است. در طول شب تا دوشنبه، مهاجمان در سیستم های تبرید و فریزر در بسیاری از سوپرمارکت ها دستکاری کردند. دما در واحدهای آسیب دیده تا 50 درجه سانتیگراد افزایش یافت. غذا فاسد شد و برخی حوادث نیز شامل آتش سوزی و آسیب فنی شد.

آژانس امنیت سایبری فرانسه، CERT-FR، در ابتدا تایید کرد که سیستم های کنترل از راه دور ساخته شده توسط سازنده دانمارکی Danfoss به خطر افتاده است. این هشدار بعدا به سیستم های ساخته شده توسط سایر سازندگان نیز تعمیم یافت. تحقیقات درباره شرایط این حمله ادامه دارد.

سوپرمارکت های مدرن از کنترلرهای دیجیتال برای نظارت و تنظیم سیستم های تبرید استفاده می کنند. شرکت های تعمیر و نگهداری می توانند از راه دور به این سیستم ها دسترسی داشته باشند، به عنوان مثال برای بررسی دما. با این حال، برخی از نرم افزارهای امنیتی منسوخ شده بودند و مهاجمان ممکن است از آن به عنوان نقطه ورود برای حمله سایبری خود استفاده کرده باشند.

هنوز مشخص نیست که چه کسی پشت حملات در فرانسه بود و انگیزه آنها چه بود. همچنین تاکنون هیچ مدرکی مبنی بر استفاده از کرم هوش مصنوعی در حملات به سیستم‌های تبرید فرانسوی وجود ندارد. با این حال، آخرین تحقیقات Anthropic نشان می‌دهد که تا چه حد هوش مصنوعی می‌تواند توسعه بدافزار را تسهیل کند و به طور بالقوه حملات به دستگاه‌های متصل را با عواقب جدی و بدون نیاز به قدرت محاسباتی زیاد امکان‌پذیر کند.

آژانس امنیت سایبری فرانسه از ترس حملات بیشتر، به همه شرکت‌ها توصیه کرد دستگاه‌های متصل خود را به‌طور مرتب به‌روزرسانی کنند، وصله‌های امنیتی ضروری را نصب کنند و در صورت امکان دسترسی غیرضروری به اینترنت را به طور کامل غیرفعال کنند.

این مقاله در اصل به زبان آلمانی منتشر شده است.