تهاجم به بات نت خود-تکثیر شونده بدافزار

آیا تا به حال کامپیوترهای خانه خود را شمارش کرده اید؟ حالا آنها را حساب کنید. صبر میکنم شما احتمالا رایانه‌های رومیزی و لپ‌تاپ خود را نیز در نظر می‌گیرید، اگر تعدادی از آنها را دارید. شرط می بندم که گوشی های هوشمند و تبلت ها را نیز در نظر گرفته اید. بسته به تعداد خانواده شما، این ممکن است حداکثر به معنای 10 باشد. درسته؟

شمارش شما تقریبا به طور قطع اشتباه است. من کمتر از 170 کامپیوتر در خانه ام دارم. این به این دلیل است که خانه من، مانند تقریبا همه افراد، اکنون مملو از دستگاه هایی است که یک فرد معقول ممکن است حتی نداند رایانه هستند. مال من شامل بلندگوها و ترموستات ها، کلیدهای دیواری و دوشاخه های برق، قفل درها و دوربین ها، چاپگرها و تلویزیون ها، پنکه های سقفی و پرده های پنجره است. جاروبرقی ربات، ماشین چمن زنی و پاک کننده های استخر نیز وارد سیستم می شوند. برخی از یخچال‌ها، توسترها و ماشین‌های لباسشویی نیز همین‌طور هستند. و این فقط یک نمونه است.

این خانواده از ابزارهای هوشمند ظاهرا با هم، گاهی اوقات به عنوان «اینترنت اشیا» یا IoT شناخته می‌شوند. اگر چیزی دارید که از طریق یک برنامه با آن تعامل دارید، تقریبا مطمئنا آنلاین است و در پس‌زمینه صحبت می‌کند.

گجت‌های اینترنت اشیا همیشه ناامن بوده‌اند، هم از نظر طراحی (برای ساده‌سازی عملکرد یا اجازه دادن به آنها برای تماس تلفنی با یک سازنده) و هم از نظر عادت (زیرا افراد عادی مدیران شبکه نیستند که بتوانند آنها را ایمن کنند). اگر توسط سوء استفاده‌های شبکه، نفوذ رمز عبور پیش‌فرض، یا سایر آسیب‌پذیری‌های امنیتی در معرض خطر قرار گیرند، این دستگاه‌ها - این رایانه‌ها - می‌توانند توسط طرف‌های مخرب از هر کجای دنیا برای غلبه بر یک هدف با یک حمله انکار سرویس توزیع شده مهار شوند. انتقال ترافیک برای کلاهبرداری یا هک؛ برای جمع آوری داده ها برای فروش، استفاده، یا باج. یا گسترش بدافزارهایی که اینها و o را انجام می دهند

اعمال مخرب وجود دارد. خانه ها نیز تنها هدف نیستند. کسب و کارها نیز در معرض خطر هستند، زیرا بسیاری از عملیات آنها شامل ماشین آلاتی است که (احمقانه، اما قابل درک) به اینترنت متصل شده اند. همین هفته، هکرها به صدها سوپرمارکت فرانسوی حمله کردند و میلیون ها دلار مواد غذایی را با گرم کردن یخچال و فریزر از راه دور خراب کردند.

هیچ کدام از اینها جدید نیست. اما آنتروپیک، شرکت سازنده کلود، روز دوشنبه یک پست وبلاگی منتشر کرد و هشدار داد که هوش مصنوعی می‌تواند آسیب‌پذیری‌های اینترنت اشیا را بدتر کند. بدافزار معمولی از دستورالعمل هایی پیروی می کند که عاملان آن نوشته اند. این بدان معناست که معمولا برای سوء استفاده از یک آسیب‌پذیری خاص در یک دستگاه خاص (مثلا مانیتورهای کودک) طراحی شده است و سپس از آن آسیب‌پذیری برای اجرای نرم‌افزار مخربی استفاده می‌کند که کار خاصی را انجام می‌دهد، مانند ارسال ترافیک ناخواسته در یک حمله DDoS. هوش مصنوعی خطر جدیدی را معرفی می کند. بدافزار می تواند یک مدل هوش مصنوعی را روی بسیاری دیگر از دستگاه های مجاور نصب کند.

سپس یک برنامه خصمانه می تواند در واقع با آن هوش مصنوعی «چت» کند تا انواع جدیدی از اقدامات مخرب را انجام دهد. یک آزمایش Anthropic با موفقیت یک مدل هوش مصنوعی کوچک را روی 15 جعبه تلویزیون Android نصب کرد - نوع دستگاهی که تقریبا در هر خانه وجود دارد و داده‌ها را به طور مداوم به اینترنت و از اینترنت ارسال می‌کند، حتی زمانی که به نظر می‌رسد دستگاه خاموش است. هنگامی که مدل هوش مصنوعی ایجاد شد، برنامه‌های بدافزار با دسترسی می‌توانند از آن برای کمک به نرم‌افزار مخرب برای دسترسی به دستگاه‌های بیشتری استفاده کنند، کاری که بهره‌برداری‌های معمولی اینترنت اشیا نمی‌توانند انجام دهند. این می تواند به گسترش سریع تر و موثرتر بدافزار کمک کند.

[ پیتر ونر: اگر هوش مصنوعی پایان دنیا باشد چه؟ ]

ایده یک بات نت هوش مصنوعی خود-تکثیر شونده بسیار وحشتناک به نظر می رسد، به ویژه با توجه به نسخه هایی از این ایده که فلسفه و داستان های علمی تخیلی تصور کرده اند: مامور اسمیت در حال کپی برداری از خود بر روی افراد دیگر در ماتریکس، ازدحام تکاملی ماشین های خودمختار در استانیسلاو لو در The Invincible، Nick Bostrom آن را تصور می کند که ماشین شکست ناپذیر است. زندگی انسان را در مسیر خاموش می کند. نگرانی های اخیر در مورد یک آخرالزمان فرضی قریب الوقوع ناشی از هوش مصنوعی، مطمئنا گوش مردم را برای نگرانی در مورد هر نوع باروری وحشی هوش مصنوعی برانگیخته است.

نه فقط همه ما می میریم، بلکه انبوهی از توسترها و جاروبرقی ها عامل عذاب ما خواهند بود.

اما بدافزار اینترنت اشیاء مبتنی بر هوش مصنوعی به دلیل مخالف نگران کننده است: زیرا بسیار معمولی و پیش پا افتاده است. میلیون‌ها رایانه کوچک و متصل به اینترنت که عوامل مخرب ممکن است از آنها سوء استفاده کنند، حداقل تا حدودی انعطاف‌پذیر باقی مانده‌اند، زیرا این مهاجمان معمولا باید آنها را به صراحت هدف قرار دهند. تغییرات خارجی، مانند به روز رسانی سیستم عامل و تغییرات شبکه، می تواند تهدیدات را محدود یا حذف کند. با این حال، اگر بدافزار به معادل تقریبی یک ChatGPT کوچک دسترسی داشته باشد، ممکن است بتواند حملات قبلی دشوار یا غیراقتصادی را به تازگی ممکن کند.

در پست وبلاگ، Anthropic اشاره می کند که دستگاه های جدیدتر با تراشه های هوش مصنوعی داخلی، مانند واحدهای ویدئو کنفرانس و دوربین های امنیتی، ممکن است به اهداف جذابی تبدیل شوند، زیرا سخت افزار آنها اجرای یک مدل هوش مصنوعی متخاصم را آسان تر می کند. فراتر از این نشانه‌های آشکار، رایانه‌هایی که قبلا هدف‌گذاری سختی داشتند و کم‌ارزش بودند - از جمله تلویزیون‌های مقرون به صرفه، قاب‌های عکس دیجیتال، لوازم هوشمند یا دستگاه‌های قدیمی‌تر بلااستفاده مانده اما همچنان به شبکه متصل هستند - ممکن است به تازگی قابل نفوذ باشند.

عواقب بدافزار شتاب‌دهی شده با هوش مصنوعی کم و بیش مانند بدافزارهای معمولی است که به احتمال زیاد در حال حاضر بدون اطلاع شما در شبکه خانگی شما اجرا می‌شوند. به‌جای سرقت عکس‌های صمیمی یا حذف حساب بانکی‌تان، بیشتر ترافیک را به شبکه‌های دیگر ارسال می‌کند، تلفن‌ها را با داده‌هایی برای جمع‌آوری و فروش به خانه می‌فرستد، یا ترافیک را برای فعالیت‌های مشکوک هدایت می‌کند تا از شناسایی جلوگیری کند.

این خطر می تواند گسترش یابد اگر گسترش به کمک هوش مصنوعی که Anthropic پیش بینی می کند محقق شود - تعداد بیشتری از دستگاه های آلوده که اختلالات بیشتری ایجاد می کنند و فعالیت های مجرمانه و بهره برداری هدفمند را تسهیل می کنند.

بات‌نت هوش مصنوعی خود تکراری، نوع جدیدی از تهدید را ایجاد نمی‌کند – حداقل در حال حاضر. اما گاهی اوقات افزایش کمی در مواجهه با ریسک می تواند تغییر کیفی در پیامد آن ریسک ایجاد کند. به عنوان مثال مقاومت آنتی بیوتیکی یا آتش سوزی را در نظر بگیرید. هنگامی که یک منظره مواد خشک شده بیشتری را جمع آوری می کند که می تواند آتش سوزی را تحریک کند، همان تعداد اشتعال موفقیت آمیز می تواند بسیار سریعتر و گسترده تر گسترش یابد.

تغییرات آب و هوایی، گسترش انسان به مناطق وحشی، و هجوم گونه های مهاجم، از جمله عوامل دیگر، هم شانس آتش سوزی و هم پیامدهای آن را افزایش داده است. قرار گرفتن در معرض خطر آتش سوزی بسیار بیشتر از حضور ساده کیندلینگ اضافی می شود. هجوم نرم‌افزار مخرب اینترنت اشیا با کمک هوش مصنوعی می‌تواند تأثیر بدافزار را به طور قابل‌توجهی افزایش دهد.

[ Matteo Wong: تا کی تا AI همه چیز را هک کند؟ ]

حتی در آن صورت، نتیجه بیهوده تر و پیش پا افتاده تر از آن چیزی است که استعاره آتش سوزی نشان می دهد. هک‌های نرم‌افزاری با کمک هوش مصنوعی، از نظر تئوری، می‌توانند مانند حمله به سوپرمارکت فرانسه، با رایانه‌های واقعی در یک شبکه به هم بریزند. اما به جای خاموش کردن یخچال هوشمند خانه شما، بدافزار هماهنگ، جهانی و مجهز به هوش مصنوعی به احتمال زیاد زندگی محاسباتی شبکه را برای همه سخت‌تر و بدتر می‌کند.

هرزنامه ایمیل ممکن است استعاره بهتری برای آینده احتمالی بدافزار هوش مصنوعی ارائه دهد. ایمیل‌های ناخواسته سال‌ها آزاردهنده بودند، اما برای مدت طولانی قابل کنترل بودند: شما فورواردها را از عموی عجیب و غریب خود حذف کردید، و یک فیلتر هرزنامه ساده بسیاری از آشغال‌های آشکار را پیدا کرد. با این حال، در نهایت، اتوماسیون ایمیل به اندازه‌ای ارزان شد که هم می‌توانست فهرست‌های عظیمی از آدرس‌ها را هدف قرار دهد و هم حملات شخصی‌سازی، برای فیشینگ یا سوءاستفاده. نرخ موفقیت پایین هر هرزنامه یا ایمیل فیشینگ، زمانی که انبوهی از ایمیل های ناخواسته به صورت ارزان و آسان ارسال شوند، دیگر مشکل ساز نخواهد شد.

حالا صندوق ورودی شما خراب شده است. هر ایمیلی که از یک غریبه دریافت می‌کنید بی‌فایده به نظر می‌رسد، زیرا شروع به این تصور کرده‌اید که ایمیل کلاهبرداری و زباله است. (تماس‌های تلفنی و پیام‌های متنی شروع به یکسان می‌کنند.)

بدافزار هوش مصنوعی می‌تواند از این روش پیروی کند، کاوشگرها را برای موفقیت بیشتر تنظیم کند، سرعت هر کامپیوتر و شبکه‌ای را با پردازش زباله و ترافیک کند کند، مسابقه تسلیحاتی آزاردهنده‌ای از به‌روزرسانی‌ها و وصله‌های آسیب‌پذیر را ایجاد کند، و شاید حتی مجموعه‌ای از داده‌های شبکه محلی را که قبلا بی‌ارزش بودند، در قالب فریب‌کاری‌های مزاحم یا مزاحم جمع‌آوری کند. یک ریسک احمقانه با شانس خوب، اگر نتیجه کم باشد، ممکن است وحشتناک تر از یک خطر وحشتناک باشد که بسیار بعید است.