چه اتفاقی می‌افتد وقتی هوش مصنوعی شروع به تکرار خود کند؟

آنتروپیک هشدار می دهد که آینده به زودی است، اما تهدید کمتر از آن چیزی است که به نظر می رسد.

تیم مرزی رد Anthropic اخیرا تحقیقی را منتشر کرده است که نشان می‌دهد مدل‌های هوش مصنوعی کوچک ممکن است تنها چند ماه با تکثیر و انتشار در دستگاه‌های ناامن فاصله داشته باشند و بات‌نت‌های مستقل آهسته اما به سختی از بین بروند. شرکت‌های هوش مصنوعی با استفاده از پتانسیل جهانی محصولات خود به عنوان نوعی بازاریابی غریبه نیستند، اما در این مثال، متخصصان Engadget به طور کلی موافق هستند که مدل‌های کوچک هوش مصنوعی می‌توانند در آینده نزدیک توانایی خود را تکرار کنند. با این حال، تهدید واقعی آنها ممکن است کمتر از آنچه به نظر می رسد بدیع باشد.

کریس کانال، مدیرعامل EquiStamp، شرکتی که با آزمایشگاه‌های هوش مصنوعی، سازمان‌های ایمنی و دولت‌ها برای راستی‌آزمایی و ارزیابی مدل‌ها کار می‌کند، می‌گوید: «شاید کمی زودتر از آنچه می‌گفتم باشد. زمانی که واقعا نگران این موضوع بودم، چیزی شبیه تابستان سال آینده را پیش‌بینی می‌کردم. "آنتروپیک به احتمال زیاد کارمندانی دارد که اطلاعاتی در مورد مرزهای تحقیقاتی دارند که من به آنها دسترسی ندارم.

بنابراین آنها به خوبی می توانند پیش بینی های بهتری انجام دهند." کانال سرعت اخیر پیشرفت مدل را به این واقعیت نسبت می دهد که کارمندان در Anthropic و دیگر آزمایشگاه های مرزی از ابزارهای هوش مصنوعی خود برای انجام تحقیقات یادگیری ماشین استفاده می کنند.

مایکل بیلی، استاد دانشکده امنیت سایبری و حریم خصوصی در جورجیا تک، می‌گوید: "من فکر می‌کنم [مدل‌های خودتکثیر شونده] در آینده هستند. فکر می‌کنم واقعی هستند. فکر می‌کنم آنها را خواهیم دید." این که آیا آنها شکل و شکل دقیقی به خود خواهند گرفت و عواقب یکسانی خواهند داشت، این که [آنتروپیک] مطرح می کند، یک سوال کاملا باز است."

بیلی می‌گوید: «آنچه Mirai نشان داد این است که می‌توانید این بات‌نت‌ها را بسازید - و آنها را مفید کنید - از دستگاه‌های روزمره: روترهای کابلی، دوربین‌های مجهز به IP، این قبیل چیزها. ما فکر می‌کردیم که این دستگاه‌ها برای یک دشمن مفید نیستند، چه به عنوان هدف و چه به عنوان منابع محاسباتی برای انجام حملات.

یک دهه بعد، Anthropic استدلال می‌کند که کرم‌های هوش مصنوعی می‌توانند تکامل معنی‌داری از Mirai و سایر بات‌نت‌های سخت‌کد شده مانند Kimwolf را نشان دهند، زیرا آنها می‌توانند به تنهایی دستگاه‌های ناآشنا را کشف کنند. بیلی می گوید سازگاری به خودی خود چیز جدیدی نیست. Mirai قبلا روی دستگاه‌های «ناهمگن»، از روترها گرفته تا دوربین‌های IP که بر روی معماری‌های مختلف تراشه کار می‌کنند، کار کرده است. اما این سازگاری محدود بود: هر معماری جدید به کار انسانی نیاز داشت، حداقل برای کامپایل مجدد بدافزار.

بیلی می‌گوید آنچه بدیع است، چشم‌انداز خودکارسازی این کار توسط هوش مصنوعی است، اگرچه او فکر نمی‌کند آنتروپیک آن را «به شیوه‌ای قانع‌کننده» نشان داده باشد.

در نتیجه، بیلی پیشنهاد می‌کند که مدل‌های هوش مصنوعی توانمندتر، افرادی را که کار ایجاد بات‌نت را انجام می‌دهند، «بازتوزیع» می‌کنند. او می گوید: «این کار چیزهای جدیدی را انجام نخواهد داد. این وضعیت اقتصادی بین مهاجمان و مدافعان را تغییر خواهد داد. در حالی که آنتروپیک نشان داد که یک مدل می‌تواند بین دستگاه‌ها جهش کند و استنتاجی را روی هر کدام تنظیم کند، این کار را در یک شبکه شبیه‌سازی شده انجام داد که در آن «سوءاستفاده» درگیر بی‌اهمیت بود. علاوه بر این، بیلی با ادعای خود تکراری آنتروپیک مخالفت می کند.

او می‌گوید: "فریم‌بندی تا حدودی اشتباه است، زیرا آنها کارهایی مانند شارد کردن را انجام می‌دهند. نه این که بد است، اما شبیه یک کرم یا ویروس نیست. انتشار کامل نیست." در عوض، بیلی استدلال می کند که یک بات نت هوش مصنوعی در دنیای واقعی ممکن است بیشتر شبیه یک قطره چکان کار کند، نوعی بدافزار که جای پایی روی دستگاه می گذارد و کدهای دیگری را نصب می کند. بات‌نت به‌جای کپی کردن خود به‌طور عمده روی هر دستگاهی که در معرض خطر است، یک ابزار هماهنگی کوچک نصب می‌کند که دستورالعمل‌ها را از جای دیگری در شبکه می‌گیرد.

بیلی می‌گوید: «این ایده که بدافزار به خودی خود تکرار می‌شود، مانند کرم‌های اینترنتی موجود، جایی که من یک کپی دقیق از کدم را در معماری جدید کپی می‌کنم و شروع به اجرای یک عامل جدید می‌کند – این واقعا چیزی نیست که اینجا اتفاق می‌افتد.» او همچنین خاطرنشان می‌کند که کرم‌ها می‌توانند چند شکلی باشند، به این معنی که می‌توانند هم امضا و هم رفتارشان را تغییر دهند. او می‌گوید برای اینکه یک بات‌نت هوش مصنوعی این کار را انجام دهد، باید مدل‌های خود را دوباره آموزش دهد، چیزی که Anthropic تلاش نکرد.

نزدیک‌ترین چیزی که به آن رسید نشان دادن این بود که کپی‌هایی از یک مدل می‌توانند یادداشت‌ها را به جانشینان خود منتقل کنند و در طول زمان در استنتاج بهتر شوند.

مانند هر هشداری برای بیرون آمدن از یک آزمایشگاه هوش مصنوعی، ارزش این را دارد که بپرسیم آیا Anthropic این تحقیق را به عنوان نوعی بازاریابی منتشر کرده است، به خصوص در شرایطی که این شرکت به‌زودی رسما برای IPO ثبت نام کرده است. Canal می گوید: «من فکر می کنم احتمال بیشتری وجود دارد که شرکت ها نگران بی پروایی سایر شرکت های هوش مصنوعی باشند. آنها متوجه می شوند که انگیزه دارند تا بهترین مدل را بسازند و آن را سریعتر به بازار عرضه کنند تا بتوانند سهمی از بازار داشته باشند، و می دانند که سایر شرکت ها نیز مشوق های مشابهی دارند."

صرف نظر از اینکه آیا این ناقل تهدید جدید واقعا یک کرم است یا خیر، و اینکه واقعا تا چه اندازه در آینده ممکن است دور باشد، پیشنهادات خود آنتروپیک برای چگونگی کاهش مضرات آن به طرز شگفت‌آوری قدیمی است. این پیشنهاد می‌کند که ISPها مشتریان را از عفونت مطلع کنند و سپس دسترسی به اینترنت آن‌ها را به فهرست کوتاهی از وب‌سایت‌های امن محدود کنند - استراتژی که در طول Mirai به کار گرفته شد و تأثیر زیادی داشت. این شرکت همچنین مقررات را به عنوان یک راه حل بالقوه پیشنهاد می کند و به بریتانیا اشاره می کند، جایی که گذرواژه های پیش فرض به راحتی قابل حدس زدن در دستگاه های IoT اکنون تحت قانون PSTI ممنوع شده است.

در آن نقطه، بیلی استدلال می‌کند که پاسخ مناسب به کرم‌های هوش مصنوعی «بیشتر شبیه کاری است که ما برای مدت طولانی در امنیت سیستم‌ها انجام می‌دهیم، برخلاف چیزی که مخصوصا در فضای هوش مصنوعی منحصر به فرد است». در واقع، طبق گفته Canal، افزودن محافظ‌هایی به یک مدل با وزن باز که از عمل کردن آن به عنوان یک کرم جلوگیری کند، دشوار خواهد بود. او می‌گوید: «ایده‌های زیادی وجود دارد، اما تاکنون هیچ چیز قوی وجود ندارد. EquiStamp در کار با FAR.AI، یک سازمان غیرانتفاعی تحقیقات ایمنی هوش مصنوعی، دریافت که "اساسا هر استراتژی که شما برای حذف پادمان ها از یک مدل در گوگل جستجو کنید، کارساز است."

اما همانطور که بیلی اشاره می‌کند، "حتی ماموران بدرفتار اگر در برابر دستگاه‌های سخت‌شده قرار بگیرند، کار سختی خواهند داشت." او می‌گوید اگر نکته‌ای از تحقیقات آنتروپیک وجود داشته باشد، این است که ما دائما تمام درس‌های ایمنی را که در گذشته آموخته‌ایم به خاطر نمی‌آوریم. امنیت در عصر کرم‌های هوش مصنوعی احتمالا بسیار شبیه اکنون خواهد بود. بیلی می گوید: «به نظر می رسد توجه به وصله این دستگاه ها، توجه به ایزوله کردن، توجه به رمزهای عبور خوب و بهداشت خوب است.

توصیف این راه‌حل‌ها آسان است و پیاده‌سازی آن بسیار دشوار است، اما اگر هوش مصنوعی واقعا این نوع حملات را رایج‌تر کند، ممکن است انتخابی نداشته باشیم.