کاهش سرعت هوش مصنوعی را فراموش کنید - انفجار آسیب پذیری در حال وقوع است

محکومان هوش مصنوعی اخیرا یک بدترین سناریو را با سناریوی دیگر عوض کرده‌اند و یک آخرالزمان بالقوه آسیب‌پذیری نرم‌افزاری را کنار گذاشته‌اند تا بر احتمال مرگ‌های انبوه انسان‌ها توسط هوش مصنوعی سرکش تمرکز کنند. از آنجایی که رهبران هوش مصنوعی به کاهش سرعت همکاری در توسعه مدل مرزی فکر می‌کنند، یکی از جنبه‌های تغییر امنیت سایبری به لطف قابلیت‌های موجود و گسترده موجود در محصولات اصلی هوش مصنوعی، از جمله مدل‌های وزن باز، به وجود آمده است. موج جزر و مدی از آسیب‌پذیری‌هایی که با استفاده از هوش مصنوعی کشف شده‌اند، در ماه‌های اخیر شتاب بیشتری گرفته‌اند و فشار بیشتری را بر منابع کم‌تر انباشته کرده است.

و تیم های بسیار انسانی، فناوری اطلاعات و امنیت و داوطلبان تحت فشار که از نرم افزارهای منبع باز حیاتی نگهداری می کنند. محققان قبل از ظهور شکار حشرات با هوش مصنوعی نیز طیف وسیعی از آسیب‌پذیری‌ها را پیدا و افشا کردند، اما افزایش اخیر واضح است. مایکروسافت هفته گذشته اعلام کرد که تا کنون در این ماه وصله‌هایی برای 974 CVE منتشر کرده است و رکورد جدیدی را ثبت کرده است. (CVE یا آسیب‌پذیری‌ها و مواجهه‌های رایج، اصطلاحات امنیتی سایبری برای نقص‌های تایید شده نرم‌افزاری است.) در جولای، اوراکل 1448 وصله ارسال کرد در مقایسه با 309 وصله در جولای 2025.

دو نسخه اصلی منتشر شده گوگل کروم در ماه ژوئن شامل 1072 وصله بود که بیشتر از مجموع رفع آسیب‌پذیری‌های ارسال شده در 23 نسخه بزرگ قبلی بود. و موزیلا در ماه آوریل اعلام کرد که در طول یک سرعت شکار باگ با استفاده از مدل Anthropic’s Mythos، 271 آسیب‌پذیری را در فایرفاکس پیدا کرده است. به گفته جری گمبلین، رئیس تحقیقات Empirical Security و بنیانگذار RogoLabs، که پروژه تجزیه و تحلیل CVE cve.icu را اجرا می کند، تا چهارشنبه این هفته 66401 CVE خیره کننده ثبت شده است.

تا 16 سپتامبر سال گذشته، cve.icu در مجموع 33512 CVE ثبت کرده بود - تقریبا نیمی از کل فعلی. در تمام سال 2022، سالی که OpenAI اولین نسخه ChatGPT خود را راه اندازی کرد، cve.icu 25000 CVE را ثبت کرد. در بین محققان امنیتی و هوش مصنوعی، کارشناسان در مورد اینکه آیا این افزایش و سایر تأثیرات هوش مصنوعی بر امنیت سایبری فاجعه‌بار خواهد بود یا در عوض پویایی‌ها و چالش‌های موجود را بزرگ‌تر خواهد کرد، اختلاف نظر دارند. برخی اشاره کرده‌اند که پذیرش آهسته وصله‌ها و سرمایه‌گذاری عقب‌افتاده در امنیت سایبری به طور گسترده به مهاجمان مزایای زیادی داده است که قبل از ظهور هوش مصنوعی منجر به فاجعه‌های هک شده است.

اما از آنجایی که تعداد کشف آسیب‌پذیری همچنان در حال افزایش است، و بحث کمتر تئوری شده است، به نظر می‌رسد دو طرف کمی نزدیک‌تر شده‌اند. گمبلین در مورد انفجار آشکار یافته‌های آسیب‌پذیری در سراسر صنعت می‌گوید: «فکر نمی‌کنم بیش از حد باشد. "چیزی که من از آن عقب نشینی می کنم این است که عدد بزرگتر خود مضر است. CVE های بیشتر آسیب پذیری بیشتر نیست.

این آسیب‌پذیری شناخته‌شده‌تر است، که بیشتر سیستم کار می‌کند.» با این حال، ترس این است که کشف آسیب‌پذیری گسترده به معنای پیشی گرفتن توسعه‌دهندگان در وصله‌سازی، کاربران نرم‌افزاری است که نمی‌توانند به اندازه کافی سریع وصله کنند، و مجموعه‌ای از حملات سایبری تشدید شده توسط مهاجمان بیشتر که خودشان آسیب‌پذیری‌های جدید را با استفاده از هوش مصنوعی کشف می‌کنند.

همانطور که مرکز ملی امنیت سایبری بریتانیا بیان می کند، "تنها یافتن آسیب پذیری ها هیچ کمکی به بهبود امنیت شما نمی کند." در حال حاضر، بسیاری از محققان به ما می گویند که حداقل تعادل ضعیفی بین کشف باگ های تسریع کننده هوش مصنوعی و مدافعان کمک کننده هوش مصنوعی وجود دارد. متیو اولنی، مدیر اطلاعات تهدید در سیسکو سیستمز، می‌گوید: «بازیگران، درست مانند صنعت، در تلاشند تا بفهمند که «من کجا از هوش مصنوعی استفاده کنم؟» همانطور که وضعیت به تکامل ادامه می‌دهد، کاهش سرعت هوش مصنوعی به هر شکلی - چه مقررات یا یک توافق صنعتی - شاید/امیدواریم که هوش مصنوعی از انجام یک شب کشتار جمعی انسان جلوگیری کند.

nt، اما نمی تواند سونامی آسیب پذیری را که قبلا در نتیجه ابزارهای هوش مصنوعی موجود ایجاد شده است، متوقف کند. همانطور که RogoLabs Gamblin می گوید، "مقیاس های کشف با محاسبه. مقیاس های اصلاحی با مردم - و مردم بخشی هستند که نمی توانید در یک چهارم بیشتر از آنها بخرید."