درون تقابل نقص سایبری که تهدید هوش مصنوعی را زنده کرد

رهبران امنیت سایبری با BI در مورد افزایش تقاضا برای کارگران در این زمینه صحبت کردند. مستر/گتی ایماژ این هفته پس از انتشار یک نقص امنیتی در 70 درصد وب‌سایت‌های جهان، همه جهنم‌ها از بین رفت.

قرار بود این اسلحه پنهان بماند، اما یکی از محققان اسلحه را پرید.

دن لورنک، مدیرعامل Chainguard به پولیتیکو گفت که چرا تصمیم به عرضه عمومی گرفت. قرار گرفتن در معرض بسیار زیاد بود و هوش مصنوعی خطرات را چند برابر می کرد - و با این حال به نظر می رسید رویه های امنیت سایبری جهانی آزمایش شده با زمان کار می کنند. بعد ناگهان همه چیز خراب شد.

تصمیم یک شرکت امنیت سایبری در روز چهارشنبه برای انتشار زودهنگام اطلاعات در مورد نقص در زبان برنامه نویسی کامپیوتری محبوب PHP، بسیاری از وب را در معرض هکرها قرار داد و وحشتی را برانگیخت که ماه ها هشدارها را در مورد چگونگی ایجاد آسیب های گسترده در عصر مبتنی بر هوش مصنوعی زنده کرد.

نقص‌های PHP که با استفاده از ابزارهای هوش مصنوعی از طریق یک فرآیند چند ماهه با هماهنگی OpenAI کشف شد، باعث شد آژانس‌های سایبری در سراسر اروپا، ایالات متحده، بریتانیا، استرالیا و کانادا روز چهارشنبه هشدارهای فوری ارسال کنند. بسیاری از دولت ها برای احتیاط وب سایت ها را آفلاین کردند.

در حالی که هیچ آسیب عمده هک فورا آشکار نشد، نحوه وقوع این حادثه در طول 72 ساعت نشان داد که فرآیندهای امنیت سایبری به راحتی می توانند از بین بروند و پیامدهای بزرگ خطرات سایبری در عصر هوش مصنوعی.

مردی که واکنش زنجیره ای را با انتشار زودهنگام آغاز کرد - دن لورنک مدیر عامل Chainguard - به سرعت در یک پست لینکدین عذرخواهی کرد. اما روز پنج‌شنبه، در مصاحبه‌ای با POLITICO، لورنک گفت که اطلاعات را زودتر از موعد به اشتراک گذاشته است، زیرا این نقص قبلا مورد سوء استفاده قرار گرفته است. اگرچه دیگران این موضوع را مورد مناقشه قرار دادند، لورنک گفت که او معتقد است شواهد کافی برای باطل کردن تحریمی که ایجاد شده بود تا زمان برای یافتن راه حلی برای نقص‌ها را بی‌اعتبار ببیند.

در حالی که او مخالف بود که اقداماتش برای سایر مدافعان مشکل ایجاد می کرد، لورنک گفت که آستانه شواهد در این سیستم های دفاع سایبری هماهنگ یک "منطقه خاکستری" است.

فاش شدن نقص PHP آنچه را که مقامات سایبری از زمان ورود قدرتمندترین ابزارهای هوش مصنوعی که نه تنها می‌توانند برای کشف آسیب‌پذیری‌ها، بلکه برای بهره‌برداری از آنها در مقیاس وسیع مورد استفاده قرار گیرند، برای آن آماده کرده‌اند، آشکار می‌کند.

پروتکل های طولانی مدت امنیت سایبری جهان به جلوگیری از سناریوهای فاجعه ای که در آن هکرها با موفقیت از آسیب پذیری ها برای کنترل وب سایت های متعدد و دسترسی به داده های آنها سوء استفاده می کردند، کمک کرد. اما مقیاس و پتانسیل پایان روز خطرات سایبری مبتنی بر هوش مصنوعی اکنون برای جهان قابل مشاهده است.

ایلام میلنر، یکی از بنیانگذاران و مدیر فناوری استارت آپ امنیت سایبری اکو، گفت: «این همان چیزی است که وقتی هوش مصنوعی نقصی را پیدا می کند که سال ها پنهان بوده است، اتفاق می افتد. او افزود، آسیب‌پذیری‌ها «تقریبا به همان اندازه که برای وب جدی است» هستند.

داستان مبدا

درک چگونگی شکل‌گیری وضعیت اضطراری این هفته، نگاهی اجمالی به نحوه تلاش شرکت‌ها و مقامات برای جلوگیری از حملات - و میزان خطری که در آینده با آن‌ها روبرو هستند، ارائه می‌دهد.

منشأ این حادثه را می توان تا آوریل ردیابی کرد، زمانی که شرکت پیشرو هوش مصنوعی Anthropic از Mythos پرده برداری کرد، که باعث شد برخی در دنیای امنیت سایبری نگران باشند که سیستم ها به سرعت توسط هوش مصنوعی پیشرفته تسخیر می شوند و احتمال وقوع حوادث فاجعه بار وجود دارد.

اما در حالی که محققان در ماه‌های پس از انتشار آنتروپیک و سایر شرکت‌های هوش مصنوعی مانند OpenAI، نقص‌های بیشتری در سیستم‌های رایانه‌ای پیدا کردند، اما تأثیر کمی در دنیای واقعی داشتند. حتی حادثه Hugging Face، یک هک بسیار مورد بحث که باعث شد عوامل هوش مصنوعی OpenAI در طی یک ارزیابی امنیتی داخلی سرکشی کنند، که بیشتر به سطح کنترلی که شرکت‌های هوش مصنوعی بر روی مدل‌های خود اعمال می‌کنند تا قدرت نفوذ به سیستم‌ها در سراسر جهان مربوط می‌شود.

این هفته پس از اینکه محققان از آسیب پذیری در PHP پرده برداری کردند، تغییر کرد.

فرآیندی که طی آن اطلاعات مربوط به نقص‌ها در میان مقامات امنیت سایبری و شرکت‌های وابسته منتشر می‌شود، بسیار مهم است. از طریق یک رویه دیرینه به نام افشای هماهنگ، محققان و شرکت‌هایی که نقص‌ها را شناسایی می‌کنند، می‌توانند راه‌حلی پیدا کنند و قبل از انتشار در اختیار عموم، آن را به‌طور محرمانه با آژانس‌ها و سایرین به اشتراک بگذارند، به این معنی که آنها یک حفره را بدون تعمیر به هکرهای بدخواه هدیه نمی‌دهند.

در مورد نقص PHP، این فرآیند به خوبی کار کرد، اما نه کاملا. اطلاعات مربوط به باگ ها قبل از زمان انتشار برنامه ریزی شده شروع به انتشار کرد. سپس، به گفته بنیاد PHP، Chainguard "به طور یکجانبه تحریم را شکست،" که "هفته‌ها تلاش بسیاری از طرف‌ها در جهت افشای هماهنگ را نادیده گرفت." الیزابت بارون، مدیر اجرایی بنیاد پی اچ پی، از طریق ایمیل به پولتیکو گفت که اگرچه از Chainguard "ناامید" شده است، اما امیدوار است "در آینده اعتماد را با آنها بازسازی کند تا اطمینان حاصل شود که می توانیم به همکاری موثر ادامه دهیم."

پس از افشای اطلاعات - که به این معنی بود که اطلاعات مربوط به اشکالات قبل از آماده شدن رفع مشکل در دسترس بود - به سرعت سردرگمی ایجاد شد و نهادهای دولتی و شرکت‌های خصوصی ترجیح دادند که وب‌سایت‌های خود را موقتا ببندند تا اینکه به طور بالقوه به داده‌های خود و سایت‌ها آسیب وارد کنند.

اوایل پنجشنبه، متیو پرینس، مدیرعامل کلودفلر، یک شرکت خدمات اینترنتی که به طور گسترده توسط وب‌سایت‌ها برای مسدود کردن حملات سایبری استفاده می‌شود، که سطح بالایی از دید هکرها را به آن می‌دهد، در پستی در X گفت که «میلیون‌ها» تلاش برای بهره‌برداری از این نقص دیده است.

پرینس گفت که Cloudflare هزاران نفر را در 10 ساعت قبل از اعلام عمومی این نقص مشاهده کرد، سپس ده ها هزار نفر را در 45 دقیقه پس از اعلام، صدها هزار نفر در عرض دو ساعت و اکنون میلیون ها نفر را دید.

بخش ابری آمازون همچنین گفت که این نقص "اکنون به طور گسترده در طبیعت مورد سوء استفاده قرار می گیرد."

یکی از مقامات ارشد سایبری دولت ایالات متحده گفت که مقامات فدرال تحت فشار قرار گرفته اند - و نه فقط توسط PHP. در همان روزی که دنیا برای پرداختن به PHP مسابقه می داد، آنها همچنین با اشکالاتی در node.js، یک فریمورک پرکاربرد جاوا اسکریپت، Fortinet، GitHub و Oracle سر و کار داشتند.

این مقام مسئول با بیان اینکه سازمان آتش نشانی در حال اطفای چندین آتش سوزی به طور همزمان است، افزود: خبر خوب این است که همگی سازه های یک طبقه در آتش هستند که آتش نشانی تمام روز و هر روز با آنها برخورد می کند.

بیشتر در راه است

به طرز وحشتناکی، OpenAI گفت که چیزهای بیشتری در راه است. این شرکت روز چهارشنبه در بیانیه‌ای گفت: «این باگ‌ها از جمله چندین آسیب‌پذیری مهمی هستند که قبلا پیدا کرده‌ایم و در حال رفع آن هستیم و انتظار داریم یافته‌های مشابه در ماه‌های آینده به شدت افزایش یابد.»

Matthijs van Amelsfort، رئیس آژانس امنیت سایبری هلند، در مصاحبه ای گفت که وظیفه ایمن نگه داشتن سیستم های کامپیوتری با پیشرفت هوش مصنوعی تغییر کرده است. وی گفت: به محض اینکه مدل های مرزی بیرون آمد، دقیقا همان چیزی است که ما گفتیم: این روند خواهد بود. "و در واقع این در حال رخ دادن است."

توماس کاسپرز، معاون آژانس سایبری آلمان BSI، موافق است: "ما انتظار داریم که در ماه های آینده این اتفاق بیشتر و بیشتر شود."

هوش مصنوعی همچنین به محض آشکار شدن نقص ها، خطرات را افزایش می دهد. کاسپرس گفت، توصیه آژانس‌های سایبری مبنی بر اینکه سازمان‌ها وب‌سایت‌های خود را آفلاین کنند، «واقعا اقدامی شدید» بود. ما تا چند سال پیش این کار را نمی کردیم.» اما از آنجایی که هوش مصنوعی بهره‌برداری از نقص‌ها را سریع‌تر و آسان‌تر کرده است، "ما مجبور بودیم این کار را انجام دهیم."

در عین حال، استفاده از هوش مصنوعی پیشرفته برای شناسایی نقص ها ممکن است سطح جدیدی از محافظت در برابر هکرهای مخرب ایجاد کند که به دنبال سوء استفاده از آنها هستند. کاسپرس گفت که اگرچه آژانس آلمانی او نیز شاهد حملاتی بوده است، اما هیچ استفاده موفقیت آمیزی از این نقص توسط هکرها مشاهده نکرده است.

او گفت: «به نظر می رسد که استفاده از آن کمی پیچیده تر از حد انتظار است.

علیرغم این واقعیت که هوش مصنوعی راه جدیدی برای کشف ایرادات ارائه می دهد، کار مربوط به محافظت از سیستم ها بیشتر روز به روز است، زیرا آژانس های سایبری از سازمان ها می خواهند که اصلاحات مشترک توسط بنیاد PHP را در فرآیندی به نام Patching نصب کنند.

ون آملسفورت از آژانس هلندی گفت: «سه کار وجود دارد که باید در حال حاضر انجام دهید. "و این پچ، پچ و پچ است."

جان ساکلاریادیس در این گزارش مشارکت داشت.

شبکه گزارشگران جهانی اکسل اسپرینگر از منابع اتاق های خبری شرکت برای انتشار نمونه های جاه طلبانه، تحقیقات، مصاحبه ها، نظرات و تحلیل ها استفاده می کند. این به خبرنگاران - از جمله روزنامه‌نگاران POLITICO، The Telegraph، Business Insider، WELT، BILD، Onet و Fakt - اجازه می‌دهد تا در داستان‌های اصلی برای صدها میلیون مخاطب بین‌المللی در سراسر پلتفرم‌ها: آنلاین، چاپی، تلویزیونی و صوتی همکاری کنند.

مقاله اصلی را در Business Insider بخوانید