هوش مصنوعی از خط قرمز امنیت سایبری عبور کرده است - حالا چه؟

برای سال‌ها، کارشناسان امنیت سایبری در مورد خطرات استفاده از سیستم‌های هوش مصنوعی مستقل برای شناسایی آسیب‌پذیری‌ها، فرار از دفاع و انجام حملات با سرعت ماشین هشدار داده‌اند. با این حال، تا همین اواخر، این نگرانی ها تا حد زیادی تئوری باقی ماندند.

زمانی که یک عامل هوش مصنوعی مستقل که با مدل‌های OpenAI طراحی شده بود، محیط آزمایشی مورد نظر خود را نقض کرد، به اینترنت دسترسی پیدا کرد و سیستم‌های خارجی را مورد هدف قرار داد، از جمله زیرساخت‌های مرتبط با پلتفرم هوش مصنوعی Hugging Face و سه یا چهار سازمان دیگر، تغییر کرد.

OpenAI این رویداد را به عنوان یک "حادثه سایبری بی سابقه" توصیف کرد و هشدار داد که با افزایش توانمندی و مستقل شدن مدل های هوش مصنوعی مرزی، موارد مشابه ممکن است رایج تر شوند.

با توجه به اینکه 86 درصد از شرکت‌ها از هوش مصنوعی استفاده می‌کنند، تنها 34 درصد می‌گویند که به این فناوری اعتماد دارند، که نشان‌دهنده شکاف رو به رشد بین پذیرش و اطمینان است. در حالی که سازمان‌ها برای ادغام هوش مصنوعی در فرآیندهای تجاری، عملیات امنیتی و تصمیم‌گیری رقابت می‌کنند، این حادثه سؤالات دشواری را در مورد حاکمیت، مهار، مسئولیت‌پذیری و ریسک مطرح می‌کند.

اگر هوش مصنوعی به دنبال حادثه OpenAI واقعا از خط قرمز امنیت سایبری عبور کرده است، اکنون گفتگو باید از آنچه این سیستم‌ها می‌توانند انجام دهند به نحوه کنترل، نظارت و دفاع ایمن سازمان‌ها در برابر آنها تغییر کند.

نقاط ضعف OpenAI

حمله OpenAI سوالات جدی را در مورد اثربخشی اقدامات حفاظتی و مهار طراحی شده برای محدود کردن سیستم های هوش مصنوعی مستقل ایجاد می کند. اگر گزارش‌ها دقیق باشند، یک عامل هوش مصنوعی می‌تواند از محیط آزمایشی مورد نظر خود عبور کند، به اینترنت دسترسی پیدا کند و با سیستم‌های خارجی تعامل داشته باشد، که نشان می‌دهد کنترل‌های موجود یا کافی نبوده یا به درستی اجرا نشده‌اند.

نکته مهم این است که به نظر می رسد این موضوع به همان اندازه که یک نقص فناوری است، یک مسئله حاکمیتی و پیکربندی انسانی است. سیستم‌های هوش مصنوعی فقط در محدوده‌هایی که توسعه‌دهندگان و اپراتورهایشان تعریف کرده‌اند، عمل می‌کنند. محیط آزمایش نباید مسیری را فراهم می کرد که به عامل اجازه می داد بدون کنترل و نظارت مناسب با اینترنت مواجه شود یا با زیرساخت خارجی تعامل داشته باشد.

عوامل هوش مصنوعی می‌توانند اطلاعات را بسیار سریع‌تر از هر انسان دیگری پردازش کنند و کارهایی را که ممکن است یک مهاجم سنتی در هفته در چند ساعت طول بکشد، فشرده می‌کنند. با تجزیه و تحلیل مجموعه داده های گسترده در زمان واقعی، آنها می توانند چندین مسیر حمله را به طور همزمان ارزیابی کنند و فرصت هایی را برای بهره برداری با کارایی قابل توجه کشف کنند.

گزارش‌ها حاکی از آن است که حملاتی که توسط OpenAI، Anthropic و Meta انجام می‌شوند نسبت به حملاتی که توسط انسان انجام می‌شوند، بسیار مخرب هستند. توانایی آنها برای عملکرد مداوم، اجرای اقدامات موازی و تصمیم گیری با سرعت ماشین می تواند افزایش قابل توجهی در هشدارها، تحقیقات و فعالیت پاسخ برای تیم های امنیتی ایجاد کند، در حالی که خطر عواقب ناخواسته گسترده را نیز افزایش می دهد.

هنگامی که یک انسان حمله ای را آغاز می کند، ما تا حدودی مفهوم و درک از عوارض جانبی که ممکن است رخ دهد داریم. با این حال، با حملات هوش مصنوعی، سیستم‌های مستقل می‌توانند با سرعت ماشین کار کنند، چندین هدف را به طور همزمان دنبال کنند و رویکرد خود را در زمان واقعی تطبیق دهند و اقدامات و پیامدهای بالقوه‌شان را به مراتب کمتر قابل پیش‌بینی کنند.

سازمان‌ها به وضوح در تلاش هستند تا بفهمند از چه ابزارهای هوش مصنوعی در حال حاضر در تجارت استفاده می‌شود.

چالشی که اکنون تیم های مدیریت ریسک و سازمان با آن مواجه هستند این است که چگونه این خدمات را برای محافظت از داده های سازمانی نقشه برداری، مدیریت و مسدود می کنند؟

دفاع سایبری سنتی ممکن است در برابر حملات مبتنی بر هوش مصنوعی مبارزه کند

دفاع سایبری سنتی عمدتا برای شناسایی الگوهای شناخته شده، تکنیک‌های حمله، آسیب‌پذیری‌ها یا ایجاد رویدادها طراحی شده‌اند. پس از شناسایی فعالیت مشکوک، تیم‌های امنیتی حادثه را بررسی می‌کنند، علت و تأثیر آن را مشخص می‌کنند و سپس اقدامات مناسب مهار و اصلاح را اجرا می‌کنند.

با این حال، حملات مبتنی بر هوش مصنوعی به ندرت یک مسیر حمله را دنبال می کنند. عوامل هوش مصنوعی می توانند به طور همزمان چندین تکنیک را آزمایش کنند، آسیب پذیری ها را با سرعت شناسایی کنند و به سرعت رویکرد خود را زمانی که یک مسیر خاص مسدود شده است، تطبیق دهند. این اجازه می دهد تا حملات بسیار سریعتر از فرآیندهای دفاعی سنتی که برای رسیدگی طراحی شده بودند، تکامل یابند.

ابزارهای سنتی که در حال حاضر در اکثر سازمان ها مستقر هستند هنوز کاملا واکنشی هستند. آن‌ها منتظر می‌مانند تا یک رویداد شناخته‌شده اتفاق بیفتد و قبل از انجام یک واکنش متقابل مانند جداسازی دستگاه‌ها، حذف ایمیل‌های فیشینگ یا اجرای کتاب‌های بازی از پیش تعریف‌شده پاسخ حادثه، به طور کامل تأیید شود تا به اصلاح و در نهایت متوقف کردن حادثه در مسیر خود کمک کنند.

از سوی دیگر، حملات مبتنی بر هوش مصنوعی می‌توانند تیم‌های امنیتی موجود را تحت تأثیر قرار دهند. در حالی که مجموعه ابزارهای دفاعی هوش مصنوعی برای کاهش حملات در فناوری امنیتی تعبیه شده است، بسیاری هنوز برای پاسخ به تهدیدات به «انسان در حلقه» تکیه می‌کنند، اما تنها زمانی که تمام اطلاعات را در اختیار داشته باشند تا 100% تأیید کنند که این یک حمله واقعی است و مثبت کاذب نیست.

این می‌تواند چالش مهمی برای مراکز عملیات امنیتی (SOC)، ارائه‌دهندگان تشخیص و پاسخ مدیریت شده (MDR) و پلت‌فرم‌های تشخیص و پاسخ گسترده (XDR) باشد، زیرا حجم هشدارهای بیش از حد و موارد مثبت کاذب می‌تواند زمان و منابع ارزشمند تحلیلگر را مصرف کند.

با ادغام عمیق‌تر هوش مصنوعی در عملیات‌های امنیتی، پتانسیل غنی‌سازی اطلاعات تهدید، تسریع تحقیقات و خودکارسازی تصمیم‌گیری‌های معمول را دارد. با این حال، سازمان‌ها باید انتظار یک دوره تعدیل را داشته باشند، زیرا این ابزارها به کار می‌روند و اصلاح می‌شوند، و تا زمانی که مدل‌ها و جریان‌های کاری به درستی تنظیم نشده‌اند، نکات مثبت کاذب همچنان یک چالش باقی می‌ماند.

با گذشت زمان، همانطور که تیم‌های امنیتی اعتماد بیشتری به قابلیت‌های مبتنی بر هوش مصنوعی پیدا می‌کنند و درک بهتری از تکنیک‌های حمله نوظهور به دست می‌آورند، این ابزارها به سازمان‌ها کمک می‌کنند تا تهدیدات را با سرعت و مقیاسی شناسایی، بررسی و پاسخ دهند که دستیابی به آن تنها از طریق تلاش‌های انسانی دشوار است.

گام هایی برای تقویت دفاع سایبری

انعطاف پذیری یک کلمه کلیدی است که به شدت توسط مرکز امنیت سایبری ملی (NCSC) استفاده می شود و تضمین می کند که مشاغل می توانند در برابر هر نوع حمله دفاع کنند. این با درک آنچه باید محافظت شود، شناسایی سیستم های حیاتی، داده ها و فرآیندهای تجاری که در صورت به خطر افتادن بیشترین تأثیر را خواهند داشت، شروع می شود.

پس از ایجاد، محتمل ترین مسیرهای حمله از جمله خطرات شخص ثالث و زنجیره تامین را ارزیابی کنید. اگر یک ارائه دهنده خدمات مدیریت شده (MSP)، تامین کننده یا شریک تجاری به خطر بیفتد، آیا فعالیت غیرعادی به سرعت به اندازه کافی برای جلوگیری از آسیب بیشتر شناسایی می شود؟

سازمان ها همچنین باید مرزهای خارجی خود را ارزیابی کنند. یک مهاجم چه چیزی می تواند در مورد من ببیند؟ چه اطلاعاتی در حال حاضر در دامنه عمومی موجود است که برای مهاجم مفید باشد؟ چه آسیب پذیری های خارجی دارید؟ آخرین باری که ارزیابی آسیب پذیری یا تست نفوذ انجام دادید چه زمانی بود؟ اینها همه سؤالاتی است که تیم های امنیتی باید بپرسند.

رشد کشف آسیب‌پذیری به کمک هوش مصنوعی فشار را بر سازمان‌ها افزایش می‌دهد تا با اصلاح و اصلاح همگام شوند. اما ابزارهای خودکاری وجود دارد که به فعال کردن وصله‌های سریع‌تر کمک می‌کند و سعی می‌کند هزاران آسیب‌پذیری را که هر هفته منتشر می‌شود، حفظ کند.

بسیاری از سازمان‌ها بر روی تهدیدات خارجی تمرکز می‌کنند، اما بسیار مهم است که برای زمانی که مهاجم زیرساخت‌ها و شبکه‌های داخلی را نقض می‌کند، آماده شود.

محدود کردن آسیب

چگونه می توانید آسیب را زمانی که آنها داخل هستند محدود کنید؟ اینجاست که کنترل دسترسی مبتنی بر نقش (RBAC)، تفکیک وظایف و در برخی موارد اعتماد صفر کلیدی است.

این همچنین باید شامل حوزه‌هایی مانند زیرساخت میزبان ابری به‌عنوان سرویس (IaaS) یا پلت‌فرم‌ها به‌عنوان سرویس (PaaS)، Azure، AWS و Google باشد و اطمینان حاصل شود که روش‌های دیگر دسترسی به این پلت‌فرم‌ها از طریق توکن‌ها، کلیدهای SSH، گواهی‌ها و APIها همگی با محدودیت و تفکیک وظایف مشابه با حساب کاربری معمولی رفتار می‌شوند.

ابزارهای هوش مصنوعی را که در حال حاضر در محیط آنها استفاده می شود، مرور کنید. تعداد فزاینده‌ای از پلتفرم‌ها می‌توانند به شناسایی قابلیت‌های هوش مصنوعی تعبیه‌شده در نرم‌افزارهای موجود کمک کنند، و همچنین ابزارهای غیرمجاز یا "هوش مصنوعی سایه" را که بدون نظارت رسمی استفاده می‌شوند، کشف کنند. هنگامی که سازمان‌ها دارایی‌های هوش مصنوعی خود را در معرض دید قرار می‌دهند، می‌توانند حکمرانی، کنترل‌ها و اقدامات مدیریت ریسک را برای کاهش مواجهه بالقوه اجرا کنند.

سازمان‌ها همچنین باید تمرین‌های گروهی بنفش مخصوص هوش مصنوعی را در نظر بگیرند. این ابزارها با استفاده از ابزارهای مبتنی بر هوش مصنوعی، حملات علیه سازمان را در حالی که در کنار مدافعان کار می‌کنند، شبیه‌سازی می‌کنند تا ارزیابی کنند که آیا کنترل‌ها، نظارت و قابلیت‌های پاسخ‌دهی موثر هستند یا خیر.

این به شناسایی شکاف‌ها در دید، تشخیص و پاسخ کمک می‌کند و به سازمان‌ها اجازه می‌دهد تا بفهمند چرا حملات خاصی ممکن است از دست رفته باشند و چه بهبودهایی لازم است. آنها همچنین بینش ارزشمندی در مورد اینکه چگونه تهدیدات مبتنی بر هوش مصنوعی ممکن است سطح حمله خارجی یک سازمان را هدف قرار دهند و اینکه آیا کنترل‌های امنیتی فعلی می‌توانند به طور موثر پاسخ دهند، ارائه می‌دهند.

شکی نیست که مجموعه ابزارهای هوش مصنوعی صرفا از بهبودهای بهره‌وری که سازمان‌ها به دست می‌آورند، آمده‌اند. اما کسب‌وکارها باید مطمئن شوند که می‌دانند چه چیزی استفاده می‌شود، کجا استفاده می‌شود، چگونه از آن استفاده می‌شود و چگونه در برابر چیزهایی که ممکن است به دلیل آنچه استفاده می‌شود، دفاع کنند. در غیر این صورت، آنها در معرض خطر ایجاد نقاط کور امنیتی هستند که مهاجمان - چه انسان و چه عامل هوش مصنوعی - به سرعت از آنها سوء استفاده می کنند.

ما بهترین نرم افزار حفاظت نقطه پایانی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit