"تهدیدهای هوش مصنوعی واقعی هستند - این نوعی افسانه شهری نیست": رئیس امنیت مایکروسافت در بریتانیا در مورد اینکه چرا تجارت شما باید برای نسل جدیدی از تهدیدات سایبری هوش مصنوعی آماده شود

از آنجایی که هوش مصنوعی به بخش مهمی از زندگی روزمره ما تبدیل می شود، نقشی که در امنیت سایبری هم برای مهاجمان و هم برای مدافعان ایفا می کند، تحت نظارت فزاینده ای قرار می گیرد.

مایکروسافت اخیرا گزارش دفاع دیجیتال (DDR) خود را منتشر کرده است که در آن نقش هوش مصنوعی در ایجاد حملات سایبری جدید و فریبکارانه‌تر را برجسته می‌کند و کسب‌وکارها بیش از هر زمان دیگری مورد تهدید قرار می‌گیرند.

اما مایکروسافت همچنین از ابزارهای هوش مصنوعی خود مانند Copilot برای کمک به پشتیبانی از واحد جرایم دیجیتال خود استفاده می کند و نشان می دهد که مهاجمان از همه مزیت ها برخوردار نخواهند شد.

در رویداد اخیر مایکروسافت مرزی تور لندن، من با دکتر جان دیویس، مشاور ارشد امنیت مایکروسافت انگلستان صحبت کردم تا بیشتر بدانم.

تهدیدهای هوش مصنوعی اینجا هستند

دیویس به من می گوید: «هوش مصنوعی مرزی در حال تغییر چشم انداز تهدید است. در حال حاضر، تهدیدات هوش مصنوعی واقعی هستند، این یک افسانه شهری نیست، یا چیزی که ما در سال 2030 خواهیم دید.

DDR دریافت که با در دسترس‌تر شدن هوش مصنوعی، مانع ورود به جرایم سایبری کاهش می‌یابد و به هکرها اجازه می‌دهد تا تعداد کمپین‌های بی‌سابقه‌ای را علیه مصرف‌کنندگان و کسب‌وکارها راه‌اندازی کنند.

بریتانیا به ویژه تحت تأثیر قرار گرفت، و تبدیل به هدف‌مندترین کشور برای فعالیت‌های سایبری دولت-ملت و ژئوپلیتیک در اروپا شد، با ۷۶ رویداد مشاهده‌شده در سال گذشته مواجه شد، و در رتبه پنجم جهان برای کشورهایی قرار گرفت که مشتریان اغلب تحت تأثیر تهدیدات سایبری قرار دارند.

دیویس خاطرنشان می کند که تهدید هوش مصنوعی مدتی است که ایجاد شده است، زیرا مهاجمان برای انجام حملات پیشرفته تر به اتوماسیون روی می آورند - با به اصطلاح "حملات ازدحامی" به ویژه زمانی که مهاجمان ماموران را مجبور به انجام کارهای کثیف خود می کنند، رایج تر می شوند.

او با اشاره به اینکه مدافعان نیز از هوش مصنوعی استقبال می‌کنند، می‌گوید: «ما به نقطه‌ای می‌رسیم که فناوری، محاسبات و ذخیره‌سازی با جاه‌طلبی مهاجم مطابقت دارد.

او می افزاید: «ما در یک زمان یک مشکل را حل کرده ایم، زیرا (تهدیدها) تکامل یافته است،» فرصت با هوش مصنوعی عامل این است که انسان را به ارکستراسیون ارتقا دهیم.

(اعتبار تصویر: iStock) اما با وجود تمام هوش مصنوعی که برای ایجاد حملات جدید و پیچیده‌تر به کار می‌رود، اشکال «اساسی» کلاهبرداری مانند فیشینگ هنوز به‌طور باورنکردنی مؤثر هستند و نشان می‌دهند که انسان همیشه ضعیف‌ترین حلقه در مورد امنیت سایبری باقی خواهد ماند.

DDR دریافت که حملات فیشینگ در سطح جهانی از 7 درصد به 23 درصد از نفوذهای مربوط به واکنش حادثه نسبت به سال گذشته افزایش یافته است، با حملاتی که با استفاده از دعوت‌نامه‌های جلسه جعلی و نشانگرهای تقویم در میان کلاهبرداری‌هایی در حال افزایش هستند، و Davies نشان می‌دهد که چگونه مجرمان جمع‌آوری اطلاعات در مورد افراد خاص C-suite را به یک کلیک جدید بر روی پیوند به آنها می‌رسانند.

او خاطرنشان می کند: «یک مهاجم هیچ خط مشی اخلاقی ندارد، فیشینگ...هنوز درب اصلی هر سازمانی است...(و) من فکر نمی کنم که از بین برود - با وجود هوش مصنوعی، فقط واقعی تر و تشخیص آن سخت تر می شود.

پس وقتی صحبت از آگاهی به میان می آید، مسئولیت کجاست؟ دیویس می‌گوید این باید ترکیبی از گناهکاری فردی و جمعی باشد - به این معنی که آزمایش‌های مزاحم فیشینگ که کارفرمای شما برای شما ارسال می‌کند احتمالا برای ماندن در اینجا هستند.

هدف اصلی این تمرینات آموزشی این است که به ما کمک کند تا به ما آموزش دهیم، به ما نشان دهد مهاجمان چه می‌کنند... فکر نمی‌کنم اگر روی پیوندی در یکی از آن تمرین‌ها کلیک کرده باشیم، خجالت نکشیم، زیرا هدف آموزش و تمرین است.»

بستن کمربند ایمنی وظیفه همه است، شما در قبال آن مسئول هستید و صرف نظر از اینکه در زندگی شخصی خود چه کسی هستید، مسئولیت امنیت سایبری را بر عهده دارید. ما اکنون در مرحله تغییر هستیم که فقط تیم‌های امنیت سایبری مسئول امنیت نیستند، بلکه همه افراد درون سازمان هستند.

دیویس خاطرنشان می‌کند که «امنیت می‌تواند کمربند ایمنی برای تغییر هوش مصنوعی باشد» و آن را به معرفی کمربند ایمنی در اتومبیل‌ها تشبیه می‌کند - اگرچه آنها از روز اول کار می‌کردند، اما هنوز مدتی طول می‌کشید تا به آن دست یابند.

او اضافه می‌کند: «امنیت برای شرکت‌ها یکسان است - ما می‌توانیم کمربند ایمنی را محکم کنیم.

بنابراین، با حجم عظیمی از تهدیدات که مدافعان امنیت سایبری روزانه با آن مواجه هستند، چگونه متخصصان امنیتی می توانند مثبت بمانند؟

دیویس می‌گوید: «واقعا سخت است، چشم‌انداز تهدید در حال حاضر بسیار سریع در حال تکامل است. باید از بالا به پایین تعبیه شود - از سطح هیئت مدیره به پایین تا C-suite و پایین تا کارمندان - اما همچنین باید از کارکنان خط مقدم آموزش داده شود.»

او می‌افزاید که با توجه به تعداد اخبار گسترده امنیت سایبری که این روزها به سرفصل‌های خبرها می‌رسد، مدیران بیشتر و بیشتری از نیاز به محافظت از C-suite آگاه می‌شوند - و CISO خود را در مورد اینکه چه برنامه‌ای برای انجام این کار دارند و چگونه می‌توانند در صورت وقوع بدترین اتفاق بیفتند، به چالش می‌کشند.

او می‌گوید: «ما به‌طور منظم این گفتگوها را انجام می‌دهیم، به‌عنوان یکی از اعضای حرفه‌ی امنیتی، چندین سال است که درخواست می‌کنیم پشت میز بنشینیم - و سرانجام به آن رسیدیم.»

دیویس خاطرنشان می کند که DDR فقط یک تمرین تجاری یا روابط عمومی نیست، بلکه دیدگاه مایکروسافت از خط مقدم نبرد علیه آخرین تهدیدات امنیت سایبری است.

او می‌گوید: «ما در این بازی نقش داریم، هیچ سازمان دیگری در این سیاره وجود ندارد که بتواند این کار را در آن سطح انجام دهد، آن چیزی است که ما می‌توانیم به اشتراک بگذاریم تا به سازمان‌ها کمک کنیم ریسک و تهدید خود را اندازه‌گیری کنند.»

او نتیجه می‌گیرد: «فیزیک سایبر در حال تغییر است، ما متغیرهایی داریم که می‌توانیم آنها را تغییر دهیم - اما آنها (مهاجمین) نیز متغیرهایی دارند که می‌توانند در کنارشان تغییر دهند... این یک مکان ترسناک است... دنیایی که ما در حال حاضر در آن زندگی می‌کنیم بسیار پویا است.»