مبارزه با GenAI با GenAI: چشم انداز جدید امنیت ایمیل

استفاده از ایمیل های فیشینگ به عنوان وسیله ای برای سرقت اطلاعات یا کاشت بدافزارهای مخرب به اواسط دهه 1990 برمی گردد. اگرچه تقریبا به اندازه اینترنت قدمت دارد، اما همچنان ابزار انتخابی برای بازیگران تهدیدی است که می‌خواهند به عنوان سازمان‌ها یا افراد مورد اعتماد برای اهداف نفوذ شرکتی ظاهر شوند. در واقع استفاده از آن در حال افزایش است: طبق جدیدترین ارقام اداره تحقیقات فدرال (FBI)، حدود 26 درصد از کل شکایات مربوط به جرایم سایبری که با آنها ثبت شده است، اکنون مربوط به فیشینگ است. اخبار بد به همین جا ختم نمی شود.

فیشینگ به روش‌های هشداردهنده‌ای در حال تغییر است، انواع سؤالات دشوار را برای مدافعان ایجاد می‌کند و امنیت ایمیل را در نقطه عطف مشکل قرار می‌دهد. هوش مصنوعی برای سال ها ابزار مفیدی در دست مجرمان سایبری بوده است. اما ظهور Generative AI (GenAI) یک تغییر دهنده بازی های سایبری است و فیشینگ را از یک مزاحم گسترده اما به راحتی قابل شناسایی به یک ابزار دقیق کشنده تبدیل می کند. فیشرهای مشتاق در طول تاریخ توسط محدودیت های مختلف مانع شده اند.

تلاش‌های آن‌ها برای اصالت واقعی اغلب به دلیل اشتباهات آسان و قالب‌بندی آماتوری تضعیف شده است - ایراداتی که امنیت ایمیل سنتی در برداشتن آنها خوب است. حملات شخصی شده نیز در هر مقیاسی به سختی انجام می شود. GenAI تمام محدودیت های فنی، زبانی و عملیاتی را با خودکارسازی پیچیدگی کنار می گذارد. مهاجمان دیگر مجبور نیستند بین «فیشینگ نیزه‌ای» هدف‌گذاری شده فردی که برای هماهنگی آن تلاش زیادی می‌کند و حملات در مقیاس بزرگ که فاقد ظرافت هستند، یکی را انتخاب کنند.

اکنون، با حداقل تخصص و با هزینه کم، می‌توانند هزاران قربانی را با فیش‌های طراحی‌شده با فشردن یک دکمه ضربه بزنند. مدل‌های زبان بزرگ امروزی (LLM) متن صیقلی و متنی را به هر زبانی تولید می‌کنند، و آن را با گرافیک‌های واقعی برند و آدرس‌های وب متقاعدکننده پشتیبانی می‌کنند. ژنرال هوش مصنوعی این نوع جنایت را در یک لحظه دموکراتیزه کرده است و آن را در دسترس هر کسی که قادر به انجام ابتدایی ترین تحقیقات باشد قرار داده است.

دیو بگت، معاون امنیت سایبری توسعه‌دهنده نرم‌افزار Kaseya، خاطرنشان می‌کند: «به لطف هوش مصنوعی، سیگنال‌های تاریخی که ایمیل‌های فیشینگ را فاش می‌کردند - دستور زبان ضعیف، کلمات غلط املایی - اکنون حذف شده و با زبان کامل جایگزین شده‌اند. این ایمیل‌ها را می‌توان با کمک هوش مصنوعی به شدت هدف قرار داد. شما می‌توانید ایمیلی ایجاد کنید که مثلا یک شرکت داروسازی را با استفاده از اصطلاحات معتبر مشخص کند. این یک ابزار فوق‌العاده قدرتمند برای افراد بد است. و فراموش نکنیم که در جایی که این فیشینگ جدید مبتنی بر هوش مصنوعی موفق است، فقط یک کارمند بی‌احتیاط نیست که داده‌هایش در خطر است.

پس از گذشتن از محیط، یک بازیگر بد می‌تواند برای نقب زدن به پلتفرم‌های ابری و SaaS که اکنون زیربنای تجارت و ارتباطات جهانی هستند، کار کند. به گفته FBI، در مجموع، درک اینکه چگونه خسارات ناشی از حملات فیشینگ در چند سال گذشته 274 درصد افزایش یافته است، آسان است. این چشم انداز امنیتی جدید ایمیل یک پیشرفت هشداردهنده برای روسای فناوری اطلاعات شرکت ها است، و همچنین برای MSP هایی که باید از طرف مشتریانی که تخصص لازم برای انجام حملات در این سطح از پیچیدگی را ندارند، بسیار محتاط باشند.

هوش مصنوعی برای بچه های خوب هم هست این همه خبر بد در خط مقدم امنیت ایمیل نیست. از آنجایی که عوامل تهدید استفاده از GenAI را کامل می کنند، مدافعان به طور موازی راه حل های مقابله با هوش مصنوعی را توسعه می دهند. در جایی که حفاظت از مدرسه قدیمی به شناسایی انواع ناهنجاری‌هایی که GenAI اکنون برطرف کرده است، متکی بود، راه‌حل‌های جدیدتر بیشتر به سمت تحلیل زمینه‌ای طراحی شده‌اند. آن‌ها به اندازه‌ای تلاش نمی‌کنند که اشتباهات تایپی ناشیانه و پیوست‌های مبهم را شناسایی کنند، بلکه سعی می‌کنند قبل از آسیب‌دیدگی، قصد مهاجم را مدل‌سازی کنند.

امروزه مدافعان می توانند از هوش مصنوعی برای تجزیه و تحلیل الگوهای ظریفی که با ساختار لایه ای کمپین های فیشینگ مدرن هماهنگ هستند، استفاده کنند. هدف تعیین این است که آیا یک پیام با الگوهای رفتاری مورد انتظار همسو است یا خیر. این سطح از ظرافت به دلیل ماهیت موذیانه فیشینگ مدرن ضروری است، به این معنی که پیام‌های ایمیل از نظر فنی تمیز، به عبارت دیگر پیام‌هایی که عاری از پیوست‌های بارگذاری شده با بدافزار یا پیوندهای انفجاری هستند، همچنان می‌توانند حاوی پتانسیل مخرب باشند.

مجرمان سایبری مدرن اغلب فیلترهای امنیتی خودکار را با استفاده از ابزارهای ساده برای بهره برداری از روانشناسی انسانی و زیرساخت های قابل اعتماد دور می زنند. مهندسی اجتماعی، که توسط GenAI سوپرشارژ شده است، می تواند شمشیر تیزتر از یک محموله بدافزار باشد. یک فیش اغلب با استفاده از یک ایمیل متنی ساده به دنبال جعل هویت رئیس یا همکار خود است. مهاجمان می توانند GenAI را تنظیم کنند تا لینکدین را جستجو کند و به دنبال افرادی باشد که به تازگی مشاغل جدیدی را شروع کرده اند. کارمندان سبز در برابر فیش آسیب پذیرتر هستند که به نظر می رسد ایمیلی از یک مافوق جدید است که هنوز با آنها آشنا نشده اند.

هنگامی که اعتماد ایجاد شد، آنچه معمولا دنبال می‌شود، تقاضا برای مثلا یک انتقال فوری سیمی، یا یک درخواست غیر عادی برای جزئیات حقوق و دستمزد یا رمز عبور است. مهاجمان می‌توانند از طریق ایمیل‌های متعدد رابطه‌ای برقرار کنند تا قربانی را قبل از ضربه زدن «آرامش دهند». فیلترهای سنتی هیچ چیز مشکوکی را نمی بینند. تشخیص این نوع حمله نیاز به درجه هوشمندتری از ابزار دارد. باگت می‌گوید: «از آنجایی که مهاجمان به دستکاری افراد خطاپذیر متکی هستند، اکنون امنیت باید از آنها در لحظه‌ای که می‌توان تصمیم‌های اشتباه گرفت، حمایت کند.

"امنیت خوب ایمیل، هشدارهای عمومی را با زمینه ای قابل هضم در مورد اینکه چرا ممکن است یک پیام خطرناک باشد و توصیه هایی در مورد نیاز به تأیید بیشتر جایگزین می کند." باگت می‌گوید، جایی که زمانی صندوق ورودی یک کانال تحویل غیرفعال بود، اکنون یک لایه فعال کاهش ریسک است که برای خنثی کردن تلاش فیشینگ قبل از اینکه به مصالحه و ضرر مالی ویرانگر تبدیل شود، طراحی شده است. یک عدم تقارن بزرگ بچه های خوب در حال مبارزه هستند.

اما همانطور که باگت اشاره می‌کند، یک عدم تقارن بزرگ بین بازیگر بد و مدافع وجود دارد: او می‌گوید: «مهاجم‌ها می‌توانند از LLM، اساسا به صورت رایگان، برای ایجاد الگوهای فیشینگ کامل استفاده کنند. از سوی دیگر، اگر مدافعان هر ایمیل ورودی را دریافت کنند و آن را از طریق یک مدل مرزی LLM قرار دهند، حدود 100 برابر بسیار گران است. ما فقط نمی‌توانیم از ابزارهای مشابه برای مجرمان استفاده کنیم. یکی از گزینه‌های مدافعان استفاده از مدل‌های کوچک‌تر و تخصصی‌تر است که از مدل‌های بزرگ‌تر تقطیر شده‌اند.

یک مدل جمع و جور می تواند، برای مثال، با احساس یا معنای هر عبارت در یک ایمیل تنظیم شود، و تنظیم شود تا لحن تهدیدآمیز یا لطفی را که از شما خواسته می شود دریافت کند. در جایی که LLM های حجیم هزینه زیادی دارند، انتخاب دیگری ممکن است اجرای زیرمجموعه ای از نامه های ورودی کلی از طریق یک مدل بزرگ باشد: باگت می گوید: «به مدیران می توان راهی برای اجرای نامه های خاص از طریق یک LLM مرزی ارائه کرد.

"این مدل برای درک برخی از جنبه های حیاتی امنیت ایمیل آموزش داده شده است." می توان از ابزارهای پیش از LLM مانند بینایی کامپیوتری استفاده بهتری کرد، که می تواند به پردازش، تجزیه و تحلیل و درک داده های بصری مانند تصاویر و فیلم های دیجیتال کمک کند. سایر ابزارهای جانبی که می توانند ترکیب دفاعی را غنی کنند عبارتند از تجزیه و تحلیل فرستنده برای بررسی منشأ و صحت یک پیام ایمیل، و بازرسی محتوای پیوندی که می تواند ایمیل را به طور عمیق بدون ایجاد هرگونه تهدید تعبیه شده بررسی کند. دلایلی برای امیدواری به آینده ای امن تر با پیشرفت فناوری هوش مصنوعی وجود دارد.

باگت معتقد است، همانطور که استنباط هوشمندتر می شود و مدل ها بهتر می شوند، می توان درصد بیشتری از ایمیل ها را از طریق یک LLM در مقیاس بزرگ اجرا کرد. با این حال، ممکن است برای چند سال قابل دستیابی نباشد. همچنین امکان استفاده از LLM نه تنها برای شناسایی ایمیل‌های مخرب بالقوه، بلکه برای تجزیه و تحلیل تنظیمات و کنترل‌های مدیریت ابزارهای امنیتی موجود نیز وجود دارد. به این ترتیب، دانش مورد نیاز برای استفاده از ابزارها برای بهترین اثر بسیار کمتر می شود. باگت اشاره می‌کند: «ابزارهای امنیتی می‌توانند پیچیده باشند و صدها تنظیمات را داشته باشند.

"برخی نیاز به تخصص دارند که مشتریان ما ندارند. تعدادی چیز وجود دارد که ما معتقدیم ابزارها باید برای کمک به مدافعان انجام دهند، به عنوان مثال کاهش خستگی هوشیار." برادر جنایتکار، البته، ممکن است راه هایی برای مهار ابزارهای بهتر برای اهداف جدید نیز بیابد. در حال حاضر، بیشتر حملات توسط انسان ها طراحی و طراحی می شود. اما در نهایت، این کار ممکن است توسط مدل‌های عاملی که بتوانند تاکتیک‌های جدیدی را برای خود کشف کنند، تصاحب کنند. ماشین‌ها ممکن است به زودی قادر به برنامه‌ریزی و نظارت بر حملات در مقیاس باشند.

ابزارهای عالی، در حال حاضر در دسترس هستند، خوشبختانه مدافعان مجبور نیستند عقب بنشینند و زیر بار پیشرفت‌های آینده باشند. امروزه برخی از ابزارهای عالی در دسترس هستند که به آنها کمک می کند تا شانس را یکسان کرده و پیچیدگی بررسی ایمیل را کاهش دهند. به عنوان مثال، INKY Smart Insights از GenAI استفاده می‌کند تا بررسی دستی طولانی ایمیل را به چند ثانیه تریاژ خودکار کاهش دهد. برای مقاصد مدیرانی که به سختی تحت فشار هستند، می‌تواند شواهد ایمیل فنی را به یک حکم به زبان ساده تبدیل کند و امکان ایجاد گزارش‌های متقن را فراهم کند.

همراه با Kaseya Intelligence می‌تواند از تصمیم‌گیری در محیط امنیتی گسترده‌تر پشتیبانی کند. باگت مشتاقانه می گوید: «Smart Insights مشکلات را شناسایی می کند و توضیحی روایی از استدلال ارائه می دهد. "این کار را به گونه ای انجام می دهد که بیش از حد فنی نباشد، و این ابزار را برای کسی که در امنیت ایمیل تخصص ندارد ارزشمند می کند." برای مثال، MSP با فشار سخت می‌تواند از Smart Insights برای ارائه اطلاعات کلیدی برای مشتریان خود در قالبی مختصر و قابل هضم استفاده کند.

به طور خلاصه، این امکان را به آنها می دهد تا از پیچیدگی LLM ها لذت ببرند، اما بدون افزودن زیاد به هزینه های آنها. جنگ علیه فیشینگ مبتنی بر GenAI هنوز پیروز نشده است. اما تا زمانی که مدافعان بتوانند پتانسیل ابزارهای هوشمندی که در اختیار دارند را درک کنند، شانس مبارزه برای دور نگه داشتن افراد بد و کانال های ارتباطی ضروری را دارند. در اجلاس امنیت سایبری Kaseya بیشتر بیاموزید - جزئیات اینجا با حمایت Kaseya