هوش مصنوعی دنیای امنیت سایبری را شکست. بعد چی؟

امروز، من با الکس استاموس، افسر ارشد امنیت در Cognition و کارشناس قدیمی امنیت سایبری، در مورد اینکه امنیت سایبری در حال حاضر چه آشفته‌ای است، صحبت می‌کنم.

این قسمت بخشی از یک سریال ویژه است که به هوش مصنوعی در زندگی واقعی می پردازد.

من همیشه از صحبت کردن با الکس لذت می بردم زیرا او بسیار مستقیم است، و شما خواهید شنید که می گوید صنعت امنیت سایبری چند میلیارد دلاری، همانطور که می دانیم، اساسا به دلیل موج های بی امان هک ها، نفوذها و حملات تقویت شده توسط هوش مصنوعی عقب افتاده است – و این تنها شروعی است که هوش مصنوعی چقدر امنیت را تغییر می دهد.

مشترکین همگام، فراموش نکنید که از هر کجا که پادکست‌های خود را دریافت می‌کنید، به رمزگشای بدون آگهی دسترسی انحصاری دارید. به اینجا سر بزن مشترک نیستید؟ می توانید در اینجا ثبت نام کنید.

هم بازیگران خصوصی و هم بازیگران دولتی، مانند روسیه یا کره شمالی، به لطف هوش مصنوعی که به آن‌ها کمک می‌کند آسیب‌پذیری‌ها را همزمان شناسایی کرده و از آن‌ها بهره‌برداری کنند، به سیستم‌ها نفوذ می‌کنند. الکس خاطرنشان می کند که این یک احساس مرزی واقعی دارد، درست مانند دهه 90، زمانی که کل ایده یک دنیای همیشه آنلاین کاملا جدید بود.

این اختلال زیاد به معنای مکان‌های زیادی است که افراد بد می‌توانند وارد شوند در حالی که بقیه در حال تقلا هستند. الکس در درازمدت یک محکوم به فنا نیست، اما او فکر می‌کند که ما در «عصر تاریکی» قرار داریم، در حالی که سعی می‌کنیم بفهمیم که چگونه می‌توانیم خود را با عصر جدید وفق دهیم.

در اینجا اتفاقات زیادی در حال رخ دادن است - ما حتی به نحوه مدیریت اطلاعات نادرست مبتنی بر هوش مصنوعی در شبکه‌های اجتماعی خود پی بردیم.

قبل از شروع، لطفی به من بکنید و مشترک Decoder در YouTube شوید، جایی که ما هر دوشنبه و پنجشنبه قسمت‌های جدیدی را منتشر می‌کنیم.

خوب: الکس استاموس در مورد اینکه چگونه هوش مصنوعی امنیت سایبری را تغییر می دهد. در اینجا ما می رویم.

این مصاحبه برای طولانی بودن و وضوح کمی ویرایش شده است.

الکس استاموس، شما افسر ارشد امنیت در Cognition هستید. شما همچنین یک مدرس در مرکز سیاست سایبری دانشگاه استنفورد هستید. به رمزگشا خوش آمدید.

هی، متشکرم برای داشتن من، مرد.

من برای صحبت با شما هیجان زده هستم. مدت زیادی از گفتگوی من و شما در آنچه ممکن است «عصر تعدیل محتوا» در گفتمان خط‌مشی اینترنت نامیده شود، می‌گذرد. من احساس می کنم شما و من در مورد چگونگی کارکرد همه اینها، در مورد امنیت انتخابات، همه چیزها صحبت کردیم. ما در عصر جدیدی از مشکلات بزرگ در اینترنت هستیم، به ویژه در مورد دفاع سایبری، امنیت سایبری. خیلی به این چیزا فکر کردی شما از چند هفته گذشته به عنوان "ماه آگاهی امنیتی" یاد کردید. به من بگو چه خبر است. فقط همین الان زمین را به من بده.

ماه اکتبر به طور سنتی ماه آگاهی از امنیت است. بسیاری از شرکت‌ها رویدادها را اجرا می‌کنند و به صورت داخلی معامله می‌کنند و سپس به مردم می‌گویند: «گذرواژه خود را تغییر دهید، از چند رمز عبور استفاده کنید، از یک مدیر رمز عبور استفاده کنید». اتفاقی که در ماه گذشته رخ داده این است که ما چند تا از این باگ های بزرگ، PHP، Node و مواردی از این دست را داشته ایم. آنچه کمتر مورد بحث قرار گرفته است این است که تعداد زیادی از شرکت ها نقض شده اند.

شما یک سری شرکت های مرتبط با هوش مصنوعی دارید، نئوکلودهایی که پشت سر هم نقض شده اند. شما هک Binance را دارید که بزرگترین سرقت از هر چیزی در تاریخ بشر است. شما حادثه مکان نما را دارید که در آن یکی از چیزهایی که در اینجا اتفاق می افتد این است که این هک ها به هم زنجیر شده اند. بر اساس آنچه در حال حاضر می دانیم، یکی از شرکت هایی که در آن شکسته شد Fireworks بود که ارائه دهنده برجسته خدمات هوش مصنوعی به تعدادی از شرکت ها است. از هک Fireworks، کلیدهای API به سرقت رفتند که به افراد اجازه می داد به مکان نما نفوذ کنند.

هنگامی که آنها وارد Cursor شدند، یک پلاگین بد را فشار دادند، که به 5000 شرکت دیگر رفت و باعث 5000 نقض احتمالی شد. این فقط این نوع نقض مداوم دائمی است که در سراسر صنعت فناوری در حال وقوع است.

یکی از دوستان CISO من به تعدادی از ما گفت: "کسی دیگر خسته شده است؟" و همه گفتند بله، زیرا ما در کل اکتبر در DEFCON 2 بوده‌ایم و اکنون به نوامبر می‌رویم.

من در اینجا از شما سؤالات واقعا احمقانه ای می پرسم. چه کسی پشت همه این حملات است؟ آیا روسیه است؟ آیا کره شمالی است؟ آیا می دانیم؟

این انواع گروه های مختلف است. فقط به این دلیل نیست که دشمنان تصمیم گرفته اند، بلکه اتفاقی که افتاده این است که، از دیدگاه من، ما در ابتدای آغاز به کار توانایی حریف هستیم که توسط هوش مصنوعی فعال شده است، که مدل های وزن باز اکنون به نقطه ای رسیده اند که می توانید بیشتر زنجیره کشتن را خودکار کنید. این اصطلاح "زنجیره کشتار" چیزی است که ما از ارتش دزدیدیم. در ارتش، منظور آنها کشتن چیزی است. آنها مراحلی هستند که شما برای منفجر کردن چیزی انجام می دهید. در سایبر، زنجیره کشتن کارهایی است که شما برای تأثیرگذاری روی یک هدف انجام می دهید.

بنابراین برای سرقت اطلاعات، برای خاموش کردن چیزی، برای سرقت پول، برای سرقت بیت کوین.

به طور سنتی، شما از قبل تحقیق می‌کنید، به یک نرم‌افزار نگاه می‌کنید، آسیب‌پذیری را پیدا می‌کنید، اکسپلویت‌ها را می‌نویسید، و این کار را خیلی زودتر از موعد انجام می‌دهید. و سپس یک انسان را مجبور می‌کنید که برود و چیزهایی را که ساخته‌اید برمی‌دارد و آن‌ها را علیه یک هدف مستقر می‌کند - زیرا ممکن است شما یک دولت باشید و علیه لاکهید مارتین یا علیه دولت دیگری یا یک بازیگر باج‌افزار هستید - و تمام کارهایی را که انجام داده‌اید انجام می‌دهید و آن را بر علیه صدها یا هزاران هدف واقعا سریع به کار می‌گیرید.

اکنون با هوش مصنوعی، چیزی که اتفاق می‌افتد این است که این زنجیره کشتار معکوس شده است، جایی که می‌توانید یک سیستم هوش مصنوعی را اجرا کنید که به سرعت به اهداف نگاه می‌کند و باگ‌ها را در زمان واقعی پیدا می‌کند و اکسپلویت‌ها را در زمان واقعی می‌نویسد و به این شرکت‌ها نفوذ می‌کند. یکی از چیزهایی که اتفاق می‌افتد این است که این سیستم‌ها کار می‌کنند و آنقدر در یافتن باگ‌ها خوب هستند که در زمان واقعی باگ‌ها را پیدا می‌کنند و اکسپلویت‌ها را در زمان واقعی می‌نویسند.

سیستمی که همه درباره آن صحبت می کنند تنها سیستمی نیست، اما سیستمی که ما در مورد آن صحبت می کنیم چیزی به نام ARTEX است که یک ابزار منبع باز چینی است که هر کسی می تواند به آن نگاه کند. یک ترجمه انگلیسی در GitHub وجود دارد که می توانید آن را بررسی کنید. و اگر آن را در قسمت پشتی با چیزی شبیه GLM-5.3 محو شده روشن کنید، به شما این امکان را می دهد که به تعداد زیادی از سازمان ها نفوذ کنید. این کار با سه بانک کره جنوبی آغاز شد. در این هفته، حدود 200 شرکت دیگر ضربه خورده اند. من به چند شرکت کمک کرده ام.

Cognition یک شرکت پاسخگویی به حوادث نیست، اما ما وارد آن می‌شویم و به افراد کمک می‌کنیم تا با استفاده از ابزارهای خود، باگ‌های خود را برطرف کنند. این شرکت‌هایی را که تحت تأثیر چیزی قرار می‌گیرند شوکه‌کننده است. خیلی وقت است که نمی‌توانید بروید و یک ابزار منبع باز دانلود کنید و وارد شرکت‌های چند میلیارد دلاری شوید. مثل دهه 90 است. یعنی-

این چیزی بود که من به آن فکر می کردم. من به ویندوز در اواخر دهه 90 و اوایل دهه 2000 فکر می کنم که یک فاجعه امنیتی بود.

در واقع از اوایل امسال شروع کردم به گفتن این موضوع، که زمان فوق‌العاده هیجان‌انگیز و وحشتناکی است، زیرا آخرین باری که چنین احساسی داشتم زمانی بود که مردی بسیار جوان‌تر بودم و به DEFCON‌های اولیه رفتم. DEFCON این روزها حدود 40000 تا 60000 نفر است. در آن زمان [در دهه 1990] چند صد نفر بودند و یک آهنگ بود و شما وارد می‌شدید و کسی صحبت می‌کرد و اتاق را ترک می‌کردید و فکر می‌کردید، "هر شرکتی در جهان در برابر این حمله آسیب‌پذیر است." تفاوت این بود که کل دنیا روی اینترنت کار نمی کرد.

شما می توانید کارهای بد انجام دهید، اما نمی توانید دنیا را خراب کنید و مطمئنا نمی توانید آن را به روشی که اکنون می توانید خودکار کنید.

به آن روزگاری بازگشته است که ابزارهایی که می توانستید به دست بیاورید و خودتان بسازید می توانستند کارهای دیوانه وار انجام دهند. به روزهای غرب وحشی بازگشته است. در آن روزها، چند صد نفر بودند که آن مهارت ها را داشتند و همه ما در یک اتاق در لاس وگاس بودیم و بیشتر آنها واقعا بچه های خوبی بودند. آنها نمی خواستند جنایتکار باشند. و اکنون شما اکوسیستم بسیار بزرگتری از مردم دارید که بسیاری از آنها در مکان هایی زندگی می کنند که مجریان قانون نمی توانند به آنها دست بزنند و انگیزه اقتصادی زیادی دارند و به این ابزارها دسترسی دارند.

نکته مهم دیگر این است که آنها دیگر مجبور نیستند از مدل های مرزی استفاده کنند که دارای محافظ هستند، دارای سیاهه هایی هستند که در دسترس مجریان قانون هستند. M5 Mac Ultra Studio من بالاخره ظاهر شد و من یک GLM-5.3 حذف شده کوانتیزه شده را اجرا کردم و خدای من، کاری که شما می توانید انجام دهید باورنکردنی است.

شما به اقتصاد مدل های مرزی اشاره کردید. اقتصاد سایبری یکی از آن چیزهایی است که در طول سال ها پیچیده شده است. یکی از مواردی که سیستم‌های ما ایمن‌تر شدند این است که می‌توانید به تعدادی از افراد در DEF CON یکسری پول برای محافظت از همه سیستم‌ها بپردازید و از نظر اقتصادی هوشمندانه بود که به آنها پرداخت کنید تا به جای مهاجم، مدافع باشند. من فقط مغزم را در این تاریخ به عقب می چرخانم. گفتگوی طولانی در صنعت ما در مورد امنیت از طریق مبهم بودن با پنهان کردن تمام اشکالات و پنهان کردن همه کدها در مقابل منبع باز و واقعا شفاف بودن وجود داشت.

آدابی وجود داشت که در مورد نحوه آشکار کردن اشکالات و زمان اطلاع رسانی به افراد ایجاد شد. گزارش‌های شفافیت و پاداش‌های باگ وجود داشت.

شما می توانید آن را آداب معاشرت بنامید، می توانید آن را اقتصاد بنامید. ما فرهنگی پیرامون امنیت سایبری و دفاع سایبری و نحوه عملکرد مهاجمان و مدافعان ایجاد کردیم. چیزی که شما توصیف می‌کنید به دلایل زیادی همه چیز را تغییر می‌دهد، اما چیزی که به من توجه می‌کند، اقتصادی بودن آن است. من می‌توانم بروم یک مک استودیو بخرم، می‌توانم یک مدل وزن باز تهیه کنم و تازه می‌توانم شروع کنم و این من را در داخل فرهنگ قرار نمی‌دهد. قرار نیست پیرمردی وجود داشته باشد، اوبی وان کنوبی که بگوید، "اینطور است که شما مانند یک جدی امنیت سایبری عمل می کنید." من تازه شروع به انجام کارها می کنم.

به من بگو در حال حاضر چگونه تغییر می کند.

عملا، آخرین دوره امنیت از دیدگاه من با یادداشت «محاسبات قابل اعتماد» مایکروسافت، بیل گیتس در اوایل دهه 2000 آغاز شد. و این زمانی بود که ما شروع به طراحی نحوه انجام امنیت نرم افزار کردیم و این شرکت های بزرگ، مایکروسافت و اوراکل و سپس آمازون و سیلفورس و این افراد شروع به استخدام هکرهای سابق کردند. من بخشی از آن نسل از هکرهای سابق بودم که در DEF CON و Black Hat بودند و توسط شرکت‌ها استخدام شدم تا چیزهایشان را بشکنند.

ما شروع کردیم به افشای مسئولانه، جوایز باگ، شرکت‌های مشاوره، بنابراین Foundstone و @stake و سپس Mandiant و CrowdStrike، این شرکت‌ها بزرگ می‌شوند و ما این صنعت عظیم را به دست می‌آوریم که اکنون RSA و Black Hat است. این صنعت امنیت چند میلیارد دلاری در دهه های 2000 و 2010 رشد کرد.

همانطور که شما گفتید، آن دوران به پایان رسیده است، زیرا بر اساس چند فرض بود. یکی این بود که سلسله مراتبی از مهارت های افرادی وجود داشت که می توانستند این کارها را انجام دهند. شما بچه‌های اسکریپت را داشتید که می‌توانستند ابزارهایی را برای انجام کارها دانلود کنند و سپس سطح بعدی افرادی را که می‌توانند آن ابزارها را بنویسند، دانلود کنند و این یک مجموعه مهارت نادرتر بود.

محققان آسیب‌پذیری بودند و سپس خدایان، و آن ردیف خدا در صدها نفر بود و آن‌ها افرادی بودند که می‌توانستند تحقیقات آسیب‌پذیری واقعا بسیار خوبی را انجام دهند، که می‌توانستند کد پوسته واقعا بسیار خوبی را بنویسند، و می‌توانند وصله‌های مهندسی مایکروسافت یا شخصی شبیه به آن را تغییر دهند.

همچنین این فرض وجود داشت که تعداد محدودی از افراد می توانند در یک حمله عملیاتی باشند. اگر می‌خواهید یک تیم حمله بسازید، یک جزء تحقیق و توسعه کوچک و سپس یک جزء عملیاتی بسیار بزرگ‌تر دارید. اگر یک تیم حمله حرفه ای در فرماندهی سایبری ایالات متحده، در روسیه SVR، در MSS چین بودید، ساختار تیم تحقیق و توسعه خود را از افراد نخبه و سپس افراد عملیاتی کمتر نخبه خود می سازید، و این توسط بازیگران باج افزار روسی کپی شده است. برای انجام این کار باید توطئه ای از مردم داشته باشید.

بسیاری از این چیزها نیز با اختراع بیت کوین از بین رفت، زیرا یکی از فرضیات این بود که شما باید افرادی داشته باشید که می توانند پول شویی داشته باشند و بیت کوین به این معنی است که آدم های عصبی می توانند پولشویی کنند. بنابراین شروع به تغییر اقتصاد کل کرد.

همه این چیزها به دلیل هوش مصنوعی در حال از بین رفتن است، زیرا مشکل مجموعه مهارت این است که اکنون بچه های اسکریپت دارای مجموعه ای از مهارت های دیو ویتالز و دیگر خدایان سایبری هستند که می توانند این کارها را انجام دهند، به طوری که با این مک که روی دسکتاپ من قرار دارد، می توانم یک پچ مایکروسافت را مهندسی معکوس کنم و از آن عبور کنم و سپس کد بهره برداری پایدار بنویسم. هنوز کاملا وجود ندارد تا خودکار باشد. شما هنوز باید مهارت های زیادی داشته باشید، اما ما واقعا بسیار نزدیک هستیم.

آنچه واقعا نگران کننده است، و آنچه در مورد ARTEX می بینید، این است که اکنون می توانید به نوعی در سمت عملیاتی رها شوید. ما هرگز امن نبودیم. همش فانتزی بود این آسیب پذیری ها همیشه وجود داشته است. این شرکت ها هرگز ایمن نبوده اند. و این همان چیزی است که در دهه گذشته دیده‌ایم این است که بازیگران باج‌افزار عمدتا روسی شرکت‌های متوسطی را که اکثر مردم هرگز در مورد آن‌ها نشنیده‌اند که واقعا مهم هستند، نشان می‌دهند، مانند برخی از شرکت‌های صنعتی متوسط ​​که ابزارک‌هایی را می‌سازند که همه ما به آن وابسته هستیم.

من یک بار برای بزرگترین توزیع کننده لوازم پزشکی و دندانپزشکی در کشور کار می کردم، و آنها واقعا توسط یک بازیگر باج افزار روسی ضربه شدیدی خوردند و سپس مطب های دندانپزشکی در سراسر کشور قرار ملاقات ها را لغو کردند. حتی خبری هم نکرد، اما به این دلیل بود که نمی‌توانستند دستکش تهیه کنند، زیرا نمی‌توانستند لوازم تهیه کنند. این به این دلیل است که شرکتی مانند آن یک مامور امنیتی و یک تیم IT 10 نفره و 12 نفره دارد و آنها با یک تیم باج افزار روسی 20 نفره مقابله می کنند.

اما فقط به این دلیل است که تیم های روسی انگشت شماری می توانند این کار را انجام دهند. حالا دو یا سه بچه روسی می توانند یک بانک کامل مک داشته باشند یا اگر پول دارند می توانند انویدیا H-100 بخرند و می توانند تعداد زیادی مامور را اداره کنند که تمام روز این کار را انجام می دهند و این چیزی است که تغییر می کند.

متاسفم، شما پرسیدید چه کسی این کار را می کند. برای بایننس، این کره شمالی است و آنها یک تیم کامل دارند که تنها کاری که انجام می دهند سرقت بیت کوین است. افراد دیگر از آن خارج شده‌اند، زیرا رقابت با آژانس اطلاعاتی خارجی که باهوش‌ترین بچه‌هایشان را استخدام می‌کند و تنها کاری که انجام می‌دهند سرقت بیت‌کوین است، واقعا سخت است. آنها در آن فوق العاده خوب هستند. و برای هک Binance، ما می توانیم در مورد آن صحبت کنیم. احتمالا برخی از مؤلفه‌های هوش مصنوعی وجود دارد، اما بیشتر آن در واقع هوش انسانی و مهندسی اجتماعی بسیار بسیار هوشمند بود و کره‌شمالی‌ها هستند... منظورم این است که شما باید آن را به آنها بدهید.

آنها در آن بسیار بسیار خوب هستند.

اما برای چیزهای دیگر، به نظر می رسد افرادی که در حال نفوذ به شرکت های هوش مصنوعی هستند، صنعت دسترسی به کلبه چینی نامیده می شود، که پیمانکاران کوچک چینی هستند که وارد شرکت ها می شوند و سپس اطلاعات را به شرکت های چینی بسیار بزرگتر می فروشند.

این اشاعه مهارت که اقتصاد سایبری را تغییر می دهد برای من واقعا جذاب است. ما سال‌ها پیش تیتری به نام «حمله به بچه‌های فیلمنامه قاتل» را منتشر کردیم، و من احساس بدی می‌کنم زیرا این تیتر برای الان بسیار مناسب‌تر از آن زمان است، زیرا آن زمان فقط یک شیطنت خودکار بود. اکنون -

چون تیتر را هدر دادید. ای کاش جلوی آن را می گرفتی

تیتر را هدر دادیم. هرازگاهی با یک تیتر خبری مواجه می شوید. باید آن را بیرون بیاوری این یک اثر هنری عالی است. ما آن را در یادداشت‌های نمایش قرار می‌دهیم، اما به نظر می‌رسد که انتشاری که از آن صحبت می‌کنید این نیست که دسته‌ای از نوجوانان بدخواه‌تر باشند. مجموعه ای از بازیگران بد با انگیزه های واقعی برای آسیب رساندن، اکنون بسیار توانایی بیشتری نسبت به قبل دارند. و به نظر نمی‌رسد که بتوانید اقتصاد آن را مجددا تقویت کنید، مگر اینکه به نحوی انجام حملات را واقعا گران کنید.

من فکر می‌کنم گران‌کردن انجام حملات بسیار سخت خواهد بود.

ما باید هزینه دفاع را کاهش دهیم. شما کاملا حق دارید که به این مشکل اقتصادی نگاه کنید زیرا آنچه در حال رخ دادن است این است که حملات در حال تبدیل شدن به یک عامل هستند. هزینه هر توکن برای مهاجمان به سمت صفر می رود و هزینه دفاع برای مدافعان بسیار بالا می ماند. برای ما بسیار مهم است که راه هایی پیدا کنیم تا مدافعان گزینه های ارزان تری داشته باشند. من فکر می کنم که بسیار مهم است. این چیزی است که من شخصا به شدت روی آن متمرکز هستم. صادقانه بگویم، افراد بسیار کمی هستند.

اینجا یکی دو تا مشکل وجود دارد. اول، تمرکز زیادی روی جنبه دفاعی هوش مصنوعی برای یافتن و رفع اشکال وجود دارد. این عالی است مهم است. اما امنیت نرم افزار به عنوان یک CISO… من برای یک شرکت نرم افزاری هوش مصنوعی، Cognition کار می کنم. حتی به عنوان یک CISO یک شرکت تولید نرم افزار، امنیت نرم افزار 25 درصد از شغل من است. من انواع مسئولیت های دیگر را دارم. و امنیت نرم‌افزار بخشی از کار من است که هم متحول‌ترین و هم بیشترین پیشرفت را در هوش مصنوعی داشته است. 75 درصد دیگر کمی کمک شده و در برخی موارد بسیار بدتر شده است.

خیلی بیشتر از تپه نوردی برای یافتن و رفع اشکالات باید انجام دهیم. تپه‌نوردی روی همه این چیزهای دیگر بسیار کمتر بوده است. و منطقه بعدی باید بخش امنیتی عملیاتی باشد.

صبر کنید، یک مثال از موارد دیگر، یعنی 75 درصد، به من بگویید.

باشه بنابراین، بخش امنیتی عملیاتی گزارش‌های شما را رصد می‌کند و می‌گوید: "آه، کسی دارد فن‌آوری‌های ما را علیه ما اجرا می‌کند. من اکنون تحقیقاتی را آغاز می‌کنم. می‌خواهم ببینم چه اتفاقی دارد می‌افتد و تصمیم هوشمندانه‌ای خواهم گرفت که برای پاسخ به این موضوع بدون تعطیل کردن کل شرکت، چه کاری انجام دهم." این کار SOC (مرکز عملیات امنیتی) است. شرکت‌هایی که می‌خواهند در این دوران جان سالم به در ببرند، باید انسان‌هایی را که این کار را انجام می‌دهند با سطح اول و در نهایت ردیف دوم با هوش مصنوعی جایگزین کنند. و شما می توانید این کار را با LLM های فعلی انجام دهید.

سطح اول در واقع باید یک LLM نباشد. این باید بسیار احمقانه باشد زیرا شما به ترابایت یا پتابایت سیاههنگام نگاه می کنید و انجام این کار با یک LLM واقعی کاملا غیراقتصادی است. ما چیزهای دیگری داریم - TF-IDFها، MLBERTها، طبقه‌بندی‌کننده‌های سنتی - که می‌توانند بسیار سریع‌تر عمل کنند، اما بعد زنگ هشدار را به صدا در می‌آورند و سپس آن را به یک LLM کوچک می‌فرستید و سپس LLM کوچک، برادر بزرگ‌تر خود را صدا می‌کند و ممکن است برادر بزرگ‌تر را صدا کند.

اما برای آن مدل‌ها، ما باید کارهای بسیار بیشتری برای بهینه‌سازی آنها انجام دهیم و باید آنها را ارزان کنیم. من یک همکار دارم که در یکی از شرکت‌های بزرگ پلت‌فرم امنیتی کار می‌کند و می‌گوید که انجام تحقیق در مورد یکی از مدل‌های سایبری بزرگ مدل مرزی ۹۰۰ دلار برای بررسی محصولشان هزینه دارد. وقتی باج‌افزارهای روسی از مک استفاده می‌کنند یا از دکل‌های ماینینگ کریپتو دور ریختنی استفاده می‌کنند و هزینه نهایی آنها صفر است، این کار نمی‌تواند کارساز باشد.

این یکی از چیزهایی است که ما در Cognition روی آن کار می‌کنیم: ما مدل‌های خود را آموزش می‌دهیم، وزنه‌های باز را دوباره آموزش می‌دهیم، و سعی می‌کنیم این هزینه را کاهش دهیم. این کاری است که ما انجام داده‌ایم، اما اینجا کارهای زیادی برای انجام دادن داریم و افراد زیادی اینجا کار دارند. اینجاست که به عنوان یک صنعت، ما باید روی مرز پارتو بین هزینه و کارایی در سایبر تمرکز کنیم، زیرا فقط باگ‌یابی نیست.

جای دیگر اینجا این است که مردم درباره Mythos صحبت می کنند. Mythos عالی است، Astra Cyber ​​عالی است. آنها مدل‌های باورنکردنی هستند، اما حتی افرادی که به آن دسترسی دارند، که تعداد کمی از شرکت‌ها هستند، فقط مهم‌ترین کد خود را اسکن می‌کنند. و صدها میلیارد خط کد وجود دارد که هسته لینوکس نیستند، این کدهای C# و J2E مزخرف هستند که توسط Infosys 15 سال پیش نوشته شده است. همه این کدها از طریق یک مدل سایبری مرزی که یک گزیلیون دلار هزینه دارد، عبور نمی کند. این همان چیزهایی است که ما باید روی کارایی هزینه برای آن کار کنیم.

به نظر می‌رسد دارید این کلیشه‌ای را توصیف می‌کنید که همیشه می‌شنوم: همه چیز قبل از اینکه برای همیشه امن شود، خیلی بدتر می‌شود. و به نظر نمی رسد مدلی که شما توصیف می کنید به این نتیجه منجر شود. ما قرار نیست برای همیشه تمام اشکالات را در دره ای از ناامیدی برطرف کنیم و سپس همیشه کد کاملی داشته باشیم. در برخی موارد، همیشه یک مزیت هزینه برای مهاجم وجود دارد. شما یک شرکت را اداره می کنید، نمی توانید دفاعی بنویسید که هزینه های نهایی آن صفر باشد. حتی اگر مهاجمان آنقدر بی نهایت باشند که هزینه نهایی آنها عملا صفر باشد، باید این کار را انجام دهد.

پس آیا قرار است دوره ای را پشت سر بگذاریم که همه چیز بسیار بدتر باشد و سپس برای همیشه کامل شود؟ یا هزینه چگونه خود را مدیریت می کند تا تعادل ایجاد کند؟