تصور کنید هیچ شکارچی درخشانی وجود ندارد - هوش مصنوعی می تواند خدمه هک انسانی را منسوخ کند

KETTLE FBI به نظر می رسد سومین دستگیری در تحقیقات ShinyHunters باشد، پس از نقض سیستم های دفتر توسط این گروه، حتی در شرایطی که پیشرفت های هوش مصنوعی به طور بالقوه باعث می شود هکرهای انسانی در زمان قرض شده باقی بمانند. می توانید آخرین قسمت The Kettle را در این صفحه، Spotify، Apple Podcasts یا YouTube گوش دهید. همچنین می‌توانید در آن پلتفرم‌ها مشترک شوید تا از پخش مستقیم قسمت جدید مطلع شوید.

دومین آسیب‌پذیری که توسط مدل Mythos آنتروپیک کشف شد، در طبیعت مورد سوء استفاده قرار گرفته است، و این آسیب‌پذیری نیست که احتمالا انسان‌ها آن را کشف کرده باشند، و این سوال را مطرح می‌کند که چقدر در آینده جرایم سایبری مهم هستیم. به مجری براندون ویگلیارولو، جسیکا لیونز سردبیر امنیت سایبری و تام کلابرن گزارشگر ارشد بپیوندید تا در مورد این داستان ها و معنای آنها برای آینده امنیت سایبری در قسمت این هفته بحث کنید. متنی با ویرایش کمی در زیر آمده است: براندون (00:01) سلام به همه، و به آخرین قسمت پادکست The Register's Kettle خوش آمدید.

من میزبان شما، براندون ویگلیارولو، گزارشگر Reg هستم، و این هفته چند داستان در مورد امنیت سایبری برای گفتگو داریم، اما این بدان معنا نیست که ما هوش مصنوعی را از گفتگو کنار می گذاریم. جس لیون، سردبیر امنیت سایبری Reg و تام کلابرن، گزارشگر ارشد، با من برای گپ زدن درباره برخی بازداشت‌ها و افشاگری‌های جدید در مورد قابلیت‌های مدل Mythos آنتروپیک هستند. از حضور هر دوی شما متشکرم تام (00:27) بله، متشکرم. جسیکا (00:28) خوشحالم که اینجا هستم.

براندون (00:29) پس جس، بیایید با ادامه جنگ صلیبی FBI علیه کسی که به نظر می رسد دشمن جدید آن، خدمه اخاذی سایبری شکارچیان درخشان است، شروع کنیم. بنابراین همانطور که من فهمیدم، یک نفر در پایان ماه گذشته دستگیر شد و حالا یک نفر دیگر را در این هفته کیف کردند. درست است؟ جسیکا (00:44) خب، به نظر می رسد که در واقع تعداد را به سه می رساند. براندون (00:48) درست است، به دلیل اعلام امروز، درست است؟ [اد: نمایش در روز جمعه ضبط می‌شود.] جسیکا (00:50) بله، اطلاعیه امروز.

مدیر اف‌بی‌آی امروز صبح این پیام رمزآلود را در X منتشر کرد و سپس به خبرنگاران خبری ایمیل شد و گفت که ماموران ما در میدان، یکی دیگر از مظنونان توطئه گروه شکارچیان درخشان را دستگیر کرده‌اند. و این البته مربوط به هک اواخر سپتامبر است که تعداد زیادی داده از ماموران و افرادی را که می خواستند توسط FBI استخدام شوند در مورد نام، شغل، مکان فیزیکی، اطلاعات تماس اضطراری به سرقت برد. براندون (01:23) اطلاعات چند نفر دزدیده شد؟ یعنی یک تن بود، نه؟ جسیکا (01:28) یعنی آنها ادعا می کنند که مال همه بوده است. ادعای آنها هم همینطور است.

و گاهی اوقات این ادعاها فقط برای افزایش تقاضاهای اخاذی و امیدواریم پرداخت ها کمی بزرگ می شود، اما به هر حال اطلاعات زیادی بود. براندون (01:48) همانطور که شاینی هانترز به شما گفت که این کار را برای سود پولی انجام نمی دهند، بلکه به معنای واقعی کلمه برای اثبات اینکه چقدر در این چیزها خوب هستند، این کار را انجام می دهند، درست است؟ جسیکا (01:55) دقیقا. درسته براندون (01:56) بنابراین ممکن است تورمی در اینجا وجود داشته باشد. چه کسی می داند؟ در هر صورت، به نظر می رسد که توجه FBI را به خود جلب کرده است. جسیکا (02:01) بله حتما. بنابراین امروز این پیام را از کارگردان دریافت می کنیم و او می گوید که دستگیری دیگری صورت گرفته است.

بنابراین بلافاصله دستم را دراز کردم و از FBI پرسیدم، آیا این یک سوم است؟ آیا این اشاره به برخی از دستگیری های قبلی است که گزارش شده است؟ زیرا آنها در اوایل هفته نیز به من گفتند که ما دستگیر کرده ایم که چند دستگیری مرتبط با این هک انجام داده ایم. بنابراین آنها گفتند که ما هیچ اظهار نظر دیگری نداریم، اما نیویورک تایمز گزارش می دهد که این یک شهروند کانادایی است که در پنسیلوانیا دستگیر شده است. بنابراین اگر این موضوع صحت داشته باشد، این اولین دستگیری در آمریکا خواهد بود.

براندون (02:41) من واقعا نمی‌فهمم چرا اگر شما یک جنایتکار سایبری نسبتا سرشناس هستید که می‌خواهید به FBI حمله کنید، این کار را از داخل مرزهای کشوری انجام می‌دهید که FBI صلاحیت آن را دارد. این به نظر من یک حرکت احمقانه به نظر می رسد، درست است؟ این افراد به وضوح در کار خود خوب هستند، شاید برنامه ریزی عملی نداشته باشند. منظورم این است که صادقانه بگویم، اگر من اصلا در یک کشور استرداد قرار می گرفتم، این کار را نمی کردم. چون دو نفر دیگر کجا دستگیر شدند؟ جسیکا (03:07) یکی در هلند بود و سپس یکی در اردن بازداشت شده است.

براندون (03:12) بسیار خوب، درست است، هر دو کشوری که من فرض می کنم افراد را به ایالات متحده مسترد خواهند کرد. جسیکا (03:16) درست است. براندون (03:17) من تصور می کنم افرادی که این نوع کارها را انجام می دهند روس ها هستند، درست است؟ هر زمان که درباره یک خدمه جرایم سایبری می‌شنوم، همیشه تصور می‌کنم که چین یا روسیه هستند. آنجاست که شما در امان خواهید بود. جسیکا (03:25) نه، اما نکته جالب در مورد این گروه این است که آنها انگلیسی زبان هستند. در درجه اول آمریکای شمالی، بریتانیا و اروپای غربی است.

و در کل این حرکت، اولین چیزی که از آنها پرسیدم این بود: "خب، چقدر پول می خواهید؟" و بلافاصله به من گفتند: "این انگیزه مالی نیست، این برای حفظ آبروی ماست." آنها می‌خواستند اف‌بی‌آی از این اظهارات قبلی که در جریان نقض دستورالعمل‌ها گفته بودند، عقب‌نشینی کند. و این بر Canvas، این پلتفرم فناوری آموزشی که توسط هزاران مدرسه و دانشگاه K-12 استفاده می‌شود، تأثیر گذاشت. و بنابراین آنها از مفهوم FBI در این که آنها مجرمان خشونت آمیز نقل قول بدون نقل قول هستند، که از تاکتیک های ارعاب استفاده می کنند، خوششان نمی آید.

به طور ضمنی گفته شد که مواردی از اخاذی وجود دارد. و بنابراین آنها از FBI می خواستند که این موضوع را بازگرداند. و من گفتم، "خب، این اتفاق نخواهد افتاد. پس آیا این فقط یک هدف بزرگ را روی پشت شما قرار نمی دهد و شما یک هدف بسیار بزرگ دارید؟" و دوباره، آنها فقط مصمم هستند که این کار باعث بازیابی کسب و کارشان می شود، نشان می دهد که چه هکرهای بزرگی هستند، و دیگران را تشویق می کند - آنها آنها را شرکای شرکتی خود می نامند، این قربانیان اخاذی هستند - این سازمان ها را تشویق می کند تا این مطالبات چند میلیون دلاری را در صورت نقض حقوق آنها بپردازند.

براندون (04:52) درست است، زیرا بدیهی است که این افراد یک تجارت اخاذی دارند، درست است؟ این چیز اصلی آنهاست. انگیزه مالی در این وجود دارد، درست است؟ جسیکا (04:56) درست است. منظور من از برخی حساب ها آنها موفق ترین تجارت جرایم سایبری هستند. آنها تنها در سال گذشته حدود 70 میلیون دلار اخاذی کرده اند. و در کاری که انجام می دهند بسیار خوب هستند. این نیز کمی بی پروا به نظر می رسد حتی با توجه به استانداردهای آنها به دنبال اف بی آی.

براندون (05:23) حتی اگر این یک شیرین کاری با انگیزه سیاسی یا با انگیزه شهرت باشد، ایده بدی به نظر می رسد، به خصوص همانطور که شما گفتید، اگر برخی از آنها در ایالات متحده واقع شده باشند. اما اکنون من نیز کنجکاو هستم، زیرا این یک باند از مجرمان سایبری آشکارا با استعداد است، اما آنها به FBI نفوذ کردند و هدف بزرگی را روی پشت خود ترسیم کردند، و اکنون ظاهرا شاهد سه مورد دستگیری احتمالا بیشتر بوده ایم که ممکن است FBI در مورد آنها صحبت نکرده باشد. اما حداقل سه نفر از اعضای آنها در طی دو هفته پس از نفوذ به اف بی آی دستگیر شدند.

حالا، تصور می‌کنم FBI احتمالا بهتر از بسیاری از افراد در ثبت اطلاعات در شبکه‌شان است، اما این به نوعی باعث تعجب من می‌شود، خوب، آنها به FBI نفوذ کردند و اکنون FBI سه نفر از آنها را دستگیر کرده است. آیا اف بی آی در دولت فدرال می تواند راحت تر از آنها مجرمان سایبری را دستگیر کند؟ مثل اینکه آنها فقط به هدف اشتباهی اصابت نکرده اند. این واقعیت که آنها به اف بی آی هجوم بردند، خوب که سگ را رها کرد.

اما گاهی به این فکر می‌کنم که اگر به مایکروسافت حمله می‌کنید یا چیزهایی را از شرکت‌های دیگر می‌دزدید، آیا آن‌ها نسبت به آنچه معمولا دارند، نسبت بهتری دارند و راه‌های بهتری برای ردیابی این افراد دارند؟ تام (06:36) آیا می دانیم سرنخ اولیه چه بود که باعث شد اف بی آی آنها را دستگیر کند؟ و آیا این واقعیت که یکی از آنها قبلا به طور عمومی شناخته شده بود؟ جسیکا (06:44) خوب، ببینید، موضوع همین است. و تا زمان دستگیری امروز هر دوی این دو در انظار عمومی شناخته شده بودند.

و بنابراین سوال من که از بسیاری از محققان امنیتی، محققان امنیتی شخص ثالث پرسیده ام، زیرا FBI به هیچ یک از این موارد در پرونده رسیدگی نمی کند، فقط این است که بگوییم، ببین ما دو نفر از این جنایتکاران را داریم. بنابراین، اما دوباره، آنها از قبل شناخته شده اند. یک نفر قبلا دستگیر شده بود. و بنابراین به نظر می رسید که این دو برای من آسان است. من نمی دانم چه سرنخ هایی بود که آنها را به آخرین دستگیری سوق داد. و باز هم، من نتوانستم با FBI تأیید کنم که این فردی است که در آمریکا دستگیر شده است و به عنوان یک شهروند کانادایی، سعی می کنم این کار را انجام دهم.

اما کمی خیره کننده به نظر می رسد. و پاسخ‌های معمولی که من دریافت می‌کنم این است، خوب، دلایلی وجود دارد که گاهی اوقات دستگیری‌ها را علنی نکنیم، به‌ویژه در مورد این گروه، که برخی از آنها بسیار جوان هستند. من فکر می کنم فردی در اردن 16 ساله است که بازداشت شده است. بنابراین در بسیاری از مواقع اگر کسی زیر 18 سال است لزوما نمی خواهید دستگیر کنید. بهتر است به نوعی مراقب او باشید. و اگر بتوانید ببینید که آنها چه می‌کنند و با چه کسی صحبت می‌کنند، می‌تواند شما را به افرادی سوق دهد که می‌توانند در بزرگسالی تحت پیگرد قانونی قرار گیرند، که معمولا در این موارد ترجیح داده می‌شود.

به نظر می رسد که ما شاهد دستگیری های بیشتری باشیم. و این چیزی است که من همیشه از منابع مجری قانون که با آنها صحبت می کنم، منابع خصوصی یا منابع شرکت خصوصی که با آنها صحبت می کنم، می پرسم. و نکته اصلی که آنها همیشه به آن باز می گردند این است که، خوب، دشوارتر از آن چیزی است که به نظر می رسد. و سپس با شکارچیان درخشان، با گروهی مانند این، در این مرحله بیشتر یک برند است تا یک فرد یا گروهی متشکل از ده ها نفر یا بیشتر.

بنابراین فقط نام تجاری قرار است ادامه دهد، خواه یکسان باشد یا نباشد، می‌دانید که رهبری بدون نقل قول را نقل کنید، شاید نه، اما برند واقعا به جایی نمی‌رود. براندون (08:48) پس آیا از زمانی که این دستگیری ها شروع شده است با آنها صحبت کرده اید؟ نه؟ جسیکا (08:51) نه، از زمان شروع این دستگیری ها با آنها صحبت نکرده ام. ادعاهایی وجود دارد مبنی بر اینکه سایت لو رفته آنها به زودی به صورت آنلاین پشتیبان گیری می شود، اما در این مرحله این مشکل متوقف شده است. کانال هایی که من با آنها صحبت می کنم از کار افتاده است. پس خواهیم دید.

تام (09:09) تعجب می کنم، آیا ظهور شکار حشرات مبتنی بر هوش مصنوعی شهرت بازی را برای آنها تغییر داده است؟ زمانی که خودتان آن را انجام می‌دادید، افتخار کردن درباره مهارت‌های نخبه‌تان یک چیز بود. اکنون که بسیاری از این افراد ممکن است به مدل‌های منبع باز، GLM 5.3 دسترسی داشته باشند یا ممکن است دسترسی نداشته باشند یا حتی ممکن است در جایی با یکی از ارائه دهندگان بزرگ یک حساب تیم قرمز داشته باشند، آیا این حس وجود دارد که کمی متواضع‌تر باشند که شاید همه کار را انجام نمی‌دهند و هوش مصنوعی آن را انجام می‌دهد؟ یا اینکه مردم هنوز سعی می کنند تمام اعتبار مهارت های خود را به دست آورند و واقعا افشا نمی کنند، اوه بله، من

کلود این کار را برای من انجام داد. جسیکا (09:46) در این مرحله، به خصوص با این گروه فکر نمی‌کنم، فکر نمی‌کنم واقعا مهم باشد زیرا حتی قبل از اینکه این مدل‌های هوش مصنوعی در یافتن و بهره‌برداری از روزهای صفر واقعا خوب بودند، مدتی است که این کار را انجام می‌دهند. بنابراین من احساس می کنم آنها قبلا شهرت خود را به دست آورده اند که در کاری که انجام می دهند خوب هستند. و سپس آنها همچنین در بخش مهندسی اجتماعی آن بسیار خوب هستند، که قطعه بزرگی است.

آن‌ها خوب هستند و در تماس‌های تلفنی افراد را متقاعد می‌کنند که آنها یک پیمانکار هستند که فعالیت‌شان را قفل کرده‌اند یا کارمندی هستند که بیرون را قفل کرده‌اند و باید رمز عبور یا MFA خود را بازنشانی کنند. بنابراین آنها اسکریپت‌هایی را توسعه داده‌اند و نشانه‌هایی وجود دارد که در حال استخدام افراد هستند و کیت‌های هوش مصنوعی دارند که می‌توانند در حال حاضر به بخش مهندسی اجتماعی آن کمک کنند، مخصوصا. اما من فکر نمی‌کنم در این مرحله واقعا مهم باشد که آیا این یک شکارچی براق انسانی بود یا اینکه آیا آن یک شکارچی براق بود که از یک مدل هوش مصنوعی برای یافتن روز صفر و نفوذ به سازمان شما استفاده می‌کرد.

فکر نمی‌کنم برای افرادی که قربانی اخاذی می‌شوند یا واقعا برای شهرت گروه اهمیت زیادی داشته باشد. تام (10:53) بنابراین اگر این افراد به همان اندازه که می گویند خوب هستند، آیا آنقدر خوب هستند که با استخدام شدن توسط اف بی آی به نوعی از آن خارج شوند؟ آیا این روش سنتی نیست؟ جسیکا (11:00) درست است. براندون (11:01) من هم به همین فکر می کردم، درست است؟ اگر یک نوجوان 16 ساله را درگیر کرده اید، می توانید اینگونه بگویید: "ببین، یا به زندان می روی، ما به تماشای تو ادامه می دهیم، یا می آیی برای ما کار می کنی".

جسیکا (11:11) قطعا، من فکر می کنم که این یک حرکت هوشمندانه خواهد بود. منظورم این است که شما همیشه در معرض خطر هستید، همانطور که با دستگیری پلیس هلند دیدیم. اینجا شخصی بود که پس از مدتی خدمت در یک شرکت امنیتی خصوصی کار می کرد و سپس نقل قول اصلاح شد. و بنابراین همیشه این خطر وجود دارد که جذب و فرصت‌های بالقوه پول‌سازی ناشی از جرم و جنایت بسیار بیشتر از کار کردن برای اجرای قانون یا کار برای یک شرکت خصوصی باشد. و یا حتی، این سوالی بود که من پرسیدم و جواب ندادند.

گفتم: "خب، تو در این کار خیلی خوب هستی، پس چرا از مهارت هایت در اینجا استفاده خوبی نمی کنی و نگران دستگیر شدن و پنهان کردن مدام ردپایت نباشی؟" و شکارچیان براق به این سوال پاسخ نمی‌دهند. براندون (12:00) من فکر می کنم پاسخ به آن کاملا واضح است این است که اگر این کار را غیرقانونی انجام دهید، پول بیشتری خواهید داشت. جسیکا (12:03) درست است. پول خیلی بیشتری هست ده ها میلیون دیگر وجود دارد.

براندون (12:07) منظورم این است که FBI احتمالا باید به این بچه ها پول نقد زیادی بدهد، درست است؟ چرا پاک نمی شوی و کلاه سفید نمی شوی؟ چه چیزی قرار است برای آن انجام شود؟ منظورم این است که من تضمین می کنم که پول زیادی خواهد داشت. جسیکا (12:14) درست است و اگر آنها هم جوان هستند، منظورم این است که معمولا در نهایت زمان زیادی را نمی گذرانند، به خصوص اگر نوجوان یا حتی بزرگسال جوان باشند. بنابراین شما پنج سال را در زندان می گذرانید و سپس بیرون می روید و دوباره به درآمد میلیونی با این کار باز می گردید. متأسفانه انگیزه مالی برای ادامه کار برای افراد بد وجود دارد.

براندون (12:43) و منظورم این است که، حدس می‌زنم اگر به اندازه کافی خوب باشید، موضوع همین است، درست است؟ اگر دولت ایالات متحده قصد دارد از شما خواستگاری کند، برای من تعجب آور نخواهد بود که یک دولت خارجی نیز بخواهد از شما خواستگاری کند. و اساسا به شما گفتم، مانند، نگاه کنید، ما در اینجا به شما پناهگاهی امن خواهیم داد. تا زمانی که مردم ما را هدف قرار ندهد، می توانید به انجام هر کار غیرقانونی که می خواهید ادامه دهید، درست است؟ مانند هدف قرار دادن افراد خارج از ایالات متحده و ما اهمیتی نمی دهیم. یا خارج از روسیه یا چین یا هر چیز دیگری.

واقعا جالب است که فکر کنیم اگر این افراد تصمیم بگیرند کارها را به روش درست یا برای افراد مناسب انجام دهند، چه نوع شغلی می توانند داشته باشند. اما حرکت از این جنایت به سمت برخی از جنایات سایبری که هوش مصنوعی را فعال می کند، نیز ادامه می دهد. اسطوره ها این هفته اطلاعات جالبی در مورد قابلیت های Mythos منتشر شد. جس، فکر می‌کنم داستانی که نوشتی درباره این موضوع صحبت می‌کردی، مانند دومین آسیب‌پذیری است که توسط Mythos شناسایی شده است که در طبیعت مورد سوء استفاده قرار گرفته است. درست است؟ جسیکا (13:35) درست است، درست است.

این به گفته یک محقق امنیتی Vulnchek است که از زمان شروع برنامه شریک Mythos این موضوع را ردیابی کرده است. و این مورد دوم است. این یک جورهایی جالب بود، زیرا اینجا از منظر ریاضی واقعا گیج کننده است. این یک دور زدن احراز هویت حیاتی در سرور فایل HTTP Rejetto، HFS بود. و بنابراین این اساسا اجازه دسترسی کامل مدیر و سپس اجرای کد از راه دور را می داد. اما این چیزی است که به احتمال زیاد یک انسان به تنهایی این یکی را کشف نکرده است. براندون (14:17) درست است. درسته پس این بله، کمی بیشتر در مورد آن به من بگویید.

پس شامل چه چیزی بود؟ این یک ریاضی عجیب یا چیز عجیبی بود که با روشی که یک مولد اعداد تصادفی اعداد تصادفی تولید می کرد، انجام می داد، درست است؟ جسیکا (14:27) بله. دقیقا. بنابراین Mythos توانست کد منبع این پروژه منبع باز را تجزیه و تحلیل کند. و سپس Mythos، هوش مصنوعی، متوجه شد که مولد اعداد تصادفی ناامن است. می توانست این را معکوس کند، و همچنین نشت می کرد.

بنابراین توانست این را معکوس کند، به نشت دسترسی پیدا کند، و از آن دسترسی - براندون (14:54) چه چیزی نشت می کرد؟ فقط چیزی مربوط به هش آن یا نحوه ایجاد اعداد یا؟ جسیکا (15:00) بله، داشت خروجی، ژنراتور را نشت می کرد. این PRNG خروجی خود را نشت می کرد. براندون (15:07) باشه. و سپس Mythos توانست اساسا بفهمد که این به اندازه‌ای که تصور می‌شود تصادفی نیست و من می‌توانم به نوعی الگوریتم را مهندسی معکوس کنم. آره جسیکا (15:11) من می توانم آن را معکوس کنم. دقیقا. درسته

اما باز هم، این چیزی است که برای یک انسان، حتی انسانی که واقعا در ریاضیات مهارت دارد، دشوار است که وقت خود را صرف این کار کند. بنابراین ما یک محقق امنیتی را دیدیم که با Horizon 3 استفاده می کند، آنها از زمانی که Mythos اعلام شد برای آزمایش قلم و یافتن آسیب پذیری های زیادی استفاده می کنند. و بنابراین آنها کسانی بودند که این را کشف کردند. و سپس محقق، زک هانلی، این ویدئو را منتشر کرد که نشان می‌دهد چگونه می‌توان از این نقص بهره‌برداری کرد و به اجرای کد از راه دور رسید.

و پس از آن روز بعد، این CVE، که یک پچ نیز دارد، به روز شده است، اما روز بعد CVE قبلا در حال بهره برداری بود. براندون (15:58) تا دا. آره، یک اثبات مفهومی برای این روز صفر منتشر کنید و ناگهان کسی به آن دست می زند. منظورم اینه که از اون چیزی که دیدم یه IP تو چین بود ولی خیلی باریکه هدفش بود درسته؟ مثل اینکه فقط چند قربانی وجود داشت. جسیکا (16:11) بله. آنها آمریکا و ژاپن را هدف قرار دادند. تاکنون فقط چند مورد وجود داشته است. در آخر هفته کمی افزایش یافت، اما به طور گسترده مورد بهره برداری قرار نگرفت. براندون (16:26) باشه.

بنابراین سرور فایل Rejetto HTTP است. و آیا این یک قطعه نرم افزار منبع باز است که به طور گسترده مستقر شده است؟ آیا در اینجا اهداف بالقوه زیادی برای بهره برداری وجود دارد؟ جسیکا (16:40) من واقعا مطمئن نیستم که چقدر از آن استفاده می شود. من نمی دانم. شاید تام، آیا شما ایده بهتری در مورد آن دارید؟ تام (16:46) نمی دانم. آیا در شدان قابل مشاهده است؟ براندون (16:49) مطمئن نیستم. جسیکا (16:50) من اینطور معتقدم. براندون (16:51) در هر صورت، برخی افراد آن را پیدا می کنند، درست است؟ و از آن بهره برداری می کنند. بنابراین امیدوارم افرادی که این قابلیت را دارند آن را به روز کنند.

اما تام، این واقعا باعث می‌شود درباره بحثی فکر کنم که فکر می‌کنم شاید هفته گذشته یا هفته قبل درباره اینکه چه کسی مسئول این نوع چیزها است، درست است؟ این یک اشکال است که احتمالا توسط محققان انسانی پیدا نشده است. و من مطمئن هستم که استدلالی وجود دارد که احتمالا بخشی از آن یافت نمی شد. اما برای من جالب است که این یک اشکال فوق‌العاده پیچیده، کوچک و به سختی قابل توجه است که توسط یک هوش مصنوعی پیدا شد و به سرعت مورد سوء استفاده قرار گرفت.

آیا آنتروپیک اصلا برای این اکتشافات در حال ساخت و بهره برداری است، یا فکر می کنید که این همان هر نوع اثبات مفهومی است؟ تام (17:31) من به کشفیات فکر نمی‌کنم، اما این یک سوال جالب است زیرا همین هفته آنها دسته‌ای از برنامه‌های امنیتی خود را تغییر دادند. آنها یک ردیف دیگر را برای برنامه دفاعی خود اضافه کردند تا بتوانید به مدل ها دسترسی پیدا کنید و آنها کمی کمتر امتناع می کنند، یا می توانید یک محقق تیم قرمز باشید و حتی امتناع های کمتری داشته باشید، یا در سطح دولتی خاص باشید که تقریبا هیچ ردی ندارید.

و بنابراین آنها آن برنامه را سازماندهی مجدد کردند و سپس یک برنامه آسیب پذیری زیرساخت های حیاتی را باز کردند و اسکنر OSS را منتشر کردند، که راهی برای پروژه های منبع باز برجسته برای دریافت گزارش های رایگان با قابلیت هوش مصنوعی در مورد آسیب پذیری های احتمالی است. بنابراین تا جایی که آنها برنامه ای را ارائه می دهند که مدعی کنترل این چیزها است، اگر به نظر می رسد که آنها کار بدی انجام می دهند و یک سری چیزها درز می کند، فکر می کنم کسی می تواند ادعا کند که در اداره این برنامه ها سهل انگاری کرده اند. آنها به اندازه کافی خوب کار نمی کنند.

اما من فکر می کنم استفاده از یک ابزار و کشف چیزی برای کسی مشکل ایجاد نمی کند. این برنامه کاربردی خواهد بود. براندون (18:42) آیا آنها توضیح دادند که چرا اصلا ساختار آن برنامه را دوباره انجام می دهند؟ من فقط به نوعی کنجکاو هستم که آنها آن را به چه دلیلی توجیه کردند. تام (18:47) فکر می‌کنم به دلیل عدم مشارکت باشد، زیرا آنها آن را کاملا محکم بسته بودند و فکر می‌کنم آنها سعی می‌کنند این کار را برای مردم آسان‌تر کنند. آنها گفتند که این تمایل آنها برای کمک و به سرعت رساندن مدافعان با ابزارهایی است که مهاجمان از قبل دارند.

اما من فکر می‌کنم که این اتفاق پس از رخداد «صورت در آغوش گرفتن» و همه موارد دیگری که فاش شده‌اند، درمی‌یابند که اگر فعال بودنشان دیده نشود، پا