عامل هک هوش مصنوعی فراری در پشت رخنه WorkOS پس از فرار از sandbox

WorkOS می‌گوید یک عامل هک مبتنی بر هوش مصنوعی که برنامه فروش داخلی آن را نقض کرده و به اطلاعات مشتری دسترسی پیدا کرده است توسط یک محقق امنیتی اداره می‌شود که ادعا می‌کند ابزار از محیط آزمایشی خود فرار کرده و به طور ناخواسته به شرکت حمله کرده است.

پلتفرم توسعه‌دهنده اوایل این هفته این نقض را فاش کرد و گفت یک مهاجم از چارچوب امنیتی تهاجمی ARTEX AI برای خودکارسازی تلاش‌های شناسایی و بهره‌برداری علیه سیستم‌های خود استفاده کرده است.

با این حال، در یک به‌روزرسانی امنیتی جدید که روز جمعه منتشر شد، مایکل گرینیچ، بنیان‌گذار WorkOS، فاش کرد که فرد مسئول ظاهر شده و ادعا کرده است که این حادثه تصادفی بوده است.

گرینیچ در پستی در X گفت: اندکی پس از بولتن اصلی ما، یک محقق امنیتی با ما تماس گرفت و مسئولیت آن را بر عهده گرفت.

آنها به ما گفتند که در حال ارزیابی ARTEX، یک چارچوب تست نفوذ مستقل هستند، زمانی که عامل آنها از محیط آزمایش ایزوله آن فرار کرد و به طور ناخواسته با WorkOS تعامل کرد.

بر اساس گزارش‌ها، محقق در حال انجام ارزیابی‌های معیار امنیت سایبری با استفاده از ARTEX بود که عامل خارج از محیط مورد نظر خود عمل کرد و شروع به تعامل با سیستم‌های WorkOS کرد.

WorkOS می‌گوید که تیم امنیتی آن و یک محقق پزشکی قانونی مستقل جزئیات درخواست، مهرهای زمانی و سایر مصنوعات فنی ارائه‌شده توسط محقق را با گزارش‌های شرکت مطابقت دادند و با اطمینان بالا تأیید کردند که فرد مسئول این فعالیت غیرمجاز است.

این محقق همچنین تأیید کرد که تمام داده‌های WorkOS به‌دست‌آمده توسط عامل حذف شده و با هیچ‌کس دیگری به اشتراک گذاشته نشده است.

در حالی که WorkOS مسئولیت محقق را برای نفوذ تایید کرده است، شرکت یا محقق جزئیاتی در مورد نحوه فرار عامل از محیط آزمایشی خود به صورت عمومی ارائه نکرده است.

WorkOS می‌گوید تحقیقات همچنین چهار نقطه ضعف امنیتی را شناسایی کرده است که به عامل مستقل اجازه می‌دهد به برنامه فروش داخلی خود دسترسی داشته باشد و اطلاعات مشتری را استخراج کند.

برنامه آسیب‌دیده بر روی پلت‌فرم ابزارهای داخلی قدیمی اجرا می‌شد که فاقد حفاظت‌های امنیتی مورد استفاده در سیستم‌های جدیدتر شرکت بود.

طبق گفته WorkOS، کنترل‌های دسترسی مجاز، نقاط پایانی API برنامه را در معرض اینترنت قرار می‌دهند و به عامل اجازه می‌دهند آن‌ها را کشف کرده و با آن‌ها تعامل داشته باشند.

API همچنین اعتبار قابل پیش بینی در نظر گرفته شده برای توسعه محلی را پذیرفت که به اشتباه در تولید رها شده بود. این به عامل اجازه داد تا پس از کشف نقطه پایانی در معرض احراز هویت.

پس از احراز هویت، عامل از عدم محدودیت نرخ برای بازیابی سریع سوابق از برنامه در معرض سوء استفاده کرد.

WorkOS می‌گوید اولین دسترسی غیرمجاز تایید شده در 25 اکتبر اتفاق افتاد، اما این فعالیت تا 30 اکتبر، پس از تکمیل دانلود سوابق مشتری توسط نماینده، شناسایی نشد.

این شرکت زمانی این حادثه را کشف کرد که یکی از کارکنان متوجه استفاده غیرعادی زیاد از یک سیستم متصل به برنامه آسیب‌دیده شد.

اطلاعات افشا شده شامل جزئیات تماس تجاری، تاریخچه حساب مشتری، اطلاعات استفاده از محصول، و خلاصه یا گزیده‌ای از تماس‌های فروش، بحث‌های پشتیبانی، و مکالمات Slack مشتری بود.

تعداد محدودی از ارتباطات پشتیبانی نیز حاوی آدرس‌های ایمیل کاربر نهایی بود.

WorkOS می‌گوید تحقیقاتش که توسط یک شرکت پزشکی قانونی مستقل تأیید شده است، نشان می‌دهد که این حادثه به داده‌های ذخیره‌شده در سیستم‌های فروش و پشتیبانی مشتری محدود شده است.

این شرکت خاطرنشان کرد که همچنین آزمایش منظم سیستم‌های رو به اینترنت خود را با استفاده از ARTEX در 3 نوامبر آغاز کرده است، همان چارچوب تست نفوذ هوش مصنوعی که در این حادثه دخیل است.

ARTEX یک چارچوب امنیتی تهاجمی مبتنی بر هوش مصنوعی است که قبلا با حملات سایبری علیه بانک‌های کره جنوبی و موسسه هلندی افشای آسیب‌پذیری (DIVD) مرتبط بود.

اخیرا، CrowdStrike گزارش داد که گروه جاسوسی سایبری چینی Vapor Panda از این چارچوب در کمپینی با هدف قرار دادن تقریبا 200 سازمان استفاده کرده است.

اگرچه محقق ادعا می‌کند که حادثه WorkOS غیرعمدی بوده است، اما این رخنه نشان می‌دهد که چگونه از هوش مصنوعی برای انجام حملات خودگردان استفاده می‌شود، حتی زمانی که این حملات غیرعمدی باشند.

عوامل هوش مصنوعی Adaptive Security هدف، زمینه و رفتار ایمیل را برای کشف فیشینگ، در معرض خطر قرار دادن ایمیل تجاری و تقلب در صورت‌حساب تجزیه و تحلیل می‌کنند.

ببینید با اسکن 14 روزه فقط خواندنی Microsoft 365 یا Google Workspace، بدون هیچ تغییری در MX، چه اتفاقی می افتد.

WorkOS می‌گوید مهاجم از ARTEX AI برای نفوذ به اپلیکیشن فروش داخلی استفاده کرده است

هنگامی که یک عامل هوش مصنوعی اتفاق می افتد، سابقه هویت مدرک است

هوش مصنوعی جدید OpenAI GPT-6 Cyber 81 نقص فایرفاکس، 948 باگ لینوکس را پیدا کرد.

هکرهای چینی از ARTEX AI در حملات خودکار علیه 200 سازمان استفاده می کنند

3 روشی که عوامل هوش مصنوعی از قبل در مرورگر شما کار می کنند