استارت‌آپ هوش مصنوعی ادعا می‌کند که آنتروپیک را در 12 ساعت هک کرده و به جزئیات کارمندان و پیام‌های داخلی دسترسی پیدا کرده است.

استارت‌آپ AI Cathedral از عوامل مستقل برای نقض سیستم‌های Anthropic از طریق ضعف در نرم‌افزار شخص ثالث استفاده کرد.

نمایندگان به داده های منابع انسانی، فروش و فناوری اطلاعات دسترسی پیدا کردند و اطلاعات محدودی از مشتریان و شرکا را در معرض دید قرار دادند

رویداد نشان می‌دهد که چگونه مهاجمان مجهز به هوش مصنوعی می‌توانند به‌سرعت از ضعف‌های فروشنده با وجود دفاع داخلی قوی سوء استفاده کنند. یک استارت‌آپ هوش مصنوعی ظاهرا زمانی که از عوامل هوش مصنوعی برای نفوذ به شرکت و افشای داده‌های حساس استفاده کرد، طعم داروی خود را به آنتروپیک داد.

شرکت مورد بحث Cathedral نام دارد که توسط اعضای سابق وزارت کارآمدی دولت منحل شده ایالات متحده (DOGE) تأسیس شد.

Anthropic در حال اجرای یک برنامه پاداش باگ دو برابری از طریق HackerOne است. یکی از بخش‌ها بر یافتن نقص‌های فنی در سیستم‌های Anthropic متمرکز است، در حالی که بخش دیگر یک برنامه فقط دعوت‌شده است که به محققان برای یافتن جیلبریک‌های جهانی که محافظ‌های ایمنی کلود را دور می‌زنند، پاداش می‌دهد.

ظاهرا Cathedral نتایج خود را از طریق برنامه bug bounty با Anthropic به اشتراک گذاشته است. پس از اینکه محققان انسانی آن برای چند روز تلاش ناموفق برای نفوذ کردند، عوامل هوش مصنوعی را مستقر کردند که کمتر از 12 ساعت طول کشید تا راهی برای ورود به آن پیدا کنند و از نقص‌های نرم‌افزار تجاری شخص ثالث استفاده کنند.

نقض قوانین

پس از دسترسی به شبکه شرکت، نمایندگان به رونوشت جلسات، اطلاعات مربوط به حقوق و پیشنهادات شغلی و همچنین پیام‌های Slack دسترسی پیدا کردند. به نظر می رسد که مکالمات کارمندان با کلود فاش نشده است.

آنتروپیک این خبر را تأیید کرد و گفت که کلیسای جامع به «مجموعه محدودی» از فروش، منابع انسانی و سیستم‌های فناوری اطلاعات دسترسی داشته و اطلاعات تماس و سوابق حساب کاربری اولیه متعلق به مشتریان و شرکای خاص را به خطر انداخته است. کد منبع و وزن مدل AI مورد دسترسی قرار نگرفت.

آنتروپیک در بیانیه‌ای که با واشنگتن پست به اشتراک گذاشته شده است، گفت: «نظارت ما برخی از فعالیت‌های کلیسای جامع را قبل از اینکه به ما گزارش دهند، علامت‌گذاری کرد. ما در همان روز دسترسی آنها را قطع کردیم.»

بر اساس گزارش Gizmodo، آنتروپیک کلیسای جامع را به نقض قوانین برنامه با افشای نکردن میزان کامل فعالیت خود متهم کرد. ما نمی دانیم که آیا این بدان معناست که Anthropic پرداخت پاداش را آزاد نمی کند، اما مطمئنا به نظر می رسد.

هر چند پرداخت جایزه می تواند کمترین دغدغه آنتروپیک باشد. این شرکت در حال حاضر برای عرضه اولیه عمومی خود (IPO) با ارزش 1.4 میلیارد دلار آماده می شود. افشای اطلاعات حساس به هر کسی، از جمله هکرهای کلاه سفید، قطعا سیگنال خوبی نیست.

"یک دسته از بچه ها" که ویران می کنند

واشنگتن پست به گزارش کلیسای جامع اشاره کرد: «این واقعیت که ضعف در نرم‌افزارهای سازمانی معمولی می‌تواند زیرساخت‌های حتی پیشرفته‌ترین سازمان‌ها را به خطر بیندازد، باید زنگ خطری برای هر شرکتی در آمریکا باشد.»

در همان زمان، یکی از مقامات ارشد دولت ترامپ ظاهرا به ویا ایندیپندنت گفت که «اگر تعدادی از بچه‌هایی که به تازگی شرکتی را راه‌اندازی کرده‌اند، بتوانند این کار را انجام دهند، چینی‌ها به طور بالقوه خیلی عقب نیستند.»

کلیسای جامع را به سختی می توان به عنوان «تعدادی بچه» توصیف کرد - این یک استارت آپ هوش مصنوعی است که بر عملیات سایبری تهاجمی و تدافعی برای ارتش و دولت ایالات متحده متمرکز شده است. بنیانگذاران آن عبارتند از: گاوین کلیگر (مدیر ارشد اطلاعات سابق پنتاگون)، لوک فاریتور (به دلیل کمک به رمزگشایی طومارهای روم باستان با استفاده از یادگیری ماشین)، مارکو الز (کارمند سابق اسپیس ایکس) و جک استین (ظاهرا قبل از پیوستن به DOGE به عنوان یکی از همکاران بانکداری سرمایه گذاری در Salem Partners کار می کرد).

جامعه امنیت سایبری در مورد آن چیزی برای گفتن داشت. جیکوب کرل، مدیر ارشد راه‌حل‌های هوش مصنوعی و امنیت سایبری ایمن در آزمایشگاه‌های سوزو، به‌ویژه مرحله‌به‌جلو نبود و می‌گوید اگر فروشندگان شخص ثالث در همه جا یک خطر هستند، پس آنتروپیک در معرض خطر هستند.

کرل گفت: «ماموران کلیسای جامع به همان روشی که مهاجمان از طریق فروشندگان وارد آنتروپیک می‌شوند، وارد آن‌ها می‌شوند. «سررسید امنیتی توسط ضعیف‌ترین فروشنده‌ای که با آن ادغام می‌شوید محدود می‌شود، و هیچ مقدار مهندسی داخلی آن را تغییر نمی‌دهد».

دارین فرد، مدیر ارشد مهندسی بازاریابی فنی در Ridge Security، پاسخ آنتروپیک را ستایش کرد: "آنتروپیک به خاطر گزارشی مبنی بر اینکه نظارتش برخی از فعالیت ها را شناسایی کرده و اقدامات مهاری را انجام داده است، شایسته تقدیر است. اما اقدام واقعی برای اصلاح، تأیید مستقل این است که آن مسیرهای حمله بسته شده اند. ما باید از اشتباه گرفتن یک وصله امنیتی موفق دیگر با یک وصله امنیتی موفق دیگر جلوگیری کنیم. و امیدوارم کسی کلید یدکی را پیدا نکرده باشد."