کلود آنتروپیک به محققان امنیت سایبری کمک کرد تا OpenAI: Report را نقض کنند

یک تیم تحقیقاتی سه نفره امنیت سایبری از Claude Opus 5 Anthropic برای سوء استفاده از آسیب‌پذیری‌ها در انجمن OpenAI، کنترل حساب‌های کارکنان و نشان دادن دسترسی به مخزن کد خصوصی شرکت استفاده کرد.

این عملیات در 23 جولای آغاز شد و توسط محققان Hacktron AI انجام شد که آسیب‌پذیری‌ها را برای OpenAI فاش کردند و بدون بررسی کد منبع شرکت، آزمایش را متوقف کردند.

محققان آسیب پذیری سمت OpenAI را از طریق برنامه bug-bounty این شرکت گزارش کردند. با این حال، آزمایش خود نرم افزار انجمن شخص ثالث خارج از محدوده برنامه جایزه OpenAI بود.

محققان، هارش جیسوال، موهان پداپاتی و راهول ماینی، یک حساب فنی دقیق منتشر کردند که توضیح می‌داد چگونه نقص نرم‌افزار پشت انجمن OpenAI را با یک مشکل جداگانه در سیستم ثبت نام شرکت ترکیب کردند.

حمله در community.openai.com آغاز شد، یک انجمن کمکی که توسط پلتفرم بحث شخص ثالث Discourse پشتیبانی می‌شود.

Hacktron دریافت که برخی از فرمت‌های تصویر آپلود شده از طریق ImageMagick و نسخه آسیب‌پذیر کتابخانه رمزگشایی تصویر libheif پردازش می‌شوند. این آسیب‌پذیری به داده‌های تصویری آماده‌شده اجازه می‌دهد تا اجرای کد از راه دور را راه‌اندازی کنند، به این معنی که مهاجم می‌تواند به طور بالقوه دستورات را روی سرور انجمن اجرا کند.

سپس یک نقص مدیریت هویت جداگانه به محققان اجازه داد تا از یک جلسه انجمن به خطر افتاده به حساب‌های ChatGPT و Codex متعلق به اعضای فعال انجمن، از جمله کارمندان OpenAI، حرکت کنند.

به گفته Hacktron، از آنجایی که این حساب‌ها می‌توانند به سرویس‌های دیگر متصل شوند، دسترسی بالقوه به پلتفرم‌هایی از جمله GitHub، Slack و Outlook گسترش می‌یابد.

برای نشان دادن تأثیر بدون خواندن مطالب محرمانه، محققان به حساب Codex کارمند آسیب‌دیده که به سازمان گیت‌هاب OpenAI متصل بود، دستور دادند تا یک درخواست کشش بی‌ضرر را در monorepo خصوصی «openai/openai» این شرکت، گاوصندوق دیجیتال مرکزی که کد منبع اصلی همه سیستم‌های هوش مصنوعی را در خود جای داده است، باز کند.

این تیم گفت که بلافاصله پس از آن آزمایش را متوقف کرد و گزارش خود را به OpenAI به روز کرد.