محققان از Anthropic's Claude برای هک OpenAI استفاده کردند

وال استریت ژورنال عصر پنجشنبه گزارش داد که در پیچشی که وضعیت عجیب و غریب امنیت هوش مصنوعی را نشان می دهد، محققان امنیتی مستقل از کلود Anthropic برای نفوذ به OpenAI استفاده کرده اند و شکاف هایی را در دفاع سازنده ChatGPT آشکار کرده اند.

OpenAI می‌گوید مشکلات کشف شده توسط Hacktron را حل کرده است، که اتفاقا در لحظه‌ای رخ می‌دهد که شرکت‌های برتر هوش مصنوعی تحت فشار فزاینده‌ای بر سر ایمنی هستند.

این حادثه چندین هفته پس از آن رخ می‌دهد که عوامل هوش مصنوعی OpenAI در طی ارزیابی امنیت سایبری محدودیت‌ها را شکستند و Hugging Face را هک کردند و نشان داد که مدل‌های هوش مصنوعی چقدر توانایی تصمیم‌گیری خود را دارند. همچنین نشان می‌دهد که چگونه می‌توان از فناوری‌های موجود برای یافتن آسیب‌پذیری‌ها حتی در پیشرفته‌ترین زیرساخت‌های شرکت‌ها استفاده کرد.

یا همانطور که یکی از کارشناسان هوش مصنوعی در رسانه های اجتماعی خاطرنشان کرد: "[Hacktron] از Opus 5 برای انجام هک استفاده کرد... سوالی که پرسیده می شود این است که اگر این سه مرد بتوانند این کار را انجام دهند، یک دولت ملی چه می تواند انجام دهد."

محققان در 25 جولای از طریق نقص در Discourse، نرم افزار شخص ثالثی که انجمن جامعه OpenAI را تقویت می کند، راهی به OpenAI پیدا کردند.

طبق وبلاگی که محققان منتشر کردند، نقطه ورودی یک آپلود تصویر معمولی بود. هنگامی که کاربران فایل‌های تصویری HEIF یا HEIC (فرمتی که آیفون‌ها به‌طور پیش‌فرض از آن استفاده می‌کنند) را در انجمن OpenAI ارسال می‌کردند، Discourse آنها را از طریق زنجیره‌ای از ابزارهای پشت صحنه برای تبدیل آنها به JPEGهای استاندارد عبور داد. اولین ایستگاه آن ImageMagick بود، ابزاری که چندین دهه قدمت داشت و برای تغییر اندازه تصاویر استفاده می شد. از آنجایی که ابزار معمولی ImageMagick نمی‌تواند با فرمت اپل مقابله کند، فایل را به کتابخانه دیگری به نام libheif تحویل داده تا رمزگشایی را انجام دهد.

در داخل libheif یک اشکال حافظه مدفون بود که مسیری را برای مهاجم نشان می‌داد که به صورت مخفیانه در دستورالعمل‌های خود نفوذ کند. در این مورد، تغذیه کتابخانه با یک تصویر ساخته شده خاص باعث شد که آن را به اشتباه محاسبه کند که یک تصویر در بالای تصویر دیگر قرار گرفته است، که برای ربودن سرور کافی بود.

چیزی که ممکن است برای جامعه امنیت سایبری ناراحت کننده باشد این است که باگ ماه ها قبل توسط توسعه دهندگان libheif رفع شده بود. اما این اصلاح هرگز به‌عنوان آسیب‌پذیری علامت‌گذاری نشد، به این معنی که هرگز شماره CVE (آسیب‌پذیری‌ها و مواجهه‌های رایج)، راه استاندارد صنعت برای ردیابی نقاط ضعف امنیتی شناخته‌شده را دریافت نکرد. Hacktron می گوید که ممکن است توضیح دهد که چرا نرم افزار مورد استفاده توسط Discourse هنوز نسخه آسیب پذیر را اجرا می کند.

قابل ذکر است، محققان گفتند که مدل کلودی که از آن استفاده می‌کردند - نسخه ویژه ای از Opus 4.8 که برای محققان امنیت سایبری در دسترس قرار گرفت - در ابتدا نمی‌توانست یک اکسپلویت کارساز بسازد. زمانی که آنتروپیک Opus 5 را منتشر کرد، این یک شب تغییر کرد.

Hacktron در یک پست وبلاگ نوشت: "Opus 4.8 در چندین جلسه برای تولید یک اکسپلویت کار تلاش کرد." در عرض چند ساعت پس از انتشار Opus 5، ما همان مشکل را به آن دادیم و موفق شد.

هنگامی که وارد سرور Discourse شدند، محققان نقص دیگری را یافتند که به آنها اجازه می‌داد حساب‌های ChatGPT و Codex کاربران، از جمله آن‌هایی که متعلق به کارمندان OpenAI هستند را در اختیار بگیرند.

Hacktron در خلاصه ای از رویداد نوشت: «سپس حساب یکی از کارکنان OpenAI را که Codexش به سازمان OpenAI Github متصل بود، تصاحب کردیم.

در این مرحله، محققان به OpenAI و همچنین Discourse هشدار دادند که در 27 ژوئیه اصلاحاتی را صادر کرد.

این حادثه نقطه توجهی را به جایی می رساند که برای قابلیت های مدل خط کشیده می شود. Claude Opus 5، نسخه‌ای که در نهایت باگ را برطرف کرد، برخلاف نسخه جدیدتر Mythos 5 که به دلیل نگرانی در مورد قابلیت‌های هک پیشرفته‌اش به طور موقت قفل شده بود، با هیچ محدودیت صادرات امنیتی مواجه نشد.

اینها فقط مدلهای بسته هستند. مدل‌های با وزن باز به طور فزاینده‌ای در قابلیت‌های سایبری به مرزها می‌رسند. به عنوان مثال، سازمان غیرانتفاعی ایمنی هوش مصنوعی SaferAI اخیرا دریافت که GLM-5.2 شرکت چینی Z.ai تنها چند ماه از GPT-5.5 OpenAI و Claude Opus 4.7 از Anthropic فاصله دارد.

همانطور که موهان پداپاتی، بنیانگذار Hacktron در X می گوید: "هوش مصنوعی میزان تخصص کمیاب مورد نیاز برای توسعه اکسپلویت ها را کاهش می دهد. کاری که زمانی ماه ها طول می کشید اکنون ممکن است چند روز طول بکشد."

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

ربکا بلان یک گزارشگر ارشد در TechCrunch است که در آن تجارت، سیاست و روندهای نوظهور شکل دهنده هوش مصنوعی را پوشش می دهد. آثار او همچنین در فوربس، بلومبرگ، آتلانتیک، دیلی بیست و سایر نشریات ظاهر شده است.

می‌توانید با ارسال ایمیل به rebecca.bellan@techcrunch.com یا از طریق پیام رمزگذاری‌شده در rebeccabellan.491 در سیگنال، با ربکا تماس بگیرید یا آن را تأیید کنید.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

OpenAI مدل های خود را گرفتار کرد که برای جانشینان یادداشت می گذاشتند تا رفتار بد ربکا بلان را پنهان کنند

استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.

مدل استدلال جدید Salesforce و Nvidia همه چیزهایی است که آزمایشگاه‌های هوش مصنوعی باید از جولی بورت بترسند.

جنسن هوانگ از ترامپ تماس گرفت و چیز دیگری را نیز به نمایش گذاشت، کانی لویزوس

9 استارت‌آپ پرطرفدار از آخرین روز نمایشی Y Combinator، به گفته VCs Marina Temkin Dominic-Madori Davis

تسلا می‌گوید سرانجام در تاریخ 1 اکتبر از نسل دوم رودستر آنتونی ها رونمایی خواهد کرد

Revolut نقض اطلاعات مشتری از طریق درخواست های جعلی دولت Jagmeet Singh را تأیید می کند