"پیش‌گویی برآورده شد": کمیک محبوب XKCD 2020 هک OpenAI "HEIF Heist" را پیش‌بینی کرد و حتی از ImageMagick در تصادفی ترسناک نام برد.

Hacktron یک سرریز پشته libheif را زنجیر کرد که از طریق ImageMagick در انجمن گفتمان OpenAI به دست آمد و از یک نقص OpenAI SSO استفاده کرد تا برای مدت کوتاهی حساب های ChatGPT و Codex کارمندان را تحت کنترل درآورد.

خود محققین XKCD #2347 را فراخوانی کردند که متن جایگزین آن در سال 2020 اتفاقا ImageMagick را به عنوان وابستگی که روزی از بین می‌رود نام می‌برد.

ImageMagick تنها به عنوان مسیری به مؤلفه آسیب پذیر واقعی، libheif، یک رمزگشای مبهم که به طور غیرمستقیم در Slack، Meta، و GitHub Enterprise در میان رسانه های دیگر کشیده شده بود، عمل کرد. هنگامی که Hacktron AI اخیرا تحقیقات چند ماهه libheif خود را فاش کرد، محققان به تصویری آشنا دست یافتند که همچنین تا حدی نشان می‌دهد که در وهله اول چه چیزی به آنها اجازه نفوذ به OpenAI را می‌دهد.

آنها به خوانندگان به xkcd #2347 اشاره کردند، کارتون وب نمادین رندال مونرو در سال 2020 که شامل تمام زیرساخت‌های دیجیتال مدرن است که بر روی یک بلوک باربری واحد متعادل شده است که برخی افراد تصادفی در نبراسکا با تشکر از آن نگهداری می‌کنند.

این مقایسه نسبتا آسان است، و یک تخم مرغ عید پاک دارد که می توان آن را به عنوان پیشگیرانه از هک در نظر گرفت.

متن جایگزینی که از قضا در سال 2026 پیشگویی به نظر می رسد

تخم مرغ عید پاک مورد نظر یکی از مواردی است که باید به دنبال آن باشید. اگر ماوس را روی کمیک اصلی نگه دارید، متن جایگزین را دریافت می‌کنید: «یک روز ImageMagick بالاخره برای همیشه شکسته خواهد شد، و ما یک دوره طولانی درهم‌تنیدگی خواهیم داشت، زیرا سعی می‌کنیم تمدن را از زیر آوار جمع کنیم.»

طنز ماجرا این است که شش سال پس از پست اولیه کمیک، ImageMagick دقیقا در همان نقطه‌ای نشسته بود که رخنه از آن عبور کرد و تیزر آن را چیزی ساخت که می‌توان آن را پیش‌گویی ناخواسته نامید.

جزئیات غیر جذاب هستند، اما ارزش توجه را دارند زیرا ایمنی هوش مصنوعی همچنان در کانون گفتمان عمومی قرار می گیرد، از جمله سخنرانی های اخیر مدیران عامل OpenAI و Anthropic در سازمان ملل.

Hacktron دریافت که انجمن OpenAI، Community.openai.com، بر روی Discourse اجرا می شود. جستجوگر تصویر معمولی دومی، FastImage، HEIF را نمی‌فهمد و به آرامی وظایف را برای تبدیل به فرمان magick ImageMagick می‌دهد، که به نوبه خود libheif را می‌خواند، کتابخانه‌ای که در واقع فرمت را رمزگشایی می‌کند.

نسخه ارسال شده به انجمن از طریق دبیان مستقر شد و مشکل سرریز پشته بافر داشت که سال قبل بدون برچسب خطر امنیتی بالقوه برطرف شد و به آن اجازه داد تا به عنوان دریچه ای برای تیم Hacktron باشد.

سپس این تیم چندین سوء استفاده را در یک هک مفصل به زنجیر کشید که منجر به اعمال یک پیکربندی نادرست SSO ثانویه (Single Sign-On) در انتهای OpenAI شد، که اساسا به انجمن اجازه می‌داد تا به عنوان دروازه‌ای برای ChatGPT و حساب‌های Codex برای هر کسی که یک حساب اجتماعی از طریق انجمن وارد شده است، عمل کند.

این به آنها امکان دسترسی به GitHub داخلی ChatGPT را داد، جایی که آنها آنچه را که به عنوان یک کشش بی ضرر توصیف می کنند به عنوان اثبات مفهومی انجام دادند و به OpenAI اطلاع دادند. OpenAI آن را 14 ساعت بعد وصله کرد، 6500 دلار جایزه باگ به تیم اعطا کرد و Discourse پس از رتبه‌بندی باگ تصویر زیربنایی 8.8 در مقیاس CVSS و اضافه کردن sandboxing در اطراف پردازش تصویر به عنوان یک معیار دفاعی عمیق، آن را اصلاح کرد.

این اکسپلویت منحصر به OpenAI نیست: همان رمزگشاهای libheif و libde265 از طریق ImageMagick، libvips، Sharp، بسته‌های توزیع استاندارد و تصاویر کانتینر از پیش ساخته شده به تولید می‌رسند. Hacktron آن‌ها را در چارچوب‌های Slack، Meta، GitHub Enterprise، Ruby on Rails و Node.js، از جمله Next.js، Astro و Gatsby ردیابی کرد، که نشان می‌دهد که پیامدهای احتمالی، اگر اصلاح نشود، بسیار گسترده‌تر از یک شرکت هوش مصنوعی است.

رویکرد Hacktron شامل استفاده از Anthropic's Claude Opus 4.8 قبل از تغییر به Opus 5، خرج کردن کمتر از 3000 دلار در توکن‌ها در یک تیم سه نفره و داشتن یک اکسپلویت در عرض تنها دو ماه بود. به اعتبار خود، تیم مجبور شد هوش مصنوعی Anthropic را فریب دهد تا این کار را با قالب بندی انجمن آزمایشی خود به عنوان یک چالش ضبط پرچم انجام دهد، و در نهایت موافقت کرد.

این اکسپلویت به خودی خود چیزی نبود که بدون هوش مصنوعی انجام نشود، اما به یک تیم بسیار کوچکتر اجازه داد تا با سرعتی که معمولا از یک تیم بسیار بزرگتر انتظار می رود کار کند. ظاهرا، پرسیدن از چت ربات هوش مصنوعی خود با کمی فریبکاری می تواند در برخی موارد نتایج فوق العاده خوبی داشته باشد.