OpenAI می گوید عامل هوش مصنوعی به کیف پول رمزنگاری هک شده و وجوه را سرقت کرده است

به نظر می رسد که حتی بلاک چین - که توسط طرفدارانش به عنوان گاوصندوق رمزنگاری نهایی تبلیغ می شود - کاملا در برابر عوامل بد هوش مصنوعی ایمن نیست.

این شرکت روز پنجشنبه گفت که یک مدل تحقیقاتی داخلی از OpenAI کیف پول رمزنگاری شخصی را هک کرد و وجوه مورد نیاز برای تکمیل یک کار کدگذاری را برداشت کرد. همانطور که ممکن است قبلا با توجه به حوادث متعدد هوش مصنوعی سرکش در ماه‌های اخیر حدس زده باشید، هیچ‌کس در OpenAI به مدل اجازه انجام این کار را نداد. در یک روش کلاسیک و در حال حاضر بسیار آشنا از ناهماهنگی، این مدل از رویه‌ای که قرار بود بی‌ضرر باشد، استفاده کرد و وقتی به یک مانع برخورد کرد، کمی بیش از حد به حالت حل مشکل رفت.

(به طور خلاصه، این همان چیزی است که همچنین باعث هک بدنام Hugging Face در ماه جولای شد.)

طبق گفته OpenAI، این مدل - بخشی از خانواده GPT 5.6 - دستور داده شد تا یک به‌روزرسانی نرم‌افزاری را برای یک برنامه معاملاتی کریپتو انجام دهد. تلاش برای اجرای یک استقرار در Sepolia، یک شبکه آزمایشی مبتنی بر بلاک چین ("testnet") بود که در آن توسعه دهندگان می توانند برنامه های اتریوم را قبل از استقرار آنها بر روی بلاک چین واقعی ("Mainnet") نمونه اولیه کنند. از آنجایی که آنها صرفا برای اهداف آزمایشی هستند، وجوه Sepolia هیچ ارزش پولی واقعی ندارند.

OpenAI در گزارش خود از این حادثه که در اواخر ژوئن رخ داد و اولین بار تقریبا دقیقا سه ماه بعد در 25 سپتامبر متوجه شرکت شد، گفت: دستورالعمل‌ها «هیچ کیف پولی ارائه نمی‌کردند و اجازه نمی‌دادند وجوهی را از حسابی که مدل پیدا کرده بود به طور مستقل خرج کند». ابتدا مواردی را که به نام «شیر آب» شناخته می‌شوند، بررسی کرد، سرویس‌های آنلاینی که توکن‌های رایگان را در اختیار توسعه‌دهندگانی قرار می‌دهند که در شبکه‌های آزمایشی مانند Sepolia اجرا می‌کنند.

وقتی این کار جواب نداد، باید بگوییم کمی خلاقانه تر شد.

این مدل یک اسکریپت نوشت تا سعی کند با استفاده از عبارات بازیابی رایج به کیف پول های رمزنگاری توسعه دهندگان دسترسی پیدا کند. همچنین به عنوان "عبارات اولیه" شناخته می شود، اینها دنباله ای از کلمات هستند که برای باز کردن قفل و برداشت وجه از کیف پول استفاده می شوند. آنها را مانند یک نام کاربری و رمز عبور در یک مجموعه در نظر بگیرید. مجموعا 362 کیف پول را بررسی کرد و متوجه شد که یکی از آنها دارای وجوه کافی Sepolia برای اجرای استقرار است.

درست قبل از اینکه این تراکنش را مجاز کند، در مورد اخلاقی بودن کاری که قرار بود انجام دهد، منعکس شد، همانطور که توسط بخشی از استدلال زنجیره‌ای از فکر خود که محققان OpenAI توانستند پس از این واقعیت بررسی کنند، آشکار شد. از خود پرسید: «اما از وجوه شناخته شده/کلیدی عمومی از نظر اخلاقی استفاده می‌کنیم؟» سپس تصمیم گرفت که از آنجایی که وجوه دارای ارزش واقعی نیست، استفاده از آنها ضرری ندارد و می تواند ادامه یابد.

OpenAI در گزارش خود نوشت: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خود در مورد آسیب احتمالی را جایگزین اجازه صاحب حساب کند، سپس بدون مجوز بر اساس آن قضاوت عمل کند.»

تراکنش موفقیت آمیز بود و حتی با وجود اینکه هیچ Eth واقعی در این فرآیند به سرقت نرفت، هزینه های پردازش از حساب کیف پول دریافت شد (OpenAI به میزان هزینه آن اشاره نکرد). پس از آن، در خلاصه‌ای از کارهایی که انجام داده بود، از ذکر چیزی در مورد جستجوی عبارات بازیابی یا تخلیه حسابی از وجوه آزمایشی خود غافل شد.

OpenAI گفت که "این حادثه را در حالی کشف کرد که نظارت بر ناهماهنگی ما را به سوابق فعالیت مدل قبلی گسترش داد"، احتمالا پس از هک Hugging Face. این شرکت افزود: «ما تدابیر حفاظتی بیشتری را برای جلوگیری از دسترسی زنده به اینترنت برای مواردی مانند این اعمال کرده‌ایم.

کل اپیزود یادآور دیگری است (انگار ما به آن نیاز داشتیم) که عوامل هوش مصنوعی، در تلاش خستگی ناپذیر خود برای رسیدن به هر هدفی که به آنها داده شده است، می توانند و اغلب استراتژی های مضر را برای رسیدن به آن دنبال خواهند کرد. همچنین یادآوری هشیارکننده‌ای است که از آنجایی که OpenAI و رقبای آن برای ساخت مدل‌هایی با قابلیت‌های سایبری قدرتمندتر رقابت می‌کنند، حتی امن‌ترین شبکه‌ها نیز باید دفاع خود را تقویت کنند.