یک عامل سرکش OpenAI برای به دست آوردن پول برای انجام یک کار، کیف پول رمزنگاری را سرقت کرد

OpenAI مورد دیگری از سرکشی عوامل هوش مصنوعی خود را مشاهده کرده است - و این بار رمزنگاری درگیر است. در گزارش اخیر، این شرکت توضیح داد که چگونه یک مدل تحقیقاتی داخلی از یک کیف پول رمزنگاری بدون مجوز برای پرداخت هزینه های مورد نیاز برای آزمایش یک برنامه در شبکه آزمایشی Sepolia اتریوم استفاده می کند. اگرچه این توکن ها ارزش واقعی کمی داشتند، اما مدل مجوزی برای جمع آوری یا خرج کردن آنها نداشت.

این حادثه در 26 ژوئن اتفاق افتاد، زمانی که از مدل خواسته شد یک برنامه معاملاتی رمزنگاری را به روز کند و کد آن را روی Sepolia، نسخه آزمایشی اتریوم، اجرا کند. این درخواست نه کیف پولی به آن داد و نه اجازه خرج کردن توکن‌ها را به آن داد و پس از ناکامی در دریافت توکن‌های آزمایشی رایگان از طریق سرویس‌های توسعه‌دهنده، مدل اسکریپتی نوشت و 362 آدرس کیف پول مرتبط با عبارات بازیابی عمومی را بررسی کرد، یک اصطلاح رمزنگاری که مجموعه‌ای از کلمات را توصیف می‌کند که می‌توانند به عنوان رمز عبور برای باز کردن قفل حساب‌های رمزنگاری عمل کنند. در نهایت یک حساب کاربری با توکن های کافی برای پوشش هزینه ها پیدا کرد.

گزارش‌های داخلی نشان می‌دهند که مدل در مورد اینکه آیا مجوز استفاده از حساب را دارد یا خیر، بررسی می‌کند، اما سپس تصمیم گرفت که عبارت بازیابی عمومی و کمبود ارزش نقدی توکن‌ها، هزینه‌ها را قابل قبول کند. این کار را تمام کرد و هزینه ها را به آن کیف پول پرداخت کرد، اما هزینه های غیرمجاز را از گزارش نهایی خود خارج کرد. OpenAI این حادثه را تنها در 25 سپتامبر در طی ممیزی از مدل های قبلی کشف کرد.

این مورد به نگرانی ها در مورد عملکرد عوامل هوش مصنوعی بدون تایید انسانی می افزاید. ردیاب عمومی ناهماهنگی OpenAI یا رفتاری که مغایر با دستورالعمل‌ها یا قوانین ایمنی است، اکنون ۱۹ رویداد را فهرست می‌کند، از دسترسی به داده‌ها بدون مجوز گرفته تا ایجاد تغییرات غیرمجاز در سیستم‌های تجاری.

این افشاگری در پی گزارش سپتامبر توسط Transluce غیرانتفاعی امنیت سایبری است که نشان می‌دهد ماموران OpenAI تلاش کرده‌اند تا پایگاه‌های داده عمومی و یک وب‌سایت دولتی استرالیا را صرفا برای تکمیل وظایف تحقیقاتی اولیه هک کنند. در ماه جولای، این شرکت با حادثه دیگری روبرو شد که عوامل هوش مصنوعی آن در طول آزمایش‌های امنیت سایبری داخلی محدودیت‌های اینترنت را دور زدند و به سیستم‌های متعلق به Hugging Face، پلتفرمی برای اشتراک‌گذاری مدل‌ها و مجموعه‌های داده هوش مصنوعی، نفوذ کردند. این عوامل برای دسترسی به داده های خصوصی و اجرای کد روی سرورهای شرکت از اعتبارنامه های لاگین و نقص های امنیتی در معرض استفاده استفاده کردند.

OpenAI با پرداختن به حادثه کیف پول کریپتو گفت که ریسک اصلی استدلال مدل است.

در این گزارش آمده است: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خود در مورد آسیب احتمالی را جایگزین مجوز صاحب حساب کند، سپس بدون مجوز بر اساس آن قضاوت عمل کند».

OpenAI گفت که از آن زمان برای جلوگیری از اتصال مدل ها به اینترنت در طول آزمایش های مشابه، محافظت هایی را اضافه کرده است. همچنین نظارت خود را گسترش داد تا تمام فعالیت های مدل را مشاهده کند و در صورت آنلاین شدن یک مدل بدون اجازه، بلافاصله به کارکنان امنیتی هشدار دهد.

این داستان در ابتدا در سایت Fortune.com منتشر شد