عامل OpenAI یک وب سایت دولتی استرالیا را هک کرد

نخست وزیر استرالیا گفت که به نظر نمی رسد هیچ اطلاعاتی درباره سلامت شخصی به خطر بیفتد.

آنتونی آلبانیز، نخست وزیر استرالیا فاش کرد که یک عامل OpenAI در ماه ژوئن به وب سایت عمومی سیستم بیمه سلامت عمومی مدیکر دولت استرالیا هک شد. آلبانیز گفت که با سام آلتمن، مدیرعامل این شرکت صحبت کرده تا "نگرانی شدید" کشور را در مورد این حادثه بیان کند. او همچنین از شرکت به دلیل طولانی شدن اطلاع رسانی به مقامات استرالیا انتقاد کرد.

به گزارش گاردین، OpenAI فقط در تاریخ 10 سپتامبر یک ایمیل در مورد نقض به یک آدرس ایمیل عمومی دولت استرالیا ارسال کرد. و از آنجایی که مقامات فقط یک بار در روز آن حساب را بررسی می کنند، تا 11 سپتامبر آن را مشاهده نکردند. این خبر تا 17 سپتامبر به وزیر خدمات دولتی، کیتی گالاگر، نرسید. در حالی که تحقیقات هنوز در حال انجام است، آلبانیم گفت که اطلاعات شخصی از اطلاعات شخصی به سرقت رفته است.

Conrad Stosz، رئیس اداره مدیریت در Transluce، یک آزمایشگاه تحقیقاتی غیرانتفاعی که بر روی فناوری برای درک بهتر سیستم‌های هوش مصنوعی کار می‌کند، به نیویورک تایمز گفت که این ممکن است "نخستین موردی باشد که یک عامل به طور مستقل تصمیم به هک کردن یک دولت می‌کند." Transluce سایر حوادث ناشناخته قبلی را شناسایی کرد که در آن عوامل OpenAI زمانی که به آنها دستور داده شد در طول آزمایش داده ها را جمع آوری کنند، به نهادهای دنیای واقعی حمله کردند. همه آنها قبل از اینکه Hugging Face دسترسی غیرمجاز به سیستم های خود را در ماه جولای شناسایی کند و قبل از اینکه OpenAI اعتراف کند که عواملش به مخزن هوش مصنوعی نفوذ کرده اند، رخ داده اند.

به گزارش تایمز، علاوه بر هک کردن مدیکر استرالیا، عامل OpenAI همچنین سعی کرد در 25 و 26 می به یک کتابخانه دیجیتالی در دانشگاه نیومکزیکو نفوذ کند. عامل ظاهرا در تلاش بود تا به عکس‌های یک مرکز تاریخی درمان سل از کتابخانه دسترسی پیدا کند و سپس به طور فعال به دنبال آسیب‌پذیری‌ها می‌گشت تا زمانی که نمی‌توانست آنها را دریافت کند، از آنها سوء استفاده کند. پس از ناکامی در نفوذ به کتابخانه دیجیتال، سرور دانشگاه را پر از درخواست ها کرد.

در حادثه دیگری که در 28 می رخ داد، عامل OpenAI Data USA را هدف قرار داد، یک پلت فرم منبع باز که اطلاعات چندین آژانس فدرال را به تصویر می‌کشد. عامل یک پرس و جو برای داده ها به سایت ارسال کرد و هنگامی که شکست خورد، وب سایت را برای آسیب پذیری ها بررسی کرد. به نظر می رسید که عوامل OpenAI در تلاش برای نفوذ به وب سایت Data USA و کتابخانه دانشگاه نیومکزیکو موفق نبودند. یک سخنگوی به تایمز گفت که این شرکت قبلا با هر دوی آنها در مورد این حوادث تماس گرفته است.

آنها افزودند که OpenAI پس از بررسی گسترده مدل‌هایش متوجه تلاش‌های عامل خود برای نفوذ به وب‌سایت دولتی استرالیا شد و متوجه شد که مدل‌ها «اقداماتی را انجام دادند که [شرکت] قصد نداشتند». چند ماه دیگر طول می کشد تا شرکت بررسی خود را به پایان برساند.

OpenAI اخیرا یک چارچوب گزارش جدید برای ناهماهنگی‌ها اعلام کرده است که به منظور تسریع انتشار اطلاعات در مورد نمونه‌هایی از فناوری‌های AI که در حال سرکشی هستند، ارائه شده است. در آن گزارش، شش مورد دیگر از رفتار مدل‌ها به گونه‌ای که انتظارش را نداشت، فاش کرد. این شرکت پس از اعتراف به اینکه عوامل هوش مصنوعی Hugging Face را هک کرده اند و پس از انتشار گزارش هایی در مورد حوادث قبلی، مانند نفوذ مامورانش به RubyGems، این خبر را اعلام کرد.

در آن پست، این شرکت گفت که معتقد نیست صنعت هوش مصنوعی «هم ترازی و نظارت را به میزان کافی برای ادامه مقیاس‌پذیری مسئولانه با حداکثر سرعت برای مدت طولانی‌تری حل کرده است». آلتمن همچنین به تازگی به سازمان ملل گفته است که صنعت به استانداردهای ارزیابی بین‌المللی برای اندازه‌گیری قابلیت‌ها و خطرات ابزارهای هوش مصنوعی و همچنین ارزیابی نیاز ابزارها به نظارت انسانی نیاز دارد.