استرالیا می گوید مدل سرکش OpenAI به سیستم مراقبت های بهداشتی آن هک شده است

آنتونی آلبانیز، نخست وزیر این کشور، روز چهارشنبه گفت، یک مدل سرکش OpenAI در طول آموزش، پادمان ها را دور زد و یک وب سایت دولتی استرالیا را هک کرد، و خالق ChatGPT را به دلیل نقض "بدیهی غیرقابل قبول" هشدار داد. OpenAI هشداری را برای دولت استرالیا به صدا در نیاورد تا اینکه در ماه سپتامبر پیامی به صندوق ورودی ایمیل عمومی ارسال کرد که فقط یک بار در روز چک می شود.

آلبانیز روز چهارشنبه به خبرنگاران در نیویورک گفت: نگرانی های جهانی در مورد قدرت ابزارهای پیشرفته هوش مصنوعی پس از یک رشته حوادث هک شامل مدل هایی از OpenAI و توسعه دهنده رقیب Anthropic در حال افزایش است."

"من همچنین از اینکه شرکت برای اطلاع رسانی آنچه اتفاق افتاده بود بسیار طولانی شد، ابراز ناامیدی کردم." او گفت: "تا 10 سپتامبر طول کشید تا هیچ اطلاعیه ای دریافت شود - و اعلان ایمیلی بود که فقط به صندوق پستی عمومی ارسال شده بود." ابزار هوش مصنوعی به فایل های عمومی و غیرعمومی میزبانی شده در یک وب سایت قدیمی آمار سلامت دسترسی داشت.

آلبانیز گفت: "هیچ مدرکی" دال بر دسترسی به اطلاعات شخصی یا به خطر افتادن سایر خدمات دولتی وجود ندارد. با این وجود، این وضعیت بدیهی است که غیرقابل قبول است."

کیتی گالاگر، وزیر خدمات دولتی استرالیا به خبرنگاران گفت، این مدل از این مدل خواسته است تا اینترنت را برای داده‌هایی جستجو کند که نشان دهد دولت استرالیا چقدر برای دارو هزینه کرده است. OpenAI گفت تا اوت که بررسی کرد ابزار هوش مصنوعی چه کار می‌کرده است، این فعالیت سرکش را شناسایی نکرده است. او گفت: استرالیا یک بررسی سریع از این حادثه را آغاز کرده است که شامل این حادثه ملی می شود.

آژانس اطلاعاتی مسئول امنیت سایبری است.OpenAI گفت که در حین انجام "بررسی گسترده" مدل‌های هوش مصنوعی خود، این نقض را شناسایی کرده است." در طی این بررسی، ما فعالیت‌هایی را شناسایی کردیم که شامل چندین وب‌سایت و خدمات دولتی استرالیا می‌شد، زیرا مدل‌های ما تلاش می‌کردند پاسخ‌ها و آمار موجود را برای سؤالات مربوط به استرالیا در طی یک ارزیابی داخلی جستجو کنند.

در جریان آن، مدل‌های ما اقداماتی را انجام دادند که ما قصد نداشتیم.» آلتمن و دیگر مدیران عامل فناوری روز چهارشنبه در نشست ویژه شورای امنیت سازمان ملل متحد درباره خطرات هوش مصنوعی سخنرانی کردند. بیش از 100 سازمان در سراسر جهان، از جمله OpenAI و Anthropic، ماه گذشته نامه‌ای سرگشاده امضا کردند که در آن خواستار تلاشی جهانی برای «تقویت تهدیدات سایبری در برابر امنیت سایبری» شدند. دو مدل OpenAI از یک محیط تست بسته فرار کردند و به سیستم‌های داخلی Hugging Face نفوذ کردند، سایتی که توسعه‌دهندگان هوش مصنوعی از آن برای ذخیره و اشتراک‌گذاری کد استفاده می‌کنند. Anthropic اخیرا

کشف کرد که مدل‌هایش در طول آزمایش به سه سازمان ناشناس دسترسی غیرمجاز پیدا کرده‌اند که قرار بود آنها را از سیستم‌های «دنیای واقعی» دور نگه دارد. مدل هوش مصنوعی مصرف‌کننده گوگل جمینی، چندین سیستم را با حدس زدن اعتبار ورود هک کرد، این شرکت هفته گذشته گفت. محقق سابق آنتروپیک، جاکوب کاکسون، به زودی به سی‌بی‌اس‌آی خبر داد که به زودی در سپتامبر می‌تواند رشد کند.