عامل OpenAI شبکه دولتی استرالیا را هک کرد

آنتونی آلبانیز، نخست وزیر استرالیا روز چهارشنبه گفت، پایگاه داده ملی مراقبت های بهداشتی استرالیا توسط یک عامل OpenAI هک شد و اولین مورد شناسایی شده هک یک شبکه دولتی توسط هوش مصنوعی است.

آلبانیز در حاشیه مجمع عمومی سازمان ملل متحد در نیویورک و پس از گفتگو با سام آلتمن، مدیر عامل OpenAI، به خبرنگاران گفت که عامل هوش مصنوعی توانست به " فایل های عمومی و غیرعمومی" پایگاه داده آمار مدیکر کشور دسترسی داشته باشد و توانست فایل هایی را در آن بنویسد.

این افشای آخرین حادثه مربوط به عوامل هوش مصنوعی است که به طور غیرقابل پیش بینی رفتار می کنند و اقداماتی فراتر از آنچه اپراتورهای انسانی در نظر داشتند انجام می دهند.

این امر در میان درخواست‌های رو به رشد چهره‌های پیشرو در صنعت هوش مصنوعی، از جمله آلتمن، برای سرعت پایین‌تر توسعه هوش مصنوعی صورت می‌گیرد.

آلبانیز گفت که او "نگرانی شدید" استرالیا را طی یک تماس تلفنی به آلتمن منتقل کرده است. او همچنین گفت که کانبرا از هیچ مورد قبلی که در آن یک سیستم هوش مصنوعی یک سیستم دولتی را نقض کرده باشد، آگاه نبود.

دولت استرالیا بازنگری فوری رویکرد خود در زمینه هوش مصنوعی را آغاز کرده است.

طبق بیانیه دولت، این بررسی ارزیابی خواهد کرد که آیا قوانین و چارچوب‌های حاکمیتی فعلی برای آماده‌سازی و واکنش به حوادث سایبری مرتبط با هوش مصنوعی «مناسب با هدف» هستند یا خیر.

وزارت نخست وزیر و کابینه این بررسی را هدایت خواهند کرد، که همچنین بررسی خواهد کرد که استرالیا چگونه اطلاعات خود را با شرکت های هوش مصنوعی و سایر کشورهای مشترک المنافع به اشتراک می گذارد.

دولت گفت این یافته‌ها به تلاش‌های گسترده‌تر آن برای ایجاد چارچوبی مؤثر برای حکمرانی هوش مصنوعی کمک می‌کند.

این اقدام تنها یک هفته پس از انتشار گزارش‌های OpenAI انجام می‌شود که در آن شش رویداد مربوط به رفتارهای غیرمنتظره یا بالقوه نگران‌کننده مدل‌های هوش مصنوعی خود را نشان می‌داد. این شرکت همچنین برنامه هایی را برای نظارت و افشای عمومی حوادث مشابه در آینده اعلام کرد.

این گزارش ها حوادث شناسایی شده بین آوریل و اوت را پوشش می دهد. با این حال، به نظر نمی‌رسد که آنها آخرین رویداد را که OpenAI گفت در ماه ژوئن از آن مطلع شده است، شامل نمی‌شود.