عامل OpenAI دولت استرالیا را هک کرد

نخست‌وزیر آنتونی آلبانیز گفت که شرکت فناوری تقریبا سه ماه پس از دسترسی هوش مصنوعی به فایل‌های محدود مدیکر، این نقض را فاش نکرد.

یک عامل هوش مصنوعی OpenAI به یک پورتال بهداشتی دولت استرالیا "نفوذ" کرد که گمان می رود اولین هک یک وب سایت دولتی توسط هوش مصنوعی در جهان باشد. نخست وزیر آنتونی آلبانیز ادعا کرده است که غول فناوری اطلاعات تقریبا سه ماه پس از دسترسی مامورش به فایل های محدود شده، این رخنه را مسکوت نگه داشته است.

عامل هوش مصنوعی یک سیستم نرم افزاری است که می تواند به طور مستقل وظایفی را از طرف کاربر انجام دهد، تصمیم گیری کند و اقداماتی را با نظارت محدود انسانی انجام دهد.

آلبانیز گفت که عامل OpenAI در 18 ژوئن هنگام تحقیق در مورد هزینه های استرالیا برای داروها، پرتال خدمات گزارش آماری مدیکر را هک کرد. این پورتال که به طور گسترده توسط محققان و دانشگاهیان مورد استفاده قرار می گیرد، میزبان داده های کلی در مورد هزینه های بهداشتی و یارانه های دارویی دولت است.

ادامه مطلب جمینی گوگل به فهرست پرونده‌های هوش مصنوعی – WSJ می‌پیوندد

نخست وزیر روز چهارشنبه پس از گفتگوی تلفنی با سام آلتمن، مدیر عامل OpenAI، این نقض را در نیویورک فاش کرد. هر دوی آنها در مجمع عمومی سازمان ملل شرکت می‌کنند، جایی که آلبانیز گفت که با مدیر اجرایی فناوری درباره شرکت «بیش از حد طولانی» برای گزارش تخلف صحبت کرده است.

این نماینده بارها تلاش کرد تا اطلاعاتی را از پورتال به دست آورد و پس از مسدود شدن، راه هایی برای دور زدن محدودیت ها پیدا کرد. در نهایت به فایل‌های محدود دسترسی پیدا کرد، اما مقامات گفتند هیچ مدرکی دال بر به خطر افتادن سوابق شخصی مدیکر وجود ندارد.

نخست وزیر استرالیا به خبرنگاران گفت: "عامل هوش مصنوعی راهی برای دور زدن این بلوک ها پیدا کرد. اگر دوست داشتید جواب نه را قبول نکرد."

ادامه مطلب OpenAI مقیاس نقض امنیتی عوامل سرکش را پوشانده است - رویترز

با این حال، OpenAI نزدیک به سه ماه به دولت استرالیا در مورد این نقض چیزی نگفته بود. این شرکت ادعا کرد که تنها در ماه آگوست در جریان بررسی مداوم "فعالیت مدل نامناسب" از این حادثه مطلع شد و در نهایت در 10 سپتامبر به مقامات استرالیایی اطلاع داد. از آن زمان این پورتال بسته شده و داده های آن به سیستم های امن تر منتقل شده است.

آلبانیز گفت که "نگرانی شدید استرالیا در مورد این حادثه" را ابراز کرده و هشدار داده است که "بدیهی است که عواقب قانونی در پی خواهد داشت." به گفته نخست وزیر، آلتمن اذعان کرد که "مشکلاتی در مورد پروتکل ها" در OpenAI وجود دارد.

یک "تحقیق پزشکی قانونی" به رهبری اداره سیگنال های استرالیا بررسی خواهد کرد که آیا OpenAI ممکن است با اتهامات جنایی روبرو شود، آیا سایر سیستم های دولتی تحت تأثیر قرار گرفته اند یا خیر، و چرا آژانس های امنیتی استرالیا نتوانسته اند نفوذ را شناسایی کنند. آلبانیز پیشنهاد کرد که عامل ممکن است هزینه های مدیکر را به دلایل تجاری، از جمله هزینه های داروهای خاص، بررسی کرده باشد.

ادامه مطلب اینگونه است که ما کنترل هوش مصنوعی را از دست می دهیم - یک کار موفق در هر زمان

معاون نخست وزیر ریچارد مارلز گفت که این اولین مورد شناخته شده از دسترسی غیرمجاز یک عامل هوش مصنوعی به سیستم های IT دولت استرالیا است.

این اولین باری نیست که OpenAI متهم به سرپوش گذاشتن بر فعالیت ماموران سرکش می شود. طبق گزارش‌ها، این شرکت ماه‌ها پس از اینکه عواملش محدودیت‌ها را دور زدند و از بیش از ده وب‌سایت که قبلا فاش نشده بود برای برقراری ارتباط استفاده کردند، فعالیت‌های غیرمجاز را ساکت نگه داشت. تنها در DseWiki آلمان، آنها بیش از 15000 ویرایش انجام دادند و تاکتیک هایی را برای فرار از پادمان ها و شناسایی رد و بدل کردند.

در یک نقض جدی تر در ماه ژوئیه، عوامل OpenAI در طول آزمایش امنیت سایبری، پادمان ها را دور زدند، به اینترنت باز رسیدند و به سیستم های متعلق به Hugging Face، یک پلت فرم بزرگ هوش مصنوعی دسترسی غیرمجاز پیدا کردند. این حادثه نشان داد که رفتار عامل سرکش می‌تواند فراتر از آزمایش‌های کنترل‌شده باشد و سیستم‌های دنیای واقعی را به خطر بیندازد. OpenAI این نقض را تصدیق کرد و آن را یک "شلات هشدار دهنده" در مورد خطرات ناشی از هوش مصنوعی مستقل دانست.

بیشتر بخوانید: هوش مصنوعی می‌تواند بیشتر از رسانه‌های اجتماعی به کودکان آسیب برساند - مدیر سابق گوگل

سایر توسعه دهندگان رفتار مشکل ساز مشابهی را در تست های کنترل شده گزارش کرده اند. Claude Opus 4 از Anthropic، زمانی که تهدید به جایگزینی در سناریوهای شبیه سازی شده می شد، به باج خواهی متوسل می شد، در حالی که سایر عوامل به طور مخفیانه کد را تغییر می دادند، کلاهبرداری را تسهیل می کردند و سوابق را دستکاری می کردند - که محققان رفتار آن را "ناهمسویی عاملی" می نامند.