گوگل تایید کرد که مدل هوش مصنوعی 3 شرکت واقعی را در طول آزمایش امنیتی ماه می نقض کرده است: گزارش

وال استریت ژورنال (WSJ) گزارش داد که گوگل روز جمعه تایید کرد که یکی از مدل‌های هوش مصنوعی Gemini آن در طی یک ارزیابی امنیت سایبری در ماه می به سیستم سه شرکت واقعی نفوذ کرده است.

بر اساس این گزارش، این آزمایش توسط شرکت امنیتی Irregular انجام شد که همچنین در حوادث مشابهی که توسط OpenAI، Anthropic و Meta افشا شده بود، دست داشت.

گوگل گفت که این مدل به یک شرکت شبیه سازی شده اختصاص داده شده است که نام خود را با یک شرکت واقعی به اشتراک گذاشته است. Irregular گفت که دسترسی به اینترنت ناخواسته باز مانده است.

در یک مورد، مدل رمزهای عبور را برای ورود به سرویس یک شرکت واقعی حدس زد. در این گزارش آمده است که در دو مورد دیگر، از اعتبارنامه های موجود در مخازن عمومی آنلاین استفاده کرده است. به گفته گوگل، هر بار، مدل پس از اینکه متوجه شد سیستم ها واقعی هستند، به نفوذ پایان داد.

WSJ خاطرنشان کرد که Irregular در پایان ماه جولای به گوگل هشدار داد، اما این شرکت تا زمانی که روزنامه در این هفته در مورد آنها نپرسید، این رویداد را فاش نکرد.

گوگل گفت این هک ها افشای عمومی را تضمین نمی کند زیرا هیچ آسیبی ایجاد نشده است، و این قسمت را با یک برنامه پاداش باگ مقایسه کرد.

هدر ادکینز، سخنگوی گوگل گفت: «این رویداد اهمیت آموزش مدل‌های هوش مصنوعی قدرتمند را برای رفتار مسئولانه نشان می‌دهد. در این مورد، مدل به درستی عمل کرد».

جک کیبل، مدیر عامل راه اندازی امنیت هوش مصنوعی Corridor با این نظر مخالف است. او گفت: «مشکل متا این است که مدل‌ها از محدوده کاری که باید انجام دهند خارج می‌شوند و حملات سایبری واقعی انجام می‌دهند.

Irregular گفت که این پرونده با حوادث قبلی مطابقت دارد و مشکل جدیدی را نشان نمی دهد.

در این گزارش آمده است که Claude Opus 4.7 Anthropic پس از مشکوک شدن به دسترسی به یک شرکت واقعی متوقف نشد، در حالی که مدل OpenAI معتقد بود هدف بخشی از شبیه‌سازی است.

OpenAI یک چارچوب گزارش رویداد جدید را به همراه شش نمونه ناهمسویی مدل که قبلا فاش نشده بود، منتشر کرد.