جمینی در اولین شکست شناخته شده توسط هوش مصنوعی گوگل: وال استریت ژورنال، 3 شرکت را هک کرد

در یکی از موارد، مدل Gemini رمزهای عبور را حدس زد تا زمانی که به یک سیستم محافظت شده دسترسی پیدا کرد.

وال استریت ژورنال در 18 سپتامبر گزارش داد که مدل جمینی گوگل در طول آزمایش قابلیت های امنیت سایبری خود به اینترنت دسترسی پیدا کرد و شرکت های دیگر را هک کرد، اولین نمونه شناخته شده از سیستم های هوش مصنوعی این شرکت که به طور مستقل چنین عملی را انجام می دهند.

بر اساس این گزارش، این هک ها در ماه مه و طی یک آزمایش امنیت سایبری که توسط شرکت مستقل Irregular که ارزیابی امنیت سایبری را انجام می دهد، انجام شد.

یکی از سخنگویان Irregular گفت که این حادثه مربوط به همان موضوعی است که سایر آزمایشگاه‌های هوش مصنوعی را تحت تأثیر قرار داده است و به همه آزمایشگاه‌های مربوطه در اواخر جولای اطلاع داده شده است. سخنگو گفت: "همه مسائل شناخته شده در مورد ما هفته ها پیش اصلاح و حل شد."

گوگل بلافاصله به درخواست رویترز برای اظهار نظر پاسخ نداد.

حوادث مشابه مرتبط با Irregular توسط Meta، Anthropic و OpenAI فاش شد. متا در ماه اوت گفت که این حادثه شامل فرار از جعبه شنی یا حمله سایبری پیچیده نبوده است، در حالی که Irregular گفت که در حال کار بر روی بهترین شیوه ها برای انجام ایمن ارزیابی های امنیت سایبری هوش مصنوعی است.

این حوادث سوالاتی را در مورد تدابیر حفاظتی مورد نیاز به دلیل دستیابی عوامل هوش مصنوعی و دسترسی بیشتر به اینترنت و سیستم های رایانه ای ایجاد کرده است.

در یکی از موارد، مدل Gemini رمزهای عبور را حدس زد تا زمانی که به یک سیستم محافظت شده دسترسی پیدا کرد. گزارش WSJ می‌گوید در دو مورد دیگر، مدل اعتبارنامه‌هایی را در یک مخزن عمومی پیدا کرد که به آن اجازه دسترسی به سیستم‌های محافظت‌شده را می‌داد. رویترز