جمینی در اولین شکست شناخته شده توسط هوش مصنوعی گوگل سه شرکت را هک کرد

مدل GOOGL.O Gemini گوگل در طول آزمایش قابلیت‌های امنیت سایبری خود به اینترنت دسترسی پیدا کرد و شرکت‌های دیگر را هک کرد، اولین نمونه شناخته‌شده از سیستم‌های هوش مصنوعی این شرکت که به‌طور مستقل چنین عملی را انجام می‌دهند. این هک‌ها در ماه مه در طی یک آزمایش امنیت سایبری انجام شده توسط Irregular، یک شرکت مستقل که یک شرکت مستقل ارزیابی سایبری را انجام می‌دهد، رخ داد. هدر ادکینز، معاون مهندسی امنیت گوگل، گفت: اعتبار حدس زده برای دسترسی به سه وب سایتی که فکر می کرد در محدوده آزمایش آن است.

ادکینز گفت: "ما اطمینان حاصل کردیم که سه نهاد آگاه شده اند، و با شریک آموزشی خود روی تغییراتی که آنها اکنون در فرآیندهای آزمایشی خود ایجاد کرده اند کار کردیم." این رویدادها اهمیت آموزش مدل‌های هوش مصنوعی قدرتمند را برای رفتار مسئولانه نشان می‌دهد.» یک سخنگوی Irregular گفت که این حادثه مربوط به همان موضوعی است که سایر آزمایشگاه‌های هوش مصنوعی را تحت تأثیر قرار داده است و به همه آزمایشگاه‌های مربوطه در اواخر جولای اطلاع داده شد.

سخنگو گفت: «همه مسائل شناخته شده در مورد ما هفته‌ها پیش اصلاح و حل شد.» سایر شرکت‌های هوش مصنوعی بحران‌های مشابهی داشته‌اند متا، آنتروپیک و اوپن‌AI حوادث مشابه مرتبط با Irregular را افشا کردند. متا در ماه اوت گفت که این حادثه شامل فرار از جعبه شنی یا حمله سایبری پیچیده نبوده است، در حالی که Irregular گفت که روی بهترین شیوه ها برای انجام ایمن ارزیابی های امنیت سایبری هوش مصنوعی کار می کند. این حوادث سوالاتی را در مورد پادمان های مورد نیاز به دلیل دستیابی عوامل هوش مصنوعی و دسترسی بیشتر به اینترنت و سیستم های کامپیوتری ایجاد کرده است.

رمزهای عبور ssed تا زمانی که به یک سیستم محافظت شده دسترسی پیدا کند. بر اساس گزارش وال استریت ژورنال که اولین بار در روز جمعه این خبر را گزارش کرد، مدل در دو مورد دیگر، اعتبارنامه‌هایی را در یک مخزن عمومی پیدا کرد که به آن اجازه دسترسی به سیستم‌های محافظت شده را می‌داد. ادکینز گفت که در هر سه مورد، مدل هک خود را متوقف کرد.