گوگل جمینی نیز از محیط آزمایشی خود فرار کرد و سه شرکت را هک کرد

این مدل به دلیل پیکربندی نادرست شریک آزمایشی Google، Irregular، فرار کرد.

گوگل به وال استریت ژورنال اعتراف کرد که Gemini از محیط آزمایش خود فرار کرد، به اینترنت دسترسی پیدا کرد و سه شرکت را هک کرد. این سناریو احتمالا در این مرحله برای شما آشنا به نظر می رسد، اگر حتی به اخبار هوش مصنوعی در ماه های اخیر نگاهی انداخته باشید. مانند اتفاقی که برای OpenAI، Anthropic و Meta افتاد، Gemini نیز به دلیل پیکربندی نادرست در محیط آزمایش خود توسط Irregular به اینترنت دسترسی پیدا کرد، استارت آپ اسرائیلی که با هر چهار شرکت برای ارزیابی مدل های هوش مصنوعی آنها کار می کند.

این حوادث در ماه مه رخ داد، قبل از اینکه مدل‌های OpenAI به Hugging Face در حین آزمایش قابلیت‌های امنیت سایبری مدل نفوذ کنند. گوگل به ژورنال گفت که هدف این مدل بدست آوردن اطلاعات از یک شرکت خیالی در طول آزمایش بود و اتفاقا یک شرکت واقعی هم نام داشت. سپس این مدل حفره‌ای را در سیستم تست خود کشف کرد که از آن برای دسترسی به اینترنت استفاده کرد.

در اولین اتفاق، این مدل توانست به تنهایی با شکستن رمز عبور به خدمات شرکت واقعی دسترسی پیدا کند. دو حادثه دیگر در طول اجرای دیگر آزمایش رخ داد که در آن مدل به صورت آنلاین نام شرکت را جستجو کرد و اعتبار ورود متعلق به شرکت های دیگر را در مخازن عمومی پیدا کرد. این مدل از اعتبارنامه ها برای دسترسی به آن شرکت ها استفاده کرد. گوگل گفت Gemini پس از اینکه متوجه شد به سرویس های واقعی نفوذ کرده است، فعالیت های خود را در هر سه مورد متوقف کرد.

این شرکت به ژورنال گفت که این اتفاقات را به عنوان ناهماهنگی مدل در نظر نمی گیرد، زیرا مدل آن به محض اینکه متوجه شد چه کاری انجام می دهد، هک را متوقف کرد. همچنین فکر نمی کرد که آنها افشای عمومی را تضمین کنند، زیرا هک ها آسیبی به شرکت ها وارد نکردند. گوگل مدل دقیق دخیل در این حوادث را فاش نکرد، اما گفت که این آخرین مدل آن نیست. شرکت‌هایی که هک شده‌اند را نیز فاش نکرد، هرچند گفته بود که به آنها اطلاع داده شده است.

هدر ادکینز، معاون مهندسی امنیت گوگل، گفت که این شرکت با Irregular برای ایجاد تغییراتی در فرآیند تست خود همکاری کرده است تا از تکرار همان اتفاق جلوگیری کند.

رقبای گوگل، OpenAI، Anthropic و Meta همگی در ماه‌های گذشته فاش کردند که مدل‌های آنها در طول آزمایش به سازمان‌های شخص ثالث نفوذ کرده‌اند. OpenAI اخیرا فاش کرده است که عوامل آن RubyGems، یک سرویس بسته‌بندی اجتماعی برای برنامه‌ها و کتابخانه‌های Ruby را در ماه مه، قبل از حتی وقوع حادثه Hugging Face، هک کرده‌اند. در پاسخ به این رویدادها، داریو آمودی، رئیس Anthropic، خواستار کاهش سرعت توسعه هوش مصنوعی مرزی شد، احساسی که OpenAI در آن مشترک است.