گوگل می گوید مدل Gemini AI سه شرکت دیگر را هک کرده است

گوگل برای اولین بار تایید کرد که مدل هوش مصنوعی آن، جمینی، امنیت سه شرکت دیگر را در ماه می نقض کرده است.

این هک ها در جریان ارزیابی امنیت سایبری توسط شرکت امنیت هوش مصنوعی Irregular رخ داده است.

Irregular، یک استارت‌آپ مستقر در اسرائیل که امنیت سیستم‌های هوش مصنوعی پیشرفته را بررسی می‌کند، همچنین در مرکز برخی از هک‌های OpenAI و Anthropic اخیر نهادهای شخص ثالث، از جمله نقض OpenAI به شرکت نرم‌افزار هوش مصنوعی، Hugging Face، قرار داشت.

شرایطی که مدل‌ها را قادر می‌سازد تا شرکت‌های دیگر را در برخی از این موارد هک کنند، مشابه است: Irregular مدل‌ها را در یک محیط آزمایش بسته با شرکت‌های جعلی آزمایش می‌کرد. به گفته وال استریت ژورنال، قرار نبود محیط آزمایشی به اینترنت فعال شود، اما دسترسی به اینترنت به طور ناخواسته در دسترس قرار گرفت. پس از اتصال به اینترنت، مدل ها به طور غیرمنتظره ای به شرکت های واقعی هک شدند.

Irregular در پایان جولای پس از کشف OpenAI هک شده به Hugging Face، این هک ها را به گوگل فاش کرد. گوگل به گاردین تایید کرد که این هک ها اتفاق افتاده است، اما این شرکت احساس نمی کند که نیاز به افشای عمومی دارد زیرا این مدل ها به شرکت ها آسیب نرسانده اند. وال استریت ژورنال (WSJ) اولین بار در مورد این نقض ها گزارش داد و برای اولین بار فاش کرد که رخ داده است.

هدر ادکینز، معاون مهندسی امنیت گوگل در بیانیه‌ای گفت: «در یک ارزیابی استاندارد، مدل اطلاعات عمومی را به صورت آنلاین پیدا کرد و اعتبارنامه‌هایی را برای دسترسی به وب‌سایت‌هایی که فکر می‌کرد بخشی از آزمایش بود حدس زد.» "در هر سه مورد، مدل متوقف شد."

در یکی از نقض‌های امنیتی، Irregular در حال آزمایش قابلیت‌های امنیت سایبری Gemini بود و مدل هوش مصنوعی را وادار کرد تا اطلاعاتی را از نرم‌افزار یک شرکت جعلی به‌دست آورد. این شرکت جعلی نامی مشابه یک شرکت واقعی داشت. Irregular به WSJ گفت، زمانی که مدل به طور ناخواسته به اینترنت دسترسی پیدا کرد، به درستی رمز عبور یک شرکت واقعی را حدس زد و آن را نقض کرد. گوگل اعلام کرد زمانی که متوجه شد یک شرکت واقعی را هک کرده است و نه شرکت شبیه سازی شده، متوقف شد.

در دو آزمایش دیگر، این مدل در وب جستجو کرد و مخازن عمومی حاوی اعتبار دو شرکت دیگر را یافت. این مدل از آن اعتبارنامه ها برای دسترسی به شرکت های واقعی استفاده کرد. به گفته گوگل، وقتی متوجه شد که آنها شرکت های واقعی هستند، متوقف شد.

Anthropic و OpenAI تصمیم گرفتند داوطلبانه هک ها را افشا کنند اما گوگل این کار را نکرد. با این حال، این شرکت گفت که اطمینان حاصل کرده است که سه شرکتی که هک شده‌اند آگاه شده‌اند.

ادکینز، سخنگوی گوگل، گفت: «این رویدادها اهمیت آموزش مدل‌های هوش مصنوعی قدرتمند را برای رفتار مسئولانه نشان می‌دهد.

افشاگری های Anthropic و OpenAI باعث شد که برنی سندرز، سناتور مستقل ایالات متحده، از شرکت ها بخواهد که توسعه فناوری خود را متوقف کنند و گفت این نشان می دهد که شرکت دیگر قادر به کنترل مدل های آنها نیست.

OpenAI توسعه مدل‌های خود را به مدت دو هفته متوقف کرد، در حالی که داریو آمودی، مدیر عامل Anthropic، خواستار کاهش سرعت جمعی توسعه هوش مصنوعی شد تا اطمینان حاصل شود که پیشرفته‌ترین مدل‌های آن با پادمان‌های کافی ساخته می‌شوند. - نگهبان