گوگل جدیدترین آزمایشگاه هوش مصنوعی است که در تست های امنیتی آن دچار مشکل شده است

مدل هوش مصنوعی Gemini گوگل با استفاده از تکنیک های هک اولیه در طی آزمایش مدل در اوایل سال جاری به سیستم سه شرکت نفوذ کرد.

چرا اهمیت دارد: گوگل یکی از تنها آزمایشگاه‌های هوش مصنوعی بود که هنوز یک رخنه امنیتی مربوط به عوامل خود را در طول آزمایش‌های معمول پیش از استقرار به طور عمومی فاش نکرده بود. محرک خبر: گوگل سه حادثه را که در ماه می در روز جمعه اتفاق افتاد، تایید کرد. این حوادث به عنوان بخشی از یک آزمایش آزمایشی رخ داد که ارزیاب شخص ثالث Irregular در حال انجام آن بود - مشابه سایر موارد نقض امنیتی مربوط به مدل‌های هوش مصنوعی OpenAI، Anthropic و Meta.

وال استریت ژورنال ابتدا این حوادث را گزارش کرد. هدر ادکینز، معاون مهندسی امنیت گوگل در بیانیه‌ای گفت: «توسعه ایمن مدل‌های قدرتمند هوش مصنوعی بسیار مهم است و ما عمیقا در این زمینه سرمایه‌گذاری می‌کنیم». ادکینز اضافه کرد که تیم او با نهادهای آسیب دیده تماس گرفت و "با شریک آموزشی ما در مورد تغییراتی که آنها اکنون در فرآیندهای آزمایشی خود ایجاد کرده اند کار کردند."

یکی از سخنگویان Irregular به Axios تایید کرد که حادثه Gemini شامل همان مسائل امنیتی است که منجر به حوادث مشابه مربوط به مدل‌های دیگر آزمایشگاه‌های هوش مصنوعی نیز می‌شود.

این سخنگوی همچنین در بیانیه‌ای گفت: «به تمام آزمایشگاه‌های مربوطه در اواخر ژوئیه اطلاع داده شد» و «همه مسائل شناخته شده در مورد ما هفته‌ها پیش اصلاح و حل شد». بزرگ‌نمایی: هک‌ها در حالی اتفاق افتاد که Gemini در حال تکمیل تمرین هک «تسخیر پرچم» بود، که در آن از مدل خواسته شد اطلاعاتی را از نرم‌افزاری که توسط یک شرکت خیالی در یک محیط آزمایشی اداره می‌شود، بازیابی کند، طبق WSJ. با این حال، این شرکت خیالی نامی مشابه با یک شرکت واقعی داشت.

در یک مورد، مدل رمزهای عبور یک سیستم محافظت شده را حدس زد تا زمانی که به آن دسترسی پیدا کرد. در دو مورد دیگر، مدل اعتبارنامه هایی را در یک مخزن عمومی پیدا کرد که سپس به آن اجازه دسترسی به سایر سیستم های محافظت شده را می داد. بله، اما: مدل گوگل به محض اینکه متوجه شدند به شرکت های واقعی دسترسی دارند، اقدامات خود را متوقف کرد.

فتنه: Irregular به وال استریت ژورنال گفت که این مدل قرار نبود آنلاین شود، اما دسترسی به اینترنت ناخواسته در دسترس بود. پس از افشای رویدادهای اضافی OpenAI و Anthropic در تابستان امسال، یک منبع آگاه به Axios گفت که آزمایشگاه‌های هوش مصنوعی و Irregular به طور کامل در مورد روش‌های آزمایش دقیق و پادمان‌ها همسو نیستند و ابهاماتی در نحوه انتظار هر طرف از ارزیابی‌های معمولا مبتنی بر اینترنت وجود دارد. عمیق تر بروید: محققانی که در وب باز نقش مخفیانه و جست و جوی یک عامل سرکش هوش مصنوعی را بازی می کنند