جمینی گوگل سه شرکت را در طول آزمایش نامنظم هوش مصنوعی «گرفتن پرچم» هک کرد - ماموران برای هک کردن سیستم‌های رایانه‌ای رمزهای عبور را شکستند و حدس زدند.

هوش مصنوعی Gemini گوگل از محیط آزمایشی خارج شد و سه شرکت شخص ثالث را هک کرد

ماموران رمزهای عبور را حدس زدند و از یک مخزن عمومی رمز عبور برای هک کردن سیستم های کامپیوتری استفاده کردند

این حادثه در ماه مه 2026 رخ داد و آزمایشگاه تست هوش مصنوعی Irregular اعلام کرد که این حادثه به دلیل "همان موضوع" رخ داده است که باعث بروز حوادث توسط Anthropic و Meta شده است. جمینی گوگل در کنار متا، آنتروپیک، و اپن‌آی به جمع مدل‌های هوش مصنوعی پیوسته است.

در طول آزمایش ضبط پرچم توسط آزمایشگاه هوش مصنوعی Irregular، مدل گوگل به طور مستقل به سه سیستم کامپیوتری متعلق به شرکت‌های شخص ثالث با حدس زدن گذرواژه‌ها و دسترسی به مخزن آنلاین رمزهای عبور فهرست شده عمومی دسترسی پیدا کرد.

گوگل اعلام کرد که این حادثه در ماه مه 2026 رخ داده است و به طور بالقوه آن را به عنوان اولین مدل های هوش مصنوعی برای فرار از آزمایش قبل از سایر حوادثی که در اوایل جولای رخ داده است، نشان می دهد.

گوگل جمینی اسلحه را می پرد

هدر ادکینز، معاون مهندسی امنیت گوگل در بیانیه‌ای گفت: «در یک ارزیابی استاندارد، مدل اطلاعات عمومی را به صورت آنلاین پیدا کرد و اعتبارنامه‌هایی را برای دسترسی به وب‌سایت‌هایی که فکر می‌کرد بخشی از آزمایش بود حدس زد.» "در هر سه مورد، مدل متوقف شد."

گوگل همچنین خاطرنشان کرد که یک باگ در محیط آزمایش مسئول اجازه دسترسی نمایندگان به اینترنت است. برخلاف اتفاقاتی که توسط سایر توسعه دهندگان هوش مصنوعی فاش شده بود، عوامل گوگل پس از اینکه تشخیص دادند به سیستم های شرکت خارج از محیط آزمایش دسترسی پیدا کرده اند، نفوذ خود را متوقف کردند.

این آزمایش توسط آزمایشگاه هوش مصنوعی اسرائیل Irregular انجام شد. Irregular همچنین در حال انجام آزمایش مدل‌های متا و آنتروپیک در طول آزمایش‌های هوش مصنوعی در ماه جولای بود.

سخنگوی Irregular در بیانیه ای (از طریق CNBC) گفت: "این همان موضوعی است که قبلا گزارش شده بود و نشان دهنده یک حادثه مادی جداگانه نیست." "در اواخر ژوئیه به همه آزمایشگاه‌های مربوطه اطلاع داده شد و به عنوان بخشی از تحقیقات با نهادهای تحت تأثیر تماس گرفته شد."

گوگل گفت که در اواخر جولای توسط Irregular از این حادثه مطلع شده است.

بحث در مورد ایمنی هوش مصنوعی تشدید می شود

اولین افشای آزمایش‌های هوش مصنوعی - در کنار چندین افشای متعاقب رویدادهای اخیر - با افزایش مخالفت‌ها با هوش مصنوعی و انتخابات میان‌دوره‌ای آتی در ایالات متحده همزمان شده است، جایی که هوش مصنوعی به موضوعی تبدیل شده است.

در حال حاضر بحث ها حول محور اینکه چه کسی باید سرعت توسعه هوش مصنوعی را کنترل کند، در جریان است. برخی از رهبران بزرگ فناوری، مانند جنسن هوانگ، مدیرعامل انویدیا، دیدگاه های خود را با دیدگاه های رئیس جمهور ترامپ هماهنگ کرده اند. ترامپ اخیرا اعلام کرد که نمی توان اجازه داد توسعه هوش مصنوعی کند شود زیرا "هرکس برنده هوش مصنوعی باشد، برنده است!"

دیدگاه های هوانگ نیز از خط مشابهی پیروی می کند. رئیس انویدیا استدلال کرده است که شرکت‌های هوش مصنوعی به جای اینکه تحت نظارت قرار گیرند، باید با سرعت خود حرکت کنند. در دریم‌فورس ۲۰۲۶، او استدلال کرد که شرکت‌های هوش مصنوعی باید «تا جایی که می‌توانید سریع کار کنند... اما اگر در هر نقطه‌ای از زمان احساس می‌کنید که شرکت از کنترل خارج شده یا محصول ایمن نیست، مکث کنید و مطمئن شوید که آن را درست انجام داده‌اید».

سایر سران هوش مصنوعی، مانند Dario Amodei از Anthropic و Sam Altman از OpenAI، تردید بیشتری دارند. پس از استعفای یک محقق Anthropic، Amodei مقاله‌ای را منتشر کرد که در آن به نفع «پیش‌رفت از مرز» استدلال می‌کرد - جایی که شرکت‌های هوش مصنوعی برای پیشبرد همسویی و مقررات، توسعه را کند می‌کنند.

بسیاری از کمیته‌های اقدام سیاسی (PAC) میلیون‌ها دلار بودجه را به نامزدهای طرفدار هوش مصنوعی اختصاص داده‌اند و انویدیا PAC خود را راه‌اندازی کرد تا به تغییر سیاست ایالات متحده به نفع شرکت کمک کند.

چندین کاندیدای مرکز داده که قبلا طرفدار AI بودند، در پاسخ به دیدگاه های رای دهندگان خود که به طور فزاینده ای با فناوری هوش مصنوعی خصومت می کردند، لحن خود را تغییر دادند. بسیاری از ایالت ها نیز پس از مشاهده ضررهای میلیارد دلاری، معافیت های مالیاتی را برای مراکز داده هوش مصنوعی لغو کردند.

با افزایش قیمت‌ها و ادامه جنگ در ایران به افزایش قیمت سوخت، جوامع طبقه کارگر با هم متحد می‌شوند تا با مراکز داده هوش مصنوعی که هزینه‌ها و قبوض انرژی را با اتصالات جدید به شبکه و تقاضای بی‌سابقه برق در مناطقی با محدودیت‌های ظرفیت موجود بالا برده‌اند، مخالفت کنند.