هوش مصنوعی Gemini گوگل طی آزمایشی 3 شرکت را هک کرد

این شرکت روز جمعه اعلام کرد که مدل هوش مصنوعی مصرف‌کننده (AI) گوگل، جمینی، با حدس زدن اعتبار ورود به سیستم در طول آزمایش‌های قابلیت‌های امنیت سایبری خود، چندین سیستم را هک کرده است.

این آخرین مورد از یک سری نقض امنیت سایبری است که شامل هوش مصنوعی سرکش است که نگرانی‌های ایمنی را در مورد این فناوری افزایش می‌دهد.

این غول اینترنتی چهارمین توسعه دهنده هوش مصنوعی است که پس از OpenAI، Anthropic و Meta، برنامه هایش چنین رفتاری را نشان می دهند.

گوگل فقط پس از پرس و جو از وال استریت ژورنال، این حوادث را - که در ماه می رخ داد و در ماه جولای توسط گوگل کشف شد - عمومی کرد.

برای مشاهده این ویدیو لطفا جاوا اسکریپت را فعال کنید و به مرورگر وب که از ویدیوی HTML5 پشتیبانی می کند ارتقا دهید.

بر اساس گزارش WSJ، سه مورد وجود داشت که جمینی به رایانه های شرکت های دیگر نفوذ کرد که نام آنها فاش نشد.

در یک مورد، هوش مصنوعی رمزهای عبور را برای دسترسی به یک سیستم محافظت شده حدس زد. در دو مورد دیگر، اعتبار ورود به سیستم را در یک پایگاه داده پیدا کرد.

هدر ادکینز، معاون مهندسی امنیت گوگل در بیانیه ای به خبرگزاری AFP گفت: «در یک ارزیابی استاندارد، مدل اطلاعات عمومی را به صورت آنلاین پیدا کرد و برای دسترسی به وب سایت هایی که فکر می کرد بخشی از آزمایش بود، اعتبار حدس زد.

ادکینز گفت: «در هر سه مورد، مدل متوقف شد. "ما اطمینان حاصل کردیم که سه نهاد آگاه شده اند و با شریک آموزشی خود روی تغییراتی که آنها اکنون در فرآیندهای آزمایشی خود ایجاد کرده اند کار کردیم."

حوادث مشابه قبلا توسط Meta، Anthropic و OpenAI گزارش شده است. این حوادث سوالاتی را در مورد تدابیر لازم به دلیل خودمختاری بیشتر عوامل هوش مصنوعی و دسترسی به اینترنت و سیستم های کامپیوتری ایجاد کرده است.

مدل هوش مصنوعی توسعه یافته توسط OpenAI، خالق ChatGPT، طی آزمایشی در ماه ژوئیه از یک محیط امن فرار کرد و به طور غیرمنتظره ای به رایانه های یک شرکت هوش مصنوعی دیگر به نام HuggingFace نفوذ کرد.

این امر رقیب آنتروپیک را بر آن داشت تا آزمایش‌های خود را بررسی کند، که در طی آن حوادث دیگری آشکار شد.

متا پس از آن اعتراف کرد که هوش مصنوعی آن به دلیل پیکربندی نادرست سیستم در یک شریک آزمایشی، کامپیوترهای شرکت دیگری را هک کرده است.

در این ماه، داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش سرعت توسعه هوش مصنوعی شد.

در یک پست وبلاگی، او ابراز نگرانی کرد که انبوهی از سیستم‌های نرم‌افزاری مستقل یا عوامل هوش مصنوعی می‌توانند در عرض شش تا ۱۲ ماه کل اینترنت را در اختیار بگیرند و میلیاردها دلار خسارت وارد کنند.

اجازه ندهید الگوریتم اخبار را پنهان کند. اگر برای گزارش‌های مطمئن به تیم ما اعتماد می‌کنید، لطفا چند لحظه وقت بگذارید و ما را به‌عنوان منبع برگزیده خود در Google با کلیک کردن روی اینجا و فشار دادن دکمه «ستاره» یا «برگزیده» انتخاب کنید تا همیشه اخبار تأیید شده ما را ابتدا ببینید.