هوش مصنوعی Gemini گوگل 3 شرکت را در تست امنیتی هک می کند و سپس متوقف می شود

این غول فناوری به الجزیره تایید کرده است که مدل جمینی گوگل سه شرکت را در آزمایش قابلیت‌های امنیت سایبری خود هک کرده است.

وال استریت ژورنال اوایل روز جمعه گزارش داد که اولین شکست شناخته شده توسط Gemini در ماه می به عنوان بخشی از آزمایشی که توسط شرکت Irregular انجام شد رخ داد. این آخرین رخنه در تعدادی از حوادث بود که در آن مدل‌های هوش مصنوعی از محیط‌های آزمایشی فرار کردند و شرکت‌های دیگر را هک کردند.

این مدل زمانی که وظیفه بازیابی اطلاعات از یک شرکت خیالی را بر عهده داشت، دسترسی نامناسبی به اینترنت داشت. در اولین حادثه، مدل پس از حدس زدن رمز عبور به خدمات یک شرکت واقعی دسترسی پیدا کرد.

معاون مهندسی امنیت گوگل، هدر ادکینز، به جان هندرن از الجزیره گفت که در موارد دیگر «این مدل اطلاعات عمومی را به صورت آنلاین پیدا کرده و برای دسترسی به وب‌سایت‌هایی که فکر می‌کرد بخشی از آزمایش است، اعتبار حدس می‌زند».

این شرکت همچنین گفت که این سه بار اتفاق افتاده است و هر بار مدل قبل از تکمیل عمل متوقف می شود.

وال استریت ژورنال گزارش داد که Irregular در پایان ماه جولای به گوگل در مورد هک ها اطلاع داده است. گوگل گفت که این رفتار نمونه ای از ناهماهنگی مدل نیست و دلیلی برای افشای عمومی ندارد زیرا اقدامات ایمنی Gemini کارساز بوده است.

حوادث مشابه مرتبط با Irregular قبلا توسط Meta، Anthropic و OpenAI فاش شده بود. Irregular گفت که روی بهبود شیوه‌های انجام تست‌های امنیت سایبری هوش مصنوعی کار می‌کند.

برخلاف جمینی، مدل کلود آنتروپیک پس از اینکه متوجه شد در حال دسترسی به شرکت‌های واقعی است، متوقف نشد.

افشای آنتروپیک پس از آن صورت گرفت که OpenAI فاش کرد که مدل‌های آن به‌طور نامناسبی به اینترنت دسترسی پیدا کرده‌اند و در طول آزمایش سرکشی کردند. آنتروپیک اخیرا چهارمین حادثه هک هوش مصنوعی را پس از کناره گیری یک محقق به دلیل ایمنی فاش کرد.

اوایل این هفته، داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش سرعت پیشرفت هوش مصنوعی شد و هشدار داد که هوش مصنوعی به زودی خطرات بالقوه فاجعه‌باری را برای خود بشریت ایجاد می‌کند. این فراخوان توسط مدیر عامل OpenAI سام آلتمن و ایلان ماسک تایید شد.

هفته گذشته، دونالد ترامپ، رئیس‌جمهور آمریکا نیاز به بررسی توسعه هوش مصنوعی را رد کرد و گفت که نگران واگذاری رهبری آمریکا به چین است.