هوش مصنوعی Gemini گوگل سه شرکت را در آزمایش امنیتی هک کرد

به گفته این شرکت، جمینی مدل هوش مصنوعی گوگل طی آزمایش قابلیت‌های امنیت سایبری خود به‌طور خودکار سه شرکت را هک کرده است که گمان می‌رود اولین مورد شناخته شده از انجام چنین اقدامی باشد.

یکی از مقامات گوگل به بی بی سی گفت: Gemini "اطلاعات عمومی را به صورت آنلاین پیدا کرد و اعتبار حدس زد برای دسترسی به وب سایت هایی که فکر می کرد بخشی از آزمایش است"، با اشاره به اینکه در هر مورد "مدل متوقف شد".

شرکت های آسیب دیده در مورد نقض مطلع شده اند.

این امر پس از بررسی مجدد عمومی در مورد سرعت توسعه هوش مصنوعی، با برخی از شرکت‌های فناوری که خواستار کاهش سرعت شدند و نگرانی‌هایی را در مورد تهدید بالقوه آن برای بشریت ایجاد کردند - هر چند همه شرکت‌ها موافق نیستند.

گزارش شده است که این هک ها در ماه می و طی آزمایشی که توسط یک شرکت مستقل که ارزیابی های امنیت سایبری را انجام می دهد، رخ داده است.

هدر ادکینز، معاون مهندسی امنیت در گوگل، در بیانیه‌ای به بی‌بی‌سی گفت: «ما اطمینان حاصل کردیم که سه نهاد آگاه شده‌اند و با شریک آموزشی خود روی تغییراتی که اکنون در فرآیندهای آزمایشی خود ایجاد کرده‌اند، کار کردیم.

وی افزود: این رویدادها اهمیت آموزش مدل های قدرتمند هوش مصنوعی را برای عمل مسئولانه نشان می دهد.

سایر سیستم های هوش مصنوعی اخیرا موارد مشابهی از نقض را گزارش کرده اند.

در ماه ژوئیه، کلود از آنتروپیک از محیط آزمایشی خود فرار کرد تا سه سازمان را به تنهایی هک کند، تنها چند روز پس از اینکه OpenAI گفت مدل‌هایش حملات سایبری را علیه چندین «سرویس عمومی در دسترس» انجام داده‌اند.

همانطور که بحث عمومی در مورد ایمنی توسعه فناوری ادامه دارد، گفتگوها در مورد مقررات نیز افزایش می یابد.

جنسن هوانگ، مدیرعامل انویدیا و سام آلتمن، مدیر اجرایی OpenAI، قرار است جمعه آینده در ضیافت شام دولتی کاخ سفید با شی جین پینگ، رئیس جمهور چین شرکت کنند. آلتمن سپس هفته آینده به شورای امنیت سازمان ملل متحد اطلاع رسانی خواهد کرد.

روز جمعه، هوانگ به سی‌بی‌اس نیوز، شریک آمریکایی بی‌بی‌سی، گفت: «ما باید تا جایی که می‌توانیم سریع در توسعه هوش مصنوعی پیش برویم».

چرا نگرانی هایی وجود دارد که هوش مصنوعی می تواند بشریت را تهدید کند و چقدر واقعی هستند؟

آیا هوش مصنوعی می تواند انسان ها را از بین ببرد و چگونه ممکن است این کار را انجام دهد؟

مایکروسافت هشدار داد که هوش مصنوعی کنترل نشده می تواند منجر به رقابت «گونه های سیلیکونی» با انسان شود