گوگل پس از خطای دسترسی به اینترنت شریک به باشگاه «اوه، عوامل ما کسی را هک کردند» می‌پیوندد

گوگل اعتراف کرده است که عوامل هوش مصنوعی آن از جعبه شنی فرار کرده و حمله ای را انجام داده اند - اما فقط به این دلیل که آزمایش کنندگان به اشتباه به ربات هایش دسترسی به اینترنت داده اند. Big G حادثه ماه مه را فاش نکرد، اما وال استریت ژورنال از این وضعیت مطلع شد، این اتفاق پس از استخدام شرکت اسرائیلی Irregular توسط گوگل برای آزمایش قدرت ربات‌های خود در آزمایش ضبط پرچم رخ داد. هدف این تمرین کسب اطلاعات از یک شرکت خیالی بدون ترک ماسه باکس بود. نامنظم، که راه اندازی آزمون، دو اشتباه کرد. یکی اجازه دسترسی به اینترنت از جعبه شنی بود.

مورد دیگر استفاده از نام یک شرکت واقعی بود. وقتی هوش مصنوعی گوگل وارد اینترنت باز شد، به دنبال شرکت واقعی رفت – در مجموع سه تای آنها. طبق گزارش ژورنال، ربات‌های گوگل رمز عبور دو هدف را در اینترنت عمومی پیدا کردند. نرم افزار رمز سوم را حدس زد. گوگل در بیانیه‌ای که به The Register ارسال شد، گفت: «در یک ارزیابی استاندارد، این مدل اطلاعات عمومی را به‌صورت آنلاین پیدا کرد و اعتبارنامه‌هایی را برای دسترسی به وب‌سایت‌هایی که فکر می‌کرد بخشی از آزمایش است حدس زد.» به گفته گوگل، مدل های آن قبل از استفاده از اعتبارنامه ها کار نمی کنند.

سخنگوی گوگل به The Register گفت: «ما اطمینان حاصل کردیم که سه نهاد آگاه شده‌اند و با شریک آموزشی خود روی تغییراتی که اکنون در فرآیندهای آزمایشی خود ایجاد کرده‌اند کار کردیم. این رویدادها اهمیت آموزش مدل‌های هوش مصنوعی قدرتمند را برای عمل مسئولانه نشان می‌دهد.» واضح است که سرزنش های زیادی در این مورد وجود دارد. Irregular به وضوح در اجازه دسترسی به اینترنت از جعبه شنی اشتباه کرد. دو شرکتی که اعتبار خود را به صورت آنلاین قابل کشف گذاشتند نیز باید بهتر بدانند. هر کسی که از رمز عبور قابل حدس زدن استفاده کرده است نیز ممکن است بی دقت بوده باشد.

مقصر بودن گوگل موضوع دیگری است زیرا این حوادث در ماه مه رخ داد - حدود دو ماه قبل از اینکه OpenAI اعتراف کرد که عواملش منبع حمله جولای به Hugging Face بوده اند. بنابراین غول تبلیغاتی جستجو حدود دو ماه بر اخبار فعالیت عوامل خود نشسته بود و به نظر می‌رسد عجله‌ای برای افشای این حادثه تا زمانی که WSJ از این حادثه مطلع نشده بود، نداشته است. ما می دانیم که شرکت در این موضع تصمیم گرفت زیرا عوامل آن با درک خطر - بر خلاف نرم افزار OpenAI - متوقف شدند و این حادثه به وضوح نتیجه چندین خطا بود.

اینکه آیا مخفی نگه داشتن این حادثه در فضای کنونی بی اعتمادی فزاینده به هوش مصنوعی درست بود یا خیر، موضوع دیگری است. یکی از افرادی که خطر فاجعه‌آفرینی هوش مصنوعی را نمی‌بیند، دونالد ترامپ، رئیس‌جمهور ایالات متحده است که هشدارها را به عنوان یک «فریب» نادیده گرفته و گفته است که کار روی هوش مصنوعی به دلیل اهمیت اقتصادی و استراتژیک آن نباید کند شود. در آخر هفته، به نظر می‌رسد که این موضع کمی تغییر کرده است، زیرا ترامپ از شبکه اجتماعی شخصی خود استفاده کرد تا اعلام کند که در حال تشکیل «نیروی هوش مصنوعی است، دقیقا مانند نیروی فضایی» - اشاره‌ای به شاخه جدید ارتش آمریکا که رئیس‌جمهور در اولین دوره‌اش ایجاد کرد.

ترامپ افزود: برای این منظور، در آینده نزدیک «تزار» هوش مصنوعی را اعلام خواهم کرد. هیچ جزئیاتی در مورد هر یک از این پیشنهادها در زمان نگارش در دسترس نبود، و همچنین رئیس جمهور توضیح نداد که چرا به یک شاخه جدید ارتش یا تزار نیاز است. در واقع، در همان پستی که او برای اعلام آژانس جدید استفاده کرد، همچنین آمده است: "ما به هیچ وجه مانع یا سرکوب رشد این صنعت باورنکردنی نخواهیم شد. بلکه ما آن را گرامی خواهیم داشت، کمکش می کنیم و مراقب آن هستیم، همانطور که رشد می کند! با این حال، ما همچنین به دنبال بد خواهیم بود و می توانیم این کار را به راحتی با سیستم جنایی عدالت مدنی خود انجام دهیم." ®