یکی از بنیانگذاران DeepMind هشدار می دهد که حوادث هک هوش مصنوعی "شات هشدار اولیه" هستند

دمیس حسابیس، یکی از بنیانگذاران گوگل دیپ مایند، روز چهارشنبه هشدار داد که حوادث هک مربوط به هوش مصنوعی "هشدار اولیه" هستند و از شرکت ها و دولت ها خواست تا با قدرتمندتر شدن سیستم های خودمختار، امنیت را تقویت کنند.

Hassabis طی سخنانی در اجلاس بین المللی هوش مصنوعی 2026 گفت عوامل هوش مصنوعی که قادر به عمل از جانب کاربران هستند، هم سودمندی و هم خطرات این فناوری را افزایش می دهند.

او گفت: "اما همچنین این بدان معنی است که خطرات مربوط به کارهایی که این سیستم ها ممکن است انجام دهند را نیز افزایش می دهد، و ما اخیرا در اوایل سال جاری با برخی از این حوادث هک مشاهده کرده ایم. من فکر می کنم اینها هشدارهای اولیه برای ما هستند."

او افزود: "سیستم ها هنوز آنقدر قدرتمند نیستند، بنابراین حوادث آنقدر بزرگ نیستند"، و هشدار داد که حوادث ممکن است طی چند سال آینده بدون تلاش های امنیتی اضافی جدی تر شوند.

حسابیس گفت که اطمینان از اینکه سیستم ها از اهداف تعیین شده خود پیروی می کنند و در چارچوب پادمان های تعیین شده باقی می مانند، با به دست آوردن خودمختاری دشوارتر می شود.

او گفت: "و هر چه اتوماسیون بیشتر در سیستم ها وجود داشته باشد، این کار به طور فزاینده ای دشوار می شود."

او همچنین هشدار داد که هوش مصنوعی "همچنین می تواند توسط بازیگران بد برای اهداف مضر مورد استفاده قرار گیرد."

حسابیس خواستار آزمایش سیستم‌ها در محیط‌های امن شد که در ابتدا از اینترنت جدا بودند و از روش‌های مهار زیست‌شناسی و فناوری هسته‌ای استفاده می‌کردند.

او گفت: «من فکر می‌کنم درس‌های زیادی در مورد سیستم‌های مهار می‌توان آموخت، و فکر می‌کنم ما باید آن را جدی بگیریم و متخصصانی را از آن حوزه‌ها وارد کنیم».

او از دادن دسترسی مدافعان مورد اعتماد، از جمله بانک ها و دولت ها، به ابزارهای پیشرفته هوش مصنوعی قبل از انتشار گسترده تر برای شناسایی و تعمیر آسیب پذیری های نرم افزار قبل از اینکه مهاجمان بتوانند از آنها سوء استفاده کنند، حمایت کرد.

او گفت: "بنابراین ما باید به گونه ای نامتقارن نیروی دفاعی خود را تقویت کنیم تا از مهاجمان جلوتر باشیم."

Hassabis همچنین خواستار ایجاد یک سازمان استاندارد بین المللی که قادر به انطباق با پیشرفت های فناوری باشد، شد.

او گفت: «این بر همه افراد در جهان تأثیر خواهد گذاشت»، و خواستار تدابیری شد که خطرات نوظهور را منعکس می‌کند و در عین حال نوآوری را حفظ می‌کند.

او گفت: «اگر شما برای چیزی سه سال پیش قانونی وضع کنید، امروز منسوخ خواهد شد و در واقع احتمالا به مشکلات واقعی نیز رسیدگی نخواهد کرد.

او همچنین خواستار «10 برابر یا بیشتر منابع» برای ایمنی و امنیت هوش مصنوعی، از جمله ظرفیت تحقیق و محاسبات شد.