رئیس امنیت سایبری اتحادیه اروپا می گوید به عوامل هوش مصنوعی «آزادی بیش از حد» داده می شود

رئیس امنیت سایبری اتحادیه اروپا روز پنجشنبه هشدار داد که عوامل هوش مصنوعی به طور فزاینده‌ای در حال یافتن راه‌هایی برای کار در اطراف پارامترهای اصلی خود و سوء استفاده از آسیب‌پذیری‌ها هستند که خطرات آزادی بیش از حد آنها را آشکار می‌کند.

جوهان لپاسار، مدیر اجرایی آژانس امنیت سایبری اتحادیه اروپا، در مصاحبه ای با شبکه تلویزیونی ERR استونی گفت: «ما از ابزاری استفاده می کنیم بدون اینکه همه قابلیت های آن را درک کنیم و به آن ابزار آزادی زیادی می دهیم.

لپاسار در پاسخ به سوالی درباره حوادث اخیر مرتبط با هوش مصنوعی و ابزارهای قدرتمندتر در دسترس مجرمان سایبری، گفت که عوامل هوش مصنوعی هوشیار نیستند و مستقل عمل نمی کنند.

او گفت، بلکه این ابزارها از قدرتی که مردم به آنها می دهند استفاده می کنند.

اقدامات آن‌ها همیشه توسط یک انسان هدایت می‌شود و چارچوب‌ها یا پارامترهایی که در آن عمل می‌کنند توسط انسانی ایجاد شده‌اند که یا تا حدودی بی‌احتیاط بوده، یا به عوامل هوش مصنوعی آزادی زیادی می‌دهد یا در نحوه راه‌اندازی عامل دچار اشتباهات طراحی شده است.»

لپاسار گفت «نمونه‌های زیادی» از عوامل هوش مصنوعی وجود دارد که تلاش می‌کنند با بهره‌برداری از درهای پشتی مختلف به اهداف خود دست یابند.

او گفت که این درهای پشتی ناشی از دستورالعمل های بسیار انعطاف پذیری است که توسط انسان ها به ماموران داده شده است.

او گفت: "خطر اینجاست: ما از ابزاری استفاده می کنیم بدون اینکه همه قابلیت های آن را درک کنیم و به آن ابزار آزادی زیادی می دهیم."

در مورد امنیت سایبری، لپاسار گفت چندین مدل هوش مصنوعی با استفاده از نرم‌افزار منبع باز توسعه داده شده‌اند و بر روی میلیون‌ها و میلیاردها خط کد نرم‌افزار منبع باز برای یافتن آسیب‌پذیری‌ها آموزش دیده‌اند.

او گفت: «آنها در یافتن این آسیب‌پذیری‌ها بسیار خوب هستند و همچنین در بهره‌برداری از آنها بسیار خوب هستند.

لپاسار گفت که خوشبین است و معتقد است "ما در واقع به زودی راه هایی را برای تشخیص اطلاعات مصنوعی تولید شده توسط هوش مصنوعی از اطلاعات معتبر ایجاد شده توسط انسان ها پیدا خواهیم کرد."

وی افزود: «از آنجایی که تقاضا برای این امر وجود دارد، احتمالا راه حلی پیدا خواهد شد.