وزرای بریتانیا به دنبال اختیاراتی برای تحقیق در مورد زمانی که عوامل هوش مصنوعی رها می شوند، هستند

دولت بریتانیا راه را برای قوانینی هموار می کند که اپراتورهای خدمات ضروری و ارائه دهندگان دیجیتال را ملزم می کند تا در برابر از دست دادن کنترل عوامل هوش مصنوعی محافظت کنند و در صورت شکست پادمان ها، حوادث را گزارش کنند.

اصلاحیه لایحه امنیت سایبری و انعطاف‌پذیری که در حال تصویب در پارلمان است، به وزرا اختیاراتی می‌دهد تا استقرار و گزارش‌دهی هوش مصنوعی عامل را در سازمان‌های خاص تنظیم کنند. بند جدید در جریان سومین قرائت لایحه این هفته در مجلس اعیان ارائه شد.

در یادداشتی توضیحی، وزرا برنامه‌هایی را برای پادمان‌ها، اطلاع‌رسانی به سازمان‌های آسیب‌دیده، حفظ شواهد و بررسی رویدادهای تحت رهبری دولت تشریح کردند. این اقدامات مستلزم مشورت و تصویب پارلمان از طریق قوانین ثانویه است.

این حرکت به دنبال مجموعه ای از حوادث انجام می شود. ماه گذشته، OpenAI فاش کرد که عوامل آن به طور مکرر از محدوده مورد نظر خود خارج شده‌اند، و این باعث شد که شرکت بیش از 100 سازمان را در مورد این مسائل مطلع کند. این اتفاق پس از حادثه جولای رخ داد که در آن یک عامل OpenAI به اینترنت دسترسی پیدا کرد و پلتفرم یادگیری ماشین Hugging Face را نقض کرد. این اپیزود و احتمال آسیب بیشتر ناشی از استقرار عوامل هوش مصنوعی با طراحی ضعیف، نمایندگان مجلس را بر آن داشته است که این سوال را مطرح کنند که آیا قانون بریتانیا می تواند با چنین تهدیدهایی مقابله کند یا خیر.

استوارت دیوی، شریک شرکت حقوقی Pinsent Masons، در صحبت با The Register، این بند را «کاملا بدیع» توصیف کرد. به جای تحمیل مستقیم وظایف جدید، به وزرا اجازه می دهد تا قوانین و اختیارات تحقیقی را که سازمان های تحت نظارت را پوشش می دهد، معرفی کنند. دیوی گفت که این می تواند شامل اختیاراتی باشد که "بررسی جایی که چنین مصالحه یا مشکلی در زمینه هوش مصنوعی وجود دارد و انجام برخی کارها... منصوب بازرسان، ورود و جستجو در اماکن، ضبط و نگهداری اسناد." بر اساس این پیشنهادها، وزیر می‌تواند اختیارات خاصی را به تنظیم‌کننده‌ها اعطا کند که مستلزم اقدامات سازمان‌های هدف است.

سازمان هایی که بالقوه تحت تاثیر قرار می گیرند شامل تامین کنندگان گاز و برق، ارائه دهندگان خدمات مدیریت شده و ارائه دهندگان ابری هستند که عوامل هوش مصنوعی را برای مشتریان مستقر می کنند. توسعه‌دهندگان مدل بنیادی به‌طور خودکار به این دلیل که فناوری زیربنایی را ایجاد می‌کنند، در محدوده قرار نمی‌گیرند.

دیوی گفت: «در مواردی که امنیت یا سازش عملیاتی در رابطه با یک شبکه یا سیستم اطلاعاتی مربوطه وجود داشته باشد، به نظر می رسد که ارائه دهندگان خدمات مدیریت شده یا ارائه دهندگان محاسبات ابری که از هوش مصنوعی استفاده می کنند را جذب می کند و این از دست دادن کنترل وجود دارد. او به ارائه دهندگان خدمات ابری و مدیریت شده توصیه کرد که آیا اقدامات پیشنهادی به قانون تبدیل می شوند یا خیر.

اوین مک مولن، مدیر عامل و یکی از بنیانگذاران شرکت زیرساخت هویت و کنترل هوش مصنوعی AmanTrue، گفت که این اصلاحیه از دست دادن نظارت یا کنترل را به عنوان یک خطر امنیتی می شناسد، اما به خودی خود وظایف جدیدی را تحمیل نمی کند.

او گفت: «این اصلاحیه به مقررات آینده اجازه می‌دهد تا در مواردی که یک حادثه شامل یک عامل هوش مصنوعی باشد، قدرت‌های تحقیقاتی و اجرایی را معرفی کند و سازمان‌هایی را که خدمات دیجیتال ضروری را اجرا می‌کنند، هدف قرار دهد.»

"کارگزار یک عامل هوش مصنوعی مجوزهای خود را انتخاب می کند، آن را به سیستم ها متصل می کند و به آن دسترسی به داده ها می دهد. هنگامی که مشکلی پیش می آید، توسعه دهنده طرفی است که انتظار می رود آنچه اتفاق افتاده را توضیح دهد.

"پاسخگویی با سازمانی که عامل را وارد سیستم می کند و در نهایت با مدیران اجرایی و هیئت مدیره باقی می ماند. اینکه سازندگان مدل دستگیر شوند بستگی به نحوه نگارش مقررات و اینکه سازنده در یک دسته تنظیم شده یا یک زنجیره تامین تنظیم شده قرار می گیرد." ®