ناظر مالی بریتانیا از شرکت‌ها می‌خواهد که نقص‌های هوش مصنوعی را گزارش کنند و تماس‌ها را ببندند

تنظیم‌کننده مالی بریتانیا می‌گوید گزارش‌دهی رویدادهای شرکت‌ها باید نقص‌های قابل توجه هوش مصنوعی و تقریبا از دست دادن را پوشش دهد، زیرا سیستم‌های مستقل به طور فزاینده خطرات جدیدی را ایجاد می‌کنند.

جسیکا روسو، افسر ارشد اطلاعات، اطلاعات و اطلاعات سازمان رفتار مالی، روز دوشنبه در سخنرانی در مجموعه سیاست های بریتانیا بلومبرگ گفت که تنظیم کننده از بریتانیا می خواهد که پذیرش ایمن هوش مصنوعی در خدمات مالی را رهبری کند. با این حال، استقلال بیشتر مستلزم پاسخگویی روشن است.

او گفت: «هوش مصنوعی ضعیف می‌تواند آسیب‌های مصرف‌کننده، آسیب‌پذیری‌های سایبری و شکست‌های عملیاتی را به‌طور بالقوه با سرعت و مقیاس بسیار بیشتر ایجاد کند.

"قوانین ما در حال حاضر شرکت ها را ملزم می کند که حوادث مهم را گزارش کنند، و این باید به خرابی های قابل توجه هوش مصنوعی و نزدیک به از دست رفتن تسری یابد. همانطور که وزیر هوش مصنوعی تشخیص داده است، گزارش نزدیک به از دست دادن برای هوش مصنوعی عامل در حال تبدیل شدن به یک اولویت امنیت ملی است. این یک اولویت نظارتی نیز است."

بریتانیا در خدمات مالی بالاتر از وزن خود است. این بخش 223.6 میلیارد پوند به اقتصاد بریتانیا در سال 2025 کمک کرد، یا 8 درصد از تولید ملی. این سهم چهارمین بالاترین سهم در میان کشورهای OECD بود.

هفته گذشته، کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا گفت که دولت قصد دارد با پارلمان و کارشناسان فنی همکاری کند تا ارزیابی کند که چگونه می‌تواند رژیم را تقویت کند تا از بریتانیا در برابر تهدیدات سایبری مبتنی بر هوش مصنوعی و خطرات از دست دادن کنترل محافظت کند.

او گفت: "این شامل شناسایی و گزارش در مورد حوادث جدی و موارد نزدیک از دست رفته، از جمله کاهش خطر ناشی از هوش مصنوعی در سراسر خدمات ضروری، و اطمینان از اینکه حوادث جدی هوش مصنوعی می توانند به درستی بررسی شوند، می شود."

استیون آدلر، یکی از بنیانگذاران و دانشمند ارشد مستقل غیرانتفاعی Guidelight AI Standards، هفته گذشته نیز به نمایندگان مجلس گفت که نظارت بر هوش مصنوعی می تواند از هوانوردی بیاموزد، جایی که گزارش موارد نزدیک به مفقود شدن در بیشتر حوزه های قضایی اجباری است.

او گفت: "روش کار در هوانوردی به این صورت است که شما نه تنها می خواهید در مورد تصادفات جدی که در آن یک نفر در واقع جان خود را از دست داده است، یاد بگیرید، بلکه می خواهید در مورد تصادفات نزدیک بیاموزید، زیرا می توانید از آنها یاد بگیرید و در آینده از آنها جلوگیری کنید."

با این حال، دولت هنوز متعهد به اضافه کردن اقدامات ویژه هوش مصنوعی به لایحه امنیت سایبری و انعطاف پذیری (شبکه و سیستم های اطلاعاتی) نشده است. الکساندرا جونز، مدیر کل رشد، علم و بین‌الملل در وزارت علوم، نوآوری و فناوری، هفته گذشته به نمایندگان مجلس گفت که اصلاحات همچنان در دست بررسی است.

در ژانویه، کمیته خزانه داری مجلس عوام از تنظیم کننده های مالی خواست تا تست استرس انجام دهند تا اطمینان حاصل شود که کسب و کارها برای شوک های بازار مبتنی بر هوش مصنوعی آماده هستند. این کمیته گفت زمانی که سیستم‌های هوش مصنوعی نتایج مضر یا ناعادلانه ایجاد می‌کنند، باید خطوط شفافی برای پاسخگویی وجود داشته باشد. ®