منابع می گویند که ناظران بانکی با افزایش ترس از ثبات، نظارت بر هوش مصنوعی را افزایش می دهند

دو تن از این افراد به رویترز گفتند که سه تنظیم کننده ارشد در ایالات متحده، از جمله فدرال رزرو، در حال پرسش از بانک ها در مورد استفاده از مدل های پیشرفته هوش مصنوعی هستند.

نیویورک/لندن - شش نفر از افراد آشنا به این موضوع گفتند که تنظیم‌کننده‌های بانکی در حال افزایش تلاش‌ها برای مهار خطرات فزاینده هوش مصنوعی هستند و برخی به احتمال حملات سایبری به بانک‌ها یا عوامل سرکش اشاره می‌کنند که ثبات مالی جهانی را تضعیف می‌کند.

به گفته منابع، بررسی دقیق نظارتی، که جزئیات تازه‌ای از آن برای اولین بار در اینجا گزارش می‌شود، نشان‌دهنده این است که پیشرفت‌ها در هوش مصنوعی مرزی ممکن است به سرمایه‌گذاری‌های پرهزینه در بازیابی سایبری، توجه بیشتر به وابستگی‌ها به ارائه‌دهندگان فناوری خارجی و در برخی حوزه‌های قضایی به راهنمایی‌های قانونی رسمی‌تر نیاز داشته باشد.

سه نفر از این افراد گفتند، پرسش‌ها شامل این است که آیا آنها فناوری توسعه‌یافته چینی را به کار می‌گیرند، از عوامل هوش مصنوعی در دفاع سایبری استفاده می‌کنند و می‌توانند سیستم‌های مستقل را کنترل کنند.

در اروپا، ناظرانی از جمله بانک انگلستان و بانک مرکزی اروپا به بانک‌ها فشار می‌آورند تا برنامه‌های بازیابی را بهبود بخشند، زیرا نگران این هستند که پیشرفت‌های سریع در هوش مصنوعی می‌تواند زودتر از آنچه قبلا تصور می‌شد آسیب جدی و اختلال در بازارهای مالی ایجاد کند.

یکی از مدیران ارشد یک بانک بزرگ اروپایی گفت که آنها نیز نگران آسیب‌های بالقوه بزرگ به بانک‌ها و بازارهای مالی «طی شش ماه» هستند.

رویترز گزارش داد که بحث در مورد نظارت بر هوش مصنوعی در میان هشدارهای صنعت پس از حوادث اخیر تشدید شده است، به طوری که جیمی دیمون، مدیر اجرایی JPMorgan از رهبران شرکت‌ها می‌خواهد برای رسیدگی به خطرات هوش مصنوعی به یک گروه صنعتی متمرکز در ایالات متحده بپیوندند.

شرکت امنیت سایبری آمریکا CrowdStrike در ماه اکتبر اعلام کرد فردی در چین احتمالا از یک عامل هوش مصنوعی توسعه‌یافته چینی و کد کلود آنتروپیک در هک بانک‌های کره جنوبی استفاده کرده است. رویترز گزارش داد که عوامل سرکش هوش مصنوعی توسعه یافته توسط OpenAI در همان حال در نقض پلت فرم هوش مصنوعی Hugging Face دست داشتند.

محققان Anthropic هشدار داده‌اند که سیستم‌های هوش مصنوعی قوی‌تر در نهایت می‌توانند از کنترل انسان فرار کنند و حتی یک تهدید وجودی ایجاد کنند و درخواست‌ها برای مقررات سخت‌گیرانه‌تر را برانگیخت.

بانک‌ها در حال رقابت برای به کارگیری هوش مصنوعی عاملی هستند که می‌تواند وظایفی را با حداقل نظارت انسانی انجام دهد، در حالی که با چالش‌های مدل‌های جدید از جمله ضعف‌های فناوری اطلاعات که توسط ابزار Anthropic’s Mythos مشخص شده‌اند، دست و پنجه نرم می‌کنند.

مایکل وودبریج، شریک امنیت سایبری مستقر در لندن در Grant Thornton، می‌گوید: «به‌کارگیری هوش مصنوعی اغلب از توانایی قرار دادن کنترل‌ها پیشی می‌گیرد.

تحقیقات نظارتی ایالات متحده بر نحوه استفاده بانک‌ها از هوش مصنوعی در حوزه‌هایی مانند امنیت سایبری متمرکز است و بر این موضوع تمرکز دارد که آیا از عوامل هوش مصنوعی برای شناسایی، اولویت‌بندی و پاسخ به تهدیدات استفاده می‌شود یا خیر.

دو نفر از این افراد گفتند که سوالات دفتر کنترل ارز (OCC) و شرکت بیمه سپرده فدرال و فدرال رزرو بر روی محدودیت هایی که برای سیستم ها اعمال می شود، نحوه نظارت و تایید اقدامات آنها و اینکه آیا بانک ها می توانند به وضوح تصمیمات عامل هوش مصنوعی را ردیابی و حسابرسی کنند، متمرکز است.

آنها همچنین می‌پرسند چه تدابیری برای جلوگیری از تجاوز کارگزاران به اختیاراتشان وجود دارد، آیا انسان‌ها در تصمیم‌گیری‌های کلیدی نقش دارند و چگونه بانک‌ها می‌توانند سیستم‌های مستقل را تعطیل کنند.

OCC، Fed و FDIC از اظهار نظر خودداری کردند.

به گفته این سه نفر که از تفکرات خود آگاه هستند، تنظیم‌کننده‌ها از طریق سؤالات خود در حال بررسی مسائل خاص‌تر مرتبط با مدل‌های پیشرفته هوش مصنوعی، از جمله استفاده از عوامل هوش مصنوعی مستقل، مدل‌های توسعه‌یافته خارجی و خطرات سایبری جدید هستند.

آنها افزودند که پرسش‌های کتبی و شفاهی از بانک‌های بزرگ، متوسط ​​و کوچک‌تر نشان می‌دهد که تنظیم‌کننده‌ها بر آسیب‌پذیری‌های ناشی از استفاده بانک‌ها از هوش مصنوعی و آمادگی آنها برای اقدام تمرکز کرده‌اند.

آنها گفتند که تنظیم‌کننده‌ها هنوز در حال جمع‌آوری اطلاعات هستند و هنوز درباره اقداماتی که وام دهندگان باید انجام دهند، تجویز نمی‌کنند.

دو نفر از افراد آشنا به تفکر آنها گفتند که ناظران در بریتانیا به طور جداگانه بزرگترین بانک ها را تشویق می کنند تا طرح های به اصطلاح بازیافت فلزات خالی را بررسی کنند. این سیستم‌ها کاملا مستقل از راه‌اندازی فناوری اصلی بانک هستند و در صورت به خطر افتادن سیستم‌عامل‌های اولیه، می‌توانند راه‌اندازی کنند.

با این حال، مردم گفتند که ساخت و نگهداری چنین بازیابی پیشرفته ای گران است.

آنها افزودند که مقامات بریتانیا به جای معرفی الزامات جدید، قصد دارند با صنعت همکاری کنند.

بانک مرکزی اروپا در ماه جولای به وام دهندگان مهلتی تا پایان اکتبر داد تا برنامه هایی برای مقابله با تهدیدات سایبری مبتنی بر هوش مصنوعی، از جمله بهبود پشتیبان گیری و بازیابی، تهیه کنند.

در پاسخ به سوالی درباره استراتژی خود برای تنظیم هوش مصنوعی، بانک مرکزی اروپا به نامه ژوئیه خود و همچنین سخنرانی ژوئن توسط فرانک الدرسون، عضو هیئت مدیره، اشاره کرد که بر لزوم ایجاد احساس فوریت و نه هشدار در مورد تهدیدها تاکید کرد.

نیاز به اقدام نظارتی پس از ابراز ناامیدی بانک‌ها و قانون‌گذاران اروپایی از دسترسی محدود به Mythos در سال 2026، در میان نگرانی‌هایی که به بانک‌های ایالات متحده برای آزمایش مدل‌های مرزی داده می‌شود، فوریت بیشتری پیدا کرد.

دو نفر گفتند که ناظران بریتانیایی مانند همتایان آمریکایی خود، از بانک‌ها می‌خواهند که از هوش مصنوعی مرزی برای شناسایی آسیب‌پذیری‌ها و سرعت بخشیدن به وصله‌ها استفاده کنند و یکی اضافه کرد که وام دهندگان تاکنون کار خوبی انجام داده‌اند.

شخص سوم گفت که از بانک‌های منطقه یورو نیز خواسته شده است تا نقشه استفاده از هوش مصنوعی را در کسب‌وکارها و ارائه‌دهندگان شخص ثالث، برای درک وابستگی‌های کلیدی و اطمینان از اینکه می‌توانند سیستم‌ها را به شیوه‌ای کنترل‌شده خاموش و راه‌اندازی مجدد کنند، ترسیم کنند.

آنها افزودند که شکاف های قابل توجهی در برخی شرکت ها باقی مانده است.

سوکاند راماچاندران، مدیر عامل و شریک ارشد BCG گفت: «برای محافظت در برابر حملات، بهبودی سریع به اندازه پیشگیری مهم است.

راماچاندران به رویترز گفت: بدون نسخه‌های تمیز و ایمن داده‌های حیاتی که به طور جداگانه نگهداری می‌شوند، «یک حمله جدی می‌تواند مشتریان را از حساب‌هایشان مسدود کند و پرداخت‌ها را در کل اقتصاد مختل کند». رویترز