تغییر پیش‌بینی‌های روز رستاخیز هوش مصنوعی تنظیم‌کننده‌های بانکی را نگران کرده است

بر اساس گزارش جدید و ناشناس که روز دوشنبه توسط رویترز منتشر شد، تنظیم‌کنندگان ارشد مالی، از جمله فدرال رزرو، نگران استفاده بانک‌های آمریکایی از هوش مصنوعی هستند.

رویترز با استناد به «شش نفر آشنا با موضوع» گزارش می‌دهد که تنظیم‌کننده‌های ارشد بانکی در ایالات متحده از خطرات فزاینده حملات سایبری، عوامل سرکش هوش مصنوعی و استقرار فناوری هوش مصنوعی چینی در سیستم بانکی آمریکا هراس دارند. طبق گزارش ها، سه تنظیم کننده - دفتر کنترل ارز، شرکت بیمه سپرده فدرال و فدرال رزرو - از بانک های ایالات متحده سؤال می کنند و می پرسند که آیا آنها از عوامل هوش مصنوعی برای پاسخ به تهدیدات امنیت سایبری و بررسی انواع حفاظ هایی که بانک ها برای استقرار ایمن ایجاد می کنند استفاده می کنند یا خیر.

طبق گزارش‌ها، ضمانت‌هایی که بانک‌ها در مورد آنها زیر سوال می‌روند عبارتند از اینکه آیا اقدامات عوامل هوش مصنوعی توسط انسان‌ها ردیابی و تأیید می‌شود یا خیر، چگونه بانک‌ها تضمین می‌کنند که نمایندگان از اختیارات خود تجاوز نمی‌کنند، و آیا مکانیزم خاموش کردن اضطراری در صورت سرکشی وجود دارد یا خیر.

پیشرفت‌های اخیر در هوش مصنوعی، به‌ویژه توسعه مدل‌های عامل ابر هکری که ظاهرا به رمزگذاری پایان می‌دهند، سر و صدای زیادی در صنایع ایجاد کرده است، اما شاید هیچ بخش دیگری بیشتر از بانکداری باعث نگرانی نشده باشد. هرگونه نقض یا نقص مبتنی بر هوش مصنوعی که بانک‌ها احتمالا با آن مواجه می‌شوند، می‌تواند اطلاعات بسیار حساس، به جز وجوه، مشتریان بانک‌ها، از جمله افراد و مشاغل، را به خطر بیندازد.

خود صنعت هوش مصنوعی تا حدی باعث ایجاد وحشت ناشی از هوش مصنوعی می شود، در حالی که به طرز طعنه آمیزی هوش مصنوعی را بهترین خط دفاعی در برابر، خوب، هوش مصنوعی معرفی می کند. ماه گذشته، داریو آمودی، مدیر عامل توسعه‌دهنده برتر هوش مصنوعی Anthropic، مقاله‌ای را منتشر کرد و هشدار داد که توسعه هوش مصنوعی روندی ناپایدار را نشان می‌دهد و اگر این صنعت یک رکود هماهنگ را آغاز نکند، بشریت ممکن است با خطرات قابل توجهی از جمله "اختلال جدی اقتصادی" روبرو شود.

خود بانک‌ها نیز نگرانی‌های امنیتی مربوط به گسترش گسترده عوامل هوش مصنوعی خود را ابراز می‌کنند، اما عوامل خارجی هوش مصنوعی مانند Muse دستیار هوش مصنوعی متا را مقصر می‌دانند تا تهدیدات مرتبط با برنامه‌های هوش مصنوعی داخلی که مبالغ گزافی را برای توسعه و مقیاس هزینه می‌کنند.

گزارش ها حاکی از آن است که مذاکرات مشابهی در اروپا نیز در حال انجام است. رویترز گزارش می‌دهد که تنظیم‌کننده‌های ارشد اروپایی، بانک انگلستان و بانک مرکزی اروپا، بیم آن دارند که سناریوهای روز رستاخیز هوش مصنوعی زودتر از آنچه انتظار می‌رفت به بازارهای مالی برسد و بانک‌ها با برنامه‌های بهبودی خود مطابقت نداشته باشند. در واقع، یکی از مدیران ارشد یکی از بانک‌های بزرگ اروپایی به رویترز گفته است که انتظار دارند تا شش ماه آینده خسارت قابل توجهی مرتبط با هوش مصنوعی داشته باشند.

این جدول زمانی کوتاه شده تا حدودی توسط سیلیکون ولی نیز منتشر شده است.

فهرستی از بیش از 100 شرکت از جمله گوگل و OpenAI در نامه مشترکی که ماه گذشته منتشر شد، گفت: «در ماه‌های آینده، حملات سایبری مبتنی بر هوش مصنوعی بسیار گسترده‌تر و پیچیده‌تر خواهند شد، زیرا مدل‌ها در سراسر جهان به طور فزاینده‌ای توانمند می‌شوند».

رهبران بانک انگلستان مدتی است که خواستار همکاری جهانی برای مقابله با خطرات مالی مرتبط با هوش مصنوعی هستند.

اندرو بیلی، رئیس بانک انگلستان و رئیس هیئت ثبات مالی گروه 20، در نامه ای که ماه گذشته به گروه 20 ارسال شد، نوشت: برای سیستم مالی، فوری ترین نگرانی تأثیر بالقوه هوش مصنوعی مرزی بر ریسک سایبری است. در این نامه همچنین آمده است: «سیستم مالی جهانی بسیار به هم مرتبط است و اختلال سایبری می‌تواند از طریق ارائه‌دهندگان فناوری مشترک، زیرساخت‌های مشترک و فعالیت‌های مالی فرامرزی در سراسر حوزه‌های قضایی گسترش یابد.

برخی از این ترس های ادعا شده قبلا به واقعیت تبدیل شده اند. در طول تابستان، OpenAI زمانی که عوامل هوش مصنوعی آن از کنترل فرار کردند و به Hugging Face هک شدند، خبرساز شد و باعث شد تا مجموعه‌ای از سرفصل‌های مشابه در مورد عوامل هوش مصنوعی که توسط رقبا ایجاد شده بود، ایجاد شود. در روزهای اخیر، طبق گزارش‌ها، شرکت‌های ژاپنی و کره جنوبی با افزایش قابل توجهی در حملات سایبری بمباران شده‌اند که هدف‌ها شامل بانک‌های کره جنوبی نیز می‌شود. شرکت امنیت سایبری CrowdStrike می گوید که حملات سایبری به بانک ها توسط عوامل هوش مصنوعی چینی انجام شده است که بر روی کد کلود توسعه یافته توسط Anthropic تکیه دارند.