نفوذ عوامل سرکش هوش مصنوعی به حساب های بانکی ایالات متحده - Axios

وام دهندگان بزرگ دستیاران خارجی را به دلیل ترس از اینکه ممکن است فراتر از دستورات مشتریان عمل کنند و پول منتقل کنند، محدود می کنند

اکسیوس روز پنجشنبه گزارش داد، بانک‌های بزرگ ایالات متحده عوامل هوش مصنوعی بیرونی را شناسایی کرده‌اند که در داخل حساب‌های مشتریان فعالیت می‌کنند و به نظر می‌رسد برخی از آنها اقداماتی فراتر از دستورالعمل‌های کاربران انجام می‌دهند.

عوامل هوش مصنوعی برای تکمیل وظایف از طرف کاربران، خرید بالقوه، پرداخت صورت‌حساب یا جابجایی پول طراحی شده‌اند. مشتریان اغلب به آنها مجوز و اعتبار ورود به سیستم را می دهند، اما این می تواند قوانین بانک ها را نقض کند که دارندگان حساب را ملزم می کند خودشان وارد سیستم شوند.

به گفته اکسیوس به نقل از افراد آشنا، وام دهندگانی از جمله JPMorgan Chase، Bank of America، Morgan Stanley و Wells Fargo در حال رقابت برای مهار این خطرات هستند. برخی عواملی را ردیابی کرده اند که با مراکز تماس تماس می گیرند یا ظاهرا مستقل از دستورالعمل های مشتری عمل می کنند.

به گفته این رسانه، مدیران بانک وضعیت را "وحشتناک" توصیف کردند. یکی گفت وام دهندگان در تلاش هستند تا بین دستیاران مجاز و نمایندگانی که سرکش شده اند تمایز قائل شوند.

JPMorgan، Bank of America و Citi اکنون شروع به محدود کردن دسترسی نمایندگان خارجی کرده‌اند، در حالی که بنا بر گزارش‌ها مورگان استنلی مسدود کردن آنها را از پلتفرم‌های خود آغاز کرده است. چیس همچنین از مشتریان خواسته است که نام کاربری و رمز عبور را با عوامل هوش مصنوعی به اشتراک نگذارند.

ادامه مطلب عوامل هوش مصنوعی می توانند باعث سقوط بازار شوند - بانک مرکزی انگلستان

بانک ها معمولا دسترسی محدودی را مجاز می دانند یا در حال توسعه هستند که به ابزارهای خارجی اجازه می دهد تا مانده ها و سایر اطلاعات حساب را بدون جابجایی پول مشاهده کنند. Axios گزارش داد، با این حال، آنها اکنون در حال آماده سازی برنامه های اضطراری برای محافظت از حساب ها و بازگرداندن دسترسی مشتریان در صورت بروز مشکل هستند.

بانک ها نیز از از دست دادن سپرده های سودآور ابراز نگرانی کرده اند. فایننشال تایمز هفته گذشته گزارش داد که دستیاران هوش مصنوعی می‌توانند پول نقد مشتریان را به بانک‌هایی منتقل کنند که نرخ‌های بهتری ارائه می‌دهند و وام‌دهندگان را مجبور به پرداخت سود بیشتری برای حفظ این مشتریان کنند.

این نگرانی‌ها در میان مجموعه‌ای از گزارش‌ها درباره عملکرد عوامل هوش مصنوعی فراتر از دستورالعمل‌های خود و دسترسی به سیستم‌های خارجی بدون مجوز رخ می‌دهد. وال استریت ژورنال ماه گذشته گزارش داد که OpenAI مدل برنامه ریزی شده GPT-6.1 Astra را پس از اینکه آزمایش رفتار فریبنده تری نسبت به مدل های قبلی خود نشان داد، کنار گذاشته شد. این سیستم گاهی اوقات نتوانست اقدامات خود را برای اپراتورهای انسانی فاش کند و سعی می کرد از ابزارهای خارجی بالقوه ناایمن استفاده کند.

بیشتر بخوانید: عاملان هوش مصنوعی حفاظت ها را غیرفعال کردند و یکی آن را رد کرد - OpenAI

حوادث قبلی شامل فرار عوامل OpenAI از محیط آزمایشی و دسترسی به سرورهای متعلق به Hugging Face، مخزن آنلاین مدل‌ها و مجموعه داده‌های هوش مصنوعی بود.

تنظیم‌کننده‌های مالی هشدار داده‌اند که سیستم‌های مستقل نیز می‌توانند بازارها را بی‌ثبات کنند. سارا بریدن، معاون بانک انگلستان، در ماه ژوئن هشدار داد که نمایندگانی که به سیگنال‌های مشابه واکنش نشان می‌دهند، می‌توانند به طور همزمان خرید یا فروش کنند و نوسانات بازار را شدیدتر کند.

او از رگولاتورها خواست تا «سوئیچ‌های کشنده» اضطراری را در نظر بگیرند که اگر سیستم‌های هوش مصنوعی معیوب باعث سقوط بازار شوند، می‌توانند تجارت را متوقف کنند.