بانک‌های بزرگ که توسط عوامل هوش مصنوعی چشم بسته شده‌اند، تلاش می‌کنند تا امنیت را تقویت کنند

قدرت‌های مالی آمریکایی در میان سیل عوامل AI محبوب - و اغلب غیرقابل پیش‌بینی - برای ایمن کردن سیستم‌های خود عجله دارند.

با رایج‌تر شدن کارگزاران و دسترسی کاربران به بخش‌های بیشتری از زندگی دیجیتالی خود، سازمان‌ها با یک انتخاب دشوار روبرو هستند: آیا باید دسترسی نامحدود به این سیستم‌های پرطرفدار را اعطا کنند یا آنها را از اقدام به نمایندگی از کاربران مسدود کنند؟ برخی از کسب‌وکارها، معروف‌ترین آنها آمازون و همچنین بسیاری از خطوط هوایی، گزینه دوم را انتخاب کرده‌اند. چارلز شواب و جی پی مورگان چیس مدت کوتاهی پس از تبدیل شدن Muse به یک پدیده فرهنگی مسیر مشابهی را در پیش گرفتند.

جیمی دیمون، مدیر عامل بانک، در اوایل ماه جاری در تماسی با سرمایه‌گذاران گفت: «ما به هیچ عامل خارجی اجازه ورود به داخل شرکت را نمی‌دهیم، زیرا این کار برای مشتریان و جی‌پی مورگان بسیار خطرناک است.

این احتمالا تماس خوبی است، با توجه به تمایل نمایندگان به تفسیر اشتباه دستورالعمل‌های کاربر و گاهی اوقات وقتی با موانعی مواجه می‌شوند کمی بیش از حد خلاق می‌شوند: برای مثال OpenAI هفته گذشته گزارش داد که یک عامل تحقیقاتی داخلی برای تکمیل آنچه که قرار بود یک کار کدگذاری ساده بود، سرکشی کرد و وجوهی را از یک کیف پول رمزنگاری سرقت کرد. (وجوه هیچ ارزش واقعی نداشتند، اما هنوز قرار نبود ربات ها به آنها دسترسی داشته باشند.)

دستیارهای خودکار مانند Muse تنها یکی از بسیاری از تهدیدات جدیدی هستند که بخش مالی در عصر هوش مصنوعی با آن دست و پنجه نرم می کند. به عنوان مثال، این فناوری نسل جدیدی از کلاهبرداری های فیشینگ را قادر می سازد. و همانطور که The Information در روز چهارشنبه گزارش داد، محققان امنیت سایبری اخیرا دریافتند که یک گروه هکر کلاه سیاه به نام CyberCartel از سیستم‌های هوش مصنوعی Anthropic، SpaceX و دیگر توسعه‌دهندگان برای سرقت داده‌های حساس از صدها موسسه مالی آمریکای لاتین استفاده می‌کند.

به گفته Axios، برخی بانک‌ها قبلا مواردی از دسترسی عوامل هوش مصنوعی به حساب‌های مشتریان، وارد کردن اطلاعات ورود به سیستم ارائه شده توسط خود کاربران و ظاهرا با اجازه آنها را شناسایی کرده‌اند. این خروجی خاطرنشان می‌کند: «حتی اگر کاربر اجازه دهد، این برخلاف دستورالعمل‌های اکثر بانک‌ها است که افراد را ملزم به ورود به حساب‌های خود می‌کنند». این گزارش جزئیات دقیق زیادی ارائه نکرده است و همچنین خاطرنشان می‌کند که یکی از مدیران بانک ناشناس گفته است که بانک‌ها معمولا نمی‌توانند خطوط روشنی بین فعالیت عامل و کاربر ترسیم کنند.

به عنوان اولین قدم، بسیاری از بانک‌ها در حال حاضر کارگزاران خود را برای دسترسی «فقط خواندنی» محدود کرده‌اند، به این معنی که می‌توانند اطلاعات مالی مشتریان را بدون انجام اقدامات مشخصی مانند جابجایی وجوه بین حساب‌ها یا خرید سهام بررسی کنند. (متا همچنین به کاربران این امکان را می‌دهد تا انتخاب کنند که می‌خواهند Muse آنها فقط بتواند کدام سرویس‌های آنلاین را بخواند و می‌خواهند که واقعا در آن اقداماتی مانند نوشتن/ارسال ایمیل یا خرید انجام دهد.)

به طور خلاصه، بانک‌ها تازه شروع به ترسیم میزان و شدت تهدیدات امنیتی که ممکن است عوامل شخص ثالث ایجاد کنند، هستند. همانطور که Axios اشاره کرد، بسیاری از آنها همچنین اذعان دارند که استفاده از نمایندگان در بین مشتریانشان احتمالا به رشد خود ادامه خواهد داد و بنابراین به نفع آنهاست که یاد بگیرند که با آنها کار کنند نه اینکه آنها را به طور کامل و دائمی ممنوع کنند.

در همین حال - با ما بگویید - به عوامل هوش مصنوعی نباید به اطلاعات مالی یا هر داده شخصی بسیار حساس دیگری اعتماد کرد. و به عنوان یک قانون کلی دیگر، هرچه شرکت‌های بزرگ فناوری سعی کنند عوامل خود را خلع سلاح‌کننده‌تر کنند، احتمالا باید مراقب آنها باشید.