"شما ماموران سرکش نمی خواهید": جیمی دیمون خارج از عوامل هوش مصنوعی مانند Meta's Muse از حساب های JPMorgan می بندد

درست همانطور که فناوری های بزرگ نمایندگانی را برای کمک به امور مالی شما ایجاد می کند، بانک ها نیز در حال ایجاد خط مشی برای عوامل هوش مصنوعی هستند که به اطلاعات حساب بانکی شما دسترسی دارند. جیمی دیمون، مدیرعامل جی‌پی مورگان چیس، روز سه‌شنبه، با اشاره به خطرات امنیتی ناشی از «عوامل سرکش»، گفت که این بانک مانع از ورود عوامل خارج از هوش مصنوعی به حساب‌های مشتریان یا اقدام بر روی آن‌ها می‌شود.

دیمون در جریان تماس با درآمد سه ماهه سوم بانک گفت: «ما به هیچ عامل خارجی اجازه ورود به داخل شرکت را نمی‌دهیم، زیرا این برای مشتریان و جی‌پی مورگان بسیار خطرناک است. "شما ماموران سرکش نمی خواهید."

او هشدار داد که ابزارهای هوش مصنوعی خطرات جدیدی را برای بانک‌ها و مشتریانشان ایجاد می‌کنند، به‌ویژه زمانی که افراد بیشتری به این عوامل مراجعه می‌کنند که قادر به انجام وظایف از جانب آنها هستند.

یکی از سخنگویان جی پی مورگان به فورچون گفت: «حفاظت از مشتریان ما اولویت اصلی ماست. "وقتی متوجه می‌شویم که یک نماینده شخص ثالث تلاش می‌کند با دریافت اعتبار بانکی مشتریان به حساب‌ها دسترسی پیدا کند، به آن اجازه نمی‌دهیم. ما از اشتراک‌گذاری داده‌های ایمن و مجاز مشتری از طریق ارائه‌دهندگان بانکی باز پشتیبانی می‌کنیم."

هوش مصنوعی سرکش نگرانی های امنیتی را شکل می دهد

نگرانی های این بانک پس از چندین حادثه امنیتی مربوط به عوامل هوش مصنوعی "سرکش" است که دسترسی غیرمجاز به یک سرویس آمار دولتی مدیکر، یک پورتال دولتی از داده های بهداشتی را به دست آوردند. اظهارات دیمون ترازنامه عظیم جی پی مورگان را در ذهن نگه می دارد.

بر اساس گزارش درآمدهای سه ماهه سوم خود که در SEC ثبت شده است، این بانک 15.3 میلیارد دلار درآمد خالص برای سه ماهه سوم 2026 گزارش کرده است - با 1.6 تریلیون دلار متوسط ​​وام و 1.5 تریلیون دلار نقد و اوراق بهادار قابل فروش. این شرکت تا 30 سپتامبر دارایی 5.1 تریلیون دلاری داشت.

دیمون گفت: «ما باید مطمئن شویم که از مشتری خود به شیوه درست محافظت می کنیم. بنابراین ما در حال ساخت ابزارهایی برای انجام آن هستیم.»

یادداشت تحقیقاتی Cloud Security Alliance در ماه گذشته نشان داد که خطرات عوامل هوش مصنوعی فراتر از آزمایش های کنترل شده است، مانند حوادث قبلی. این یادداشت خلاصه‌ای از یک کمپین جرایم سایبری را نشان می‌دهد که در آن سه عامل هوش مصنوعی منبع باز با هم همکاری می‌کردند تا حداقل ۲۷ سازمان را نقض کنند و بیش از ۶۰۰ هزار پرونده کارت اعتباری را از دو نفر از آنها بگیرند.

در یادداشت آمده است: «شرکت‌ها باید سناریوهای حمله هوش مصنوعی عاملی را در مدل‌های تهدید خود برای زیرساخت‌های خرده‌فروشی و پرداخت بگنجانند، به‌جای اینکه ریسک هوش مصنوعی عاملی را به‌عنوان یک نگرانی عمومی یا آینده تلقی کنند، زیرا این کمپین نشان می‌دهد که این قابلیت از قبل کالایی شده و در حال استفاده فعال علیه بخش خرده‌فروشی است.»

اما عوامل هوش مصنوعی که امور مالی کاربران را مدیریت می کنند چیز جدیدی نیست. در ماه آگوست، بانک آلمانی Scalable Capital پلتفرم خود را به روی مدل‌های هوش مصنوعی مانند ChatGPT، Claude و Grok باز کرد و به کاربران این امکان را می‌دهد تا سبدها را تجزیه و تحلیل کنند، برنامه‌های پس‌انداز را تنظیم کنند و معاملات را از طریق درخواست‌ها انجام دهند. کاربران باید معاملات را تایید می کردند و دستیاران نمی توانستند پرداخت کنند یا پول برداشت کنند.

الکساندر سیپ، مدیر ارشد محصولات Scalable Capital قبلا در مورد استفاده از هوش مصنوعی در پلتفرم سرمایه‌گذاری خود به فورچون گفته بود: «مطمئنا زمینه بازی برابر ایجاد می‌کند. "دسترسی به اطلاعات، محاسبات و اطلاعات در حال حاضر در دسترس است - واقعا - به معنای واقعی کلمه در جیب شما، 24/7."

ویژگی های مالی Muse

حرکت JPMorgan استراتژی بازار را برای عوامل هوش مصنوعی که برای کمک به امور مالی شخصی است، پیچیده می کند. متا Muse را در سپتامبر راه اندازی کرد و آن را به عنوان عاملی معرفی کرد که می تواند کارهایی مانند ارسال ایمیل، رزرو سفر و ثبت تقویم را انجام دهد.

اما قابلیت‌های مالی آن نقطه کانونی عرضه بود. از طریق ادغام با شرکت فناوری مالی Plaid، کاربران Muse می توانند حساب های مالی را برای دریافت راهنمایی شخصی در مورد مانده ها، تراکنش ها و دارایی های سرمایه گذاری متصل کنند.

در بیانیه مطبوعاتی Plaid آمده است: "از طریق تجربه مالی در Muse، افراد می توانند به طور ایمن حساب های مالی را از طریق Plaid به اشتراک بگذارند تا مانده ها، تراکنش ها، دارایی های سرمایه گذاری، اطلاعات وام مسکن و موارد دیگر را به اشتراک بگذارند." "هدف این است که مدیریت مالی کمتر شبیه پیمایش یک سری از برنامه های قطع شده باشد و بیشتر شبیه یک مکالمه طبیعی است که با اولویت های یک فرد شروع می شود و از اطلاعات مالی که برای اشتراک گذاری انتخاب می کند مطلع می شود."

متا از اظهار نظر در مورد اینکه آیا Muse همچنان می‌تواند کمک مالی ارائه دهد، در صورت حرکت بیشتر بانک‌ها برای جلوگیری از ورود عوامل هوش مصنوعی به حساب‌های مصرف‌کننده، خودداری کرد. این شرکت در عوض به فورچون گفت که در حال توسعه "Poppy" است، یک استاندارد پروتکل نماینده شخصی که به منظور شفاف سازی برای شرکت ها در زمانی که یک عامل هوش مصنوعی شخصی برای مشتری عمل می کند. متا در حال ساخت آن با Sierra، یک شرکت خدمات مشتریان هوش مصنوعی است.

در یک بیانیه مطبوعاتی Sierra آمده است: «پروتکل نماینده شخصی مکمل است، و پوشش می دهد که چگونه یک نماینده شخصی خود را معرفی می کند، اجازه مشتری را می گیرد و با یک شرکت در هر نوع کاری کار می کند - از خرید ژاکت گرفته تا درخواست وام مسکن.

این داستان در ابتدا در سایت Fortune.com منتشر شد