عوامل هوش مصنوعی به محدودیت هایی در دسترسی مالی نیاز دارند

من این ایده را دوست دارم که هوش مصنوعی از وظایف خسته کننده، از جمله مرتب سازی صورت حساب ها و اسناد مالی مراقبت کند. حتی می توانم جذابیت کمک به خرید را ببینم. اما درخواست مشاوره مالی از دستیار هوش مصنوعی و تحویل دادن کلیدهای حساب بانکی شما متفاوت است و این تمایز برای برخی از بزرگترین بانک های آمریکا به مشکل تبدیل شده است.

طبق گزارش جدید Axios، مؤسسات مالی در حالی که به حساب‌های مشتریان دسترسی دارند و به نظر می‌رسد بیش از آنچه کاربران درخواست می‌کنند، با عوامل هوش مصنوعی مواجه می‌شوند. JPMorgan، Chase، Bank of America و Morgan Stanley همگی در حال انجام اقداماتی برای محافظت از مشتریان خود هستند، اما این جنبه هوش مصنوعی است که سوالات واقعی را در مورد میزان اعتماد به فناوری در دنیای مالی ایجاد می کند.

در حالی که هیچ اپیدمی تایید شده‌ای مبنی بر خالی کردن حساب‌های پس‌انداز توسط دستیاران هوش مصنوعی وجود ندارد و گزارش‌ها هیچ ضرر مالی را نشان نمی‌دهند، هنوز هم من را عصبی می‌کند که فکر کنم به نقطه‌ای رسیده‌ایم که بانک‌ها باید نگران این باشند که آیا یک دستیار هوش مصنوعی تصمیم گرفته است با پول کسی بداهه کار کند یا خیر.

فشار واقعی برای تشویق به استفاده از عوامل هوش مصنوعی مستقل تر وجود دارد. به نظر می‌رسد هر نمایش جدیدی شامل دستیار است که می‌تواند کارهای پیچیده‌تر را در حالی که صاحب آن پشت می‌نشیند و تماشا می‌کند، انجام دهد. زمانی که کار سازماندهی یک برنامه سفر تعطیلات باشد، این کار بسیار چشمگیر است، اما زمانی که دستیار به پولی که برای آن پرداخت می کند دسترسی داشته باشد، جذابیت کمتری دارد.

هوش مصنوعی با پول آزمایش می کند

قابل توجه است که دقیقا اینطور نیست که عوامل هوش مصنوعی راه خود را به حساب ها هک کنند. مشتریان ممکن است به طور داوطلبانه اعتبار ورود به سیستم خود را با هوش مصنوعی به اشتراک بگذارند تا نرم افزار به اطلاعات مالی دسترسی داشته باشد که بانک ها چندین دهه تلاش کرده اند تا از آنها محافظت کنند. من این کار را برای آزمایش‌های خودم انجام داده‌ام، اما این همیشه راهی برای هوش مصنوعی بوده است که به عناصر بسیار خاصی از امور مالی من نگاه کند، هرگز آنها را لمس نکند.

وب‌سایت‌های بانکی می‌توانند خسته‌کننده باشند، کاغذبازی‌های مالی خسته‌کننده هستند، و مدیریت پول نیاز به توجه بیشتری نسبت به آنچه بیشتر ما ترجیح می‌دهیم دارد. دستیاری که قول می دهد قسمت های تحریک کننده را کنترل کند فوق العاده به نظر می رسد. اما عوامل هوش مصنوعی عادت دارند دستورالعمل‌ها را خلاقانه تفسیر کنند. و در حالی که درخواست از آن برای کاهش هزینه‌های ماهانه و دریافت فهرستی از اشتراک‌هایی که ممکن است بخواهید لغو کنید بسیار عالی است، دادن مجوز به دستیار برای تصمیم‌گیری مالی به این معنی است که به تفسیر او از دستورالعمل مبهم با پولی که واقعا نیاز دارید اعتماد دارید.

(اعتبار تصویر: گتی ایماژ) این باید باعث ناراحتی مردم شود. این سیستم ها می توانند درخواست ها را اشتباه درک کنند و قضاوت نادرستی کنند. همه ما دیده‌ایم که چت‌بات‌ها پاسخی را ارائه می‌کنند که کاملا منطقی به نظر می‌رسد تا زمانی که متوجه شوید نیمی از آن را اختراع کرده‌اند، و افزودن توانایی انجام اقدامات در دنیای واقعی باعث می‌شود این اشتباهات به‌طور قابل‌توجهی پیامدتر شوند. این واقعیت که بانک‌ها در حال حاضر با عواملی مواجه شده‌اند که رفتارشان سؤالاتی را درباره مجوز ایجاد می‌کند، نشان می‌دهد که این محدودیت‌ها مستحق توجه بسیار بیشتری هستند.

حفظ هوش مصنوعی در خارج از طاق

من تا آنجا پیش نمی روم که بگویم بانک ها باید دستیاران هوش مصنوعی را به طور کلی مسدود کنند. دلایل خوبی برای اجازه دادن به افراد برای اتصال این ابزارها به حساب‌هایشان وجود دارد، و من به‌خصوص از این ایده که بانک‌ها تصمیم بگیرند مشتریان مجاز به استفاده از کدام خدمات هستند، خوشم نمی‌آید.

اما من خیلی راحت نمی‌توانم به همان دستیار اجازه بدهم با پولی که من نمی‌خواهم هر کاری را انجام دهد. می‌خواهم هر بار اجازه بخواهد، بدون اینکه جایی برای تفسیر چیزی که سه‌شنبه گذشته به‌عنوان مجوز برای انتقال امروز گفتم، اجازه بگیرد.

(اعتبار تصویر: Kaspersky) این ممکن است برخی از جذابیت های عوامل هوش مصنوعی مستقل را از بین ببرد، اما من با آن کاملا خوب هستم. صرفه جویی در چند ثانیه ارزش این امکان را ندارد که بفهمیم یک دستیار هوش مصنوعی از طرف من تصمیم گران قیمتی گرفته است. مهمتر از همه، زمانی که یک نماینده مرتکب اشتباهی می شود، شخصی باید مسئولیت پذیر باشد، زیرا گفتن این موضوع به مشتریان برای انجام آن با ربات چت باعث قطع شدن آن نمی شود.

نکته ناامید کننده این است که هیچ یک از اینها نباید تعجب آور باشد. شرکت‌های هوش مصنوعی در حال رقابت هستند تا به نمایندگان خود استقلال بیشتری بدهند، اغلب قبل از اینکه راه‌حلی برای جلوگیری از اشتباه آن‌ها کار کنند. قرار است ما تحت تأثیر قرار بگیریم که یک دستیار می‌تواند بدون درخواست کمک، یک کار را انجام دهد، اما وقتی کاری را انجام می‌دهد که کاربر هرگز نمی‌خواست، این کار بسیار کمتر تأثیرگذار می‌شود.