بانک های بزرگ می گویند که از خرید مردم از طریق نمایندگان هوش مصنوعی ناراحت هستند

در مقاله‌ای که روز سه‌شنبه منتشر شد، شش بانک بزرگ جهانی، از جمله بانک آمریکا و کپیتال وان، هشدار دادند که خرید نمایندگی‌ها "خطراتی را در بر می‌گیرد که شفافیت، ایمنی، حریم خصوصی و داده‌ها، انتخاب و قابلیت همکاری را در بر می‌گیرد" که "با اعطای استقلال بیشتر به عوامل هوش مصنوعی" افزایش می‌یابد.

توسعه‌دهندگان هوش مصنوعی و همچنین خرده‌فروشان مختلف و پردازنده‌های پرداخت عمده، تلاش کرده‌اند تا از چت‌بات‌های تجاری نمایندگی، با نام‌های عامل‌های هوش مصنوعی که قول می‌دهند فرآیند خرید آنلاین را کاملا خودکار کنند، رونمایی کنند. اما پذیرش برای تعیین کمیت دشوارتر بوده است. برخی از مصرف کنندگان از چت ربات های هوش مصنوعی برای یافتن چیزها یا دریافت اطلاعات در مورد خرید اینترنتی هنگام خرید استفاده می کنند، اما بسیاری هنوز تمایلی به اجازه دادن به نمایندگان در اینترنت با دسترسی به کل دارایی خود ندارند.

این گزارش می‌گوید: «مصرف‌کنندگان مشخص نیستند که آیا عوامل هوش مصنوعی در راستای منافع آنها عمل می‌کنند یا خیر. آنها نگران هستند که عوامل هوش مصنوعی چیز اشتباهی را بخرند یا بیش از حد خرج کنند - یا حتی بدتر از آن، پول خود را به دلیل کلاهبرداری و کلاهبرداری از دست بدهند.

به نظر می رسد بسیاری از کارشناسان فناوری نیز به آینده تجارت نمایندگی اعتقاد کامل ندارند.

ران جانسون، مدیر سابق اپل در پشت فروشگاه‌های اصلی اپل، در مصاحبه‌ای اخیر با TechCrunch گفت که معتقد است هوش مصنوعی «تجربه خرید آنلاین را بهبود می‌بخشد»، اما در واقع «شیوه خرید ما» را تغییر نمی‌دهد.

جانسون گفت: "هوش مصنوعی هرگز نمی تواند شما را به صورت فیزیکی یک محصول را تجربه کند." زمانی که به فروشگاه می‌آیند، خریداران آگاه‌تر خواهند شد.»

به نظر می رسد شش بانکی که گزارشی را با عنوان «ایجاد اعتماد در تجارت عاملی» نوشته اند، موافق هستند که بسیاری از مشکلات و سؤالات هنوز این مورد استفاده از عوامل هوش مصنوعی را درگیر می کند.

عوامل هوش مصنوعی می‌توانند محصولات یا روش‌های پرداخت خاصی را صرفا به دلیل انگیزه‌هایی مانند کمیسیون بالاتر و هزینه‌های رمز کمتر، به جای انتخاب بهترین گزینه برای مشتری، اولویت‌بندی کنند.

این گزارش می‌گوید تجارت نمایندگی همچنین «پتانسیل افزایش نرخ کلاهبرداری، کلاهبرداری و اختلافات» را دارد، و هرگونه نقض داده‌ها به ویژه داده‌های حساس متعلق به مصرف‌کنندگان و بازرگانانی را که به این عوامل متکی هستند، به خطر می‌اندازد.

نمونه موردی: متا به تازگی اعلام کرد که یک آسیب‌پذیری روز صفر را در دستیار هوش مصنوعی جدید خود، Muse، پیدا کرده و آن را برطرف کرده است، که خرید عاملی را جزو قابلیت‌های تبلیغ‌شده‌اش به حساب می‌آورد، که می‌تواند به مهاجم اجازه دهد تا تقریبا دستیار هوش مصنوعی را ربوده و از هر گونه مجوزی که کاربر به آن داده است استفاده کند. این اعلامیه تنها یک روز پس از آن اعلام شد که آمازون از Muse خواست استفاده از سایت تجارت الکترونیک خود را متوقف کند و گفت که نماینده متا هنگام خرید در این پلتفرم نتوانست خود را شناسایی کند و این نگرانی‌هایی را در مورد نحوه رسیدگی آمازون به اعتبار مشتری و داده‌های حساب ایجاد کرده است.

اما بانک‌ها به‌طور عمده ایده تجارت عاملی را رد نمی‌کنند و حتی ادعا می‌کنند که می‌تواند به طور بالقوه به «روشی اصلی برای انجام معاملات مصرف‌کنندگان و بازرگانان» تبدیل شود.

در این مقاله آمده است: «ما نیز از وعده تجارت عامل هیجان زده هستیم و مشتاقیم تا با مشتریان، صنعت و سهامداران برای فعال کردن آینده آن کار کنیم.

بانک‌ها می‌گویند، اما ابتدا، تجارت عامل نیاز به ایجاد اعتماد از طریق استانداردهای صنعتی، سیاست‌ها و حمایت از مصرف‌کننده دارد، که همگی در حال حاضر با پیشرفت‌های فناوری عقب مانده‌اند. کنسرسیوم اکنون در حال کار بر روی یک مقاله بعدی است تا جزئیات این را توضیح دهد که چگونه پنج اصل کلیدی ذکر شده در این گزارش -شفافیت، ایمنی، حریم خصوصی و داده ها، انتخاب و قابلیت همکاری- واقعا می توانند پیاده سازی شوند تا اطمینان حاصل شود که هر گونه استقرار تجارت الکترونیکی مبتنی بر هوش مصنوعی تا حد امکان ایمن است.