بانک‌ها هشدار می‌دهند که عوامل خرید هوش مصنوعی از محافظت در برابر کلاهبرداری پیشی می‌گیرند

ائتلافی از بانک‌های بزرگ روز سه‌شنبه هشدار دادند که نمایندگی‌های خرید مبتنی بر هوش مصنوعی در مورد کلاهبرداری، کلاهبرداری و حفظ حریم خصوصی داده‌ها خطرات جدیدی را برای مصرف‌کنندگان ایجاد می‌کنند - و این فناوری سریع‌تر از استانداردهای موجود صنعت پیش می‌رود و حمایت از مصرف‌کننده می‌تواند همگام باشد.

این گروه شامل NatWest، Bank of America، ING، Capital One، ASB Bank نیوزیلند و Commonwealth Bank of Australia است. بانک‌ها گزارشی را منتشر کردند که در آن اصولی را برای چگونگی توسعه تجارت عامل - که در آن ابزارهای هوش مصنوعی کالاها را از طرف خریدار انتخاب و خریداری می‌کنند - ارائه کردند و گفتند که قصد دارند مجموعه‌ای از پیشنهادات را به سیاست‌گذاران ارائه دهند.

در این گزارش آمده است: «مصرف‌کنندگان مشخص نیستند که آیا هوش مصنوعی در راستای منافع آنها عمل خواهد کرد یا خیر. آنها نگران هستند که عوامل هوش مصنوعی چیزهای اشتباهی بخرند یا بیش از حد خرج کنند - یا حتی بدتر از آن، پول خود را به دلیل کلاهبرداری و کلاهبرداری از دست بدهند.

به گزارش رویترز، از جمله آسیب‌پذیری‌هایی که این گزارش نشان داده است: عوامل هوش مصنوعی که جزئیات کارت را از مشتریان جمع‌آوری می‌کنند و آن‌ها را در سایت‌های شخص ثالث ارسال می‌کنند، و خطر این که نمایندگان گزینه‌های پرداختی را که تضمین‌های کمتری برای مصرف‌کننده دارند ترجیح دهند. بانک‌ها گفتند که بازیگران بد همچنین می‌توانند عوامل و بازرگانان هوش مصنوعی را به خطر بیاندازند یا جعل هویت کنند یا روش‌های جدیدی از مهندسی اجتماعی را به کار گیرند.

بانک‌ها افزودند: «هنگامی که همه چیز اشتباه می‌شود، تخصیص نامشخص و ناکارآمد بدهی وجود دارد و فرآیندهای اختلاف همه طرف‌های مرتبط را در زنجیره ارزش درگیر نمی‌کند».

این گروه در نظر دارد چندین پیشنهاد را به قانون‌گذاران ارائه کند، از جمله الزام به اطلاع مصرف‌کنندگان از زمانی که یک عامل هوش مصنوعی بخشی از یک معامله است، بینش واضح‌تر در مورد نحوه رسیدن آن نمایندگان به تصمیم‌های خود و اقداماتی برای حفظ امنیت داده‌های مشتری. این گزارش همچنین استدلال می‌کند که مصرف‌کنندگان و بازرگانان باید استقلال خود را نسبت به پلت‌فرم‌های تجارت هوش مصنوعی که اتخاذ می‌کنند حفظ کنند و سیستم‌های رقیب باید به طور یکپارچه با یکدیگر کار کنند.

به گزارش رویترز، این هشدار در حالی است که شرکت های فناوری از جمله OpenAI، Anthropic، Google و Meta در حال تبلیغ چت ربات های هوش مصنوعی به عنوان ابزار خرید هستند و خرده فروشان در حال حرکت برای شکل دادن به توصیه های این چت بات ها هستند. خرده‌فروش بریتانیایی جان لوئیس گفت که جست‌وجوها از سوی عوامل هوش مصنوعی از 0.3 درصد در سال گذشته به 2.5 درصد از کل آن افزایش یافته است.

پذیرش هوش مصنوعی توسط مصرف کننده در خرید همچنان ناهموار است. تحقیقات PYMNTS Intelligence نشان داد که نیمی از مصرف‌کنندگان آمریکایی گزارش کرده‌اند که خرید خرده‌فروشی را با نوعی کمک هوش مصنوعی انجام داده‌اند، اما به گفته PYMNTS، تنها از هر چهار نفر یک نفر می‌گوید که راحت خواهد بود خرید و پرداخت را به طور کامل به یک عامل هوش مصنوعی بسپارد.

گزارش بانک‌ها در حالی منتشر می‌شود که تنظیم‌کننده‌های ایالات متحده نیز توجه خود را به هوش مصنوعی در خدمات مالی تشدید کرده‌اند. بازرسان بانکی نظارت بر هوش مصنوعی را در معاینات معمول بانکی گنجانده‌اند و به وام‌دهندگان فشار می‌آورند که چگونه این فناوری را در عملکردهای پرخطر مدیریت می‌کنند - هرچند هنوز هیچ کتاب قانون ویژه هوش مصنوعی نوشته نشده است.