شکاف مشاوره هوش مصنوعی: وقتی دستگاه «بله» می‌گوید چه اتفاقی می‌افتد؟

از یک بانک بریتانیایی برای مشاوره سرمایه گذاری بخواهید و یک توصیه قانونی دریافت خواهید کرد. در صورت سهل انگاری، شما حق دارید با استفاده از طرح جبران خدمات مالی ادعایی داشته باشید.

همین سوال را از ChatGPT، یا، شیک تر، از کلود بپرسید و چیزی دریافت نمی کنید. فقط یک پاسخ، اما با لحنی مطمئن تر ارائه خواهد شد، مهم نیست که درست باشد یا کاملا اشتباه.

با وجود این، بیش از یک چهارم مصرف کنندگان بریتانیا اکنون می گویند که برای مشاوره پولی به چت ربات های هوش مصنوعی اعتماد دارند. سازمان رفتار مالی این رقم را پیدا کرد و در بررسی اخیر خود آن را به عنوان یک نگرانی زنده علامت گذاری کرد.

سایر نظرسنجی ها ارقام حتی بالاتری را نشان دادند. STRAT7 دریافت که 55 درصد از بزرگسالان بریتانیا از هوش مصنوعی برای راهنمایی مالی استفاده می کنند، اسکای نیوز 40 درصد گزارش داد و مطالعه جهانی EY پذیرش Gen Z را 68 درصد ارزیابی کرد. عدد دقیق هر چه باشد، جهت یکسان است.

مردم شروع به اعتماد بیشتر و بیشتر به هوش مصنوعی در تصمیم گیری های مالی خود کرده اند. اما بحث در مورد آن، تا کنون، سوال اشتباهی را مطرح کرده است.

سوال اشتباه چیست؟

امروزه بیشتر نشریات بر دقت تمرکز دارند و آنچه همه می خواهند بدانند این است که آیا توصیه های هوش مصنوعی خوب است یا خیر. اما آیا این است؟

در یک مطالعه، پنج سناریوی مالی واقعی به چت بات‌های بزرگ منتقل شد و خروجی آن با برنامه‌ریزان مالی معتبر مقایسه شد. با این حال، نتیجه غیرقابل تعجب بود. ربات‌ها به طور قابل اعتمادی زمینه احساسی و موقعیتی را از دست دادند، بنابراین تصمیمات شخصی به منطق صفحه گسترده خشن تبدیل شد که ورودی مهم را از دست داد.

اسکای نیوز آزمایش مشابهی را انجام داده است که در آن به سه چت ربات 16000 پوند پس انداز واقعی داده شد. چیزی که آنها دریافتند این بود که توصیه ها مغرضانه آمریکا و ناقص بود.

از همه نگران‌کننده‌تر، این تحقیقی بود که متوجه شد کلود هنگام مشاوره به یک مبتدی در مورد ارز دیجیتال به اشتباه بایننس را به عنوان ثبت شده در FCA توصیف کرده است. بایننس در واقع دستور توقف فعالیت تحت نظارت بریتانیا را در سال 2021 دریافت کرد.

خروجی های گمراه کننده هوش مصنوعی آزاردهنده به نظر می رسد، اما بدتر از آن این است که این تنها بخشی از مشکل است. بعد از اینکه توصیه نادرست قبلا داده شده، به آن عمل شده و اشتباه شده است، همه چیز سخت تر می شود.

بنابراین، وقتی این اتفاق می افتد، چه کسی مقصر است؟ هیچ کس پاسخگو نیست، اگرچه شنیدن آن بسیار ناراحت کننده است.

FCA نیز به همین نکته اشاره کرده است. در گزارش سال 2026 خود، تنظیم کننده تایید کرد که پلتفرم های LLM مانند ChatGPT و Claude کاملا خارج از حوزه نظارتی آن قرار دارند. این بدان معنی است که مصرف کنندگانی که از آنها برای راهنمایی مالی استفاده می کنند، توصیه های تنظیم شده دریافت نمی کنند. بنابراین، آنها به خدمات بازرس مالی (یا طرح جبران خدمات مالی) دسترسی ندارند.

گفتنی است، شبکه ایمنی به سادگی از لحظه ای که مصرف کنندگان یک سوال را در یک ربات چت قرار می دهند، اعمال نمی شود.

شکاف نظارتی توضیح داد

برای درک اینکه چرا این شکاف وجود دارد، بیایید بفهمیم که مقررات مالی بریتانیا چگونه عمل می کند. محیط نظارتی مبتنی بر فعالیت است، نه مبتنی بر فناوری. این بدان معناست که مهم‌ترین چیز این است که چه کاری انجام می‌شود، نه چگونه.

شرکتی که توصیه‌های شخصی‌سازی شده در مورد خرید، فروش یا نگهداری دارایی‌های خاص را ارائه می‌کند، صرف نظر از اینکه این توصیه‌ها توسط یک شخص یا یک الگوریتم ارائه شده باشد، درگیر فعالیت‌های تنظیم‌شده است.

مشکل اینجاست که چت ربات های هوش مصنوعی فضای جدیدی را اشغال می کنند. آنها به عنوان مشاور مالی بازاریابی نمی شوند، بنابراین ادعا نمی کنند که تحت نظارت هستند. و از نظر فنی، در بیشتر موارد، آنها به معنای دقیق قانونی مشاوره ارائه نمی دهند - آنها به سوالات باز پاسخ می دهند.

مجددا در گزارش FCA به این ابهام پرداخته شد. بررسی میلز نشان می‌دهد که پلتفرم‌های هوش مصنوعی ممکن است بر تصمیم‌های مالی مصرف‌کنندگان بدون اجرای واضح اقدامات تنظیم‌شده تأثیر بگذارند. در نتیجه، این یک فضای خالی جدی بین تأثیر مالی واقعی و حفاظت ارائه شده توسط مقامات نظارتی ایجاد می کند.

توصیه اصلی بررسی این بود که FCA رسما دامنه دریافت توصیه‌های مالی توسعه‌یافته با استفاده از ابزارهای هوش مصنوعی را بازبینی کند. بنابراین، این روند ادامه دارد و به روز رسانی های بیشتر تنها پس از چند ماه یا حتی بیشتر در دسترس خواهد بود.

مشکل حمایت از مصرف کننده و آنچه فین تک می تواند انجام دهد

در حالی که تاکنون قانونی برای حمایت از مردم عادی وجود ندارد، چه باید بکنیم؟ آیا فین تک ها حداقل در حال حاضر می توانند این شکاف را برطرف کنند؟

اول از همه، انتظار برای تکمیل بررسی محیط FCA یک استراتژی نیست. بهتر است با جدا کردن اطلاعات از شخصی سازی شروع کنید، به خصوص اگر شرکت شما دستیار هوش مصنوعی دارد.

مسئله این است که مرزهای توصیه ها به این بستگی دارد که آیا نتیجه گیری با شرایط خاص یک شخص خاص سازگار است یا خیر. ابزاری که به طور کلی توضیح می‌دهد که ETF چیست، در وضعیت نظارتی کاملا متفاوتی با ابزاری است که می‌گوید چقدر باید در صندوق سرمایه‌گذاری کنید.

همچنین، مطمئن شوید که سلب مسئولیت کار واقعی را انجام می دهد. متن پاورقی "نه مشاوره مالی"، که در زیر یک توصیه خاص قرار دارد، بررسی های نظارتی را نمی پذیرد. FCA محتوا را ارزیابی می کند، نه فرم را. اگر داده‌های خروجی مانند یک توصیه شخصی به نظر برسد، سلب مسئولیت‌های کوچک آن را دسته‌بندی مجدد نمی‌کنند.

اگرچه امروزه بسیاری از افراد از هوش مصنوعی استفاده می کنند، اما برای جلب اعتماد از آن زیاده روی نکنید. تجزیه و تحلیل بیش از 330 میلیون بررسی نشان داد که اشاره به تعامل با هوش مصنوعی به طور متوسط ​​تنها 1.7 امتیاز دارد، در حالی که برای بررسی هایی که اشاره ای به هوش مصنوعی ندارند، این امتیاز 3.7 است.

کلمات پایانی

مطمئنا افرادی خواهند بود که به استفاده مستقیم از هوش مصنوعی برای مشاوره مالی ادامه دهند و تعداد آنها افزایش یابد. برای آنها فقط یک چیز می توانم بگویم: مراقب باشید که درآمد خود را به چه کسانی اعتماد می کنید. اگر کسی پاسخگو نیست، شاید در نظر نگرفتن آن به عنوان یک قانون، شما را از ضرر و زیان نجات دهد.

اما فین‌تک‌ها باید شروع به ساخت نسخه پاسخگوی کسب‌وکار خود کنند، با یک مسیر حسابرسی و یک انسان در بالای لایه هوش مصنوعی. بنابراین وقتی دستگاه می گوید «بله»، در واقع یک نفر پشت آن پاسخ ایستاده است.

ما بهترین سازنده وب سایت هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit