هوش مصنوعی جواب می دهد، اما تعداد کمی از رهبران در توضیح تصمیمات آن بسیار مطمئن هستند

توضیح اینکه چگونه یک تصمیم مبتنی بر هوش مصنوعی به دست آمد، برای بسیاری از کسب‌وکارها یک چالش باقی می‌ماند، حتی زمانی که این فناوری انتظارات مالی آنها را برآورده می‌کند.

نظرسنجی جدید FICO از 1004 نفر از مدیران ارشد داده‌ها، تحلیل‌ها و هوش مصنوعی نشان داد که 85.1 درصد از پاسخ‌دهندگان گفتند که هوش مصنوعی انتظارات اولیه بازگشت سرمایه را برآورده کرده یا از آنها فراتر رفته است. با این حال، فقط 28.5 درصد از تصمیماتی که مستقیما بر مشتریان تأثیر می گذارد، مانند شخصی سازی یا خدمات مشتریان کم خطر، توسط هوش مصنوعی گرفته شده است و تنها 5.2 درصد گفته اند که بسیار مطمئن هستند که تصمیمات مبتنی بر هوش مصنوعی را برای تنظیم کنندگان و مشتریان توضیح می دهند.

Rachael Hadaway، معاون محصول هوش مصنوعی در FICO، گفت که شرکت‌ها می‌توانند قبل از استفاده از هوش مصنوعی در تصمیماتی که پیامدهای مستقیم مالی یا نظارتی دارند، سود دریافت کنند.

هادوی به نیوزویک گفت: «من فکر می‌کنم بسیاری از شرکت‌ها هنوز هم فقط با حجم کار دستی که می‌توانند به راحتی انجام دهند بدون اینکه دچار مشکل شوند، بازگشت سرمایه دریافت می‌کنند.

او گفت که برخی از تصمیمات ممکن است نیاز به یک شرکت داشته باشد که به مشتری درگیر یا یک تنظیم کننده توضیح دهد که چگونه تصمیم گرفته شده است.

FICO، یک شرکت نرم‌افزار مدیریت تصمیم‌گیری و تحلیل جهانی، در گزارش جدید خود با عنوان «وضعیت هوش مصنوعی 2026: شکاف اعتماد در تصمیم‌گیری‌های هوش مصنوعی»، بازده، حاکمیت و قابلیت توضیح هوش مصنوعی را بررسی کرد.

اعداد ROI با یک معیار مهم همراه هستند: پاسخ دهندگان بازده واقعی را با انتظارات اولیه خود مقایسه می کردند، نه یک معیار مالی رایج.

اسکات زولدی، مدیر ارشد تجزیه و تحلیل FICO، گفت که توضیح اینکه چگونه یک مدل هوش مصنوعی معمولا موارد مشابه را مدیریت می کند با توضیح اینکه چرا به یک تصمیم خاص رسیده است متفاوت است.

زولدی به نیوزویک گفت: «شما باید دقیقا درک کنید که چه چیزی [تصمیم] را از دیدگاه معماری مدل هدایت کرد.

او گفت شرکت‌ها همچنین باید بتوانند ردیابی کنند که چه داده‌هایی در تصمیم‌هایی مانند واجد شرایط بودن اعتبار یا مسدود کردن تراکنش‌های مرتبط با کلاهبرداری و از کجا آمده است. نگرانی او این است که دانستن اینکه یک مدل به طور کلی چگونه رفتار می کند لزوما به مشتری یا تنظیم کننده نمی گوید که چرا یک فرد نتیجه خاصی را دریافت کرده است.

این نظرسنجی شکاف دیگری را بین اعتماد پاسخ دهندگان در مورد آمادگی نظارتی و میزانی که آنها گفتند استانداردهای هوش مصنوعی مسئول در عملیات گنجانده شده است، نشان داد.

در میان پاسخ دهندگان، 82.8 درصد سازمان های خود را مطابق با الزامات نظارتی پیش بینی شده یا جلوتر از آنها توصیف کردند. پایبندی مسئولانه هوش مصنوعی در میان پنج استاندارد عملیاتی اندازه‌گیری شده، پس از نظارت بر عملکرد مدل، امنیت، پایبندی به مقررات و انطباق و نظارت مستمر کیفیت داده، پایین‌ترین رتبه را دارد. تنها 60.5 درصد آن را چهار یا پنج در مقیاس پنج درجه ای ارزیابی کردند.

زلدی گفت که این یافته او را ناراحت کرده است. او استدلال کرد که اعتماد ممکن است تا حدی به این بستگی دارد که یک سازمان در حال حاضر چقدر باید نشان دهد.

او گفت: "امروز چه چیزی را باید از دیدگاه نظارتی توضیح دهم؟ بسته به جایی که هستم، بسیار کم است، مگر اینکه نوعی تاثیر مشتری وجود داشته باشد."

این یافته همچنین با یک هشدار جغرافیایی همراه است. شصت و هفت درصد از پاسخ دهندگان در آمریکای شمالی مستقر بودند، تمرکزی که گزارش می گوید احتمالا نحوه ارزیابی مقررات پیش بینی شده را شکل می دهد.

هادوی گفت FICO اکنون تیم های حریم خصوصی، حقوقی و اعتماد را زودتر وارد توسعه می کند. منتظر ماندن تا زمانی که یک سیستم ساخته شود می‌تواند تیم‌ها را با چیزی که قابل استقرار نیست باقی بگذارد.

او گفت: "شما به یک استاندارد منحصر به فرد نیاز دارید، اما به افراد زیادی نیاز دارید که از آن پیروی کنند."

زولدی همچنین به چندپارگی فناوری اشاره کرد. او گفت: "من با یک سازمان مالی صحبت کردم که 26 پلتفرم داشت. و آن 26 پلت فرم با یکدیگر صحبت نمی کنند."

بخش‌های مختلف یک کسب‌وکار می‌توانند مشکلات فنی خودشان را حل کنند و در عین حال جمع‌آوری اطلاعات و اعمال استانداردهای مشترک در تصمیم‌گیری‌هایی که بر مشتریان تأثیر می‌گذارد، سخت‌تر می‌کنند.

پاسخ دهندگان نظرسنجی ارزش مالی بالقوه را در یک پلتفرم مشترک دیدند، به طوری که 96.4 درصد گفتند که همکاری نزدیک‌تر بین هوش مصنوعی و رهبران فناوری در یک پلت فرم استقرار مشترک می‌تواند بازگشت سرمایه بیشتری ایجاد کند. تنها 8.2 درصد گفتند که یک پلت فرم مشترک به طور کامل وجود دارد، در حالی که 71.2 درصد پلت فرم آنها را نیمه ساخته شده توصیف کردند.

تقریبا هر سازمانی که مورد بررسی قرار گرفت، کاوش هوش مصنوعی عاملی را آغاز کرده بود - سیستم‌هایی که می‌توانند با مقداری خودمختاری اقداماتی انجام دهند - اما بیشتر آنها در مراحل اولیه باقی ماندند. حدود 38.2 درصد در مرحله اکتشاف اولیه و 33.3 درصد در حال اجرا اثبات مفهوم یا خلبان بودند. فقط 2.4 درصد استقرار گسترده را در چندین مورد استفاده بر مشتری گزارش کردند.

امنیت با 40.1 درصد، رایج ترین مانع برای ایجاد بازگشت سرمایه از عوامل بود و پس از آن چالش های یکپارچه سازی داده و کیفیت با 38.3 درصد قرار گرفتند. عدم اعتماد یا پیش بینی پذیری 5.6 درصد ذکر شد.

زولدی به عملیات کلاهبرداری به عنوان مکانی اشاره کرد که شرکت ها می توانند کار را بین انواع مختلف سیستم ها تقسیم کنند. یک مدل پیش‌بینی تثبیت‌شده می‌تواند تعیین کند که آیا فعالیت تقلبی به نظر می‌رسد، در حالی که یک عامل وظایف اطراف را بر عهده می‌گیرد.

او گفت: «برای اینکه واقعا تقلب را کار کنید و آن را بررسی کنید، می‌توانید مجموعه‌ای از هوش مصنوعی داشته باشید که اطلاعات را جمع‌آوری می‌کند، سؤال می‌پرسد و با مصرف‌کننده تعامل می‌کند.»

هادوی گفت که راه‌اندازی تصمیم کلاهبرداری را با مدل پیش‌بینی نگه می‌دارد در حالی که از عامل برای جایگزینی مراحل دستی در کار پرونده استفاده می‌کند.

این چالش زمانی رشد می‌کند که نمایندگان کارهای بیشتری را انجام می‌دهند که نتیجه مشتری را شکل می‌دهد.

هادوی گفت: «ساخت یک نماینده واقعا آسان است، و مدیریت و اداره یک نماینده واقعا سخت است.