وقتی هوش مصنوعی به نظر می رسد، دلیل آن را بپرسید

هوش مصنوعی به طرز چشمگیری در تولید پاسخ ها خوب شده است. اما رهبران کسب و کار هوشمند تنها بر اساس پاسخ ها تصمیم نمی گیرند. آنها می پرسند که اطلاعات از کجا آمده است، چه فرضیاتی نتیجه گیری را شکل داده است، و چقدر باید به توصیه اعتماد داشته باشند.

وقتی هوش مصنوعی نقش بزرگتری در تصمیم گیری سازمانی ایفا می کند، این سؤالات اهمیت فزاینده ای پیدا می کنند. تیم های بازاریابی اکنون از آن برای ارزیابی مفاهیم کمپین استفاده می کنند. تیم‌های بینش از آن می‌خواهند سال‌ها تحقیقات مصرف‌کننده را ترکیب کند. مدیران اجرایی برای شناسایی فرصت‌های رشد، ارزیابی تهدیدهای رقابتی و آزمایش فشار روی سرمایه‌گذاری‌های بزرگ به آن تکیه می‌کنند.

هنگامی که هوش مصنوعی به جای سرعت بخشیدن به کار، شروع به تأثیرگذاری بر تصمیمات می کند، درک اینکه چگونه به نتیجه رسیده است به همان اندازه مهم می شود که نتیجه گیری.

هر توصیه ای مستحق توضیح است

یک شرکت CPG را در نظر بگیرید که به دنبال ورود به فروشگاه های رفاه است و در عین حال همچنان به فروش محصولات در سوپرمارکت ها ادامه می دهد. این تصمیم مستلزم ایجاد تعادل بین ده ها متغیر است، از تأثیر بر فروش سوپرمارکت و قیمت گذاری گرفته تا جمعیت شناسی مشتری، رشد کانال و پیامدهای بلندمدت برند.

هیچ گزارش واحدی همه این اطلاعات را ندارد. یک رهبر باید آن را از منابع متعدد گردآوری کند و قبل از تصمیم گیری در مورد اینکه آیا توسعه را دنبال کند، آن را به طور جامع تجزیه و تحلیل کند.

هوش مصنوعی می‌تواند با ترکیب سال‌ها تحقیق، شناسایی الگوها در صدها سند، و آشکارسازی بینش‌ها در عرض چند دقیقه، این فرآیند را به طرز چشمگیری تسریع کند - به تیم‌ها کمک می‌کند زمان کمتری برای جمع‌آوری اطلاعات و زمان بیشتری برای ارزیابی آن صرف کنند.

اما هوش مصنوعی نیاز به قضاوت را از بین نمی برد. رهبران هنوز مسئول درک استدلال پشت توصیه هایی هستند که در نهایت به آنها عمل می کنند.

پاسخ تنها بخشی از داستان را بیان می کند

اینجاست که برخی از رایج ترین ابزارهای هوش مصنوعی امروزی ممکن است کوتاه بیایند.

بسیاری از ابزارهای هوش مصنوعی پاسخ هایی را ایجاد می کنند که قانع کننده به نظر می رسند. با این حال، آنها اغلب هیچ نشانه ای از نحوه توسعه سیستم آنها ندارند.

این پاسخ‌ها تحقیقات اختصاصی، داده‌های وب، و محتوای تولید شده توسط هوش مصنوعی را با هم ترکیب می‌کنند و نشان‌دهنده کمی از نحوه استفاده و وزن هر جزء در توصیه نهایی است.

به همین دلیل، بسیاری از ابزارهای فعلی هوش مصنوعی مانند جعبه سیاه عمل می کنند - توصیه هایی را بدون زمینه لازم ارائه می دهند. این رویکرد غیر شفاف ممکن است برای کاربردهای اکتشافی یا غیر بحرانی قابل قبول باشد. با این حال، تصمیم‌گیری‌هایی که شامل سرمایه‌گذاری‌های عمده، محصولات جدید یا برنامه‌ریزی استراتژیک می‌شوند، نیازمند دید و شفافیت هستند.

تصور کنید هوش مصنوعی گسترش به فروشگاه های رفاه را توصیه می کند زیرا انتظار می رود تقاضای مصرف کننده افزایش یابد. خود این توصیه ممکن است معقول باشد، اما تصمیم گیرندگان باید منابع را نیز درک کنند، کدام منابع دارای بیشترین وزن هستند، کدام نتیجه گیری توسط شواهد پشتیبانی می شود، که بر استنباط تکیه می کند، و در کجا اطلاعات موجود جایی برای عدم قطعیت باقی می گذارد.

بدون این دید، دشوار است که بدانیم آیا شما بر اساس شواهد مورد تایید عمل می کنید یا صرفا یک روایت قانع کننده را می پذیرید.

عدم اطمینان برای تصمیم گیری اساسی است

یکی از بزرگترین تصورات غلط در مورد هوش مصنوعی این است که عدم اطمینان یک ضعف است. هر درجه از عدم قطعیت یا ابهام بیان شده توسط هوش مصنوعی یک اشکال تلقی می شود، نه یک ویژگی. در واقعیت، عدم اطمینان همیشه بخشی از تصمیم گیری خوب بوده است.

رهبران باتجربه انتظار اطلاعات کامل را ندارند. آنها انتظار دارند بفهمند شواهد در کجا قوی است، کجا محدود است، و کدام فرضیات مستحق بحث بیشتر است.

تحقیقات سنتی به طور طبیعی آن مکالمات را تشویق می کرد. با این حال، هوش مصنوعی می‌تواند این فرآیند را به یک پاسخ صیقلی فشرده کند و نادیده گرفتن موارد نامشخص را آسان‌تر کند.

با این حال، این مجهولات اغلب با ارزش ترین خروجی هستند. تشخیص شواهد ضعیف، یافته‌های متناقض یا اطلاعات از دست رفته به سازمان‌ها این فرصت را می‌دهد که سؤالات بهتری بپرسند، تحقیقات بیشتری را جمع‌آوری کنند و از تصمیم‌گیری‌های مهم با احساس اطمینان کاذب اجتناب کنند.

مدل Glass Box AI

این اصول به چیزی اشاره دارد که من به عنوان رویکرد "جعبه شیشه ای" به هوش مصنوعی فکر می کنم. این رویکرد به جای تلقی شفافیت به عنوان یک ویژگی منحصر به فرد، دید بیشتری به اطلاعات، استدلال و عدم قطعیت در هوش مصنوعی سازمانی می دهد.

در هسته خود، هر خروجی هوش مصنوعی باید توضیحی برای استدلال خود ارائه دهد که قابل درک و بازیابی باشد. رهبران باید بتوانند شواهد ارزیابی شده، فیلترهای مورد استفاده و چگونگی نتیجه گیری شواهد را بررسی کنند.

هر ادعا همچنین باید به جای ارجاع به کل کتابخانه ای از اسناد که نیاز به بررسی دستی دارند، ارجاعاتی به صفحات و قسمت های دقیق منابع منبع داشته باشد. Glass Box AI به وضوح آنچه را که منبع ذکر شده از آنچه توسط هوش مصنوعی استنباط شده است جدا می کند. شواهد ناچیز باید به این صورت شناسایی شوند و با تکنیک های ارائه پوشانده نشوند.

یک رویکرد هوش مصنوعی جعبه شیشه‌ای همچنین باید شکاف‌های دانش و همچنین آنچه پیدا شده را شناسایی کند. فقدان شواهد در مورد یک فرض کلیدی باید در گزارش گنجانده شود تا کاربران بتوانند آن را در طول فرآیند تصمیم گیری در نظر بگیرند.

به طور حیاتی، باید مداخله کاربر را حفظ کند. رهبران باید این توانایی را داشته باشند که نتیجه‌گیری‌های یک سیستم هوش مصنوعی را زیر سوال ببرند، رد یا تطبیق دهند - و مبنای منطق خود را ثبت کنند. اگر یک هوش مصنوعی پیشنهاد کند که فروشگاه‌های رفاه به یک شرکت CPG اجازه می‌دهند تا قیمت‌های بالاتری را دریافت کند، با این حال یکی از اعضای تیم محصول معتقد است در غیر این صورت، این اختلاف نظر باید در اسناد منعکس شود.

شفافیت باید در سراسر چرخه پردازش یک سیستم هوش مصنوعی وجود داشته باشد، نه تنها پس از تکمیل پاسخ. در حین کار، سیستم باید نشان دهد که به دنبال چه چیزی است، چه چیزی را وزن می کند و به کجا به سمت همگرایی حرکت می کند. این به کاربران اجازه می‌دهد تا مشکلات را زودتر تشخیص دهند و وزن را قبل از تکمیل توصیه تنظیم کنند.

هوش مصنوعی قابل اعتماد Glass Box AI است

سازمان ها به طور فزاینده ای برای تصمیم گیری استراتژیک در مورد توسعه شرکت، استقرار سرمایه، نوآوری محصول، استراتژی بازاریابی و موارد دیگر به هوش مصنوعی متکی هستند. در این واقعیت جدید، "به من اعتماد کن" نمی تواند یک استناد قابل قبول در هنگام اتخاذ این نوع تصمیمات باشد.

شرکت‌ها به شواهدی نیاز دارند که قابل ردیابی باشد، استدلالی که بتوان آن را به چالش کشید، و نتیجه‌گیری‌هایی که بتواند در برابر بررسی دقیق مقاومت کند. این پایه و اساس Glass Box AI است، و من معتقدم که باید در جهت مطابقت با استاندارد جدید هوش مصنوعی سازمانی که باید رعایت شود، ساخته شود.

زیرا ارزش هوش مصنوعی در نهایت نه با میزان اطمینان پاسخ‌های آن، بلکه بر اساس میزان اطمینان سازمان‌ها می‌تواند به این پاسخ‌ها عمل کند، سنجیده می‌شود.

ما بهترین سازنده وب سایت هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit