شکاف پاسخگویی پشت یکی از بزرگترین خطرات هوش مصنوعی

من سعی می‌کردم چیزی را آنلاین بخرم و کاری را انجام دادم که اکثر مردم اکنون انجام می‌دهند: به یک مرور کلی هوش مصنوعی اجازه دادم به آن اشاره کنم. من را مستقیما به صفحه محصول فرستاد، با اطمینان. و حدس بزنید وقتی روی آن کلیک کردم چه اتفاقی افتاد؟ محصول تمام شد.

چند هفته بعد دوباره اتفاق افتاد، یک مورد متفاوت، این بار متوقف شد. و هر چه بیشتر به آن فکر می کردم، بیشتر آزارم می داد، نه به خاطر اشتباه بودن هوش مصنوعی، بلکه به دلیل اشتباه بودن آن. در جایی، یک شرکت صفحه‌ای داشت که به‌روزرسانی نشده بود و یک سیستم هوش مصنوعی راهی برای دانستن آن نداشت. فقط آنچه را که آنجا بود خواند و با اطمینان آن را برای من تکرار کرد.

این یک نسخه کوچک و آزاردهنده از مشکلی است که شرکت‌ها در همه جا با آن مواجه می‌شوند.

اکثر شرکت‌ها دهه گذشته را صرف داده‌ها کرده‌اند. یک انبار داده، یک مدیر ارشد داده، یک کمیته حاکمیتی که به صورت ماهانه تشکیل جلسه می‌دهد، و داشبوردهایی وجود دارند که بررسی‌های تجاری فصلی را انجام می‌دهند. روی کاغذ، نظم و انضباط در جای خود است.

هیچ کس همان نظم و انضباط را در مورد اطلاعاتی که کسب و کار در واقع بر روی آنها اجرا می شود اعمال نمی کند. یک خط مشی در یک سیستم به روز می شود و بی سر و صدا در سه سیستم دیگر اشتباه می ماند. شخصی می‌رود و صفحه‌ای که هر سه ماه یکبار به‌روزرسانی می‌کنند، دیگر حفظ نمی‌شود. یک محصول موجود نمی شود، یا متوقف می شود، و صفحه برای ماه ها فعال و نمایه می شود. هیچ کدام از اینها به نظر سهل انگاری نیست. به نظر یک سه شنبه معمولی است.

قبلا خوب بود، چون مردم آن را جبران کردند. یک فروشنده می دانست که صفحه قیمت گذاری قدیمی است و به هر حال عدد واقعی را نقل می کرد. یک استخدام جدید در عرض یک ماه متوجه شد که واقعا به کدام صفحه ویکی داخلی اعتماد کند. اما آشکار می شود که راه حل فقط به این دلیل کار می کند که یک انسان در حلقه بود، اتاق را می خواند، شکاف را قبل از رسیدن به کسی که مهم بود می گرفت.

هوش مصنوعی حلقه ای برای ورود ندارد. نمی داند که محصول فروخته شده است مگر اینکه چیزی مستقیما به آن بگوید. این که از بهار گذشته هیچ کس آن صفحه را لمس نکرده است، به شوخی دفتر کار نمی آید. تمام آن زمینه در سر مردم زندگی می کرد، نه در سند، و یک مدل فقط می تواند سند را بخواند.

بنابراین شکاف دیگر بی سر و صدا گرفتار نمی شود. مستقیما برای مشتری منتشر می شود.

جایی که مسئولیت پذیری واقعا از بین می رود

از مدیر عاملی که اطلاعات شرکت را در اختیار دارد بپرسید، نمودار سازمانی را دریافت خواهید کرد. بازاریابی مالک وب سایت است. محصول دارای مشخصات است. حقوقی صاحب زبان سیاست است. و اگر این شرکت در بیش از یک منطقه فعالیت کند، احتمالا هر یک نسخه مخصوص به خود را از همه چیز در بالا ساخته است.

هر تیمی کار خود را انجام می دهد، اما در مجموع، شرکت در نهایت پنج چیز متفاوت درباره خودش می گوید. برای مدت طولانی، تنها در صورتی مهم بود که انسانی با این تضاد برخورد کند. اکنون یک سیستم هوش مصنوعی آن را فورا برای شما پیدا کرده و آن را به عنوان یک واقعیت در اختیار مشتری قرار می دهد.

یک نظرسنجی اخیر از مصرف کنندگان نشان داد که تقریبا نیمی از خریداران قبل از اقدام بر روی یک پاسخ هوش مصنوعی دوبار بررسی می کنند و وقتی آنچه که آنها می یابند با آن در تضاد است، کسب و کار مشتری را از دست می دهد که از نظر فنی به تازگی برای آن ظاهر شده است. این دقیقا همان چیزی است که قبلا به آن اشاره کردم برای من اتفاق افتاد. هوش مصنوعی دروغ نگفت فقط چیزی را تکرار کرد که دیگر درست نبود، با اطمینان کافی تا زمانی که کلیک کردم آن را باور کردم.

مسئله واقعی همین است. مالکیت اطلاعات به ندرت در زمانی که چیزی منتشر می شود از بین می رود. بعد خراب میشه شخصی که یک صفحه را نوشته است معمولا شخصی نیست که ماه ها بعد متوجه می شود که کهنه شده است. انتشار صاحب دارد، اما این اطلاعات درست می ماند معمولا اینطور نیست.

چند سوال ارزش پرسیدن دارد

اگر شرکت شما هر محصولی را به صورت آنلاین می فروشد، یا هر چیزی را منتشر می کند که مشتریان به آن اعتماد دارند، ارزش این را دارد که فکر کنید وقتی این اطلاعات کهنه می شود، چه کسی واقعا مالک آن است، نه اینکه فقط آن را در وهله اول منتشر کنید.

و ارزش این را دارد که مستقیما بررسی کنید که یک سیستم هوش مصنوعی در حال حاضر در مورد شرکت یا محصول شما به شخصی که قبلا هرگز با شما صحبت نکرده است می گوید. نه آنچه شما فرض می کنید می گوید، بلکه آنچه در واقع می گوید که می تواند بر تجارت شما تأثیر بگذارد.

هیچ‌کس برنامه‌ریزی نکرده بود که هوش مصنوعی چیزی باشد که هر ناهماهنگی آرامی را که یک شرکت سال‌ها با آن زندگی می‌کرده را آشکار کند. اما این دقیقا کاری است که انجام می دهد و شرکت ها باید اقدام کنند. آنهایی که از آن جلوتر می‌روند، آنهایی نیستند که دارای جذاب‌ترین استراتژی هوش مصنوعی هستند، اما کسانی که تصمیم می‌گیرند چه کسی مسئول اطمینان از آنچه در بیرون است، هنوز هم درست است.

ما بهترین سازندگان وب سایت را بررسی و رتبه بندی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit