عوامل هوش مصنوعی آماده عمل هستند، اما آیا آنها تجارت شما را درک می کنند؟

یک عامل هوش مصنوعی پرداخت تامین کننده را تایید می کند. فاکتور با سفارش خرید مطابقت دارد، مبلغ در حد بودجه است و تامین کننده از قبل در سیستم است. هر چک می گذرد، اما تصمیم هنوز اشتباه است زیرا قرارداد دیروز تمام شده است.

این همان ریسکی است که شرکت‌ها اکنون با آن مواجه هستند. یک نماینده می تواند تصمیمی بگیرد که کاملا منطقی در اطلاعاتی است که دارد و هنوز هم اشتباه است زیرا تجارت پیرامون آن تغییر کرده است.

در چند سال گذشته، بحث هوش مصنوعی سازمانی عمدتا بر روی مدل ها متمرکز شده است. کدام باهوش ترین و کدام کارآمدتر است؟

این تمرکز زمانی منطقی بود که هوش مصنوعی بیشتر یک دستیار بود. یک کوپایلوت اطلاعات را پیدا کرده و تجزیه و تحلیل می‌کند، یا یک مجموعه داده را قبل از اینکه نتیجه را به شخص تحویل دهد، خلاصه می‌کند.

اما بازبینی انسانی یک حفاظت کامل نیست. افراد می‌توانند به خروجی‌های با صدای مطمئن یا توصیه‌های مهر و موم لاستیکی موکول شوند، که به یک پاسخ بد از دستیار اجازه می‌دهد تا مستقیما به تصمیم‌های بعدی کمک کند.

هوش مصنوعی عامل خطرات را بیشتر می کند. یک نماینده می‌تواند سوابق مشتری را به‌روزرسانی کند، درخواست‌ها را تأیید کند، جریان‌های کاری را راه‌اندازی کند یا تصمیمات تجاری مهمی بگیرد بدون اینکه شخصی بین مدل و هر اقدامی بایستد.

همانطور که این اتفاق می افتد، ما باید سوالاتی را بپرسیم که فراتر از این است که کدام مدل بهترین است و شروع به پرسیدن در مورد محیط اطراف آن مدل ها کنیم. عامل می تواند به چه داده هایی دسترسی داشته باشد؟ چه قوانینی بر رفتار آن حاکم است؟ چه چیزی مجاز به تغییر است؟ و آیا زمینه کافی برای درک اینکه یک تصمیم معقول در واقع چگونه به نظر می رسد دارد؟

این پرسش‌ها زمانی ضروری‌تر می‌شوند که یک سیستم می‌تواند یک پاسخ ناقص را به یک عمل واقعی تبدیل کند، سوابق را تغییر دهد، تراکنش‌ها را تأیید کند یا فرآیندی را قبل از اینکه متوجه شود در جهت اشتباه ارسال کند.

بنابراین، چگونه این خطر را کاهش می دهید؟

به هوش مصنوعی زمینه بیشتری بدهید، نه آزادی بیشتری

اگرچه ممکن است خلاف واقع به نظر برسد، بخشی از راه حل این است که به هوش مصنوعی دسترسی بیشتری به کسب و کار خود بدهید.

اگر یک نماینده قرار است از طرف شما اقدام کند، به اهداف و قوانین سازمان شما و همچنین وضعیت فعلی کار در دست نیاز دارد. این به معنای دسترسی نامحدود به همه چیز نیست، بلکه اطمینان از اینکه می‌تواند اطلاعات درست را در زمان واقعی ببیند، نه اینکه منتظر به‌روزرسانی آموزشی بعدی خود باشد.

اما یک تمایز مهم در اینجا وجود دارد. وقتی می‌گویم به یک عامل «دسترسی» بدهید، منظورم این است که دید و زمینه‌ای بیشتر به او بدهید، نه لزوما اختیار بیشتر.

ممکن است نیاز به درک مشتری، معامله، گردش کار، قوانین پیرامون آن و آنچه قبلا اتفاق افتاده است داشته باشد. این بدان معنا نیست که باید آزادانه همه آن چیزها را تغییر داد.

این همان تعادلی است که شرکت ها باید درست کنند. زمینه وسیع، اما با اختیارات محدود.

قرار دادن زمینه در هسته هوش مصنوعی

اگر کارگزاران برای تصمیم گیری خوب به زمینه وسیعی نیاز دارند، این زمینه واقعا از کجا می آید؟

اینجاست که زمینه عملیاتی شروع به تبدیل شدن به تمایز می کند. بسیاری از شرکت‌ها هنوز در حال آموزش عوامل هوش مصنوعی هستند و امیدوارند که بتوانند به سادگی اسناد شرکتی بیشتری را به آنها ارائه دهند و با گذشت زمان، زمینه لازم برای اجرا و مدیریت بخش‌هایی از کسب و کار را جذب کنند.

مشکل این است که این رویکرد فقط می تواند شما را تا این حد پیش ببرد. یک سند ممکن است به نماینده بگوید که یک قانون چه می گوید، اما در بیشتر مشاغل، قوانین استثناهایی دارند. آنها همچنین به طور منظم به روز می شوند، به این معنی که اسناد قدیمی می توانند به سرعت گمراه کننده شوند.

و این یک مشکل است زیرا اگر هوش مصنوعی از مطالب قدیمی یاد می‌گیرد، یا از نمونه‌هایی که آن قوانین به‌طور متفاوتی اعمال شده‌اند، می‌تواند به درک نادرستی از نحوه عملکرد واقعی تجارت منجر شود.

بنابراین اگر آموزش تکه تکه فقط شما را تا این حد می رساند، جایگزین چیست؟

راه حل چیزی است که من آن را قرار دادن "زمینه در هسته" می نامم.

این بدان معناست که هوش مصنوعی را در پلت فرم عملیاتی اصلی خود قرار دهید و آن را در سیستم هایی که شرکت قبلا تعهدات را ثبت می کند، قوانین را اعمال می کند و تراکنش ها را انجام می دهد، پایه گذاری کنید.

به جای کار کردن از روی قطعات سازمان، نماینده تصویر کامل تری از آنچه در حال رخ دادن است و آنچه باید در آینده اتفاق بیفتد به دست می آورد. به‌جای دریافت فهرستی از قوانینی که باید دنبال شوند، عوامل هوش مصنوعی می‌توانند نحوه اعمال این قوانین در سراسر تجارت را ببینند.

این به آنها زمینه بسیار بیشتری در مورد اینکه کدام قوانین در موقعیت های خاص اعمال می شود، اینکه آیا آن قوانین هنوز جاری هستند و اینکه آیا عامل واقعا مجاز به عمل است یا خیر، می دهد.

این بدان معنا نیست که هر برنامه هوش مصنوعی باید در یک مکان زندگی کند. سازمان‌های بزرگ همیشه دارای فناوری گسترده‌تری خواهند بود که برنامه‌ها و خدمات مختلف با هم کار می‌کنند.

آنچه مهم‌تر است داشتن یک هسته قابل اعتماد است که داده‌ها، قوانین، مجوزها و تاریخچه‌ای را که نیازهای هوش مصنوعی برای درک نحوه عملکرد سازمان را گرد هم می‌آورد.

این نقطه شروع بسیار قوی‌تر از داشتن تعداد زیادی ابزار هوش مصنوعی مجزا در سراسر سازمان است که هر کدام از یک عکس فوری جزئی از تجارت کار می‌کنند.

اعتماد به هوش مصنوعی با ریسک

صنعت خود من مثال خوبی از اهمیت این موضوع است. بیمه بسیار تنظیم‌شده و دارای داده‌های فشرده است و تصمیم درست می‌تواند به شرایط بیمه‌نامه، شرایط مشتری، قوانین محلی و دقیقا جایی که ادعا یا حساب در آن لحظه قرار دارد بستگی دارد.

پس از طوفان یک ادعای خانوار بگیرید. عاملی که روی آن کار می‌کند ممکن است نیاز داشته باشد که عبارت خط‌مشی، تاریخ‌های مؤثر، تأییدیه‌ها، وضعیت صورت‌حساب، تخمین‌های تعمیر، شاخص‌های تقلب و آخرین فعالیت در مورد ادعا را درک کند. اگر سیاست دیروز تغییر کرد، عصاره‌ای که هفته گذشته گرفته شد ممکن است قدیمی باشد.

این به معنای ریختن هر سند موجود در یک مدل نیست. اطلاعات بیش از حد نامربوط یا متناقض می تواند یک نماینده را کمتر قابل اعتماد کند. هدف این است که کوچکترین مجموعه ای از حقایق فعلی و معتبر مورد نیاز برای کار را از سیستم هایی که آن حقایق در آن نگهداری می شوند، بازیابی کنیم.

بیمه این نیاز را به‌ویژه روشن می‌کند، اما این اصل در هر جایی که هوش مصنوعی در فرآیندهای پیچیده سازمانی عمل می‌کند، اعمال می‌شود.

حاکمیت را در جریان کار قرار دهید

اگر زمینه به یک عامل درک بهتری از آنچه اتفاق می‌افتد بدهد، حاکمیت تعیین می‌کند که واقعا مجاز است در مورد آن چه کاری انجام دهد. به همین دلیل است که این دو باید کنار هم بنشینند. در عمل، زمینه در هسته به معنای قرار دادن زمینه و کنترل در یک مکان است. حاکمیت باید درون جریان کار بنشیند، نه حول آن.

ابتدا، زمینه کافی را به عامل بدهید تا بفهمد چه اتفاقی در حال رخ دادن است، اما در مورد اینکه چه کاری می‌تواند با آن اطلاعات انجام دهد کاملا واضح باشد. ممکن است بتواند یک رکورد را بخواند اما آن را تغییر ندهد، اقدامی را توصیه کند اما آن را تایید نکند، یا به تنهایی تا یک نقطه خاص عمل کند.

سپس مطمئن شوید که می توانید ببینید چه کاری انجام می دهد. اقدامات مهم باید سوابق واضحی از اطلاعاتی که عامل استفاده کرده، تصمیمی که گرفته و هر گونه تغییری که باعث شده است را به جا بگذارد. کنترل‌های امنیتی همچنین باید از تلقی ایمیل‌ها، پیوست‌ها و سایر محتوای خارجی به‌عنوان داده‌ها یا دستورالعمل‌های قابل اعتماد جلوگیری کنند.

همچنین باید در صورت تغییر مدل‌ها یا گردش کار، آزمایش را ادامه دهید. شرکت ها باید به بررسی نحوه رفتار نمایندگان ادامه دهند و در مورد اینکه چه زمانی یک فرد باید وارد عمل شود، واضح باشد.

و خیلی سریع تحویل ندهید. با پاسخ ها شروع کنید، به سمت پیشنهادات و سپس به اقدامات بروید. دسترسی فقط خواندنی و اجرای خشک می‌تواند به تیم‌ها نشان دهد که چگونه یک نماینده قبل از اینکه اجازه ایجاد تغییرات در سیستم‌های سازمانی را بدهد، چگونه رفتار می‌کند.

مدل های زیر همه اینها نیز مدام تغییر خواهند کرد. هدف این است که زمینه و مجوزها را در محیط عملیاتی خود ایجاد کنید تا از هر مدلی که بعدا استفاده می کنید، در جای خود باقی بمانند.

شرکت هایی که با هوش مصنوعی عاملی موفق می شوند، تنها پس از اینکه مدل ثابت کرد که منطق شرکت را به درستی تفسیر می کند، با محدود کردن حقوق اجرا و گسترش استقلال شروع می کنند.

ما بهترین سازنده وب سایت هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit