بیش از نیمی از شرکت های بریتانیایی می گویند که یک عامل هوش مصنوعی آنها را سرکش کرده است - و بر تجارت یا مشتریان آنها تأثیر گذاشته است.

53 درصد از مدیران ارشد فناوری انگلیسی حداقل یک عامل هوش مصنوعی را دیده‌اند که خط‌مشی را نقض کرده و بر تجارت یا مشتری تأثیر گذاشته است.

میانگین جهانی اقدامات سرکش هوش مصنوعی فقط 31 درصد است که سؤالاتی را در مورد حکمرانی هوش مصنوعی در بریتانیا ایجاد می کند.

CIOها تحت فشار فزاینده ای برای ارائه ارزش از سرمایه گذاری های هوش مصنوعی هستند و اکثریت آنها انتظار کاهش بودجه و حتی بیکاری در صورت عدم تحقق اهداف دارند. طبق یک مطالعه جدید که همچنین سؤالاتی را در مورد سیاست ها و حاکمیت هوش مصنوعی در محل کار ایجاد می کند، سرکشی عوامل هوش مصنوعی یک چالش رو به رشد برای مشاغل انگلیسی است. ماموران قانون شکنی هوش مصنوعی در بریتانیا ظاهرا مشکلات بسیار بزرگتری نسبت به میانگین جهانی دارند.

این تحقیق که توسط هریس پول به نمایندگی از Dataiku انجام شد، نشان می‌دهد که CIOهای مستقر در بریتانیا نیز تحت فشار زیادی برای انجام سرمایه‌گذاری‌های هوش مصنوعی هستند.

CIOها چیزی را که Dataiku "پراکندگی عامل AI" می نامد سرزنش می کنند - ایجاد و استفاده از عوامل AI سفارشی در محل کار، که سریعتر از آنچه قابل کنترل است مستقر می شوند. این عمل به طور بالقوه می تواند مشاغل را در معرض خطرات قرار دهد، نه فقط برای خود سازمان، بلکه برای مشتریان.

خطرات عامل هوش مصنوعی

نظرسنجی هریس پول از 685 مدیر ارشد اطلاعات در بریتانیا، فرانسه، آلمان، ایالات متحده، امارات متحده عربی، ژاپن، کره جنوبی و سنگاپور چالش‌های حاکمیتی را نشان می‌دهد که CIOها (مدیر ارشد اطلاعات) در سراسر جهان با آن مواجه هستند. اما نتایج به ما نشان می دهد که به نظر می رسد بریتانیا با برخی مسائل منحصر به فرد روبرو است.

آماری که نشان می‌دهد 53 درصد از مدیران ارشد فناوری بریتانیا فاش کرده‌اند که یک یا چند عامل هوش مصنوعی را دیده‌اند که یک خط‌مشی تجاری را نقض کرده‌اند که بر سازمان یا مشتری آنها تأثیر گذاشته است، به طور قابل توجهی بالاتر از میانگین 31 درصد است. اما مشکلات به همین جا ختم نمی شود. تنها 49 درصد می توانند یک دنباله حسابرسی برای توضیح اقدامات یک هوش مصنوعی ایجاد کنند، و 68 درصد معتقدند شناسایی یک عامل AI سرکش و محدود کردن تأثیر آن بیش از 24 ساعت طول می کشد.

با توجه به چالش گسترش هوش مصنوعی که 87 درصد از مدیران ارشد اطلاعاتی بریتانیا به آن اشاره کردند، به نظر می رسد مشکلات ناشی از سیاست ها، رویه ها و قوانین حاکم بر استفاده از هوش مصنوعی باشد.

فی موری، مدیر ارشد داده‌های فیلد در دیتایکو خاطرنشان کرد: بیش از نیمی از کسب‌وکارهای بریتانیا که گزارش می‌دهند یک عامل هوش مصنوعی خط‌مشی را نقض کرده است، باید نشانه‌ای از این باشد که نظارت به تنهایی کافی نیست.

تاثیر یک اقدام سرکش نیاز به پاسخگویی کامل دارد، چیزی که موری مشاهده می‌کند: «... نمی‌توان پس از یک حادثه مقاوم‌سازی کرد؛ آنها باید از همان ابتدا برای استقرار طراحی شوند».

قطع شده

مفهوم این است که صنعت در مورد هوش مصنوعی دچار اشتباه شده است. نمی‌توان سیستم‌های خودمختار را در هر مقیاسی به سادگی رها کرد تا کارها را ادامه دهند. مدیرعامل Dataiku، Florian Douetteau می‌گوید: «صنعت مدیران ارشد را به صورت مستقل فروخت و فراموش کرد که هزینه آن را ذکر کند: سیستم‌های خودمختار باید مدیریت شوند، نه فقط نظارت.»

"نظارت به شما می‌گوید که یک نماینده در حال اجراست. مدیریت به شما می‌گوید آیا حق ادامه فعالیت را کسب کرده است یا خیر. در حال حاضر، تقریبا هیچ‌کس نمی‌تواند یک نماینده را اخراج کند." برای آن دسته از مشاغلی که عامل هوش مصنوعی از کنترل خارج شده است، ممکن است خواندن ناخوشایند یا ناامیدکننده باشد، اما راه حل واقعا بهبود نظارت است.

همانطور که Douetteay می گوید، تنها جایگزین این است که "آن را از برق بکشید و امیدوار باشید."