مشکل آمادگی نظارتی پنهان در دید آشکار

با اجرایی شدن الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا، سازمان‌ها باید در مورد آمادگی نظارتی و نحوه استفاده از هوش مصنوعی پیش قدم باشند. پرداخت جریمه تا 35 میلیون یورو یا 7 درصد از گردش مالی جهانی به این معنی است که دیگر تنها برای نظارت بر خطرات ارتباطی کافی نیست. شرکت ها باید به طور قطع ثابت کنند که چگونه این ریسک ها شناسایی، بررسی و تشدید شده اند.

وقتی تنظیم‌کننده‌ها سؤال می‌پرسند، اکثر تیم‌های انطباق با مشکل کمبود داده مواجه نمی‌شوند. در بیشتر موارد، اطلاعات در جایی در سازمان وجود دارد. چالش سخت‌تر، گردآوری سریع، واضح و قابل دفاع این شواهد در سیستم‌ها، جریان‌های کاری و تیم‌های مختلف است.

این چالش از آنجایی که تنظیم‌کننده‌ها تاکید بیشتری بر نتایج قابل اثبات دارند، اهمیت بیشتری می‌یابد. به طور فزاینده‌ای انتظار می‌رود که شرکت‌ها نه تنها نشان دهند که کنترل‌ها وجود دارند، بلکه نحوه عملکرد آن کنترل‌ها در هنگام ظهور یک ریسک بالقوه را نشان دهند. اینجاست که نظارت comms برای انطباق موثر تبدیل شده است.

از فعالیت های نظارتی تا نتایج نظارتی

نظارت بر ارتباطات معمولا از طریق فعالیت اندازه گیری می شود. تیم‌های انطباق ردیابی کرده‌اند که چه تعداد هشدار ایجاد شده، چه تعداد بازبینی تکمیل شده است، چه تعداد پرونده تشدید شده است و چه تعداد از تحقیقات بسته شده است.

این معیارها هنوز اهمیت دارند، اما آنها فقط بخشی از داستان را بیان می کنند.

معیار قوی‌تر آمادگی این است که آیا یک شرکت می‌تواند فعالیت‌های نظارتی را به نتایج نظارتی مرتبط کند یا خیر. آیا می تواند توضیح دهد که چرا یک ریسک خاص شناسایی شده است؟ آیا می تواند نشان دهد که چگونه یک هشدار بررسی شده است؟ آیا می تواند شواهدی را که یک تصمیم را تأیید می کند، مستند کند؟ آیا می تواند نشان دهد که آیا تشدید مناسب بوده است؟ و مهمتر از همه، آیا می‌تواند ماه‌ها بعد هنگامی که یک تنظیم‌کننده شواهدی را درخواست می‌کند، آن فرآیند را بازسازی کند؟

اینها سوالاتی است که اکنون در قلب آمادگی نظارتی قرار دارد.

زنجیره شواهد اغلب بسیار پراکنده است

بسیاری از شرکت ها قبلا مسئله اصلی ضبط ارتباطات را حل کرده اند. مرحله بعدی پیچیده تر است: اتصال ارتباطات، هشدارها، بررسی ها، تحقیقات و نتایج به یک زنجیره واضح و قابل دفاع از شواهد.

اغلب، این زنجیره تکه تکه شده و بنابراین منسوخ شده است. Comms اغلب در یک پلتفرم قرار می گیرند، در حالی که گردش کار نظارت در پلتفرم دیگری قرار دارد و تحقیقات در جای دیگری کاملا ثبت می شود. هر سیستم ممکن است به طور مجزا به طور موثر عمل کند، اما شکاف ها زمانی آشکار می شوند که تیم های انطباق باید توضیح دهند که از ابتدا تا انتها چه اتفاقی افتاده است.

این امر به ویژه از آنجایی که ارتباطات مبتنی بر هوش مصنوعی به یک خطر بزرگ‌تر برای انطباق تبدیل می‌شوند، اهمیت دارد. تحقیقات ما نشان داد در حالی که بیش از نیمی (55%) از سازمان‌ها در سراسر جهان سیاست‌های اصلی هوش مصنوعی، مراحل آموزشی و بازبینی را دارند، کمتر از یک پنجم (19%) دارای کنترل‌های ثبت، نگهداری، شناسایی و امتیازدهی مورد نیاز برای اثبات آنچه اتفاق افتاده است.

بدون آن لایه شواهد، سازمان‌ها نمی‌توانند با اطمینان نشان دهند که ابزارهای هوش مصنوعی چه چیزی تولید می‌کنند، چه کسی آن را بررسی کرده، کجا رفته و آیا سوابق نگهداری می‌شود یا خیر.

نتیجه اصطکاک غیرضروری است: تحقیقات بیشتر از آنچه باید طول می کشد، گردآوری شواهد دشوارتر است و تصمیمات نظارتی همچنان به اعتبار سنجی دستی اضافی نیاز دارند.

درخواست‌های نظارتی زمانی که تیم‌ها باید زمان ارزشمندی را صرف جمع‌آوری اطلاعاتی کنند که قبلا باید متصل شده باشند، مخل‌تر می‌شوند. این خطر تبدیل شدن به یک کابوس آمادگی عملیاتی را دارد.

شفافیت در حال تبدیل شدن به یک انتظار نظارتی است

همانطور که انتظارات نظارتی همچنان در حال تکامل هستند، شرکت ها باید بتوانند نشان دهند که نظارت در عمل چگونه عمل می کند. به عبارت دیگر، نشان دادن چگونگی شناسایی خطرات احتمالی، نحوه تصمیم گیری، نحوه بررسی شواهد و نحوه ثبت نتایج.

یک برنامه نظارتی تنها زمانی واقعا مؤثر است که بتواند آن سطح از شفافیت را پشتیبانی کند. قانون‌گذاران ممکن است معماری خاصی را تجویز نکنند، اما از شرکت‌ها انتظار دارند که نشان دهند نظارت مؤثر، تکرارپذیر و قابل دفاع است.

به همین دلیل است که سازمان‌ها اکنون فراتر از ابزارهای فردی و به سمت رویکردی یکپارچه‌تر برای حاکمیت ارتباطات، نظارت، تحقیقات و حفظ نگاه می‌کنند.

دید عملیاتی به اندازه ذخیره اطلاعات اهمیت دارد

دید عملیاتی به اندازه جمع آوری داده ها مهم می شود. تیم های انطباق باید بدانند که اطلاعات در کجا ذخیره می شود، و همچنین نحوه حرکت آن در سازمان پس از شناسایی یک مشکل بالقوه.

آنها باید بتوانند زنجیره کامل فعالیت را از هشدار اولیه تا بررسی، تشدید، تصمیم گیری و حفظ دنبال کنند. نظارت بر Comms به بخش مهمی از چارچوب شواهد تبدیل شده است.

اگر به خوبی انجام شود، به تیم ها کمک می کند تا ریسک را زودتر شناسایی کنند، مسائل را به طور کارآمدتر بررسی کنند و نحوه عملکرد نظارت را در طول زمان نشان دهند.

آمادگی برای اثبات آنچه اتفاق افتاده است

در حال حاضر اولویت ایجاد زمینه مورد نیاز برای تصمیم گیری بهتر و اثبات موثر آن تصمیمات است.

آمادگی نظارتی به طور فزاینده ای به توانایی برای نشان دادن قضاوت بستگی دارد: چرا یک پرونده بررسی شد، چه اطلاعاتی در نظر گرفته شد، آیا تشدید لازم بود و چگونه به نتیجه نهایی رسید. بدون آن دیدگاه مرتبط، حتی دفاع از فرآیندهایی که به خوبی اجرا می شوند نیز دشوار می شود.

بنابراین نظارت Comms از یک عملکرد نظارتی محدود به یک جزء اصلی آمادگی نظارتی در حال حرکت است. این اولین خط شواهد را برای چگونگی شناسایی، ارزیابی و حل خطر احتمالی ارائه می دهد. همچنین به شرکت‌ها شالوده لازم را می‌دهد تا نشان دهند که نظارت نه تنها وجود دارد، بلکه به طور مؤثر کار می‌کند.

در محیط نظارتی امروزی، آمادگی به این معناست که بتوانیم آنچه اتفاق افتاده را ثابت کنیم، نه صرفا مکان یابی اطلاعات.

ما بهترین سازنده وب سایت هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit