سوء استفاده از هوش مصنوعی در پلیس یک هشدار برای هر سازمانی است که شواهد حساس را مدیریت می کند

تحقیقات در مورد سوء استفاده ادعایی از هوش مصنوعی در پاسبانی دربی‌شایر، همراه با بررسی گسترده‌تر ابزارهای مولد در سراسر پلیس بریتانیا، سؤال ناراحت‌کننده‌ای را مطرح کرده است که بسیار فراتر از این نیرو است.

چه اتفاقی می‌افتد وقتی فناوری قدرتمند وارد هر سازمانی می‌شود که در آن از اطلاعات حساس برای پشتیبانی از تصمیم‌هایی استفاده می‌شود که ممکن است بعدا نیاز به توضیح و دفاع داشته باشند؟

پاسخ این نیست که هوش مصنوعی را از تحقیقات، اطلاعات یا سایر کارهای پرمخاطب دور نگه دارید، بلکه باید آن را به گونه‌ای به کار ببرید که بتواند در برابر بررسی دقیق مقاومت کند. ابزارهای هوش مصنوعی در درون سیستم‌های ایمن و قابل ممیزی، با مرزهای روشن و نظارت انسانی، می‌توانند به سازمان‌ها کمک کنند تا اطلاعات را به هم متصل کنند، حجم پرونده‌های رو به رشد را مدیریت کنند و الگوهای مهم را شناسایی کنند و در عین حال اطمینان حاصل کنند که هر بینش قابل ردیابی، توضیح و دفاع است.

این خطر زمانی به وجود می آید که کارمندان به ابزارهای همه منظوره ای روی می آورند که هرگز برای مطابقت با آن استانداردهای شواهد و امنیت طراحی نشده اند.

فشارهایی که هوش مصنوعی را برای تیم‌هایی که حجم بالایی از داده‌های حساس را مدیریت می‌کنند جذاب می‌کند، در بخش‌های دولتی و خصوصی آشنا خواهد بود. حجم پرونده‌ها رشد می‌کند، داده‌ها در میان تیم‌های غیرمرتبط از بازرسان، تحلیل‌گران، متخصصان منابع انسانی، سرنخ‌های حفاظتی، حقوقی، امنیتی و تصمیم‌گیرندگان ارشد قرار می‌گیرند، و نادیده گرفتن ابزاری که می‌تواند گزارش‌های پرونده طولانی را در چند ثانیه فشرده کند، دشوار است.

مشکل زمانی شروع می‌شود که آن ابزار هرگز تأیید نشده است و خارج از محیط امنیتی قرار می‌گیرد و هیچ سابقه‌ای از آنچه از آن خواسته شده یا آنچه را که بازگردانده است باقی نمی‌گذارد. یک خطر بالقوه جدی تر این است که در پی اختصار یا تفسیر واقعیات، ممکن است اطلاعاتی را که برای یک تحقیق حیاتی هستند حذف یا نادیده بگیرد. وقتی گناه، بی گناهی و در نهایت جان در خطر باشد، چنین حذفیاتی غیرقابل قبول است.

در آن مرحله، خطر به یکپارچگی شواهد، انطباق با مقررات و در پلیس، اجرای عدالت می رسد.

این یک مشکل حاکمیتی است که می‌تواند در هر جایی که اطلاعات حساس و با پیامد بالا تفسیر، خلاصه یا برای حمایت از تصمیم‌های پرمخاطره استفاده می‌شود ظاهر شود. هرچه هوش مصنوعی مفیدتر شود، تعیین شرایطی که تحت آن می توان به طور ایمن از آن استفاده کرد، اهمیت بیشتری دارد.

هر سازمانی که از هوش مصنوعی برای مدیریت این نوع اطلاعات استفاده می کند، نیاز به سیاستی دارد که بیان کند کدام ابزارها تحریم می شوند، برای چه چیزی ممکن است مورد استفاده قرار گیرند، و قضاوت انسانی در کجا غیرقابل مذاکره باقی می ماند. در جایی که این مرزها مبهم باقی می‌مانند، مردم معمولا تحت فشار ضرب الاجل، مرزهای خود را ترسیم می‌کنند.

جایی که هوش مصنوعی عمومی از استانداردهای شواهد کوتاهی می کند

اطلاعات و تحقیقات بر اساس منشأ و قابلیت حسابرسی ساخته شده است. هر نتیجه گیری باید تا منبع آن قابل ردیابی باشد و هر مرحله باید ماه ها یا سال ها بعد در برابر چالش ها مقاومت کند.

اکثر ابزارهای هوش مصنوعی عمومی هرگز برای تحمل این بار طراحی نشده اند. تغذیه اطلاعات حساس به یک پلتفرم شخص ثالث، سؤالات فوری را در مورد امنیت، انطباق و حاکمیت داده ها ایجاد می کند. هنگامی که مواد از یک محیط کنترل شده خارج می‌شوند، سازمان از جایی که نگهداری می‌شود، چه کسی می‌تواند به آن دسترسی پیدا کند و اینکه آیا برای آموزش مدل نگهداری می‌شود یا خیر، غافل می‌شود.

سپس بحث دقت مطرح می شود. سیستم‌های مولد دائما در حال بهبود هستند، اما هنوز حاشیه‌ای برای خطا وجود دارد. برای مثال، پیچیده‌ترین مدل‌ها به نرخ توهم 4.2 درصدی دست می‌یابند که نسبت به نسخه‌های قبلی 12.2 درصد کاهش یافته است. این نشان می‌دهد که این ابزارها با بلوغ قابل اعتمادتر می‌شوند، اما هنوز باید بررسی شود.

خروجی های تولید شده توسط هوش مصنوعی در ارزش اسمی قابل اعتماد نیستند، آنها باید دوباره بررسی و تأیید شوند. در حالی که اطلاعات به عنوان یک واقعیت ارائه می شود، می تواند خارج از زمینه مناسب ارائه شود یا گاهی اوقات می تواند تحلیل توهم باشد. اینها می توانند قبل از اینکه کسی فکر کند آن را آزمایش کند به گزارش منتقل شود.

وقتی مطالب تولید شده توسط هوش مصنوعی اشتباه باشد یا تأیید آن غیرممکن باشد، پیامدهای آن در همه موارد زیر رخ می دهد. شواهد ضعیف، پیگرد قانونی را تضعیف می‌کند، تصمیم‌گیری‌ها را به تأخیر می‌اندازد و فرصت‌ها را در اختیار افرادی قرار می‌دهد که می‌خواهیم آنها را مختل کنیم. هیچ یک از این موارد باعث نمی شود که هوش مصنوعی از این روند خارج شود. این باعث می شود که نوع اشتباه را از خود دور نگه دارید.

آنچه که هوش مصنوعی تحقیقی هدفمند انجام می دهد متفاوت است

با این حال، هوش مصنوعی در عملیات های اطلاعاتی و تحقیقاتی جایی دارد. پلتفرم‌های تخصصی به استفاده از آن با قابلیت ممیزی و تداوم شواهدی که در پایه‌ها طراحی شده‌اند به جای اینکه بعدا پیچ‌خورده شوند، نزدیک می‌شوند. هوش مصنوعی بخش‌هایی از کار را که زمان می‌برند سرعت می‌بخشد و نقاط را بدون قضاوت به هم متصل می‌کند.

هنگامی که یک نهاد - مانند یک فرد، حساب بانکی یا شرکت - در گزارش‌های اطلاعاتی، سوابق تراکنش‌ها و مکاتبات داخلی ظاهر می‌شود، می‌تواند علامت‌گذاری کند و این ارتباطات را برای ارزیابی یک افسر ارائه کند. الگوها می توانند در عرض چند دقیقه ظاهر شوند، نه در طول هفته ها ارجاع متقابل دستی، و تصمیم در مورد معنای آن در جایی که به آن تعلق دارد باقی می ماند.

این پلتفرم‌ها همچنین در محیط‌های امن عمل می‌کنند و به سازمان‌ها کنترلی بر نحوه ذخیره و پردازش مواد حساس می‌دهند. پرسش‌ها، خروجی‌ها و تصمیم‌ها همگی می‌توانند مستند شوند، که نشان دادن پاسخگویی را در لحظه‌ای که مورد سؤال قرار می‌گیرد، بسیار آسان‌تر می‌کند.

حاکمیت تصمیم می گیرد که آیا هوش مصنوعی پابرجاست یا خیر

اعتماد به نحوه رسیدن به نتیجه بستگی دارد، درست به اندازه خود نتیجه. همانطور که هوش مصنوعی در پرونده ها جاسازی می شود، از سازمان ها خواسته می شود تا نشان دهند که به طور منصفانه، متناسب و با نظارت مناسب از آن استفاده شده است. کنترل های فنی به تنهایی پاسخگوی آن نیستند.

یک چارچوب حاکمیتی لازم است تا به طور موثر مسئولیت تصمیمات به کمک هوش مصنوعی را تعیین کند، نحوه اعتبارسنجی خروجی ها را مشخص کند، و اطمینان حاصل شود که افرادی که از این ابزار استفاده می کنند درک می کنند که محدودیت ها کجاست.

همچنین باید در مورد جایی که هوش مصنوعی نقشی ندارد، صریح باشد. برخی از فعالیت‌ها، به‌ویژه آن‌هایی که مربوط به رسیدگی‌های حقوقی، حفاظت از حقوق افراد است، اصلا برای کمک خودکار مناسب نیستند. ترسیم آن خط به اندازه انتخاب پلتفرم اهمیت دارد.

نوآوری تنها زمانی کار می کند که بتوان از آن دفاع کرد

بررسی‌های اخیر پلیس، هوش مصنوعی را در عملیات‌های اطلاعاتی و تحقیقاتی ضعیف نمی‌کند. این نشان می دهد که خرابی ها از کجا منشأ می گیرند، که در استفاده مدیریت نشده و غیرمجاز است، نه در خود فناوری.

سازمان‌هایی که بیشترین بهره را از آن می‌برند، سازمان‌هایی هستند که آن را در محیط‌های ایمن و قابل ممیزی مستقر می‌کنند که در آن هر بینشی قابل ردیابی، توضیح و دفاع است. صداقت چیزی است که به نوآوری اجازه می دهد تا از تماس با یک دادگاه یا یک تحقیق عمومی زنده بماند.

ما بهترین پیشگیری از از دست دادن داده ها را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit