ایمن سازی شرکت عامل با اصل و نسب داده

یک نماینده فروش از یک نماینده هوش مصنوعی قیمت گذاری مشتری را می خواهد و نماینده داده ها را از چندین منبع استخراج می کند: سیستم های قیمت گذاری محدود، ارتباطات داخلی و قیمت های آرشیو شده. خروجی برای نماینده دقیق به نظر می رسد، بنابراین نماینده دوم از داده ها برای پیش نویس پیشنهاد برای نماینده فروش استفاده می کند. بدون چک های انسانی یا تحویل. وقتی مشخص شد که این پیشنهاد شامل اطلاعات تایید نشده، محرمانه و حساس است، هیچ کس نمی تواند ردیابی کند که داده های مشکل دار کجا وارد گردش کار شده اند یا چگونه در سیستم ها، فایل ها و عوامل پخش شده اند.

گزارش را دانلود کنید

این سناریو نشان می دهد که چرا حاکمیت هوش مصنوعی باید به سرعت و به صورت پویا تکامل یابد. همانطور که شرکت‌های بیشتری شروع به استفاده از هوش مصنوعی عاملی در گردش‌های کاری روزانه می‌کنند، متوجه می‌شوند که باید بیش از فایل‌های استاتیک مدیریت کنند. آنها باید داده های متحرک و تکه تکه شده ای را که به طور مداوم جذب، کپی، خلاصه، تبدیل، استفاده مجدد و به اشکال جدید توزیع مجدد می شوند، مدیریت کنند. به طور خلاصه، امنیت هوش مصنوعی یک مشکل ابزار نیست. این یک مشکل دید داده است.

در نتیجه، رویکردهای امنیتی سنتی که صرفا پیرامون برنامه‌ها، سیستم‌ها، شبکه‌ها یا نقاط پایانی ساخته شده‌اند، دیگر کافی نیستند. ایمن سازی هوش مصنوعی عاملی در مقیاس مستلزم درک نحوه حرکت داده ها است. بنابراین، تیم‌ها برای مدیریت مؤثر حکمرانی، مسئولیت‌پذیری و اعتماد در سراسر جریان‌های کاری انسانی، عاملی و ترکیبی، باید خط و نسب داده ایجاد کنند.

گزارش را دانلود کنید

این محتوا توسط Insights، بازوی محتوای سفارشی MIT Technology Review، نه اعضای تحریریه آن تولید شده است. این توسط انسان ها تحقیق و نوشته شده است، با هر ابزار هوش مصنوعی که ممکن است محدود به فرآیندهای تولید تحت نظارت انسان باشد.