گزارش ادعا می کند که هوش مصنوعی اقدامات امنیتی خطرناکی را توصیه می کند - بنابراین شاید هنوز نباید کنترل کامل سیستم های خود را به شما واگذار کنید.

گزارش می گوید که به هوش مصنوعی اختیارات و استقلال بیش از حد برای مدیریت تصمیمات امنیتی حیاتی کسب و کار داده شده است

70 درصد از سازمان ها تصمیماتی را به هوش مصنوعی واگذار می کنند که 12 ماه پیش توسط یک انسان گرفته می شد

یک «شکاف کنترلی» بین اختیارات داده شده به هوش مصنوعی و توانایی سازمان برای ممیزی آن وجود دارد تحقیقات جدید ادعا می‌کند که واگذاری تصمیمات پیچیده به هوش مصنوعی سازمان‌ها را به سمتی سوق می‌دهد که فناوری نسبتا جدیدی را مسئول مجوزهای کاربر، کنترل داده‌های حساس و مسائل امنیتی ریسک کنند.

مطالعه ای توسط Illumio به این موضوع پرداخته است که سازمان ها چگونه تصمیماتی را که اخیرا توسط انسان ها انجام می شود به هوش مصنوعی می دهند، بدون اینکه ظاهرا احتمال بروز مشکلات جدی را در نظر بگیرند.

این نشان داد که اکثریت (70 درصد) سازمان‌ها تصمیمات قبلی را که توسط انسان گرفته شده است به هوش مصنوعی واگذار می‌کنند، اما تنها حدود نیمی از آنها (49 درصد) می‌توانند ببینند که یک عامل هوش مصنوعی چه اقدامی انجام می‌دهد و آن را ممیزی می‌کند.

توصیه های هوش مصنوعی

ماهیت عوامل هوش مصنوعی این استراتژی را به یک استراتژی خطرناک تبدیل می‌کند و تحقیقات نشان داده است که 56 درصد از سازمان‌ها نسبت به 12 ماه پیش حاضر به پذیرش ریسک‌های سایبری بزرگ‌تر هستند. تقریبا نیمی از آن گروه (47 درصد) اذعان کرده‌اند که اجازه فعالیت‌های هوش مصنوعی در محیط‌های تولیدی را داده‌اند.

اجازه دادن به عوامل هوش مصنوعی برای اجرای رایگان داده‌ها، برنامه‌ها و زیرساخت‌های سازمانی منجر به موقعیت‌های کاملا قابل اجتناب می‌شود. تحقیقات Illumio نشان داد که شکاف کنترلی بین قوانینی که سازمان‌ها معتقدند عوامل هوش مصنوعی در آن عمل می‌کنند و آنچه که این فناوری واقعا قادر به انجام آن است وجود دارد.

حدود 76 درصد از سازمان ها به لطف هوش مصنوعی در سال گذشته یک یا چند مشکل امنیتی را تجربه کرده اند که 35 درصد نشان می دهد که پیروی از توصیه های هوش مصنوعی منجر به خطرات امنیتی می شود. در همین حال، 26 درصد گزارش کردند که عوامل یا ابزارهای هوش مصنوعی بدون تأیید لازم به سیستم‌های دیگر متصل شده‌اند.

نگران‌کننده‌تر این است که 24 درصد از سازمان‌ها گزارش می‌دهند که هوش مصنوعی به داده‌هایی دسترسی پیدا می‌کند که نمی‌تواند آنها را ببیند، و 24 درصد دیگر اعلام می‌کنند که این اقدام غیرمجاز را آغاز کرده (یا تولید کرده است).

محدودیت های سختگیرانه

البته، هوش مصنوعی در حال حاضر در امنیت سایبری مورد استفاده قرار می‌گیرد و با عرضه‌کنندگان متعددی که راه‌حل‌های تقویت‌شده با هوش مصنوعی را ارائه می‌کنند، موفق بوده است. اما در حالی که ۶۷ درصد از سازمان‌ها از ابزارهای امنیت سایبری هوش مصنوعی استفاده می‌کنند، ۳۲ درصد به هوش مصنوعی اجازه می‌دهند بدون نظارت انسان تحقیقات انجام دهد و ۲۹ درصد به نرم‌افزار اجازه می‌دهند تا تغییرات کد را کاملا بدون نظارت اجرا کند.

Raghu Nandakumara، معاون استراتژی صنعت در Illumio، خاطرنشان کرد: "بزرگترین خطر هوش مصنوعی ممکن است سیستمی نباشد که قوانین آن را زیر پا بگذارد. ممکن است سیستمی باشد که در وهله اول هرگز محدودیت های معنی داری برای آن قائل نشد."

رها کردن عوامل هوش مصنوعی بدون محدودیت باعث شده است که مشاغل برای کنترل نرم افزار با مشکل مواجه شوند.

همانطور که نانداکومارا مشاهده می کند، عوامل هوش مصنوعی مداوم هستند و تلاش برای گول زدن حرکت بعدی آنها بی معنی است. درعوض، "کسب و کارها باید محدودیت های سختی را در مورد آنچه که می توانند به آن دسترسی داشته باشند و انجام دهند، تعیین کنند، سپس آن محدودیت ها را در برنامه و در سراسر زیرساخت های زیربنایی اعمال کنند. به این ترتیب شما رفتار غیرمنتظره ای را قبل از اینکه آسیب واقعی ایجاد کند، کنترل کنید."