ضروری است که برای امنیت داده های ایمن هوش مصنوعی آماده شوید

گسترش ابزارهای هوش مصنوعی در تجارت نیاز به امنیت داده ها و اعتماد را دوباره تعریف می کند. از آنجایی که عوامل هوش مصنوعی مستقل و تصمیم‌گیرنده از پروژه‌های آزمایشی به جریان‌های کاری اصلی تجاری می‌روند، سطح حمله سازمانی را به همان سرعتی که در حال پذیرش هستند گسترش می‌دهند.

گارتنر پیش‌بینی می‌کند که تا پایان سال 2026، 40 درصد از برنامه‌های کاربردی سازمانی دارای عامل‌های هوش مصنوعی ویژه وظایف خواهند بود، که این جهش از کمتر از 5 درصد در سال 2025 است. توصیه گارتنر به رهبران سازمان‌های نرم‌افزاری این است که استراتژی هوش مصنوعی عاملی خود را تنظیم کنند یا "خطر پیشی گرفتن از رقبا".

امنیت در حال تغییر است. آنچه زمانی تمرکز «ساده» روی رمزگذاری و دفاع محیطی بود دیگر به تنهایی کافی نیست: افزایش ریسک مبتنی بر هوش مصنوعی آن را به چالشی چند بعدی تبدیل کرده است که بر اساس اعتماد الگوریتمی، یکپارچگی مدل، و قرار گرفتن در معرض داده های مصنوعی ساخته شده است. مرزهای اعتماد در حال تغییر هستند و اکثر شرکت ها هنوز برای مدیریت آن مجهز نیستند.

با این حال، ناامن بودن هوش مصنوعی توسط سازندگانش قبلا ثابت شده است، با رخنه Hugging Face نشان می‌دهد که تقصیر یک عامل سرکش هوش مصنوعی بوده است. خطر آتی ناشناخته عوامل مستقلی که قادر به رفتار "ظهور" هستند، مسائل بزرگی را برای حفظ امنیت ایجاد می کند. اما این تنها یکی از خطرات بسیاری است که رهبران امنیت سایبری سازمانی با آن مواجه هستند.

در واقع، آمار سرمایه‌گذاری در امنیت سایبری نشان می‌دهد که کسب‌وکار به شدت برای تهدیدات جدید آماده نیست. در حالی که هزینه تخمینی سالانه جرایم سایبری در سطح جهان 10.5 تریلیون دلار است و پیش بینی می شود تا سال 2029 به 15.63 تریلیون دلار برسد، این پیش بینی هزینه امنیت اطلاعات 244 میلیارد دلاری گارتنر در سال 2026 را تحت الشعاع قرار می دهد.

داده‌های ماشینی مشکل کیفیت داده‌ها را با ورود زباله و خروج زباله تشدید می‌کند. این امر مستلزم طراحی مجدد فناوری و معماری های اعتماد با امنیت اینترنت در چرخه عمر داده ها است. رهبران امنیتی باید برای حفاظت از اکوسیستم‌های سازمانی خود، سرمایه‌گذاری‌های در نظر گرفته‌شده‌ای را در زمینه امنیت، شفافیت و حکمرانی فدرال هوش مصنوعی انجام دهند.

بزرگترین خطرات امنیتی که در حال حاضر دست کم می گیریم

با وجود بسیاری از تهدیدات که اکنون مبتنی بر هوش مصنوعی هستند، بعید است که یک شرکت واحد در برابر همه خطرات لازم محافظت کند، به همین دلیل است که رهبران کسب‌وکار وظیفه دارند امنیت داده‌های سطح بعدی را در اولویت قرار دهند.

اولا، حملات چند شکلی و ایجاد شده توسط هوش مصنوعی، فراتر از توانایی هر شرکتی برای مقابله با این حملات، بزرگ‌تر و سریع‌تر می‌شوند. Deepfake یکی از این تکنیک‌های سرقت و اخاذی مبتنی بر هوش مصنوعی است که می‌توان آن را در عرض چند دقیقه ایجاد کرد و فقط ۱۰۰۰ دلار هزینه داشت (در صورت وجود) برای ایجاد یک ربات مخرب که می‌تواند سیستم شما را هک کند و داده‌های جواهر تاج کسب‌وکار شما را دنبال کند.

با استفاده از این روش‌ها، هکرها می‌توانند با دستکاری تصمیم‌گیری به جای حملات مستقیم به زیرساخت‌های فناوری اطلاعات، بر مدل‌های هوش مصنوعی تأثیر بگذارند. هوش مصنوعی سایه‌ای و قرار گرفتن در معرض داده‌های مصنوعی نیز نگرانی‌های فزاینده‌ای است زیرا کارمندان از ابزارها، مدل‌ها و جریان‌های کاری غیرمجاز یا بدون دیوار آتش برای تکمیل وظایف و گزارش‌های روزمره استفاده می‌کنند.

بعدی افزایش پذیرش نمایندگی بدون کنترل ریسک است، به ویژه ریسک شخص ثالث، که بسیار زیاد است. هوش مصنوعی عامل به طور قابل توجهی سطح تهدید را افزایش داده است، با سیستم هایی که قادر به انجام اقدامات مستقل هستند. در عجله برای پیاده سازی هوش مصنوعی، دسترسی عوامل به انواع داده ها، حتی به داده های بسیار حساس، اغلب با دور زدن کنترل های سنتی سازمانی، اعطا می شود. وقتی عوامل به سیستم‌های خارجی متصل می‌شوند که آسیب‌پذیری‌های امنیتی آن بررسی نشده است، انواع نقاط کور ظاهر می‌شوند.

تزریق سریع یکی دیگر از خطرات مهم است، در سطحی مشابه با کل وابستگی شخص ثالث. این ایده این است که یک سازمان نمی داند چه چیزی واقعا به سیستم آنها راه می یابد. در ابتدا خوش خیم به نظر می رسد، می تواند در برخی از زمان ها مخرب شود. هنگامی که به آن ضربه می زند، کسب و کار نمی داند چه چیزی به آنها ضربه زده است.

انگار این کافی نیست، ما برای «روز Q» شمارش معکوس می‌کنیم، زمانی که رایانه‌های کوانتومی به اندازه‌ای قدرتمند شوند که استانداردهای نرم‌افزار رمزگذاری پرکاربرد امروزی را بشکنند. این مرحله ای است که مهاجمان قادر خواهند بود تقریبا تمام ارتباطات دیجیتال جهانی، تراکنش های مالی و سایر اشکال داده های امن را رهگیری، رمزگشایی و به خطر بیاندازند.

ملاحظات کلیدی برای رویکرد هوش مصنوعی مسئولانه

آنچه مورد نیاز است یک چارچوب رسمی برای ROI قابل اعتماد در عصر هوش مصنوعی است. این باید در مورد حفظ یکپارچگی منبع داده باشد. برای اعتماد به داده ها، مکانیسم ها یا موارد مختلفی وجود دارد که یک شرکت باید از آنها مراقبت کند، مانند هویت و مسئولیت پذیری.

ما باید بدانیم چه کسی بر روی داده ها عمل می کند و زمینه و کنترل داشته باشیم. سپس ما باید آن را به صورت متنی مجاز کنیم، نه به طور ضمنی، و این به معنای اعتبارسنجی مداوم رفتار و قصد است. این در حالی است که مطابق با یا تغییر چشم انداز نظارتی و حفظ نظارت انسانی در سراسر چرخه زندگی است.

هوش مصنوعی مسئول نیاز به شکل‌دهی کلی رویکردی دارد که تأثیر آن را بر کل زنجیره ارزش در اکوسیستم در نظر می‌گیرد. فقط این تضمین می کند که ارزش به افرادی که در سیستم می گذارند یا تحت تأثیر سیستم قرار می گیرند، تحویل داده می شود. عناصر زیر برای پیشبرد این امر ضروری است:

انسانهای پاسخگو

مفهوم پاسخگویی کلیدی است. این تمایل وجود دارد که بگوییم اگر اتفاق بدی بیفتد، دستگاه را مقصر می‌دانید، الگوریتم را مقصر می‌دانید، سیستم را مقصر می‌دانید. باید انسان های پاسخگو باشند که مسئولیت را بر عهده بگیرند. هوش مصنوعی برای درازمدت اینجاست و تاثیرات نسلی خواهد داشت، بنابراین اگر ما این را درک نکنیم و مسئولیت آن را نپذیریم، تصمیمات اشتباهی خواهیم گرفت.

چهار بعد هوش مصنوعی مسئول

در سطح بالا، تمرکز باید حول شفافیت، پاسخگویی، انصاف و حفاظت باشد. برخی از سوالات کلیدی باید به عنوان بخشی از ایجاد چارچوبی برای نتایج موفقیت آمیز پرسیده شوند، مانند: چگونه مطمئن می شوید که مدل های هوش مصنوعی و شیوه های داده شما شفاف هستند؟

چگونه مطمئن می شوید که برای تصمیمات مبتنی بر هوش مصنوعی مسئولیت پذیر هستید؟

چگونه مطمئن می شوید که نسبت به افرادی که تحت تأثیر سیستم های هوش مصنوعی شما قرار می گیرند منصف هستید؟

چگونه مطمئن می شوید که در کل چرخه عمر داده ها محافظت یا امنیت را ارائه می دهید؟ ایجاد حق بیمه اعتماد

در میان این چشم انداز ریسک جدید، اعتماد به یک دارایی رقابتی قابل اندازه گیری برای شرکت ها تبدیل شده است. سازمان‌هایی که استراتژی امنیت سایبری خود را به سطح بالاتری منتقل می‌کنند و در مراحل اولیه حکمرانی هوش مصنوعی، مدرن‌سازی رمزنگاری و معماری امنیتی سرمایه‌گذاری می‌کنند، در حال ایجاد امتیاز اعتماد هستند. تحقیقات PwC این را تایید می‌کند: در بین هزاران مدیر عامل شرکت‌کننده که در سراسر جهان برای بیست و پنجمین نظرسنجی سالانه مدیر عامل شرکت جهانی مورد بررسی قرار گرفتند، اعتماد مشتری 31 درصد از واریانس حاشیه سود و 21 درصد در بازگشت دارایی‌ها را توضیح داد - که ارتباط قوی‌تری با عملکرد مالی نسبت به اندازه شرکت دارد.

اعتماد بادوام نیازمند رویکردی است که در کل چرخه عمر عملیاتی داده ها ساخته و حفظ شود. این دیدگاه چرخه عمر کامل اعتماد شامل یکپارچگی منبع داده، کیفیت داده سرتاسر، هویت و مسئولیت پذیری، نظارت بر رفتار و اعتبارسنجی هدف، انطباق با مقررات و حاکمیت مؤثر، اعمال نظارت انسانی در سراسر چرخه عمر هوش مصنوعی است.

اتخاذ یک رویکرد روشمند برای حفاظت

مرزهای متغیر امنیت داده نیازمند رویکردی تازه است که شامل ساخت زیرساخت‌های داده انعطاف‌پذیر و بهترین شیوه‌هایی است که می‌تواند تهدیدات را در مسیر خود متوقف کند. امنیت سازمانی موفق آینده به همان اندازه به حاکمیت سیستم های مستقل و همچنین دفاع از شبکه ها بستگی دارد.

رویکرد درست این است که یک گام به عقب بردارید، کلی نگر فکر کنید، با در نظر گرفتن تمام اجزای سازنده ای که باید در جای خود قرار داده شوند، و سپس روشمندتر باشید. یک رویکرد روشمند از کسب و کار، مشتریان آن و از جامعه محافظت می کند تا همه ما بتوانیم پیشرفت کنیم.

انجام درست کارها به روش درست، مزایای متعددی را به همراه خواهد داشت، از جمله ارزش تضمین شده برای مشتریان و طول عمر کسب و کار، که هر دو به اعتماد و وفاداری مرتبط هستند.

ما بهترین نرم افزار فایروال را بررسی، رتبه بندی و رتبه بندی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit