چرا استراتژی امنیتی «هرگز اعتماد نکنید، همیشه تأیید کنید - تکرار شونده» برای عوامل هوش مصنوعی، پس از ورود شروع می شود

چارچوب‌های امنیتی دیجیتال مدرن در ابتدا برای تصحیح یک فرض تاریخی ناقص ساخته شدند: این باور که اگر کاربر یا سیستمی در شبکه شرکت باشد، می‌توان به طور ضمنی به آنها اعتماد کرد. در دهه گذشته، افزایش سریع فضای ذخیره‌سازی ابری، نرم‌افزارهای تجاری مبتنی بر اشتراک و کار از راه دور این مرز شبکه را از بین برد.

در پاسخ، مدل‌های امنیتی ما تمرکز را تغییر دادند. ما شروع به تأیید هویت شخصی کردیم که سعی در ورود به سیستم داشت، بهداشت رایانه او را بررسی کردیم، به مراحل تأیید چندگانه در حین ورود نیاز داشتیم، و به طور مداوم بررسی کردیم که آیا آنها همان کسی هستند که ادعا می کردند هستند.

این مدل زمانی که یک انسان برای انجام یک کار وارد سیستم می شود، به خوبی کار می کند. اما با ظهور عوامل هوش مصنوعی مستقل، خطر امنیتی واقعی در صفحه ورود متمرکز نیست. پس از اعطای دسترسی شروع می شود.

یک عامل هوش مصنوعی مانند یک نرم افزار استاندارد رفتار نمی کند. یک دستورالعمل انسانی را می‌خواند، زمینه را از پایگاه‌های اطلاعاتی شرکت بیرون می‌کشد، از مجموعه‌های متعدد ابزار استفاده می‌کند، ابزار دیجیتالی خود را انتخاب می‌کند، به لینک‌های ارتباطی نرم‌افزار خارجی متصل می‌شود و گردش‌های کاری خودکار پیچیده را راه‌اندازی می‌کند.

تأیید ورود اولیه به سادگی به شما می گوید که عامل به طور رسمی توسط سیستم شما به رسمیت شناخته شده است. این به شما مطلقا چیزی در مورد اینکه آیا اقدام بعدی که نماینده قصد انجام آن را دارد، ایمن، اخلاقی یا صحیح است یا خیر، نمی گوید، تمرکز بر روی زمینه تغییر کرده است.

تکامل مسئله هویت ماشین

تیم‌های فناوری اطلاعات نسخه ساده‌تر و آرام‌تری از این چالش را با هویت‌های غیرانسانی تجربه کرده‌اند. برای سال‌ها، شرکت‌ها از حساب‌های خدمات خودکار، نشانه‌های امنیتی و گواهی‌های دیجیتال استفاده می‌کنند تا به برنامه‌های نرم‌افزاری مختلف اجازه دهند تا با یکدیگر صحبت کنند.

اکثر رهبران امنیتی کاملا با خطراتی که این اعتبارنامه ها ایجاد می کند آشنا هستند: حساب ها برای یک پروژه موقت ایجاد می شوند، به فایل های پایگاه داده دسترسی دائمی داده می شوند و پس از مدت ها پس از پایان پروژه کاملا فراموش می شوند. آنها به درهای پشتی ساکت و بدون نظارت وارد شبکه می شوند.

با این حال، عوامل هوش مصنوعی این مشکل آشنا را با معرفی عنصر قضاوت مستقل پیچیده می کنند.

یک حساب سرویس سنتی از کدهای دقیق و از پیش نوشته شده پیروی می کند. در مقابل، یک عامل هوش مصنوعی یک هدف سطح بالا را تفسیر می کند، زمینه را در زمان واقعی تجزیه و تحلیل می کند، ابزارهای خود را انتخاب می کند و فعالانه تصمیم می گیرد که چگونه ادامه دهد.

در نتیجه، سیاست‌های امنیتی دیگر نمی‌توانند جلوی درب ورودی متوقف شوند. ما باید از هر داده داخلی یا دارایی محاسباتی که نماینده می تواند به آن دست یابد محافظت کنیم و تک تک تصمیم هایی را که می گیرد نظارت کنیم.

تطبیق استقلال با کنترل اجرایی

برای مدیریت این خطر، رهبران امنیتی باید دو مفهوم متمایز را از هم جدا کنند: یک عامل هوش مصنوعی چقدر استقلال دارد و چه سطحی از دسترسی به فایل دارد.

ترکیب این دو عامل سطح کنترل مورد نیاز را دیکته می کند. برای مثال، یک عامل اصلی که صرفا اسناد طولانی را خلاصه می‌کند، فقط به حقوق محدود خواندن و گزارش‌های فعالیت واضح نیاز دارد. با این حال، عاملی که برای به‌روزرسانی پایگاه‌های داده تولیدی حساس، دسترسی به مخازن کد، نوشتن انواع جدید کد یا تغییر گردش‌های کاری طراحی شده است، نیازمند مراحل تأیید انسانی اجباری، مرزهای عملیاتی دقیق، و مسیری روشن برای رفع هرگونه اشتباه است.

ما می‌توانیم این کارگران دیجیتال را به 3 سطح مجزا از استقلال طبقه‌بندی کنیم و با افزایش استقلال آنها، کنترل‌های امنیتی سخت‌تری را اعمال کنیم:

1. اول، نمایندگان هوش مصنوعی مکالمه ای (GenAI) وجود دارند، عوامل بهره وری معمولا توسط کارمندان و تیم ها به عنوان بخشی از بهره وری آنها ساخته و مدیریت می شوند (مانند نمایندگان مدیریت شده، ربات های چت خود میزبان). هنگام رانندگی امنیت، باید مجوز RBAC مناسب را فعال کنیم که با کارمند و تیم مرتبط است، دسترسی به داده‌های غیرحساس یا مرتبط با تولید را تضمین کنیم، ثبت‌نام را فعال کنیم و پاسخ را برای اطمینان از یکپارچگی مناسب تأیید کنیم.

2. دوم، عواملی هستند که با نرده‌های نیمه/کامل انسانی (عوامل AI) عمل می‌کنند، مانند ابزارهای پشتیبانی مشتری که ایمیل‌ها را پیش‌نویس می‌کنند یا به‌روزرسانی‌های پایگاه داده را برای بررسی آماده می‌کنند. در اینجا، تیم‌های امنیتی باید پارامترهای ابزارهای مورد استفاده را تأیید کنند و از یک انسان بخواهند که هر گونه اقدامی را که شامل نوشتن، حذف، خرج کردن پول یا ارسال اطلاعات به بیرون باشد، تأیید کند. همه کنترل های بالا اعمال می شود

3. در نهایت، عوامل کاملا مستقل (AI Agentic) وجود دارند که رمزهای عبور را بازنشانی می‌کنند یا گردش‌های کاری پیچیده را خود به خود راه‌اندازی می‌کنند. اینها به سخت‌ترین مرزها نیاز دارند، از دید (معماری عامل، استفاده از ابزار، و موارد دیگر) و تمرکز بر مجموعه فعال کنترل‌ها. این کنترل ها شامل محدودیت های سختگیرانه نرخ، بررسی خط مشی بی درنگ مستمر، محدودیت های دسترسی به شبکه، کنترل های امنیتی زمان اجرا (ابر عمومی/خصوصی)، هویت پیوسته و حداقل تأیید مجوز، و در نهایت مسیرهای حسابرسی کامل و غیرقابل تغییر است.

صنعت به سمت عوامل خودمختار متمایل است که به دنبال تایید انسانی بر روی رفتار غیرعادی هستند، آیا می‌توان آن را در عامل شما تحریک کرد؟

نیاز به بازرسی در زمان واقعی

برای اجرای این سیاست ها، تیم های امنیتی به یک نقطه برتری اختصاصی در شبکه نیاز دارند. آنها باید بتوانند درخواست های انسانی، پاسخ عامل، ابزارهای دیجیتالی مورد استفاده و حرکت داده ها را در حالی که کار واقعا در حال انجام است، بازرسی کنند.

این به معماری نیاز دارد که بتواند تمام فعالیت های عامل فعال را در سراسر کسب و کار کشف کند، بر نحوه استفاده آن نمایندگان از ابزارهای داخلی حاکم باشد، و دید کامل را بر جریان داده ها و گردش کار خودکار حفظ کند.

ارزش واقعی این رویکرد در زمینه نهفته است. وقتی رفتار یک عامل هوش مصنوعی در کنار ترافیک شبکه، فعالیت کاربر و گزارش‌های پایگاه داده ابری مشاهده می‌شود، تیم‌های امنیتی می‌توانند حوادث را با شواهد واضح بررسی کنند. آن‌ها می‌توانند فورا ببینند کدام عامل اجرا می‌شود، چه کسی در سازمان مالک آن است، چه داده‌هایی منتقل شده‌اند، و کدام ابزار خودکار فراخوانی شده است.

برای رهبران کسب‌وکار، این به معنای حکومت پاک‌تر و سازگارتر در میان کاربران انسانی، برنامه‌های کاربردی نرم‌افزاری و عوامل دیجیتال است.

نحوه شروع: با یک گردش کار شروع کنید

ایمن سازی این چشم انداز جدید نیازی به بازنگری کامل کل بخش امنیتی شما یک شبه ندارد.

با انتخاب یک گردش کاری هوش مصنوعی که در حال حاضر در حال استفاده است یا نزدیک به راه اندازی است، شروع کنید. هویت دیجیتالی آن، سطح استقلال آن، فایل‌هایی که می‌تواند به آن دسترسی داشته باشد، ابزارهایی که استفاده می‌کند، نقاطی که یک انسان باید یک عمل را تأیید کند، و اینکه چگونه یک اشتباه را خنثی می‌کنید، ترسیم کنید.

این تمرین نقشه برداری ساده به سرعت محل شکاف های امنیتی شما را مشخص می کند. اگر نمی توانید اقدامات عامل را در زمان واقعی مشاهده کنید، تصمیمات آن را تأیید کنید، دسترسی آن را مسدود کنید، یا رفتار آن را بعد از این واقعیت توضیح دهید، کنترل های امنیتی شما به سادگی بسیار دور هستند.

از آنجا، یک خط پایه در مورد اینکه چگونه عوامل برنامه نویسی خود، مهار هوش مصنوعی (یا هماهنگ کننده هوش مصنوعی) را تا استفاده از ابزارها/مهارت ها/MCP ایمن می کنید، ایجاد کنید و به سمت دسترسی به دارایی های داده و استفاده از هویت که به شما امکان می دهد پایه ها و ریل های نگهبان درست را تنظیم کنید.

اصل اصلی مدل امنیتی «هرگز اعتماد نکن، همیشه تأیید کن» باید عامل را در کارهای روزانه خود دنبال کند. مهم ترین تصمیم دیگر این نیست که چه کسی وارد سیستم می شود، بلکه این است که آیا عمل بعدی آنها باید در همین شرایط دقیقا در حال حاضر انجام شود یا خیر.

ما بهترین نرم افزار حفاظت نقطه پایانی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit