«این نشان‌دهنده یک تحول مهم در حکمرانی هوش مصنوعی است»: Infosys نشان می‌دهد که چگونه کسب‌وکار شما می‌تواند با نسل جدید عوامل هوش مصنوعی رونق بگیرد.

از آنجایی که سازمان‌ها به دنبال پذیرش نسل جدیدی از عوامل هوش مصنوعی مستقل هستند که می‌توانند به سیستم‌های سازمانی دسترسی داشته باشند، تصمیم بگیرند و با سایر عوامل هوش مصنوعی تعامل داشته باشند، سؤالات جدیدی در مورد نحوه اداره و ایمن شدن این سیستم‌ها مطرح می‌شود.

از آنجایی که مدیریت هوش مصنوعی و هویت‌های غیرانسانی به سرعت یکی از مهم‌ترین چالش‌هایی است که سازمان‌ها در سال‌های آینده با آن مواجه خواهند شد، ما با Umashankar Lakshmipathy، EVP و رئیس Cloud، زیرساخت‌ها و خدمات امنیتی، EMEA، Infosys صحبت کردیم تا بیشتر بدانیم. همانطور که سازمان‌ها از دستیاران هوش مصنوعی به عوامل هوش مصنوعی مستقل می‌روند، چه چالش‌های امنیتی و حکومتی جدیدی در حال ظهور هستند؟ حرکت به سمت عوامل هوش مصنوعی مستقل چالش‌های امنیتی و حاکمیتی جدیدی ایجاد می‌کند زیرا این سیستم‌ها می‌توانند با مشارکت محدود انسانی تصمیم‌گیری و اقداماتی انجام دهند.

برخلاف دستیارهای هوش مصنوعی که در درجه اول اطلاعات یا توصیه‌ها را تولید می‌کنند، نمایندگان می‌توانند به داده‌های سازمانی دسترسی داشته باشند، از برنامه‌ها و ابزارها استفاده کنند، با سایر عوامل ارتباط برقرار کنند و از طرف مردم یا فرآیندهای تجاری عمل کنند.

این استقلال بیشتر، تأثیر احتمالی یک خطا، دستکاری، یا امنیت را افزایش می دهد. یک عامل ممکن است هویت معتبر و دسترسی قانونی به سیستم داشته باشد، اما همچنان می‌تواند اقداماتی را انجام دهد که خارج از هدف مورد نظرش باشد. این خطر زمانی که عامل ها در چندین سیستم عمل می کنند مهم تر می شود، زیرا یک تصمیم نادرست می تواند دنباله ای از اقدامات را آغاز کند که تشخیص، توضیح یا معکوس کردن آن دشوار است.

بنابراین سازمان ها باید بیش از مدل هوش مصنوعی حکومت کنند. هر نماینده به یک هدف تجاری تعریف شده، یک مالک پاسخگو و محدودیت های واضح در مورد داده ها، سیستم ها و اقدامات در دسترس نیاز دارد. فعالیت‌های حساس یا پرتأثیر به حفاظت‌های قوی‌تری نیاز دارند، در حالی که سازمان‌ها به دید کافی برای ردیابی نتیجه به شخص یا فرآیندی که آن را آغاز کرده، عاملی که اقدام کرده و ابزارهایی که استفاده می‌کند، نیاز دارند.

این نشان دهنده یک تحول مهم در حکمرانی هوش مصنوعی است. سازمان ها باید به مدیریت کیفیت و ایمنی محتوای تولید شده توسط هوش مصنوعی ادامه دهند، اما اکنون باید تصمیمات و اقداماتی را که عوامل مستقل می توانند اجرا کنند نیز کنترل کنند. برقراری صحیح این تعادل برای دستیابی به مزایای بهره‌وری هوش مصنوعی بدون ایجاد ریسک‌های عملیاتی، مالی یا نظارتی غیرقابل قبول ضروری است. با افزایش پذیرش هوش مصنوعی عاملی، چرا «هویت های غیر انسانی» به موضوع مهمی برای شرکت ها تبدیل می شوند؟ چه خطرات و فرصت هایی وجود دارد که عوامل هوش مصنوعی شروع به برقراری ارتباط می کنند و م

تصمیم گیری با سایر عوامل هوش مصنوعی؟ هویت‌های غیرانسانی در حال تبدیل شدن به یک موضوع مهم سازمانی هستند زیرا بخش فزاینده‌ای از فعالیت‌های دیجیتال توسط برنامه‌ها، APIها، حساب‌های خدمات، اتوماسیون و عوامل هوش مصنوعی به جای کارمندان انجام می‌شود. عوامل هوش مصنوعی اهمیت این هویت‌ها را افزایش می‌دهند، زیرا می‌توانند اطلاعات را تفسیر کنند، تصمیم بگیرند و اقداماتی را آغاز کنند، نه صرفا دستورالعمل‌های از پیش تعریف‌شده را اجرا کنند.

این امر دید، مالکیت و مدیریت دسترسی را ضروری می کند. سازمان‌ها به فهرست دقیق هویت‌های غیرانسانی که در محیط اطرافشان عمل می‌کنند، همراه با درک روشنی از هدف تجاری، مالک پاسخگو و دسترسی به سیستم‌ها و داده‌ها نیاز دارند. بدون این پایه، مجوزهای بیش از حد، اعتبارنامه‌های طولانی مدت و هویت‌هایی که پس از پایان هدف اصلی‌شان فعال باقی می‌مانند، در معرض امنیت مادی قرار می‌گیرند.

ارتباط بین نمایندگان فرصت های تجاری قابل توجهی ایجاد می کند. عوامل تخصصی می توانند برای خودکارسازی فرآیندهای پیچیده در خدمات مشتری، عملیات، مهندسی نرم افزار و دفاع سایبری با یکدیگر همکاری کنند. فرآیندی که قبلا به چندین تیم و سیستم نیاز داشت، به طور بالقوه می‌توانست توسط گروهی از عوامل که با سرعت بسیار بیشتری کار می‌کنند، هماهنگ شود.

با این حال، همکاری عامل به عامل نیز زنجیره‌ای از وابستگی و اعتماد ایجاد می‌کند. یک عامل در معرض خطر یا ضعیف می تواند اطلاعات نادرست را از طریق یک گردش کار ارسال کند، بر تصمیمات عامل دیگر تأثیر بگذارد یا سعی کند از یک عامل ممتازتر برای انجام عملی استفاده کند که نمی تواند مستقیما آن را اجرا کند. زمانی که سازمان ها نتوانند تعیین کنند که کدام عامل اقدامی را آغاز کرده یا تحت اقتدار چه کسی انجام شده است، این خطرات می توانند چند برابر شوند.

بنابراین سازمان ها باید همکاری عامل را در محدوده های تجاری و امنیتی تعریف شده فعال کنند. هویت، اختیار و هدف هر عامل باید به‌طور مستقل ارزیابی شود نه اینکه اجازه داده شود اعتماد یا حقوق دسترسی به طور خودکار از یک عامل به نماینده دیگر منتقل شود. این رویکرد به شرکت‌ها اجازه می‌دهد تا از اتوماسیون چند عاملی بهره ببرند و در عین حال کنترل و مسئولیت‌پذیری را در کل فرآیند کسب‌وکار حفظ کنند.

چگونه سازمان‌ها می‌توانند تعادل مناسبی بین دادن استقلال به عوامل هوش مصنوعی و حفظ نظارت و کنترل مناسب ایجاد کنند؟ سطح مناسب استقلال برای یک عامل هوش مصنوعی باید بر اساس تأثیر تجاری فعالیت های آن، حساسیت اطلاعات درگیر و اینکه چگونه به راحتی می توان اقدامات آن را معکوس کرد، تعیین شود. اعمال سطح یکسان نظارت بر هر عامل یا باعث ایجاد اصطکاک غیر ضروری می شود یا فعالیت های پرخطر را به اندازه کافی کنترل نمی کند.

به عنوان مثال، عاملی که اطلاعات عمومی را تجزیه و تحلیل می کند یا یک خلاصه داخلی تولید می کند، می تواند با نظارت نسبتا کمی کار کند. عاملی که به اطلاعات مشتری دسترسی پیدا می کند، زیرساخت تولید را تغییر می دهد، تصمیمات نظارتی می گیرد یا تراکنش های مالی را آغاز می کند، به مرزهای بسیار سخت تری نیاز دارد.

با این حال، سازمان ها باید استقلال را به تدریج معرفی کنند. برخی از عوامل کمک خواهند کرد و توصیه هایی را برای افراد ارائه می دهند تا در نظر بگیرند. دیگران ممکن است اقداماتی را آماده کنند که نیاز به تایید انسان دارند. عوامل بالغ‌تر می‌توانند به‌طور مستقل در محدوده‌های تأیید شده عمل کنند و موقعیت‌هایی را تشدید کنند که خارج از اختیارات عادی آنهاست. عواملی که فعالیت‌های بسیار قابل پیش‌بینی و به خوبی کنترل شده را انجام می‌دهند، ممکن است نهایتا از استقلال گسترده‌تری برخوردار شوند، مشروط بر اینکه اقدامات آنها قابل مشاهده، کنترل و قابل توقف باشد.

نظارت انسانی همچنان مهم است، اما نیاز به تأیید برای هر اقدامی، کارایی را که هوش مصنوعی عاملی در نظر گرفته شده است، تضعیف می کند. همچنین می‌تواند منجر به خستگی تأیید شود، جایی که بررسی‌ها عادی می‌شوند و حفاظت معنی‌داری کمی ارائه می‌دهند. مشارکت انسانی برای اقداماتی که از نظر مالی مهم، از نظر قانونی حساس هستند، به سختی قابل برگشت هستند یا خارج از مرزهای عملیاتی تعیین شده عامل هستند، بسیار ارزشمند است.

هدف اعطای حداکثر استقلال ممکن به کارگزاران نیست. این است که به هر عامل استقلال کافی برای ارائه ارزش تجاری داده شود و در عین حال تصمیمات خود را در سطح قابل قبولی از ریسک نگه دارد. فعالیت‌های روتین و برگشت‌پذیر را می‌توان خودکار کرد، در حالی که تصمیم‌های متعاقب آن همچنان مشمول پادمان‌های قوی‌تر و پاسخگویی سازمانی واضح‌تر هستند. آیا چارچوب های موجود امنیت سایبری، هویت و حاکمیت برای عصر هوش مصنوعی عامل کافی است یا سازمان ها به رویکرد جدیدی نیاز دارند؟ چارچوب های موجود امنیت سایبری، هویت و حاکمیت، پایه ای قوی برای عاملیت فراهم می کند

هوش مصنوعی، اما آنها بدون انطباق بیشتر کافی نیستند. سازمان‌ها نیازی به جایگزینی قابلیت‌های ایجاد شده مانند Zero Trust، حاکمیت هویت، مدیریت دسترسی ممتاز و مدیریت ریسک هوش مصنوعی ندارند. با این حال، آنها باید این قابلیت ها را به صورت پویاتر برای عواملی که می توانند با سرعت ماشین تصمیم بگیرند و اقداماتی انجام دهند، اعمال کنند.

بسیاری از کنترل‌های سنتی حول اعطای دسترسی به یک شخص، برنامه یا سرویس و بررسی دوره‌ای آن دسترسی طراحی شده‌اند. هوش مصنوعی عاملی یک مدل عملیاتی پویاتر را معرفی می کند. یک نماینده ممکن است به چندین منبع داده دسترسی داشته باشد، ابزارهای متعددی را فراخوانی کند، با سایر عوامل تعامل داشته باشد و تصمیمات متعددی را در طول یک فرآیند تجاری اتخاذ کند. احراز هویت به تنهایی نمی تواند مشخص کند که آیا هر اقدام بعدی مناسب است یا خیر.

بنابراین چارچوب های موجود باید به چندین روش عملی گسترش یابند. هر نماینده باید یک هویت منحصر به فرد، یک هدف تجاری تایید شده، یک مالک پاسخگو و یک چرخه حیات مدیریت شده داشته باشد. اختیارات آن باید محدود به وظیفه ای باشد که انجام می دهد و نباید بیش از حد لازم فعال بماند. هنگامی که یک نماینده به اطلاعات حساس دسترسی پیدا می کند، از ابزارهای ممتاز استفاده می کند یا اقدام به اقدامی با تأثیر تجاری قابل توجه می کند، باید پادمان های قوی تری اعمال شود.

سازمان ها همچنین باید بتوانند نحوه تولید یک نتیجه را بازسازی کنند. این به معنای حفظ یک سوابق واضح است که فرد یا فرآیند کسب‌وکار مبدأ را با عوامل درگیر، داده‌ها و ابزارهایی که استفاده می‌کنند، اقداماتی که انجام داده‌اند و نتیجه حاصله مرتبط می‌کند. این دید برای نظارت، تحقیق، تضمین نظارتی و مداخله سریع در صورت بروز مشکل ضروری است.

بنابراین رویکرد مورد نیاز به جای ایجاد یک محیط کنترل جداگانه برای عوامل هوش مصنوعی، تکامل امنیت و حاکمیت موجود است. با گسترش چارچوب‌های تعیین‌شده برای کنترل هویت، اختیار و اقدامات عامل به طور مداوم، سازمان‌ها می‌توانند هوش مصنوعی عاملی را در عین حفظ کنترل منسجم در کل سازمان، مقیاس‌بندی کنند.