چگونه می توان انعطاف پذیری سازمانی را در برابر خطر رو به رشد هوش مصنوعی ایجاد کرد

تحقیقات جدید StackGen با تجزیه و تحلیل نزدیک به 178000 حادثه فناوری عمومی نشان داد که حوادث مرتبط با هوش مصنوعی اکنون بیش از یک مورد از هر 10 خاموشی گزارش شده را شامل می شود که تقریبا شش برابر میزان در سال 2023 است.

عوامل هوش مصنوعی داده ها، پایگاه های داده یا سیستم های زنده را بطور مستقل حذف کرده اند. آن عوامل با اعتبارنامه معتبر عمل کردند، به این معنی که نظارت سنتی تا زمانی که آسیب وارد نشده بود، هیچ چیز غیرعادی را شناسایی نکرد.

با تعبیه شدن هوش مصنوعی در فرآیندهای تجاری در پردازش ادعاها، کدگذاری، پشتیبانی مشتری، پشتیبانی تصمیم، کشف تقلب، منابع انسانی، تجزیه و تحلیل ریسک، و برنامه ریزی زنجیره تامین، قطع و وصل و نتایج ناخواسته یک خطر رو به رشد در سراسر شرکت است. و در حالی که ممکن است خطر بی سابقه یا جدید به نظر برسد، تمرین انعطاف پذیری ثابت مسیر رو به جلو را فراهم می کند.

هوش مصنوعی در حال ایجاد وابستگی‌ها و ریسک‌هایی است که اغلب دیده نمی‌شوند

فرآیندهای تجاری تعبیه شده با هوش مصنوعی تنها یکی از جنبه های ریسک هوش مصنوعی سازمانی است.

هوش مصنوعی همچنین خطر سایبری را برای شرکت ها تسریع می کند. مهاجمان اکنون می توانند از هوش مصنوعی برای مقیاس بندی دیپ فیک، فیشینگ، مهندسی اجتماعی، شناسایی و توسعه اکسپلویت ها استفاده کنند.

به‌علاوه، سیستم‌های هوش مصنوعی ممکن است در طول زمان رفتار خود را تغییر دهند و شکاف‌هایی را ایجاد کنند. این به احتمال زیاد زمانی رخ می دهد که منابع داده، ادغام ها، مدل ها و درخواست های هوش مصنوعی تغییر کنند.

کارمندان و تیم‌های سازمانی ممکن است از ابزارهای غیرمجاز هوش مصنوعی با اطلاعات حساس یا در جریان‌های کاری حیاتی تجاری استفاده کنند. این هوش مصنوعی سایه همچنین ریسک قابل توجهی برای سازمان ایجاد می کند.

در همین حال، پذیرش هوش مصنوعی سریع‌تر از بلوغ حکمرانی، وابستگی‌های عملیاتی ایجاد می‌کند.

پیچیدگی بازیابی لایه دیگری از خطر را اضافه می کند.

اگر یک گردش کاری فعال‌شده با هوش مصنوعی شکست بخورد، تصمیم‌های نادرستی ایجاد کند یا در دسترس نباشد، سازمان‌ها ممکن است تأثیر کسب‌وکار را ندانند یا بازگشتی دستی داشته باشند. این امر می‌تواند شرکت‌ها را بدون استراتژی‌های بازیابی معتبر رها کند، در حالی که تلاش می‌کنند دامنه و پیامدهای یک مشکل را در حالی که اختلال در حال آشکار شدن است، تعیین کنند.

شکست‌های هوش مصنوعی ممکن است جدید باشند، اما الزامات انعطاف‌پذیری آشنا هستند: سازمان‌ها باید بدانند که چه چیزی به هوش مصنوعی بستگی دارد، وقتی این وابستگی‌ها شکست می‌خورند چه اتفاقی می‌افتد، کسب‌وکار چه چیزی را از دست می‌دهد، و اقدامات مهم‌تر کجاست.

سازمان‌ها همچنین باید تعیین کنند که آیا مدل‌های پشتیبان می‌توانند در خلال اختلالات علاوه بر قرار دادن راه‌حل‌های قطعی یا حتی دستی به عنوان راه‌حل، مورد استفاده قرار گیرند یا خیر. اگر هوش مصنوعی تنها گزینه باشد، ممکن است یک نقطه شکست داشته باشید.

بسیاری از شرکت ها بدون اینکه متوجه شوند در معرض دید قرار می گیرند.

درک فرآیندهای احتمالی و قطعی

همانطور که هوش مصنوعی در عملیات تجاری جاسازی می‌شود، هر کسب‌وکاری باید متوقف شود و بپرسد کدام فرآیند می‌تواند پاسخ‌هایی را که «احتمالا درست» هستند و کدام نه. یک توصیه تولید شده توسط هوش مصنوعی که برای اطلاع از یک تصمیم استفاده می شود، احتمالا پاسخ های «احتمالا درست» را تحمل می کند. فرآیندی که یک تراکنش مالی را اجرا می کند، یک تعهد نظارتی را تعیین می کند یا یک عملیات مهم را کنترل می کند، نمی تواند. آن ها به یک نتیجه قابل پیش بینی و تکرار نیاز دارند.

سؤالات این است که کجا می توانیم عدم قطعیت ایجاد شده توسط هوش مصنوعی را تحمل کنیم، و وقتی پاسخ اشتباه باشد، چه اتفاقی برای کسب و کار می افتد؟

برای پاسخ به این سؤالات، باید تجارت را درک کنید. خدمات مهمی که ارائه می کند چیست و فرآیندها، فناوری، افراد و اشخاص ثالثی که به آنها وابسته هستند چیست؟ با این زمینه، سازمان ها می توانند ریسک هوش مصنوعی را از طریق چهار سوال تجاری ارزیابی کنند:

چه چیزی تحت تاثیر قرار می گیرد؟ اگر یک فرآیند فعال با هوش مصنوعی شکست بخورد یا نتیجه نادرستی ایجاد کند، کدام خدمات تجاری، مشتریان، عملیات و وابستگی ها تحت تأثیر قرار می گیرند؟

بعد چه اتفاقی می افتد؟ چگونه این شکست می تواند پیامدهای پایین دستی را منتشر کند یا ایجاد کند؟

قرار گرفتن در معرض مالی چیست؟ اختلال، خطا یا تأخیر ناشی از آن چه هزینه ای برای سازمان خواهد داشت؟

چه چیزی را در اولویت قرار دهیم؟ کنترل‌های اضافی، نظارت انسانی، فرآیندهای بازگشتی یا سایر اقدامات تاب‌آوری در کجا مهم‌تر هستند؟

ریسک هوش مصنوعی به یک تصمیم تجاری در مورد پیامد و تحمل تبدیل می شود. آن‌ها به سازمان‌ها کمک می‌کنند تا تعیین کنند که نتایج احتمالی در کجا قابل قبول است، کجا به حفاظت‌های اضافی مورد نیاز است، و جایی که تأثیر بالقوه برای تحمل عدم قطعیت بسیار مهم است.

تبیین پذیری را معیار خرید قرار دهید

اگر یک فروشنده نتواند به وضوح توضیح دهد که چگونه و چرا مدلش به یک خروجی می رسد، این چیزی بیش از یک شکاف ویژگی است. می تواند به یک منبع غیر کمی برای ریسک تجاری تبدیل شود.

همانطور که Harvard Business Review (HBR) توضیح می دهد، حتی اگر شرکتی فناوری هوش مصنوعی را برون سپاری کند، ریسک آن را در اختیار دارد. HBR به شکایت‌های اخیر علیه Cigna، iTutorGroup، Peloton و Workday اشاره می‌کند و خاطرنشان می‌کند: «محاکم و قانون‌گذاران [شرکت‌هایی که از سیستم‌های هوش مصنوعی استفاده می‌کنند] را مسئول می‌دانند که این ابزارها تبعیض‌آمیز، سوء استفاده از داده‌ها یا آسیب رساندن به مشتریان هستند.»

انطباق و مشکلات قانونی می تواند به سرعت منجر به آسیب مالی و اعتبار از طریق ضررهای رقابتی، از دست دادن مشتریان یا اعتماد مشتری، فروش سرمایه گذاران، هزینه های سرمایه بالاتر و افت قیمت سهام شود.

بنابراین، هنگام انتخاب تأمین‌کنندگان، کسب‌وکارها باید ارزیابی کنند که آیا خروجی‌های به کمک هوش مصنوعی می‌توانند برای تنظیم‌کننده‌ها توضیح، حسابرسی و دفاع شوند یا خیر. توضیح پذیری باید در کنار هزینه، عملکرد، امنیت و قابلیت اطمینان در نظر گرفته شود، نه اینکه پس از استقرار مورد توجه قرار گیرد.

نقشه وابستگی ها برای جلوگیری از نقاط شکست منفرد

خواه این یک مدل باشد که کل گردش کار به آن بستگی دارد یا تامین کننده ای که فروشنده شما به آن وابسته است، اتکا به هوش مصنوعی و مدل های مرزی خطر تمرکز جدیدی ایجاد کرده است. نقشه‌برداری وابستگی در مدیریت ریسک هوش مصنوعی به همان اندازه اهمیت دارد که در سایر روابط حیاتی تامین‌کننده اهمیت دارد و از آنجایی که هنوز در سال‌های اولیه هستیم، اهمیت آن با افزایش پذیرش افزایش می‌یابد.

درک وابستگی های مدل و داده بسیار مهم است زیرا خروجی های هوش مصنوعی به اندازه داده ها، زمینه و کنترل های پشت آن قابل اعتماد هستند. و از آنجایی که شرکت‌ها هوش مصنوعی را از طریق پلت‌فرم‌های ابری، سرویس‌های داده، ارائه‌دهندگان مدل و برنامه‌های شخص ثالثی که به طور کامل کنترل نمی‌کنند، اتخاذ می‌کنند، شرکت‌ها نیز باید عواقب پایین‌دستی را در صورتی که یکی از این وابستگی‌ها در دسترس یا غیرقابل اعتماد شود، درک کنند.

رویدادهای اخیر نشان می دهد که اختلال با چه سرعتی می تواند فراتر از منشاء ظاهری خود گسترش یابد. مناقشه خلیج فارس جریان جهانی نفت را مختل کرد و فشاری را در زنجیره تامین در بخش کشاورزی، تولید، نیمه هادی ها و حمل و نقل ایجاد کرد.

حمله باج افزار به Change Healthcare به طور مشابه نشان داد که چگونه اختلال در یک سازمان بسیار متصل می تواند عواقب عملیاتی را در کل اکوسیستم ایجاد کند و سازمان های مراقبت های بهداشتی را مجبور به استفاده از فرآیندهای دستی و سایر راه حل ها کند.

همانطور که قطعی اخیر OpenAI نشان می دهد، هوش مصنوعی همان چالش وابستگی را ایجاد می کند. هنگامی که آن، به عنوان یک ارائه‌دهنده اساسی هوش مصنوعی، در دسترس نبود، اختلال به سرویس‌ها و برنامه‌هایی مانند ChatGPT و Codex که در بالای آن ساخته شده بودند گسترش یافت.

ارائه‌دهنده مدل، منبع داده، سرویس ابری یا عامل هوش مصنوعی ممکن است به نظر برسد که از یک برنامه پشتیبانی می‌کند در حالی که در واقع در بالای ده‌ها فرآیند تجاری قرار دارد. بدون ترسیم این روابط، شرکت‌ها نمی‌توانند به طور قابل اعتماد تأثیر گسترده‌تری را در هنگام شکست چیزی تعیین کنند.

فهرست بندی عوامل هوش مصنوعی به عنوان دارایی

عوامل هوش مصنوعی با سرعت زیادی در بین شرکت ها در حال تکثیر هستند. عدم پیگیری این عوامل می تواند نوعی خطر هوش مصنوعی در سایه ایجاد کند.

برای مثال، اگر کارمند یا تیمی که مسئول یک عامل هوش مصنوعی است، تمرکز خود را ترک کند یا تغییر دهد، آن عامل یتیم هوش مصنوعی ممکن است بدون مالکیت یا نظارت لازم به کار خود ادامه دهد. یک عامل هوش مصنوعی ممکن است مجوزهای دسترسی به داده هایی را که دیگر نیازی ندارد حفظ کند. عوامل هوش مصنوعی که خارج از آگاهی و مدیریت سازمانی هستند نیز می‌توانند منجر به انطباق و شکست ممیزی، استقلال بیش از حد، نقاط کور واکنش به حادثه، هزینه‌های کنترل نشده و مشکلات دیگر شوند.

به همان روشی که سایر دارایی‌های حیاتی را فهرست‌بندی می‌کنید، عوامل فهرست‌نویسی می‌کنند. شرکت‌ها باید بدانند که هر عامل چه کاری انجام می‌دهد، چه کسی مالک آن است، به چه سیستم‌ها و داده‌هایی می‌تواند دسترسی داشته باشد، کدام فرآیندهای تجاری به آن بستگی دارد، و در صورت شکست یا رفتار غیرمنتظره چه اتفاقی می‌افتد.

این دید به سازمان ها درک واضح تری از محیط هوش مصنوعی، قرار گرفتن در معرض آنها و کنترل های لازم برای مدیریت آن می دهد.

تاب‌آوری سازمانی به سازمان‌ها کمک می‌کند تا از اختلال جلوتر بمانند

هوش مصنوعی تنها یکی از حوزه‌های ریسک سازمانی است، اما پذیرش سریع آن وابستگی‌های جدیدی را در بین عملیات‌های حیاتی ایجاد می‌کند.

این باعث می شود که خطر هوش مصنوعی به یک نگرانی در سطح اجرایی و هیئت مدیره تبدیل شود. سازمان‌هایی که در نحوه پذیرش، اداره و مدیریت هوش مصنوعی در سراسر شرکت انعطاف‌پذیری ایجاد می‌کنند، بدون از دست دادن کنترل کسب‌وکار، موقعیت بهتری برای جذب اختلال خواهند داشت.

ما بهترین نرم افزار آنتی ویروس را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit