انتظار می رود که بحث ایمنی هوش مصنوعی فشار بیشتری را بر مدیران مالی وارد کند

به گفته یک کارشناس رهبری امور مالی و یک مشاور هوش مصنوعی، نگرانی‌های فزاینده در مورد ایمنی و قابلیت اطمینان هوش مصنوعی می‌تواند ریسک سرمایه‌گذاری‌های بالقوه در این فناوری را ارزیابی کنند.

در حالی که انتظار نمی رود این بحث فشارهای پذیرش هوش مصنوعی را کاهش دهد، کارشناسان می گویند که می تواند گفتگوهای عمیق تری در مورد مدیریت ریسک به عنوان بخشی از فرآیند تصمیم گیری سرمایه گذاری ایجاد کند.

جک مک کالو، بنیانگذار و رئیس شورای رهبری CFO، در ایمیلی گفت: «من معتقدم که این یک نقطه عطف است، اما لزوما یک کاهش نیست.

دن پریست، مدیر ارشد هوش مصنوعی ایالات متحده در PwC، به طور مشابه گفت که این بحث می تواند نشان دهنده تغییر به سمت آمادگی بیشتر هوش مصنوعی و تاکید بیشتر بر استفاده مسئولانه به جای عقب نشینی در سرمایه گذاری هوش مصنوعی سازمانی باشد.

پریست در ایمیلی گفت: «ترس و اعتماد به‌عنوان باد مخالف برای پذیرش بوده است و خطرات بیشتر مورد توجه قرار می‌گیرند، اما کارهای معقولی وجود دارد که می‌توان برای رفع نگرانی‌های ایمنی انجام داد و همچنان به هوش مصنوعی دست یافت.» بحث در حال حاضر احتمالا این راه حل ها را تسریع خواهد کرد.»

حوادث اخیر مربوط به مدل‌های AI سرکش بحث‌های ایمنی گسترده‌ای را برانگیخته و کنگره را برای اقدام فراخوانده است.

Anthropic در اواخر ژوئیه فاش کرد که حوادثی را کشف کرد که در آن برخی از مدل‌های آن از محیط آزمایشی فرار کردند و به سیستم‌های سازمان‌های دیگر دسترسی غیرمجاز پیدا کردند. این خبر پس از افشای OpenAI منتشر شد مبنی بر اینکه مدل‌های AI توسعه یافته در پس یک "حادثه سایبری بی‌سابقه" هستند که روی Hugging Face تأثیر گذاشته است.

این بحث در این ماه بیشتر شد که جیکوب کوکسون به طور علنی از سمت خود به عنوان یک محقق Anthropic استعفا داد و هشدار داد که صنعت خیلی سریع به سمت سیستم های هوش مصنوعی خود-بهبود حرکت می کند.

داریو آمودی، مدیرعامل آنتروپیک متعاقبا از شرکت‌ها خواست تا سرعت توسعه هوش مصنوعی مرزی را کاهش دهند، از جمله از طریق ارزیاب‌های مستقل ایمنی و هماهنگی بیشتر در مورد استانداردهای ایمنی. سم آلتمن، مدیر عامل OpenAI و ایلان ماسک، مدیر عامل xAI، علنا از این پیشنهاد حمایت کردند.

روز چهارشنبه، OpenAI چارچوب جدیدی را برای ردیابی و گزارش علنی مدل «ناهمترازی» اعلام کرد و شش مورد دیگر مربوط به رفتارهای AI سرکش را فاش کرد.

مدیران مالی در حال حاضر روی سؤالاتی در مورد قابلیت اطمینان، کنترل ها و مسئولیت پذیری هنگام ارزیابی سرمایه گذاری های هوش مصنوعی متمرکز شده اند. مک کالو گفت، اما تشدید بحث پیرامون شکست‌های هوش مصنوعی و پیامدهای ناخواسته می‌تواند این مسائل را در نحوه ارزیابی شرکت‌ها از فناوری محوری‌تر کند.

او گفت: «این دیگر صرفا یک تصمیم فناوری نیست. "این یک تصمیم تخصیص سرمایه، مدیریت ریسک و حکمرانی است، همه حوزه هایی که مدیر مالی در آن نقش اساسی دارد."

مک کالو گفت: سوال اصلی این است که آیا شرکت ها در سطح ریسکی که درک می کنند و آماده پذیرش آن هستند، ارزش ایجاد می کنند یا خیر.

او گفت: «مدیر مالی نباید فردی باشد که به هوش مصنوعی نه می گوید. در عوض، رهبران مالی باید پذیرش مسئولانه را از سرمایه‌گذاری‌هایی که عمدتا توسط هیاهو یا فشار رقابتی هدایت می‌شوند، متمایز کنند.

مک کالو گفت که رهبران امور مالی باید به جای تلقی کردن خطرات این فناوری به عنوان یک موضوع انتزاعی، روی این موضوع تمرکز کنند که چگونه شکست های هوش مصنوعی می تواند در عمل بر تجارت تأثیر بگذارد.

شکست‌ها می‌توانند از طریق پرداخت‌ها یا تصمیم‌های قیمت‌گذاری اشتباه، وقفه در کسب‌وکار، جریمه‌های نظارتی، دعوی قضایی، افشای داده‌ها، اختلافات مالکیت معنوی و هزینه‌های اصلاح، قرار گرفتن در معرض مالی ایجاد کنند.

پریست گفت شرکت‌ها باید آماده باشند تا تمام هزینه‌های یک ابتکار هوش مصنوعی شامل داده‌ها، آزمایش‌ها، نظارت، حاکمیت و نیازهای نیروی کار را تامین کنند. او گفت که این هزینه ها باید از ابتدا در پرونده ارزش گنجانده شود و با نتیجه مورد انتظار کسب و کار سنجیده شود.

به گفته پریست، سطح کنترل ها باید به مورد استفاده بستگی داشته باشد. او گفت که یک ابزار هوش مصنوعی که برای کمک به پیش‌نویس مواد بازاریابی استفاده می‌شود، یک نمایه ریسک متفاوت از ابزاری که برای تصمیم‌گیری مربوط به خزانه‌داری، گزارش‌های مالی یا امنیت سایبری استفاده می‌شود، ارائه می‌کند.

قبل از تأیید استقرار قابل توجه هوش مصنوعی، مک کالو گفت که رهبران مالی باید سؤالاتی مانند این را در نظر بگیرند: "در صورت شکست این سیستم حداکثر ضرر و زیان معتبر چقدر است - و ما چقدر سریع می توانیم بفهمیم؟"

مدیران مالی همچنین باید سوالاتی از قبیل اینکه سیستم می تواند به چه داده هایی دسترسی داشته باشد و اینکه آیا فروشنده ممکن است آن داده ها را حفظ کند یا استفاده کند، بپرسند. سیستم چه تصمیمات یا اقداماتی را بدون تایید انسان می تواند انجام دهد. و اگر سیستم باعث آسیب شود چه کسی پاسخگو است.

مک کالو همچنین بازنگری دقیق پوشش بیمه و قراردادهای فروشنده را توصیه کرد. مانند پریست، او گفت آزمایش، نظارت و حکومت باید در کل بودجه سرمایه گذاری هوش مصنوعی گنجانده شود.

مک کالو گفت: «یک مورد تجاری که شامل صرفه جویی در نیروی کار است اما هزینه ایمن ساختن فناوری را حذف نمی کند، ناقص است.

پریست گفت که شرکت ها باید یک برنامه آمادگی هوش مصنوعی جامع داشته باشند که استفاده مسئولانه، ایمنی، مدیریت ریسک و واکنش به حوادث را پوشش دهد. او گفت که این مسئولیت باید فراتر از تیم های فناوری به واحدهای تجاری که هوش مصنوعی را اتخاذ می کنند، با الزامات مناسب و اقدامات پاسخگویی برای ارائه دهندگان هوش مصنوعی شخص ثالث گسترش یابد.

پریست گفت که تغییرات بالقوه نظارتی نیز باید در نظر گرفته شود و افزود که شرکت ها در حال حاضر شاهد اعمال الزامات در سطح ایالتی هستند، در حالی که سیاست گذاران فدرال نیز تلاش می کنند وارد عمل شوند.

پریست به مدیران ارشد مالی توصیه کرد که تعیین کنند چگونه الزامات پیشنهادی می تواند بر شرکت هایشان تأثیر بگذارد و اقدامات انطباق منطقی را در برنامه های آمادگی هوش مصنوعی خود ایجاد کنند.

پریست گفت: «برای مدیران مالی، اولویت عملی این است که با یک پایه حاکمیتی قوی که شامل مسئولیت‌پذیری روشن، آزمایش، نظارت و کنترل‌های مبتنی بر ریسک است، آماده شوند تا سازمان آماده پاسخگویی به الزامات مختلف باشد.

قانون‌گذاران لایحه «سوئیچ کشتن» هوش مصنوعی را مطرح می‌کنند زیرا نقض OpenAI باعث ایجاد زنگ خطر می‌شود