بانک مرکزی سنگاپور همه موارد استفاده از هوش مصنوعی فین‌تک را می‌خواهد که بازبینی مستقلی داشته باشند

مرجع پولی سنگاپور، که هم به عنوان بانک مرکزی و هم به عنوان تنظیم کننده صنعت مالی عمل می کند، از همه بازیگران صنعت محلی می خواهد قبل از استقرار، به دنبال بررسی مستقل موارد استفاده از هوش مصنوعی باشند. ترکیب مقررات سختگیرانه و مالیات های کم این کشور جزیره ای آن را به یکی از قطب های مالی برتر جهان تبدیل کرده است. یکی از نقش‌های مرجع پولی سنگاپور (MAS) اطمینان از حفظ این وضعیت است، اما در اولین دستورالعمل مدیریت ریسک هوش مصنوعی برای موسسات مالی که در روز چهارشنبه منتشر شد، هشدار می‌دهد که هوش مصنوعی ریسک را افزایش می‌دهد.

دستورالعمل ها بیان می کنند: «استفاده از هوش مصنوعی می تواند عملکرد را در حوزه های تجاری و عملکردی بهبود بخشد، اما پیچیدگی و ماهیت احتمالی آن می تواند منجر به عدم قطعیت بیشتر، و همچنین رفتار غیرمنتظره یا مغرضانه تر شود که شناسایی آن در مقایسه با استفاده از روش های ساده تر دشوارتر است». و این دیدگاه MAS از هوش مصنوعی قدیمی است: هوش مصنوعی مولد را حتی خطرناک‌تر ارزیابی می‌کند.

MAS هشدار می دهد: «پیچیدگی بیشتر هوش مصنوعی مولد باعث عدم اطمینان بیشتر و رفتار غیرمنتظره در مقایسه با هوش مصنوعی می شود. رگولاتور نگران است که هوش مصنوعی عامل "می تواند این خطرات را بیشتر کند." بنابراین MAS از موسسات مالی (FIs) می‌خواهد تا چارچوب‌های مدیریت ریسک خود را برای پوشش هوش مصنوعی گسترش دهند و انتظار دارد هیئت مدیره و مدیریت ارشد این امر را محقق کنند.

رگولاتور همچنین می‌خواهد که تمام موارد استفاده از هوش مصنوعی قبل از شروع تولید مورد بررسی مستقل قرار گیرند. در دستورالعمل‌ها آمده است: «قبل از استقرار، یک FI باید مورد استفاده از هوش مصنوعی، از جمله سیستم‌ها یا مدل‌های زیربنایی آن را در معرض بازبینی طرف‌هایی قرار دهد که در توسعه آن شرکت ندارند تا اطمینان حاصل شود که کنترل‌های مربوطه، مانند ارزیابی و آزمایش، رعایت شده‌اند».

MAS همچنین از نهادهای تحت نظارت می‌خواهد تا بررسی‌های فناوری و امنیت سایبری را انجام دهند تا اطمینان حاصل شود که هوش مصنوعی می‌تواند به شیوه‌ای کنترل‌شده و ایمن در محیط تولید مستقر شود. اگر یک پروژه هوش مصنوعی از این بررسی‌ها جان سالم به در ببرد، MAS می‌خواهد بر سیستم‌های خود FI و هر هوش مصنوعی شخص ثالثی که یک برنامه کاربردی را تامین می‌کند، نظارت مستمر داشته باشد.

دستورالعمل‌ها می‌گوید: «با توجه به عدم قطعیت‌های مرتبط با هوش مصنوعی، ماهیت پویای آن‌ها و پتانسیل کهنگی مدل و کاهش عملکرد به دلیل داده‌ها یا جابه‌جایی مدل در طول زمان، نظارت مستمر برای اطمینان از اینکه هوش مصنوعی مستقر مطابق با هدف عمل می‌کند و در طول زمان برای هدف مناسب باقی می‌ماند، حیاتی است. MAS عدم موفقیت تامین‌کنندگان هوش مصنوعی شخص ثالث را بهانه‌ای قابل قبول برای مشکلات هوش مصنوعی در نهادهایی که تحت نظارت خود قرار می‌دهد نمی‌داند و از FIها می‌خواهد که محصولات و خدمات تامین‌کنندگان خود را برای اطمینان از پایدار و ایمن ماندن آنها نظارت کنند.

رگولاتور توضیح داد: FI ها در قبال هوش مصنوعی مورد استفاده در خدماتی که ارائه می کنند، از جمله هوش مصنوعی توسعه یافته، اجرا شده یا ارائه شده توسط اشخاص ثالث، پاسخگو باقی می مانند. FI ها باید اطمینان کافی را از ارائه دهندگان شخص ثالث کسب کنند، ارزیابی کنند که آیا هوش مصنوعی شخص ثالث برای استفاده مورد نظر آنها مناسب است یا خیر، و کنترل های جبرانی را در مواردی که محدودیت های عملی یا شکاف های اطمینان ایجاد می شود، اعمال کنند.

اگر خطرات را نمی توان در اشتهای ریسک پذیر FI وارد کرد، باید محدودیت، تعلیق یا جایگزینی استفاده از سرویس هوش مصنوعی شخص ثالث را در نظر بگیرد. رگولاتور همچنین از FI سنگاپور می خواهد که موجودی تمام هوش مصنوعی مورد استفاده در تجارت خود را به روز نگه دارد. اگر به دلیل استفاده از خدمات شخص ثالث بدون افشای هوش مصنوعی، این امکان وجود ندارد، موسسات مالی باید راه‌هایی برای مدیریت ریسک مشارکت‌های هوش مصنوعی ناشناخته بیابند. یکی دیگر از دستورالعمل‌ها از FIها می‌خواهد تا طرح‌های اضطراری و گزینه‌های بازگشتی برای هوش مصنوعی مورد استفاده در برنامه‌های پرخطر را توسعه دهند.

این طرح‌ها باید شامل «سیستم‌های جایگزین یا فرآیندهای دستی برای اطمینان از تداوم کسب‌وکار در صورت شکست هوش مصنوعی یا رفتار غیرمنتظره» باشد. دستورالعمل ها از 7 اکتبر 2027 به اجرا در می آیند. ®