رئیس بانک انگلستان خواستار آزمایش دقیق هوش مصنوعی قبل از تنظیم مقررات است

اندرو بیلی، رئیس بانک انگلستان روز چهارشنبه خواستار آزمایش دقیق سیستم‌های هوش مصنوعی برای شناسایی آسیب‌پذیری‌ها و ایجاد پادمان‌ها قبل از روی آوردن به مقررات شد.

در اولین مقاله خود برای Substack، بیلی گفت که خطرات پیرامون هوش مصنوعی "واقعی و به طور فزاینده ای قابل توجه" هستند، در حالی که تاکید کرد که توسعه این فناوری نباید متوقف یا ممنوع شود.

بیلی گفت: «برعکس، مزایا بسیار زیاد است.

بیلی گفت که کار مهمی در بریتانیا برای آزمایش سیستم‌های هوش مصنوعی در حال انجام است و به موسسه امنیت هوش مصنوعی این کشور به عنوان بخشی از تلاش‌ها برای توسعه استانداردها اشاره کرد.

وی با بیان اینکه "اما سرعت پیشرفت باید تسریع شود" افزود: ما باید با فروتنی پیش برویم.

بیلی گفت که آزمایش به طور اجتناب‌ناپذیری شکست‌ها و مواردی را نشان می‌دهد که در آنها «مدل‌ها رفتار غیرمنتظره‌ای خواهند داشت».

او گفت: «این شواهدی نیست که آزمایش شکست خورده است، بلکه دلیلی بر این است که چرا آزمایش لازم است.

بیلی تاکید کرد که آزمایش نباید به عنوان جایگزینی برای مقررات آینده در نظر گرفته شود، و گفت که یک چارچوب قانونی رسمی تر ممکن است در طول زمان پدیدار شود.

او گفت: «اما مقررات، از نظر من، مکان مناسبی برای شروع نیست.

رئیس بانک انگلستان به طور خاص به اصطلاح هوش مصنوعی مرزی – سیستم های بسیار پیشرفته و خودآموز – تاکید کرد.

بیلی هشدار داد که بدون مکانیسم‌های مداخله مؤثر، چنین سیستم‌هایی می‌توانند به «حلقه بسته‌ای تبدیل شوند که در آن مدل به تدریج خود را اداره می‌کند».

در همین حال، دونالد ترامپ، رئیس‌جمهور ایالات متحده، درخواست‌ها برای کاهش سرعت را رد کرد و گفت که ایالات متحده در رقابت هوش مصنوعی پیش از چین است.

ترامپ گفت: «و صادقانه بگویم، من می‌خواهم آن را به همین شکل حفظ کنم، زیرا هر کسی که برنده هوش مصنوعی باشد، برنده است.

ترامپ روز سه‌شنبه، پس از ملاقات با مدیران OpenAI، Anthropic، Nvidia، SpaceX، Meta و Google، گفت که آنها یک سند "اخلاقی الزام‌آور" را امضا کرده‌اند که به عنوان یک "شکل حفاظتی" در برابر خطرات بالقوه هوش مصنوعی عمل می‌کند.

توافق کاخ سفید در مورد «فوق اطلاعاتی» که به عنوان «تعهد مشترک در مسئولیت‌های مرزی» توصیف می‌شود، از شرکت‌هایی می‌خواهد که مدل‌های مرزی را برای ایجاد فرآیندها و کنترل‌های داخلی توسعه و استقرار دهند.

این توافق می‌گوید که این اقدامات باید اطمینان حاصل کند که سیستم‌ها طبق برنامه عمل می‌کنند و مشکلات احتمالی به سرعت شناسایی و رسیدگی می‌شوند.

بر اساس این توافق، هر شرکت شرکت کننده باید چهار لایه کنترل و ممیزی را که توسعه و استقرار مدل را پوشش می دهد، اجرا کند.