بیلی می‌گوید تنظیم هوش مصنوعی «محل مناسبی برای شروع نیست».

رئیس بانک مرکزی انگلیس گفته است که تنظیم هوش مصنوعی (AI) "محل مناسبی برای شروع نیست" اما در عوض در ابتدا خواستار آزمایش "جدی" برای یافتن آسیب‌پذیری‌ها و ایجاد تدابیر امنیتی برای مهار خطر شد.

اندرو بیلی در نوشتن اولین مقاله خود برای Substack گفت که خطرات پیرامون هوش مصنوعی "واقعی و به طور فزاینده ای قابل توجه" هستند.

او گفت که توسعه هوش مصنوعی نباید متوقف یا ممنوع شود - "برعکس، مزایای آن بسیار زیاد است" - اما اضافه کرد که باید سیستمی برای مداخله و تعیین مرزهایی وجود داشته باشد که در آن هوش مصنوعی عمل می کند.

بحث در مورد خطرات بالقوه توسعه سریع هوش مصنوعی و معنای آن برای بشریت در هفته های اخیر تشدید شده است.

روسای شرکت‌های برجسته هوش مصنوعی مانند Anthropic و OpenAI خواستار توسعه این فناوری برای کاهش سرعت و اتخاذ یک رویکرد هماهنگ بین‌المللی برای ارزیابی ریسک‌ها و ایجاد تدابیر امنیتی شده‌اند.

OpenAI اخیرا اعلام کرد که آخرین مدل هوش مصنوعی خود را به دلیل نگرانی های ایمنی منتشر نخواهد کرد.

با این حال، ایده کاهش سرعت توسط افرادی مانند دونالد ترامپ، رئیس‌جمهور آمریکا که گفته است ایالات متحده در رقابت هوش مصنوعی پیش از چین پیشرو است، رد شد و افزود: "و صادقانه بگویم، من می‌خواهم این روند را ادامه دهم، زیرا هر کسی برنده هوش مصنوعی باشد، برنده است."

اما روز سه‌شنبه، ترامپ پس از میزبانی جلسه‌ای با روسای شرکت‌های فناوری OpenAI، Anthropic، Nvidia، SpaceX، Meta و Google، گفت که مدیران یک سند «اخلاقی الزام‌آور» را امضا کرده‌اند که به عنوان «شکلی از محافظت» در برابر خطرات احتمالی هوش مصنوعی عمل می‌کند.

ابزار هوش مصنوعی چینی به محققان نحوه ساخت سلاح های زیستی را گفت

OpenAI به دلیل نگرانی های ایمنی، عرضه مدل جدید را حذف می کند

بر اساس این قرارداد، شرکت ها مسئول تضمین ایمنی فناوری خود هستند.

در بریتانیا، بیلی گفت: "کار مهمی" در آزمایش هوش مصنوعی در حال انجام است - بریتانیا موسسه امنیت هوش مصنوعی را راه اندازی کرده است - که به گفته او، باید به شکل بخشی از مجموعه ای از استانداردها کمک کند.

رئیس بانک با بیان اینکه باید سرعت پیشرفت را افزایش داد، گفت: باید با تواضع پیش برویم.

او گفت، با انجام آزمایش، خرابی هایی رخ می دهد و "مدل ها رفتار غیر منتظره ای از خود نشان می دهند".

اما، او گفت: "این دلیلی بر عدم موفقیت آزمایش نیست، بلکه دلیلی بر ضرورت انجام آزمایش است."

بیلی گفت که آزمایش نباید به عنوان جایگزینی برای مقررات آینده در نظر گرفته شود - با گذشت زمان ممکن است یک چارچوب قانونی رسمی تر ظاهر شود. اما مقررات، به نظر من، مکان مناسبی برای شروع نیست.»

بیلی به طور خاص به اصطلاح هوش مصنوعی مرزی را برجسته کرد - سیستم‌های بسیار پیشرفته و خودآموز که بدون ایجاد روشی مؤثر برای مداخله، در خطر تبدیل شدن به "حلقه بسته‌ای قرار می‌گیرند که در آن مدل به تدریج خود را اداره می‌کند".