بیلی میگوید تنظیم هوش مصنوعی «محل مناسبی برای شروع نیست».
اندرو بیلی میگوید هوش مصنوعی برای مهار خطر به تستهای «جدی» و حفاظتی نیاز دارد.
رئیس بانک مرکزی انگلیس گفته است که تنظیم هوش مصنوعی (AI) "محل مناسبی برای شروع نیست" اما در عوض ابتدا برای یافتن آسیبپذیریها و تدابیر حفاظتی برای مهار خطر، آزمایشهای دقیقی را انجام داد.
اندرو بیلی در نوشتن اولین مقاله خود برای Substack گفت که خطرات پیرامون هوش مصنوعی "واقعی و به طور فزاینده ای قابل توجه" هستند.
بیلی گفت که توسعه هوش مصنوعی نباید متوقف یا ممنوع شود - "برعکس، مزایای آن بسیار زیاد است" - اما اضافه کرد که باید سیستمی برای مداخله و ایجاد مرزهایی وجود داشته باشد که در آن هوش مصنوعی عمل کند.
در هفته های اخیر، بحث در مورد خطرات بالقوه پیرامون توسعه سریع هوش مصنوعی و معنای آن برای بشریت تشدید شده است.
روسای شرکتهای برجسته هوش مصنوعی مانند Anthropic و OpenAI خواستار توسعه این فناوری برای کاهش سرعت و اتخاذ یک رویکرد هماهنگ بینالمللی برای ارزیابی ریسکها و ایجاد تدابیر امنیتی شدهاند.
OpenAI اخیرا اعلام کرد که آخرین مدل هوش مصنوعی خود را به دلیل نگرانی های ایمنی منتشر نخواهد کرد.
با این حال، ایده کاهش سرعت توسط افرادی مانند دونالد ترامپ، رئیسجمهور آمریکا که گفته است ایالات متحده در رقابت هوش مصنوعی پیش از چین پیشرو است، رد شد و افزود: "و صادقانه بگویم، من میخواهم این روند را ادامه دهم، زیرا هر کسی برنده هوش مصنوعی باشد، برنده است."
اما روز سهشنبه، پس از میزبانی نشستی با شرکتهای پیشرو در هوش مصنوعی مانند OpenAI و Anthropic، ترامپ گفت که مدیران یک سند «اخلاقی الزامآور» را امضا کردهاند که به عنوان «شکلی از محافظت» در برابر خطرات احتمالی هوش مصنوعی عمل میکند.
ابزار هوش مصنوعی چینی به محققان نحوه ساخت سلاح های زیستی را گفت
OpenAI به دلیل نگرانی های ایمنی، عرضه مدل جدید را حذف می کند
بر اساس این قرارداد، شرکت ها مسئول تضمین ایمنی فناوری خود هستند.
در بریتانیا، بیلی گفت: "کار مهمی" در آزمایش هوش مصنوعی در حال انجام است - بریتانیا موسسه امنیت هوش مصنوعی را راه اندازی کرده است - که به گفته او، باید به شکل بخشی از مجموعه ای از استانداردها کمک کند.
رئیس بانک با بیان اینکه باید سرعت پیشرفت را افزایش داد، گفت: باید با تواضع پیش برویم.
او گفت، با انجام آزمایش، خرابی هایی رخ می دهد و "مدل ها رفتار غیر منتظره ای از خود نشان می دهند".
اما، او گفت: "این دلیلی بر عدم موفقیت آزمایش نیست، بلکه دلیلی بر ضرورت انجام آزمایش است."
بیلی گفت که آزمایش نباید به عنوان جایگزینی برای مقررات آینده در نظر گرفته شود - با گذشت زمان ممکن است یک چارچوب قانونی رسمی تر ظاهر شود. اما مقررات، به نظر من، مکان مناسبی برای شروع نیست.»
متن اصلی (انگلیسی)
Regulating AI 'not the right place to start' says Bailey
AI needs "rigorous" testing and safeguards to contain risk, Andrew Bailey says.