آیا مقررات برای جلوگیری از کشتن همه ما توسط سیستم های هوش مصنوعی کافی است؟ | نامه ها
مارتین توماس تعجب می‌کند که چگونه هر فرد منطقی می‌تواند استدلال کند که نظارت و مقررات مستقل کافی است. فراخوانی معمول برای «نظارت و مقررات مستقل» وجود دارد، اما هرگز هیچ توضیحی در مورد اینکه چگونه این کار می‌کند یا بیشتر…
مارتین توماس متعجب است که چگونه هر فرد منطقی می تواند استدلال کند که نظارت و مقررات مستقل کافی است
یک بار دیگر یک مدل هوش مصنوعی مرزی به دلیل عدم موفقیت در تست های ایمنی کنار گذاشته شد (OpenAI انتشار مدل جدید را به دلیل نگرانی های ایمنی در آزمایش داخلی، 28 سپتامبر رد می کند). فراخوانی معمول برای "نظارت و مقررات مستقل" وجود دارد، اگرچه هیچ توضیحی در مورد نحوه کارکرد این کار یا مهمتر از همه، چه شواهدی باید یک تنظیم کننده را متقاعد کند که یک سیستم هوش مصنوعی به اندازه کافی ایمن است.
یک سنت مهندسی طولانی در تنظیم سیستم‌های نرم‌افزاری حیاتی مانند سیستم‌های کنترل هواپیما یا نیروگاه‌های هسته‌ای وجود دارد. استانداردهای بین المللی مستلزم "موارد ایمنی" هستند - تجزیه و تحلیل های دقیقی که نشان می دهد خطرات احتمالی شناسایی و کنترل شده اند و احتمال تصادف بسیار کم است. ادامه مطلب...
متن اصلی (انگلیسی)
Is regulation enough to stop AI systems killing us all? | Letters
Martyn Thomas wonders how any rational person can argue that independent oversight and regulation will be sufficient Once again a frontier AI model has been withdrawn because it fails safety tests (OpenAI scraps release of new model over safety concerns in internal testing, 28 September). There is the usual call for “independent oversight and regulation”, though never any explanation of how this would work or, most…