ساتیا نادلا از مایکروسافت می گوید مدل های هوش مصنوعی به ترمز اضطراری نیاز دارند

ساتیا نادلا، مدیر عامل مایکروسافت، آخرین مدیر فنی است که افکار طولانی در مورد چگونگی بهبود ایمنی هوش مصنوعی ارائه کرده است.

نادلا در یک پست صبح روز شنبه در X نوشت که وقت آن است که «به عقب برگردیم و معماری اعتماد» هوش مصنوعی را ارزیابی کنیم.

نادلا با استفاده از اصطلاح ترجیحی دولت ترامپ برای هوش مصنوعی نوشت: «ما نمی‌توانیم ابر هوش را به عنوان مجموعه‌ای از جعبه‌های سیاه تودرتو در نظر بگیریم و به سادگی توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.

همانطور که توسط نادلا بیان شد، این رویکرد "به معنای جدا کردن مدل از مهاری است که کار آن را هماهنگ می کند" و همچنین "برونی سازی کنترل ها و پادمان ها". او همچنین خواستار این شد که «هر اقدام مدل معنادار» با «شواهد قابل خواندن انسان ضد دستکاری» مستند شود، و برای سیستم‌هایی که «یک فرد مجاز» همیشه توانایی «مکث کردن یا خاموش کردن یک مدل در میان کار» را دارد.

او گفت: «ما باید فرض کنیم که یک مدل به خطر افتاده است و از همان ابتدا آن را مهار کنیم. "به آن مانند یک ترمز اضطراری فکر کنید."

اظهارات نادلا در حالی بیان می شود که شرکت های پیشرو هوش مصنوعی به اتفاقات بیشتری اذعان می کنند که به نظر می رسید کنترل مدل های خود را از دست می دهند، و پس از آن که داریو آمودی، مدیر عامل آنتروپیک، طرحی را برای توسعه هوش مصنوعی محتاطانه تر منتشر کرد.