ساتیا نادلا می گوید ما باید فرض کنیم که همه مدل های هوش مصنوعی "به خطر افتاده" هستند
مدیر عامل مایکروسافت در یک پست طولانی در X نظرات خود را در مورد خطرات ناشی از مدل های بسیار پیشرفته هوش مصنوعی و نحوه مقابله با این خطرات بیان کرد. نادلا می‌گوید ما دیگر نمی‌توانیم دنیایی را بپذیریم که در آن هوش مصنوعی به‌عنوان «مجموعه‌ای از جعبه‌های سیاه تودرتو» تلقی شود که توصیه‌ها و اقدامات آنها را به سادگی می‌پذیریم یا رد می‌کنیم. او خواستار ایجاد یک سیستم شفاف‌تر است که در آن مدل‌ها را می‌توان در خود جای داد، مشاهده کرد و «انسان‌های ضد دستکاری…
مدیر عامل مایکروسافت در یک پست طولانی در X نظرات خود را در مورد خطرات ناشی از مدل های بسیار پیشرفته هوش مصنوعی و نحوه مقابله با این خطرات بیان کرد. نادلا می‌گوید ما دیگر نمی‌توانیم دنیایی را بپذیریم که در آن هوش مصنوعی به‌عنوان «مجموعه‌ای از جعبه‌های سیاه تودرتو» تلقی شود که توصیه‌ها و اقدامات آنها را به سادگی می‌پذیریم یا رد می‌کنیم. او خواستار ایجاد یک سیستم شفاف تر است که در آن مدل ها می توانند حاوی، مشاهده شوند و "شواهد قابل خواندن انسان ضد دستکاری" را پشت سر بگذارند.
بسیاری از توصیه‌های او با آنچه از دیگران در صنعت شنیده‌ایم همسو هستند: افشای به موقع حادثه، ممیزی‌های مستقل، داده‌های قابل تأیید و مهار. در آخرین نقطه است که او ظاهر می شود ...
داستان کامل را در The Verge بخوانید.
متن اصلی (انگلیسی)
Satya Nadella says we should assume all AI models are ‘compromised’
In a lengthy post on X, Microsoft's CEO laid out his views on the dangers posed by highly advanced AI models and how to confront those risks. Nadella says we can no longer accept a world where AI is treated as a "set of nested black boxes" whose advice and actions we simply accept or reject. He calls for building a more transparent system where models can be contained, observed, and leaves behind "tamper-proof human…