هوش مصنوعی امروزی به ابرهوشی دست نخواهد یافت. اما خطر فاجعه بار واقعی است | سونیتا ورما
همان محدودیت های فنی که از ابرهوشی جلوگیری می کند، این سیستم ها را خطرناک می کند. اما ما می دانیم که چگونه آنها را تنظیم کنیم بسیاری از رهبران سیلیکون ولی معتقدند که ابرهوش یک تهدید قریب الوقوع برای جامعه است. کاخ سفید حتی توافق نامه ای در این باره منتشر کرد. این کافی نیست جفری هینتون، پدرخوانده هوش مصنوعی، خطر انقراض انسان را در چند دهه آینده حداقل 10 درصد تخمین می زند. مدیرعامل آنتروپیک،…
همان محدودیت های فنی که از ابرهوشی جلوگیری می کند، این سیستم ها را خطرناک می کند. اما ما می دانیم که چگونه آنها را تنظیم کنیم
بسیاری از رهبران سیلیکون ولی معتقدند که ابرهوش یک تهدید قریب الوقوع برای جامعه است. کاخ سفید حتی توافق نامه ای در این باره منتشر کرد. این کافی نیست
جفری هینتون، پدرخوانده هوش مصنوعی، خطر انقراض انسان را در چند دهه آینده حداقل 10 درصد تخمین می زند. مدیر عامل آنتروپیک، داریو آمودی، استدلال کرد که هوش مصنوعی کنترل نشده «می تواند از توانایی ما برای درک و کنترل این سیستم ها پیشی بگیرد». در پاسخ، 1300 رهبر و کارمند از بسیاری از شرکت‌های پیشرو هوش مصنوعی نامه‌ای را امضا کردند که در آن خواستار «سرعت عمدی» توسعه شدند. ادامه مطلب...
متن اصلی (انگلیسی)
Today’s AI won’t achieve superintelligence. But catastrophic risk is real | Sunita Verma
The same technical limits that prevent superintelligence make these systems dangerous. But we know how to regulate them Many Silicon Valley leaders believe superintelligence is an imminent threat to society. The White House even published an accord about it. This isn’t enough. Geoffrey Hinton, the godfather of AI, estimates the risk of human extinction is at least 10% within the next few decades. The Anthropic CEO,…