اگر «تسلیم شناختی» خطر واقعی وجودی باشد چه؟
خودیهای فناوری و مدیران ارشد هفتههای اخیر هشدارهایی با صدای بلند درباره خطرات ناشی از نرمافزار هوش مصنوعی صادر کردهاند. برخی حتی این نگرانی را ایجاد می کنند که مدل های هوش مصنوعی می توانند منجر به انقراض نهایی انسان شوند. اما چه میشود اگر خطر واقعی وجودی ظریفتر - هرچند قدرتمندتر - از آن چیزی باشد که ما تصور میکنیم؟ واهینی وارا، روزنامهنگار به مکس چافکین و استیسی وانک اسمیت در پادکست هرکسی بیزنس میپیوندد…
خودیهای فناوری و مدیران ارشد هفتههای اخیر هشدارهایی با صدای بلند درباره خطرات ناشی از نرمافزار هوش مصنوعی صادر کردهاند. برخی حتی این نگرانی را ایجاد می کنند که مدل های هوش مصنوعی می توانند منجر به انقراض نهایی انسان شوند.
اما چه میشود اگر خطر واقعی وجودی ظریفتر - هرچند قدرتمندتر - از آن چیزی باشد که ما تصور میکنیم؟ روزنامهنگار Vauhini Vara به Max Chafkin و Stacey Vanek Smith در پادکست Everybody's Business میپیوندد تا هشدارهای مربوط به "تسلیم شناختی" و اینکه چگونه استارتآپی به نام Pangram قول میدهد به شناسایی شیب تولید شده توسط هوش مصنوعی کمک کند را باز کند. (منبع: بلومبرگ)
متن اصلی (انگلیسی)
What If “Cognitive Surrender” Is the Real Existential Risk?
Tech insiders and senior executives have spent recent weeks issuing loud warnings about the risks posed by artificial intelligence software. Some are even causing concerns that AI models could lead to eventual human extinction. But what if the real existential risk is more subtle — albeit powerful — than we imagine? Journalist Vauhini Vara joins Max Chafkin and Stacey Vanek Smith on the Everybody's Business podcast…