«گامسازی» خطر نابودی هوش مصنوعی را از بین نمیبرد. این چیزی است که می تواند | دیوید کروگر
واقعیت آشکار این است: ما نمی دانیم چگونه کنترل این سیستم ها را حفظ کنیم. اما اقداماتی وجود دارد که می توانیم انجام دهیم با استعفای Jacob Coxon از Anthropic، ما به نقطه اوج خطر هوش مصنوعی رسیده ایم. میلیونها نفر در نهایت به آنچه کارشناسان سالها میدانند، میفهمند: شرکتهای هوش مصنوعی با تمام زندگی ما قمار میکنند و شانس خوبی نیست. در پاسخ، مدیر عامل آنتروپیک، داریو…
واقعیت آشکار این است: ما نمی دانیم چگونه کنترل این سیستم ها را حفظ کنیم. اما اقداماتی وجود دارد که می توانیم انجام دهیم
با استعفای Jacob Coxon از Anthropic، ما به نقطه اوج خطر هوش مصنوعی رسیده ایم. میلیونها نفر در نهایت به آنچه کارشناسان سالها میدانند، میفهمند: شرکتهای هوش مصنوعی با تمام زندگی ما قمار میکنند و شانس خوبی نیست.
در پاسخ، مدیر عامل آنتروپیک، داریو آمودی، پیشنهادی را برای «پیشرفت از مرز» ارائه کرده است که توسط سم آلتمن و ایلان ماسک تأیید شده است. آیا می توانیم نفس راحتی بکشیم؟ آیا ما در آستانه عقب نشینی از مرز انقراض هستیم؟
آمودی کاهش یک تا دو ساله را پیش بینی می کند که منجر به "پیشرفت عمیق" در اقدامات ایمنی فنی می شود. اما این چیزی نیست که بشر در حال حاضر به آن نیاز دارد. آنچه ما نیاز داریم طرحی است که در آن مطمئن باشیم هوش مصنوعی ما را نخواهد کشت، و این نیست. به خواندن ادامه دهید...
متن اصلی (انگلیسی)
‘Pacing’ won’t eliminate the risk of AI doom. Here’s what could | David Krueger
The stark reality is this: we don’t know how to maintain control of these systems. But there are actions we can take With Jacob Coxon’s resignation from Anthropic, we have reached the AI risk tipping point. Millions of people are finally coming to understand what experts have known for years: AI companies have been gambling with all of our lives, and the odds are not good. In response, the Anthropic CEO, Dario…