«ابر اطلاعات» را فراموش کنید: هوش مصنوعی مستعد خطا تقریبا در این ماه جنگ جهانی سوم را آغاز کرد | تیمنیت گبرو و امیلی ام بندر
خطرات هوش مصنوعی آن چیزی نیست که ما فکر می کنیم، همانطور که یک حادثه امنیتی اخیر بین چین و ایالات متحده نشان می دهد که در میان سیل اخبار خبری که در مورد ماشین های ابرهوشمندی که بشریت را منقرض می کنند هشدار می دهد، یک داستان CNN که سناریوی مخالف را توصیف می کند - سناریویی که در آن اتکای ارتش ایالات متحده به چت ربات های شکننده با چین تقریبا مردم را وارد جنگ کرد. بزرگترین…
همانطور که یک حادثه امنیتی اخیر بین چین و ایالات متحده نشان می دهد، خطرات هوش مصنوعی آن چیزی نیست که ما فکر می کنیم.
در میان رگبار اخباری که درباره ماشین‌های فوق‌هوشمندی که بشریت را منقرض می‌کنند، هشدار می‌داد، یک داستان CNN که سناریوی مخالف را توصیف می‌کرد – سناریویی که در آن اتکای ارتش ایالات متحده به چت‌بات‌های شکننده تقریبا ایالات متحده را وارد جنگ با چین می‌کرد – بیشتر مورد توجه عموم قرار نگرفت.
بزرگترین خبر بین المللی هوش مصنوعی در سه هفته گذشته، استعفای مهندس Anthropic Jacob Coxon بود. به گفته او، OpenAI و Anthropic "مستقیما به سمت سوپرهوشی خودساز و قمار با زندگی ما مسابقه می دهند". توصیف کاکسون از سناریوی «نابودگر»، ماشینی که بسیار باهوش‌تر از بشریت می‌شود و تصمیم می‌گیرد ما را از بین ببرد، توجه عموم، روزنامه‌نگاران و سیاستمداران را به خود جلب کرد و موج‌هایی از گزارش‌های ترس‌آور، زودباورانه و اقدامات سیاسی را برانگیخت.
تیمنیت گبرو مدیر اجرایی Dair و نویسنده کتاب پیش رو Deep Unlearning: The Radicalization of a Tech Idealist است که هم اکنون برای پیش خرید در دسترس است و قرار است در 16 فوریه منتشر شود.
امیلی ام بندر، استاد زبان‌شناسی در دانشگاه واشنگتن و یکی از نویسندگان کتاب The AI Con. به خواندن ادامه دهید...
متن اصلی (انگلیسی)
Forget ‘superintelligence’: error-prone AI nearly sparked world war three this month | Timnit Gebru and Emily M Bender
The risks of AI aren’t what we think they are, as a recent security incident between China and the United States reveals Amid a barrage of news stories warning about superintelligent machines rendering humanity extinct, a CNN story describing the opposite scenario – one in which the US military’s reliance on brittle chatbots almost brought the US into war with China – went mostly unnoticed by the public. The biggest…