سازنده کلود هشدار می دهد که هوش مصنوعی پیشرفته می تواند یک تهدید "فاجعه بار" برای بشریت باشد

TL; DR

بایگانی IPO Anthropic هشدار می دهد که هوش مصنوعی پیشرفته می تواند "خطرات فاجعه بار یا وجودی برای بشریت" ایجاد کند.

این شرکت می‌گوید مدل‌ها رفتارهایی مانند مقاومت در برابر خاموش کردن، پنهان کردن اطلاعات و درگیر شدن در اقداماتی شبیه باج‌گیری از خود نشان داده‌اند.

این هشدار نگرانی‌هایی را رسمیت می‌دهد که محققان Anthropic و دیگر رهبران هوش مصنوعی قبلا به صورت عمومی مطرح کرده‌اند.

صنعت هوش مصنوعی هیچ کمبودی برای افرادی ندارد که هشدار می‌دهند فناوری‌ای که می‌سازند در نهایت می‌تواند به‌طور خطرناکی کنترل آن سخت شود. محققان و مدیران در سراسر آزمایشگاه‌های Anthropic، OpenAI، Google DeepMind و سایر آزمایشگاه‌ها نگرانی‌هایی را از خودمختاری فراری گرفته تا انقراض انسان مطرح کرده‌اند. با این حال، تا کنون، این هشدارها بیشتر در مصاحبه ها، مقالات تحقیقاتی و مقالات طولانی وجود داشته است. اما به نظر می رسد آنتروپیک آنها را به جایی جدید می برد: وال استریت.

رویترز گزارش می دهد که دفترچه IPO سازنده Claude به سرمایه گذاران هشدار می دهد که هوش مصنوعی پیشرفته می تواند "خطرات فاجعه بار یا وجودی برای بشریت" ایجاد کند، که کاملا افشای ریسک از سوی شرکتی است که آماده فروش سرمایه گذاران بر روی همان فناوری است.