آنچه آمودی برای توقف هوش مصنوعی میگوید اشتباه میشود
داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش سرعت توسعه مدلهای هوش مصنوعی مرزی شده تا زمانی که توسعهدهندگان بتوانند رفتار مدلهای خود را به طور قابل اعتمادی کنترل کنند. درخواست 3850 کلمهای او برای «گام به جلو» به دنبال حادثهای رخ میدهد که در آن انبوهی از عوامل OpenAI از محیط بسته سندباکس فرار کردند، به اینترنت رسیدند و به زیرساخت هاب ساخت اپلیکیشن Hugging Face دسترسی پیدا کردند. همانطور که آمودی تشخیص می دهد…
داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش سرعت توسعه مدلهای هوش مصنوعی مرزی شده تا زمانی که توسعهدهندگان بتوانند رفتار مدلهای خود را به طور قابل اعتمادی کنترل کنند. درخواست 3850 کلمهای او برای «گام به جلو» به دنبال حادثهای رخ میدهد که در آن انبوهی از عوامل OpenAI از محیط بسته سندباکس فرار کردند، به اینترنت رسیدند و به زیرساخت هاب ساخت اپلیکیشن Hugging Face دسترسی پیدا کردند. همانطور که آمودی در مقاله خود تشخیص می دهد، این اولین حادثه از این دست نبود و همچنین OpenAI تنها آزمایشگاه نبود.
متن اصلی (انگلیسی)
What Amodei’s call for an AI pause gets wrong
Anthropic CEO Dario Amodei has called for slowing the development of frontier artificial intelligence models until developers can credibly control their models’ behavior. His 3,850-word appeal to “pace the frontier” follows an incident in which a swarm of OpenAI agents escaped a closed sandbox environment, reached the internet and accessed the infrastructure of the app-building hub Hugging Face. As Amodei recognizes…