انویدیا از سیستم جدیدی برای قرار دادن گاردریل بر روی عوامل هوش مصنوعی رونمایی کرد
انویدیا روز دوشنبه از پلتفرم جدیدی رونمایی کرد تا در سطح نرمافزاری و سختافزاری بر روی عوامل هوش مصنوعی قرار دهد، زیرا شرکتهای بزرگ هوش مصنوعی همچنان به کشف نمونههای جدیدی میپردازند که در آن عوامل آنها سرکش کردهاند. سیستم سازنده تراشه از دو بخش OpenShell و Sentry تشکیل شده است. OpenShell یک نرم افزار متن باز است که محدودیت هایی را برای موارد...
انویدیا روز دوشنبه از پلتفرم جدیدی رونمایی کرد تا در سطح نرمافزاری و سختافزاری بر روی عوامل هوش مصنوعی قرار دهد، زیرا شرکتهای بزرگ هوش مصنوعی همچنان به کشف نمونههای جدیدی میپردازند که در آن عوامل آنها سرکش کردهاند. سیستم سازنده تراشه از دو بخش OpenShell و Sentry تشکیل شده است. OpenShell یک نرم افزار متن باز است که محدودیت هایی را برای موارد...
متن اصلی (انگلیسی)
Nvidia unveils new system to put guardrails on AI agents
Nvidia unveiled a new platform Monday to put guardrails on AI agents at both the software and hardware level, as major AI firms continue to discover new instances in which their agents have gone rogue. The chipmaker’s system consists of two parts — OpenShell and Sentry. OpenShell is open-source software that places limits on what...