انویدیا OpenShell را برای رام کردن عوامل هوش مصنوعی انتخاب می کند

انویدیا روش جدیدی را برای نگه داشتن عوامل هوش مصنوعی شرکتی پیشنهاد کرده است.

انویدیا روز چهارشنبه معماری مرجع OpenShell خود را معرفی کرد. بر اساس زمان اجرا ایمن OpenShell این شرکت، دستور العملی برای ایجاد، عملکرد، مشاهده و نظارت بر عوامل هوش مصنوعی با استفاده از OpenShell در سخت افزار Nvidia است.

جنسن هوانگ، مدیر عامل شرکت، در بیانیه‌ای اعلام کرد: «انویدیا OpenShell را ایجاد کرد تا به نمایندگان آزادی انجام کار مفید در محدوده‌های مشخص و مشخص – محدود، نظارت و تحت کنترل را بدهد. با OpenShell Reference Architecture، نمایندگان می توانند روی Rubin فکر کنند، روی Vera عمل کنند و در BlueField اداره شوند.

عوامل هوش مصنوعی به عنوان یک فناوری اتوماسیون قدرتمند معرفی می شوند. واقعیت این است که آن‌ها می‌توانند سرکش باشند، همانطور که با آزمایش امنیتی OpenAI و Anthropic که طی آن مدل‌های آن‌ها از وظایف خود فراتر رفتند و به سازمان‌های شخص ثالث حمله کردند، نشان داد.

بنابراین، توسعه‌دهندگان عوامل موجود، مانند Claude Code، Codex، OpenClaw و OpenCode، شامل کنترل‌هایی هستند که دسترسی به ابزارهایی مانند curl و bash را محدود می‌کنند. توسعه دهندگان همچنین جعبه های sandbox را ایجاد می کنند تا یک فرآیند عامل را از میزبان جدا کنند، به طوری که اگر عامل ها خراب شوند، آنها را محدود می کند.

OpenShell یک سطح بالاتر از آن با یک زمان اجرا قرار دارد که sandboxing را گسترش می‌دهد تا اعتبارنامه‌ها، هویت و مرزهای خط‌مشی، و (در نهایت) مسیریابی و گردش کار را کنترل کند.

حداقل بیشتر - OpenShell هنوز چند مشکل باز مرتبط با امنیت دارد که در GitHub فهرست شده است.

برای پیاده سازی OpenShell، سازمان ها به سخت افزار Nvidia نیاز دارند. طرح اولیه این شرکت، زیرساخت Nvidia Vera Rubin را برای اجرای مدل‌هایی مانند Nvidia Nemotron، با مهارهای عامل از طریق CPUهای Vera، و Nvidia BlueField-4 DPU (معروف به SmartNIC) که از نرم‌افزار امنیتی Nvidia Sentry برای نظارت بر رفتار عامل پشتیبانی می‌کنند، می‌طلبد.

هوش مصنوعی این طرح را در اختیار شرکایی قرار داده است که قادر به تامین انرژی زیرساخت لینوکس و Kubernetes هستند. مظنونان معمولی سوار هستند: Canonical، SUSE و Red Hat. ابر مقیاس‌کننده‌های ابری، خدمات وب آمازون، گوگل کلود و مایکروسافت آژور نیز به‌عنوان فروشنده‌های این چشم‌انداز انتخاب شده‌اند.

و البته طرح طبقه انویدیا برای عواملی از سازندگان مدل های مختلف، از جمله Anthropic، Cohere، Google، Meta، OpenAI، Perplexity، Reflection و SpaceX اعمال می شود.

انویدیا می‌گوید چندین بانک - BBVA اروپا و Santander - در حال بررسی مشخصات OpenShell Reference Architecture هستند تا ببینند چگونه با الزامات امنیتی و حاکمیتی آنها مطابقت دارد. و هوش مصنوعی آنقدر ساده نیست که اجازه ندهیم SAP معماری مرجع OpenShell را با زمان اجرای Joule Studio خود برای عملیات عامل ایمن‌تر ادغام کند.

شایان ذکر است که انویدیا اصرار دارد که OpenShell داده های تله متری را به طور پیش فرض جمع آوری می کند، "برای بهبود پروژه". biz به کاربران اجازه می‌دهد با یک نکته احتیاطی انصراف دهند: "سرویس‌های شخص ثالث، ارائه‌دهندگان مدل، نقاط پایانی استنتاج، عوامل یا ابزارهایی که با OpenShell پیکربندی و استفاده می‌کنید ممکن است شرایط و شیوه‌های حفظ حریم خصوصی خود را داشته باشند." ®