انویدیا میگوید پلتفرم ایمنی هوش مصنوعی جدیدش میتواند حاوی عوامل سرکش در «میلیثانیه» باشد.
انویدیا در حال راه اندازی یک پلتفرم امنیتی جدید است که برای کنترل و نظارت بر عوامل هوش مصنوعی طراحی شده است، اقدامی که در پاسخ به موجی از حوادث هک سرکش انجام می شود، همانطور که قبلا توسط رویترز گزارش شده بود. انویدیا در اطلاعیهای در روز دوشنبه میگوید پلتفرم امنیتی باز عامل جدیدش میتواند عواملی را که تلاش میکنند در عرض «میلیثانیه» از مرزهای خود فرار کنند قرنطینه کند. این پلتفرم از نرم افزار متن باز OpenShell انویدیا استفاده می کند که روی…
انویدیا در حال راه اندازی یک پلت فرم ایمنی جدید است که برای کنترل و نظارت بر عوامل هوش مصنوعی طراحی شده است، اقدامی که در پاسخ به موجی از حوادث هک سرکش انجام می شود، همانطور که قبلا توسط رویترز گزارش شده است. انویدیا در اطلاعیهای در روز دوشنبه میگوید پلتفرم ایمنی باز عامل جدیدش میتواند عواملی را که تلاش میکنند در عرض «میلیثانیه» از مرزهای خود فرار کنند قرنطینه کند.
این پلتفرم از نرم افزار متن باز OpenShell انویدیا استفاده می کند که بر روی CPU Vera AI این شرکت اجرا می شود. به گفته انویدیا، کاربران میتوانند اطلاعاتی را که یک عامل هوش مصنوعی میتواند به آن دسترسی داشته باشد انتخاب کنند، و OpenShell این محدودیتها را قبل و در طول یک کار بررسی میکند. همچنین شامل فناوری Sentry انویدیا در یک…
داستان کامل را در The Verge بخوانید.
متن اصلی (انگلیسی)
Nvidia says its new AI safety platform can contain rogue agents within ‘milliseconds’
Nvidia is launching a new safety platform designed to contain and monitor AI agents, a move that comes in response to a wave of rogue hacking incidents, as reported earlier by Reuters. In an announcement on Monday, Nvidia says its new Open Agent Safety Platform can quarantine agents that attempt to escape their boundaries within "milliseconds." The platform uses Nvidia's OpenShell open-source software, which runs on…