انویدیا مدلهای باز جدیدی را برای اجرای نمایندگیها در شرکت و رایانههای شخصی راهاندازی میکند
انویدیا به شدت به روند شرکتهای سازمانی متمایل شده است که میخواهند مدلهای باز خود را در مراکز داده خود اجرا کنند و همچنین تلاش میکنند تا عوامل هوش مصنوعی خصوصی روی دستگاه را به یک چیز تبدیل کنند.
انویدیا روز پنجشنبه مدلهای وزن باز جدیدی را عرضه کرد که برای عوامل همیشه فعال و محاسبات لبه طراحی شدهاند.
Nemotron 3.5 Super VL یک مدل بزرگ با 120 میلیارد پارامتر است که برای عواملی که توسط شرکت مورد استفاده قرار می گیرند، طراحی شده است. در حالی که از پارامترهای کمتری نسبت به مدل Nemotron 3 Ultra استفاده میکند، انویدیا میگوید که میتواند دقت مشابهی را در وظایف دنبال کردن دستورالعمل و استفاده از ابزار ارائه دهد.
در انتهای دیگر طیف، این شرکت همچنین دو مدل بولت سبک وزن را روانه بازار کرد. اینها برای اجرا به صورت محلی روی رایانههای شخصی هوش مصنوعی جدید (که دارای تراشه Nvidia RTX Spark هستند) و ایستگاههای کاری با DGX Spark اجرا میشوند. چنین رایانههای شخصی، با هدف مصرفکنندگان، برنامهنویسان و کارکنان دانش سازمانی، در حال حاضر از طریق شرکای مانند مایکروسافت و دل به بازار عرضه میشوند.
کری بریسکی، معاون مدلهای باز و نرمافزار انویدیا، در پست وبلاگی که این مدلها را معرفی میکند، نوشت: «هر سازمانی که بخواهد نمایندگیها را در زیرساختهای انویدیا اجرا کند، اکنون یک مدل باز و بهینهشده برای سطح خود بدون نیاز به انتخاب بین قابلیت و قابلیت استقرار دارد».
انویدیا ادعا میکند که Super VL وظایف خود را سریعتر از مدلهای رقیب Anthropic و OpenAI (Opus 5، GPT 6.1 Sol، Luna، Astra) انجام میدهد که پس از آموزش در وظایف نمایندگی خاص. این وظایف شامل اطلاعات اسنادی، حسابداری مالی، آزمایش های علمی، ادعاهای بیمه پزشکی و مقاومت در برابر حملات امنیتی است.
در حالی که هر زمان که یک شرکت فناوری بزرگ مدل جدیدی را معرفی می کند، چنین ادعاهایی استاندارد هستند، انویدیا با لیستی از شرکت های قدرتمندی که می گوید از Super VL استفاده می کنند، از آن پشتیبانی کرده است. اینها عبارتند از Skydance، EY، Ramp، Crowdstrike، Perplexity و Salesforce.
البته، اینها اولین مدلهای وزن باز نیستند که انویدیا با آزمایشگاههای مرزی اختصاصی رقابت میکنند – شرکتهایی که هم مشتری و هم سرمایهگذاری آن هستند. غول GPU دارای یک خانواده کامل از مدل های Nemotron است که همه چیز را از هوش مصنوعی چندوجهی گرفته تا استدلال، کدنویسی، ریاضی و اتوماسیون سازمانی انجام می دهند.
با این حال، آن آزمایشگاههای اختصاصی هوش مصنوعی که به سرعت در حال رشد هستند، اکنون به دنبال بسیاری دیگر از تراشهها و سازندگان سیستمهای هوش مصنوعی فراتر از انویدیا هستند تا نیازهای خود را تامین کنند (مانند Trainium و Cerebras AWS و همچنین ساخت تراشههای خانگی خود).
بنابراین انویدیا به شدت به سمت روند شرکت های سازمانی متمایل شده است که می خواهند مدل های باز خود را در مراکز داده خود اجرا کنند. بریسکی نوشت: «برخلاف مدلهای مرز بسته، سازمانها میتوانند Super VL را بر اساس دادههای خود آموزش دهند، آن را در زیرساختهای خود مستقر کنند و آنچه را که میسازند مالکیت داشته باشند».
اما با اعلام این خبر یا مدلهای کوچکتر و محلی رایانههای شخصی، تلاش میکند تا روند نوپای دستیاران هوش مصنوعی مصرفکننده را نیز پیش ببرد. در حالی که به نظر میرسد هر روز یک دستیار جدید هوش مصنوعی توسط استارتآپها و فناوریهای بزرگ معرفی میشود، مصرفکنندگان خسته از حریم خصوصی ممکن است نخواهند چنین عواملی را تا این حد به زندگی خود دعوت کنند تا به اطلاعاتی در مورد خانواده، سلامت، امور مالی و غیره دسترسی داشته باشند.
بریسکی نوشت، بنابراین Nvidia امیدوار است با ایجاد ماشینهایی که مدلها و عوامل را به صورت محلی اجرا میکنند، بازار جدیدی برای فروش رایانههای شخصی مجهز به تراشههای خود ایجاد کند، کاربران رایانه شخصی «میتوانند پروژههای روزمره را بدون ارسال آن حجم کاری به فضای ابری واگذار کنند».
از بین دو مدل بولت، Nemotron 3.5 Bolt 74B-A9B 24GB یک مدل پارامتری 74 میلیاردی است که برای وظایف نمایندگی محلی طراحی شده است. در نظر گرفته شده است که سرعت را با استدلال متعادل کند تا بتواند استدلال چند مرحله ای، فراخوانی ابزار و مرور وب را مدیریت کند. کوچکترین بولت E4B برای عوامل مکالمه هدف قرار می گیرد.
انویدیا می گوید که Super VL و Bolt 74B-A9B اکنون در دسترس هستند و Bolt E4B اواخر این ماه عرضه می شود.
وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.
آنتروپیک می گوید که نیروی کارش کمتر جوان شده است و زمان بیشتری را در جلسات آنتونی ها می گذراند
کریستن کوروسک لوکاس روپک، ربکا بلان، مدیرعامل می گوید که Replit OpenAI را به طور پیش فرض نسبت به Anthropic تبدیل می کند.
مارک والبرگ میخواهد با یک باشگاه ورزشی مقرونبهصرفه، Connie Loizos، استارتآپهای با طول عمر بالا را بر عهده بگیرد.
تسلا از رودستر اسپیس ایکس رونمایی کرد که با سبک شان اوکین پرواز و سقوط می کند.
اف بی آی کارمند OpenAI را متهم به کار گذاشتن دستگاه ضبط مخفی در اتاق کنفرانس Zack Whittaker دستگیر کرد
فقط 5 سال بعد، پلتفرم چت بات تعاملی Character.AI فایل هایی برای ورشکستگی ایوان مهتا ایجاد کرد
متن اصلی (انگلیسی)
Nvidia launches new open models to run agents in the enterprise and on PCs
Nvidia is leaning hard into the trend of enterprise companies wanting to run their own open models in their own data centers and also trying to make on-device, private AI agents a thing.