انویدیا با مدل‌های وزن بازتر اروپایی‌های محتاط را جذب می‌کند

انویدیا امیدوار است با بارگیری مجموعه‌ای از مدل‌های وزن باز جدید که شامل ربات‌های چت، مراقبت‌های بهداشتی و روباتیک هستند، از تقاضای هوش مصنوعی مستقل اروپا سرمایه‌گذاری کند.

توسعه دهندگان مدل اصلی منابع لازم برای ساخت مدل های بسیار توانمند را از ابتدا دارند. اما اکثر شرکت‌ها این کار را نمی‌کنند، و در عوض مجبور شده‌اند مدل‌های وزن باز مانند Mistral یا H Company را با استفاده از مجموعه داده‌های خود تنظیم کنند.

در GTC برلین، انویدیا از جدیدترین محصولات اضافه شده خود به کتابخانه مدل وزن باز خود با تعبیه جدید Nemotron Retriever و مدل های خودروی خودران Alpamayo رونمایی کرد.

نکته تعبیه مدل ها

در حالی که به هیچ وجه جذاب ترین زیر کلاس مدل های موجود نیست، مدل های تعبیه شده برخی از موارد مفیدتر برای برنامه های سازمانی هستند. بازیابی نسل افزوده شده (RAG)، فناوری ای که در گذشته به طور گسترده مورد بررسی قرار داده ایم، برای کاربردهایی مانند جستجوی تقویت شده با هوش مصنوعی، به شدت به جاسازی های ایجاد شده توسط این مدل ها متکی است.

در سطح بالایی، RAG با برش اسناد به صورت تکه‌ای کار می‌کند، سپس آن‌ها را به بردارهایی به نام embedding تبدیل می‌کند. سپس جاسازی‌ها بر اساس ارتباطشان با درخواست کاربر قبل از وارد شدن به زمینه LLM رتبه‌بندی می‌شوند.

جدیدترین مدل‌های جاسازی و رتبه‌بندی انویدیا، بر اساس Nemotron 3.5، از جاسازی تصاویر و متن در 34 زبان پشتیبانی می‌کنند. این بار، مدل ها در اندازه های مختلف از یک تا هشت میلیارد پارامتر، با نسخه های کوانتیزه NVFP4 برای شتاب دهنده های جدید مبتنی بر Blackwell ارائه می شوند. این به اندازه‌ای کوچک است که می‌تواند روی چیزی مانند DGX Spark با فضای کافی برای مدل‌های دیگر کار کند.

همیشه ادعاهای فروشندگان را با نمک معمولی در نظر بگیرید، اما در میان مدل‌های تعبیه‌شده رقیب، انویدیا به خود می‌بالد که با دقت BF16، مدل‌های جدید تعبیه‌شده و رتبه‌بندی 8 میلیارد پارامتر اکنون مدل‌های متراکم برتر در معیارهای ViDoRe V3.1 هستند.

با این حال، همه اسناد به راحتی به جاسازی تبدیل نمی شوند. درک فایل‌های PDF برای جاسازی مدل‌ها بسیار دشوار است. آنها اغلب از مواد منبع چاپی اسکن می شوند و برای مصرف قالب بندی می شوند، که به معنای خراش دادن متن و تجزیه نمودارها است. برای این منظور، انویدیا یک مدل Nemotron Parse تازه‌سازی شده را نیز راه‌اندازی کرده است که به طور خاص برای استخراج اطلاعات از اسناد PDF آموزش دیده است.

انویدیا ادعا می کند که این مدل می تواند تقریبا 10.5 صفحه در ثانیه را هنگام اجرای مدل یک میلیارد پارامتری روی یک H100 پردازش کند.

در کنار مدل‌های تعبیه‌شده جدید، انویدیا دسترسی به Alpamayo 2 Edge را نیز ارائه می‌کند، نسخه فشرده‌تری از مدل رانندگی خودران خود که بر اساس آن نوید پردازش بی‌درنگ جریان ویدئو و داده‌های حسگر را هنگام اجرا بر روی پلتفرم DRIVE AGX Thor این شرکت می‌دهد.

این مدل‌ها تنها یک هفته پس از آن عرضه می‌شوند که غول GPU مدل Nemotron 3.5 Super vision Language (VL) خود را راه‌اندازی کرد و Nemotron 3.5 Bolt را معرفی کرد، مدلی با 74 میلیارد پارامتر ترکیبی از متخصصان (MoE) که برای گنجاندن حداقل 24 گیگابایت حافظه ویدیویی طراحی شده است. انویدیا می گوید این مدل از جمعه برای دانلود در دسترس خواهد بود.

در حالی که مدل‌های باز مسیری را برای شرکت‌ها و دولت‌ها به سوی هوش مصنوعی مستقل فراهم می‌کنند، مدل‌های انویدیا در نحوه انتشارشان تا حدودی منحصربه‌فرد هستند. اکثر مدل های وزنه باز نوعی جعبه سیاه هستند. هر کسی می‌تواند آنها را دانلود کند، اما داده‌ها و فرآیندهای مورد استفاده برای رسیدن به این وزن‌ها یک راز است. این مورد در مورد بسیاری از مدل های انویدیا صدق نمی کند: در کنار وزن آنها، انویدیا به طور معمول داده های آموزشی و دستور العمل های مورد استفاده برای تبدیل آن به مدل نهایی را منتشر می کند.

این بدان معناست که مشتریان نه تنها می‌توانند مدل را در سطح پایین بررسی کنند، بلکه می‌توانند یک مدل کاملا سفارشی بر اساس معماری Nemotron انویدیا بسازند، نه اینکه سعی کنند وزن‌ها را از طریق تنظیم دقیق تغییر دهند. باید توجه داشته باشیم که انویدیا تنها کسی نیست که این کار را انجام می دهد. موسسه آلن استراتژی مشابهی را با مدل های OLMo خود به همین دلیل به کار گرفته است. ®