پرش به محتوای اصلی

Cloudflare سعی می کند با مدل های Clef وزن باز از Jev پیشی بگیرد

دِ رجیستر۱۴۰۵ مهر ۱۰, جمعه، ساعت ۰۰:۰۹حدود 3 دقیقه مطالعه

مطمئنا، هزینه بیشتری دارد، اما می‌تواند تصاویر و ویدیوها را مدیریت کند و اگر قدرت سخت‌افزاری برای اجرای محلی آن را دارید، در Hugging Face موجود است.

دو هفته پس از آنکه مدل Jev دنیای هوش مصنوعی را تحت تاثیر قرار داد، Cloudflare جفت مدل تصمیم گیری "Clef" خود را منتشر کرد که به ادعای آن هوشمندتر و سریعتر از Jev هستند، در عین حال وزن باز و قابل اجرا به صورت محلی نیز دارند. خانواده مدل‌های تصمیم Clef روز پنجشنبه توسط Cloudflare معرفی شد و از دو مدل تشکیل شده است: Clef و Clef-flash، نسخه کمی کوچک‌تر و سریع‌تر از مدل. برای همه مقاصد، آنها مانند TypeSafe's Jev کار می کنند، به این ترتیب که می توانند به سه نوع سؤال محدود و ساختاریافته پاسخ دهند: بله / خیر، چند گزینه ای و رتبه بندی.

در اینجاست که تفاوت‌های بزرگ‌تر ظاهر می‌شود، زیرا Clef نه تنها متفاوت ساخته شده است، بلکه اگر ادعاهای معیار Cloudflare پابرجا باشد، در تعدادی از آزمایش‌ها نیز از Jev و چندین مدل تصمیم‌گیری تواناتر به نظر می‌رسد. برای شروع، Clef دارای ستون فقرات LLM است. طبق گفته‌های Cloudflare، Clef از نسخه‌های منجمد Qwen3.8-27B و Qwen3.5-9B به ترتیب پس از آموزش، برای Clef و Clef-flash استفاده می‌کند، با ستون فقرات Qwen که در طول استنتاج، فقط یک پاس از پیش پر کردن را انجام می‌دهد. Clef هنوز هم سریع است - سریع‌تر از Jev، انصافا - و پس از آن پاس فقط از قبل پر کردن، به موازات انتخاب‌ها را می‌گیرد.

مشخص نیست معماری زیربنایی Jev چیست، زیرا TypeSafe آن را مخفی نگه داشته است. در مورد سرعت و توانایی آن، Clef سریع حرکت می کند. Cloudflare آن را با استفاده از Jev Decision Index موجود در Hugging Face در برابر Jev و برخی از مدل‌های تصمیم باز دیگر اجرا کرد، و رتبه‌بندی خود شرکت نشان می‌دهد که Clef کمی کندتر از سایر مدل‌های باز است، اما دقیق‌تر است، با Clef-flash دقیقا به اندازه سایر مدل‌ها، اما بسیار سریع‌تر.

برای اینکه در رقابت منصف باشیم، Cloudflare امتیازات خود را در مقایسه با معیار خود گزارش کرده است، و آنها هنوز برای رتبه بندی در شاخص تصمیم گیری رسمی بازتولید نشده اند. Cloudflare همچنین Clef را در مقابل معیارهای خود TypeSafe اجرا کرد و ادعا کرد که Jev را در سه منطقه از چهار منطقه شکست داده است و فقط در قابلیت مشاهده ردیابی عامل شکست خورده است. حتی اگر کمی کندتر یا دقیق تر باشد، Clef یک عامل مهم دیگر در Jev دارد: این به طبقه بندی متن محدود نمی شود - همچنین می تواند تصاویر و ویدیوها را مدیریت کند. علاوه بر این، Clef از یک پنجره زمینه 64k پشتیبانی می کند.

Jev همچنین می‌تواند تا 64 هزار توکن را در یک درخواست مدیریت کند، اگرچه وضعیت آن به علاوه طولانی‌ترین سؤال فردی به 32 هزار محدود است. Clef مستقیما از Cloudflare که بر روی Workers AI میزبانی می‌شود در دسترس است، که به گفته این شرکت، مدل‌ها را حتی سریع‌تر می‌کند زیرا «ما می‌توانیم از مزایای پردازنده‌های گرافیکی خود در لبه استفاده کنیم که منجر به تأخیر شبکه کم و تصمیم‌گیری سریع‌تر می‌شود». برای کسانی که ترجیح می‌دهند هزینه توکن را نپردازند (هزینه Clef 0.24 دلار به ازای هر میلیون توکن - تقریبا شش برابر قیمت Jev در 0.042 دلار در هر متر)، Clef را نیز می‌توان از Hugging Face دانلود کرد، و با همان شرایط Apache-2.0 وزن باز است.

اس کوئن. در حالی که در این اطلاعیه به عنوان "متن باز" توصیف شده است، مدیر محصول گروه پلتفرم هوش مصنوعی Cloudflare به The Register تایید کرد که مجموعه داده های آموزشی آن عمومی نیستند. در مورد اینکه آیا سخت افزار شما می تواند آن را اجرا کند، چن به ما گفت که Clef-flash روی هر پردازنده گرافیکی با حداقل 41 گیگابایت VRAM اجرا می شود، در حالی که Clef برای عملکرد به 85 گیگابایت VRAM روی یک GPU نیاز دارد. چن افزود: "این با فرض همزمانی واحد و یک پنجره زمینه 64k است."

نگران نباشید که معماری مدل تصمیم خود را برای Clef نیز بازسازی کنید - API آن کاملا با Jev سازگار است و به آن اجازه می دهد اگر می خواهید به صورت محلی یا با استفاده از گزینه میزبانی Cloudflare به عنوان یک جایگزین در حال اجرا عمل کند. ®

خواندن متن کامل در دِ رجیستربه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

Cloudflare tries to outplay Jev with open-weight Clef models

Sure, it costs more, but it can handle images and video and it's available on Hugging Face if you have the hardware horsepower to run it locally

همه‌ی اخبار فناوری