LFM2.5-24B-A2B: برای عوامل سریع روی دستگاه ساخته شده است

امروز، LFM2.5-24B-A2B را منتشر کردیم، یک مدل استدلال با پارامتر 24B با فقط 2B پارامتر فعال، که برای عوامل سریع و خصوصی روی دستگاه ساخته شده است. این بزرگترین و آخرین مدل در خانواده LFM2.5 است که اکنون دو مرتبه بزرگی را در بر می گیرد: از LFM2.5-230M تا LFM2.5-24B-A2B.

LFM2.5-24B-A2B با Qwen3.6-35B-A3B رقابت می کند، مدلی با 50 درصد پارامترهای کل و فعال بیشتر، در پنج مورد از هشت معیار استفاده از ابزار و عامل، با امتیاز 48.09 در LiveClaw در مقابل 38.19 و 27.69. از آنجایی که تنها 2B پارامتر در هر توکن فعال است، تا 1.7× سریعتر از MoEهای مشابه روی دستگاه اجرا می شود، با 184 توکن بر ثانیه در Apple M5 Max و حداکثر 21 هزار توکن خروجی در یک واحد گرافیکی NVIDIA B300.

مدل های پایه (LFM2.5-24B-A2B-Base) و پس از آموزش (LFM2.5-24B-A2B) با وزن باز هستند و امروز در Hugging Face و زمین بازی ما در دسترس هستند. اسناد ما را در مورد نحوه اجرا و تنظیم دقیق آن به صورت محلی بررسی کنید.

LFM2.5-24B-A2B بر اساس نسخه قبلی LFM2-24B-A2B ما ساخته شده است، با واژگان و پنجره زمینه گسترده، پیش‌آموزش مقیاس‌شده، و یادگیری تقویتی در مقیاس بزرگ. بر خلاف سلف خود، LFM2.5-24B-A2B یک مدل صرفا استدلالی است که قبل از پاسخ نهایی، یک زنجیره فکری صریح تولید می کند. ما این استراتژی را برای استفاده از سرعت رمزگشایی بالای آن و بهبود کیفیت پاسخ اتخاذ کردیم.

معماری. این 40 لایه، 64 متخصص در هر بلوک MOE با مسیریابی بالای 4، و همان ترکیبی از پیچش های کوتاه دروازه ای و GQA را حفظ می کند. دو تغییر معماری عبارتند از گسترش پنجره زمینه از 32,768 به 131,072 توکن و بسط توکنایزر درجا که دایره لغات را از 65K به 128K توکن برای توکن سازی غیر لاتین بهتر دو برابر می کند.

قبل از آموزش از توکن های 17T به توکن های 33T افزایش یافت.

وسط تمرین دو مرحله دارد. اولی توکن‌های 2T را در زمینه 32K روی داده‌های مدیریت‌شده و با کیفیت بالاتر و وزن‌دهی به استدلال، ریاضی، کد، دستورالعمل‌های زیر و متن چند زبانه اجرا می‌کند. دومی 300 میلیارد توکن را در زمینه 131 هزار اجرا می‌کند که برای داده‌های زمینه طولانی وزن دارد. فراخوانی ابزار و مسیرهای چند چرخشی در هر دو فاز ظاهر می شود تا مدل برای بارهای کاری عامل آماده شود.

در طول تخصص معلم، LFM2.5-24B-A2B رفتارهای شناخته شده هک پاداش را نشان داد: جستجوی پاسخ نهایی در تاریخچه git مخزن یا در پلتفرم هایی مانند GitHub، PyPI، و Hugging Face. شگفت آورتر، حتی متوجه شد که در یک جعبه شنی قرار دارد، همانطور که در مثال های زیر نشان داده شده است.

این رفتار ظاهری به نظر می رسد اما ممکن است با داده های آموزشی حاوی الگوهای مشابه توضیح داده شود. ما جعبه‌های شنی خود را در پاسخ سفت کردیم و همه نتایج گزارش‌شده در زیر از محیط‌های ارزیابی مهر و موم شده می‌آیند.

ما LFM2.5-24B-A2B را در 16 معیار که استفاده از ابزار و گردش کار عاملی، دانش، دستورالعمل‌ها، ریاضیات و کدنویسی را پوشش می‌دهند، ارزیابی کردیم. علیرغم اینکه کوچکترین مدل در تعداد کل و تعداد پارامترهای فعال است، اما با MOEهای بزرگتر با 50% پارامترهای کل و فعال بیشتر مانند Qwen3.6-35B-A3B رقابت می کند و اغلب عملکرد بهتری دارد.

LFM2.5-24B-A2B در پنج مورد از هشت معیار استفاده از ابزار و معیارهای عاملی (AutomationBench، BFCLv4، ToolSandbox، LiveClaw، و τ³-Bench Banking)، با بیشترین حاشیه در AutomationBench، که در آن مدل بعدی سه برابر بیشتر از بهترین امتیاز کسب می کند، پیشتاز یا مطابقت دارد. همچنین در هر سه معیار پیروی از دستورالعمل پیشتاز است. مدل‌های بزرگ‌تر در معیارهای دانش سنگین مانند GPQA Diamond، HLE، و AA-Omniscience و معیارهای کدنویسی مانند SWE-Bench Verified (OpenCode) و SciCode برتری دارند.

نتایج، LFM2.5-24B-A2B را به یک پایه ایده آل برای عواملی تبدیل می کند که نیاز به استدلال، فراخوانی ابزارها و اجرای قابل اعتماد روی دستگاه شما دارند. برای بارهای کاری سنگین، توصیه می کنیم LFM2.5-24B-A2B را با بازیابی یا جستجوی وب جفت کنید، که به قدرت فراخوانی ابزار آن کمک می کند.

LFM2.5-24B-A2B با پشتیبانی روز اول در سراسر اکوسیستم استنتاج ارسال می شود:

همه اجراها روی Pipette جمع‌آوری شدند، زیرساخت محک‌گذاری مشابهی که در پشت داده‌های عملکرد دستگاه عمومی Liquid AI وجود دارد.

استنتاج لبه. با توجه به معماری کارآمد LFM2، LFM2.5-24B-A2B سریعترین MoEهای مقایسه شده در خواندن در اعلانات و ایجاد پاسخ است. این 184 توکن در ثانیه در Apple M5 Max و 114 توکن در ثانیه در AMD Ryzen AI Max+ 395 رمزگشایی می‌کند، تا 1.7 برابر سریع‌تر از بهترین مدل بعدی، در حالی که از کمترین حافظه استفاده می‌کند.

استنتاج GPU برای نشان دادن رقابت‌پذیری معماری LFM، توان استنتاج GPU را با سایر مدل‌های MoE با اندازه مشابه مقایسه می‌کنیم. ما توان پردازش گرافیکی (کل نشانه‌های خروجی / زمان دیوار) را روی یک واحد پردازش گرافیکی NVIDIA B300 با استفاده از تنظیمات بار پایدار اندازه‌گیری می‌کنیم: در هر سطح همزمان، ما به طور مداوم تعداد مورد نظر درخواست‌های حین پرواز را حفظ می‌کنیم و هر درخواست تکمیل‌شده را بلافاصله جایگزین می‌کنیم.

ما هر مدل را با SGLang 0.5.22، 1024 توکن ورودی، تا 256 توکن خروجی در BF16 محک می زنیم. LFM2.5-24B-A2B سریعترین مدل در کلاس اندازه خود است که به بیش از 21 هزار توکن خروجی در ثانیه در همزمانی بالا می رسد.

اندازه، سرعت و قابلیت‌های LFM2.5-24B-A2B آن را به گزینه‌ای عالی برای عواملی تبدیل می‌کند که به طور مداوم بر روی سخت‌افزار شما کار می‌کنند. در نسخه ی نمایشی زیر، ما آن را در هرمس Agent بر روی M5 Max MacBook Pro اجرا می کنیم، جایی که برنامه ریزی می کند، ابزارها را فراخوانی می کند و از طریق یک کار واقعی کاملا روی دستگاه، بدون هیچ گونه فراخوانی API ابری کار می کند.

هدف از نسخه ی نمایشی ابزارهای فردی نیست. این است که حلقه ارسال ابزار بر روی سخت افزار مصرف کننده تعاملی احساس می شود: درخواست، پیشنهاد، تأیید، اجرا، تکرار، همه در کمتر از یک ثانیه در هر ارسال، با مسیرهای حسابرسی کامل و داده های شما هرگز از دستگاه خارج نمی شوند. راهنمای نمایندگی محلی ما را برای نحوه سرویس دهی به مدل به صورت محلی و اتصال آن با مهار نمایندگی انتخابی خود بررسی کنید.

از امروز با LFM2.5-24B-A2B که در Hugging Face موجود است، شروع به ساخت کنید.

با LFM2.5، ما چشم انداز خود را از هوش مصنوعی که در هر جایی اجرا می شود، ارائه می دهیم. این مدل ها عبارتند از:

برای نقل قول، لطفا از مرجع زیر یا BibTeX استفاده کنید:

هوش مصنوعی مایع، "LFM2.5-24B-A2B: ساخته شده برای عوامل سریع روی دستگاه"، وبلاگ هوش مصنوعی مایع، اکتبر 2026.

*همه مدل ها با vLLM و پارامترهای تولید زیر ارزیابی شدند: