لینوکس را روی لپ تاپ RTX Spark خود قرار می دهم زیرا حساب مایکروسافت ندارم

tl;dr - بو هو مایکروسافت بد. آرچ لینوکس کار می کند، با ویندوز 7-Zip همگام می شود و همان مخزن حافظه 116.0 گیگابایتی را به سیستم عامل و CUDA گزارش می دهد. راه‌اندازی اولیه و وصله‌های راه‌اندازی من اینجا هستند. این برای ASUS ProArt P16 H7607BA-SE033W است: پیکربندی رم 128 گیگابایتی با 6144 هسته CUDA و یک SSD 2 ترابایتی.

زمانی که شایعاتی در مورد لپ‌تاپ‌هایی با بیش از 100 گیگابایت رم که GPU می‌توانست به آن دسترسی داشته باشد، منتشر شد، به همه چیزهایی که می‌توانم روی آن بسازم و همه بهینه‌سازی‌هایی که می‌توانستم برای مدت طولانی با آن‌ها وقت بگذارم فکر کردم. من بسیار حرفه ای مدل های وزن باز هستم. این که بتوانید کارها را به صورت محلی اجرا کنید و با RL، کمی سازی و تنظیم دقیق در لپ تاپ به هم بریزید، مشکل خواهد بود. من قبلا کوانت های GGUF خودم را در Hugging Face با بیش از 160000 بارگیری در ماه گذشته منتشر کرده ام.

بنابراین من کمتر خوشحال شدم که در مورد پشتیبانی رسمی فقط برای ویندوز مطلع شوم. دلایل زیادی برای نفرت از ویندوز وجود دارد. موارد من شامل امتیازات حفظ حریم خصوصی در حین راه اندازی، سالهای صرف شده در انتظار مایکروسافت برای قرار دادن مجدد نوار وظیفه در کنار صفحه و تبلیغات است. آخرین پیوند کلاژی از تبلیغات واقعی ویندوز است که توسط Pureinfotech ارائه شده است. شما آن را دریافت کنید. من می توانم برای همیشه ادامه دهم، پس اجازه دهید در مورد موضوع باقی بمانم.

Arch توزیع ترجیحی من است و من به عنوان نگهدارنده بسته در کارکنان Arch هستم. من قبلا آن را روی مین‌فریم‌های IBM قرار داده‌ام (اسلایدهای FOSDEM من)، بنابراین همیشه نقطه شروع من در اینجا بود. این بیلد از Arch Linux ARM استفاده می‌کند، پروژه جداگانه‌ای که بسته‌های Arch را به ARM منتقل می‌کند و پشتیبانی سخت‌افزاری در بالا اضافه شده است.

انویدیا کار کرنل را برای اوبونتو انجام داده است که به من نقطه شروعی داد. من آن را ادغام کردم، تخصیص نادیده گرفتن ACPI و نگاشت فریم بافر مورد نیاز برای دریافت یک کنسول را برطرف کردم و ACPI را از جداول خود لپ تاپ بررسی کردم (با تشکر astra <3). درایور NVIDIA و سفت‌افزار بلندگوی ایسوس از مکان‌های رسمی در اینترنت آمده‌اند (لطفا از من شرکت‌های کامپیوتری شکایت نکنید). پشتیبانی از صفحه کلید به یک hid-asus وصله شده نیاز داشت و صدا به درایور دستگاه خودش نیاز داشت.

من این را در یک USB قابل بوت قرار دادم و Archinstall 4.5 را برای نصب پشتیبانی سخت افزاری گسترش دادم. مخزن دارای اسکریپت‌ها و وصله‌های ساخت است، از جمله مراحل حذف جداول ACPI خودتان و استخراج سیستم عامل بلندگو از بسته درایور ASUS به صورت محلی. مال من سیستم عامل H7607BA.300 را اجرا می کند.

ورودی های ساخت هش پین شده اند. بسته‌های سخت‌افزاری که در آخر هفته جمع‌آوری کردم با کلید Arch Linux Package Maintainer امضا می‌شوند و لغو ACPI از خود لپ‌تاپ می‌آید.

نمایشگر با رزولوشن 3840 × 2400 و 120 هرتز کار می کند و من از NetworkManager، PipeWire و Podman بدون ریشه با NVIDIA CDI استفاده می کنم. نصب‌کننده هسته، NVIDIA، مدیریت انرژی و بسته‌های میان‌افزار را با IgnorePkg نگه می‌دارد، در حالی که بسته‌های معمولی از Arch Linux ARM به‌روزرسانی می‌شوند.

من این مجموعه را در 19 اکتبر در Arch Linux ARM با هسته 7.0.0-1022-nvidia و درایور NVIDIA 615.78.08 اجرا کردم. لپ تاپ با مشخصات عملکرد انتخاب شده وصل شد. برای مقایسه CPU، از نتایج منتشر شده ویندوز استفاده کردم.

تست CPU بومی ARM64 7-Zip 26.04 با دیکشنری ثابت 32 مگابایت است. من یک گرم کردن و سه پاس اندازه گیری شده در هر تعداد نخ انجام دادم، سپس میانه ها را گرفتم:

StorageReview یک HP OmniBook Ultra 16 128 گیگابایتی را با همان N1X 20 هسته‌ای آزمایش کرد که باینری‌های بومی ARM64 ویندوز را اجرا می‌کرد. آنها رتبه‌بندی‌های 7-Zip را در GIPS گزارش می‌کنند، بنابراین رتبه‌بندی‌های MIPS را در گزارش‌های خام خود بر 1000 تقسیم کردم تا مطابقت داشته باشد. بالاتر بهتر است

تک نخ در اصل یک کراوات است. با تمام 20 رشته، راه اندازی لینوکس من در فشرده سازی 5 درصد و در رفع فشرده سازی 3 درصد جلوتر است. بررسی HP نسخه 7-Zip یا اندازه فرهنگ لغت آن را مشخص نکرده است، بنابراین این درصدها این دو لپ تاپ را با هم مقایسه می کنند.

ComputerBase همچنین ProArt P16 را با 20 هسته N1X آزمایش کرد. با تبدیل به GIPS، امتیاز Windows 7-Zip آن 155.774 بود. میانگین کل از سه ران من 157.084 بود. نتیجه آنها در محدوده سه اجرای من از 155.759 تا 157.193 GIPS قرار دارد. دستگاه آنها پیکربندی 64 گیگابایتی داشت و 7-Zip 26.00 را اجرا می کرد، و نمودار اندازه دیکشنری را نشان نمی دهد.

حافظه انعطاف بیشتری دارد. اجرای لینوکس من 116.0 گیگابایت را به عنوان RAM سیستم و کل CUDA گزارش می‌کند، از یک استخر فیزیکی. Windows RAM را به GPU اختصاصی، اشتراک‌گذاری شده و مناطق فقط CPU تقسیم می‌کند. بارهای کاری CPU نمی توانند از منطقه اختصاصی GPU استفاده کنند و تخصیص های GPU نمی توانند از منطقه فقط CPU استفاده کنند.

برنامه Windows NVIDIA به شما امکان می دهد رزرو اختصاصی را تغییر دهید و راه اندازی مجدد کنید. ProArt P16 128 گیگابایتی فراندروید به 96 گیگابایت رسید. CUDA می تواند با تخصیص از RAM مشترک، با توجه به بودجه حافظه ویندوز، فراتر از آن عمل کند.

با یک رزرو اختصاصی 91 گیگا بایتی، تنظیمات ویندوز فراندروید مجموعا 109.7 گیگا بایت، شامل حافظه مشترک، CUDA را گزارش کرد. تنظیم لینوکس من 116.0 گیگابایت، حدود 6.3 گیگابایت بیشتر گزارش کرده است. چیزی که من به آن اهمیت می دهم این است که یک استخر بزرگ برای کار CPU نیز در دسترس داشته باشم، بدون اینکه نوار لغزنده رزرو را جابجا کنید و بین بارهای کاری راه اندازی مجدد کنید.

من NVIDIA's Qwen3.8-Flash-Next-FP4-Local point checkpoint را از طریق vLLM با هسته های B12X CUDA در یک ظرف اصلی ARM64، با استفاده از کوانتیزاسیون ترکیبی و حافظه پنهان FP8 KV اجرا کردم. فکر کردن برای این دویدن را خاموش کردم.

قبل از بارگذاری مدل، لینوکس 110.9 گیگابایت رم در دسترس را گزارش کرد. vLLM 68.2 گیگابایت را برای بارگذاری مدل ثبت کرد و 21.1 گیگابایت دیگر را به حافظه نهان KV اختصاص داد. این تقریبا 90 گیگابایت است که به مدل و حافظه نهان KV در لپ تاپ اختصاص داده شده است.

بارگذاری و کامپایل مدل حدود 16 دقیقه قبل از اولین درخواست طول کشید. زمان بندی زیر پس از گرم کردن شروع می شود. جداول جاسازی PLE توسط دیسک پشتیبانی می شوند و از حافظه پنهان صفحه گرم بهره می برند. اجزای دیگر از تخلیه CPU استفاده می کنند. CUDA استنتاج را انجام می دهد، با برخی از مدل ها خارج از حافظه GPU.

من به Qwen دو کمک کننده Python باگی دادم تا بررسی کند، یک گزارش رویداد طولانی با یک عملیات ناموفق برای یافتن، و یک یادداشت پرداخت برای تبدیل به JSON. هر کار سه بار پس از گرم کردن اجرا شد، با پاسخ‌های شناخته شده برای بررسی. می خواستم بدانم چه مدت باید منتظر بمانم و آیا فیلدهای مناسب را برمی گرداند یا خیر.

وظیفه حادثه نزدیک به 10000 توکن را خواند و درخواست صحیح، علت و اقدام بعدی را در کمتر از 6 ثانیه برگرداند. پاسخ آن تنها 39 توکن بود که در کل درخواست به 6.8 توکن در ثانیه می رسد. بیشتر زمان انتظار به پردازش دستور داده می‌شود، بنابراین زمان پاسخ برای این کار بیشتر از رقم نشانه/ها به من می‌گوید.

برای بررسی کد، سرعت تولید را به صورت (توکن های خروجی - 1) / (زمان پاسخ - زمان تا اولین نشانه) تخمین زدم، هر دو بار در ثانیه. این شامل سربار جریان است. فراندروید وظایف کدنویسی Qwen3.8-Flash-Next را در Windows ProArt خود اجرا کرد:

هر دو راه اندازی ProArt حدود 30 توکن در ثانیه هستند. برای استنتاج، فراندروید از یک رزرو اختصاصی 85 گیگابایتی و محدودیت زمینه 262144 توکن استفاده کرد. محدودیت زمینه من 32768 توکن بود. درخواست ها، کوانت ها، زمان اجرا و روش های زمان بندی متفاوت است. این دو پیکربندی کاری را مقایسه می کند. این اثر سیستم عامل را جدا نمی کند.

من همچنین چهار بررسی کد را به طور همزمان ارسال کردم. دسته متوسط ​​در 5.314 ثانیه به پایان رسید و 86.6 توکن خروجی در هر چهار درخواست را با هم تولید کرد. این نرخ شامل پردازش سریع و سربار پاسخ است. همه 12 پاسخ در سه دسته ارسال شدند.

سپس آن را به مدت ده دقیقه در حال انجام سه کار، یک درخواست در یک زمان، رها کردم. 150 درخواست، 50 درخواست از هر کدام را به پایان رساند و هر پاسخی بررسی شد. زمان پاسخ متوسط ​​برای بررسی کد 4.036 ثانیه، برای ورود به سیستم 5.921 ثانیه و برای استخراج 2.046 ثانیه بود. با مقایسه ده تکرار اول و ده تکرار آخر هر کار، میانگین زمان پاسخ کمتر از 1.6٪ رشد کرد.

همه 171 پاسخ اندازه‌گیری شده، بررسی‌ها را گذراندند. این سه فرمان است که با رمزگشایی قطعی تکرار می شود. بررسی کد بازبینی خروجی های رگرسیون را تأیید می کند. من هر پاسخ و جریان رویداد خام را نگه داشتم و آنها را با خلاصه ها بررسی کردم.