Qwen 3.8 27B در لپ تاپ من می تواند وزن مدل را نیز تفسیر کند

مقاله داغ دیروز Sparks of Weight-Space Programming بود: LLM ها می توانند وزن شبکه های عصبی را توسط ریکیا تاکهی، جیدن تئو، الکس ژانگ و عمر خطاب به صورت بومی بخوانند و بنویسند. این مقاله (بسیار خوب، نویسندگان آن را به عنوان یک «پست وبلاگ» طبقه‌بندی می‌کنند، اما به شکل کاغذ است) نشان داد که مدل‌های مرزی، به‌ویژه GPT-6 Astra، می‌توانند وزن‌های خام یک مدل یادگیری ماشین را هم تفسیر و هم تغییر دهند - به معنای واقعی کلمه یک توصیف متنی از مدل شامل یک دسته از اعداد ممیز شناور است.

من با یکی از نمونه‌های کاغذ بازی می‌کردم و خوشحالم که Qwen 3.8 27B که روی لپ‌تاپ من اجرا می‌شود نیز می‌تواند این کار را انجام دهد!

در اینجا نکته برجسته انتزاعی آنها آمده است، که قابلیت‌های چشمگیر GPT-6 Astra را توصیف می‌کند و عبارت Weight-Space Programming را برای زمانی که LLMها وزن مدل را تجزیه و تحلیل و تغییر می‌دهند، ابداع می‌کند:

فقط با نگاه کردن به وزن‌های خام، GPT-6 Astra می‌تواند بگوید که یک شبکه برای انجام چه کاری آموزش دیده است. و بدون هیچ گونه بازخورد محیطی، هیچ مشکلی برای نوشتن ندارد، از ابتدا، شبکه های بازی کوچکی که شبکه های آموزش دیده با PPO را برای 100 میلیون مرحله بازی می کنند.

به همین ترتیب، از Astra برای بهتر کردن Qwen3.5-0.8B در ریاضیات بدون گرادیان، مشکلی را در وزن‌های خود شناسایی می‌کند که باعث ایجاد حلقه‌های استدلالی می‌شود که کارت مدل خود Qwen در مورد آن هشدار می‌دهد، و با ویرایش بومی 0.016٪ از وزن‌ها، این مشکل را برطرف می‌کند. با تنظیمات نمونه‌گیری یکسان، این تصحیح وزن MATH-500 را از 7.9 درصد به 48.1 درصد افزایش می‌دهد و خارج از جعبه را به دستورالعمل‌های زیر تعمیم می‌دهد و IFEval را 3 برابر افزایش می‌دهد.

همه اینها بدون اجازه Astra برای نوشتن حلقه های آموزشی امکان پذیر است. از استدلال خود استفاده می کند تا بفهمد که هر بخش از یک شبکه عصبی چه چیزی را محاسبه می کند یا باید محاسبه کند و وزن ها را متناسب با آن تغییر می دهد. ما به این برنامه‌نویسی وزن-فضا می‌گوییم.

این مقاله دو موضوع را با هم ترکیب می‌کند که به نظر من شایسته بررسی جداگانه است. اولین مورد این است که مدل‌ها می‌توانند با وزن‌های خام بدون ابزار یا اجرای کد انجام دهند. دومی بررسی می‌کند که چگونه مدل‌ها، زمانی که به کد مجهز شوند، می‌توانند عملیاتی را برای به‌روزرسانی و بهبود مدل‌های دیگر اجرا کنند.

متیو هانیبال، نویسنده spaCy، مقاله را به دلیل ادغام این دو گمراه کننده خواند، و شان گودکه نمونه به روز رسانی Qwen3.5-0.8B را با برداشتن همان مراحلی که یک محقق ML انسانی از آن استفاده می کند، ساختارشکنی کرد.

من بر روی سوال بدون ابزار تمرکز خواهم کرد، که فکر می کنم از این دو جالب تر است.

این مقاله اولین سوال را ارائه می کند که آیا LLM ها می توانند رفتارهای مدل را از وزن ها درک کنند؟ آن‌ها چهار شبکه عصبی را آموزش دادند تا نسخه‌های ساده‌شده شبکه‌ای ۱۰×۱۰ از چهار بازی رایانه‌ای کلاسیک- Breakout، Pong، Pac-Man و Freeway را بازی کنند (من باید آن یکی را بررسی می‌کردم، این یک بازی Atari 2600 از سال 1981 است). سپس آن وزن ها (به عنوان اعداد ممیز شناور) را به همراه سوال زیر به یک LLM دادند:

وزن های زیر متعلق به یک شبکه خط مشی است که با یادگیری تقویتی برای انجام یک بازی در این شبکه آموزش دیده است. در کدام بازی تمرین شد؟ از روی وزنه ها کار کنید. شما هیچ ابزاری ندارید: بدون اجرای کد، بدون ماشین حساب، چیزی برای اجرا. این یک پاسخ واحد است.

مخزن GitHub که مقاله را همراهی می کند RikiyaT/lm_understand-logs است. پوشه exp1_which_game حاوی دستوراتی است که آنها استفاده کرده‌اند، با وزن‌های چهار بازی:

من بررسی کردم و به غیر از وزن ها، هر یک از اعلان ها با بقیه یکسان است.

درخواست‌ها در GitHub مستقل هستند. ابزار LLM من یک گزینه -f/--fragment دارد که می‌توان URL را به یک فایل متنی ارسال کرد تا به‌عنوان یک اعلان استفاده شود، به این معنی که می‌توانم هر یک از موارد بالا را مانند این اجرا کنم:

این مثال نیاز به نصب پلاگین llm-openrouter دارد و اعلان Breakout را در مقابل Kimi K3.1 Pro از طریق OpenRouter اجرا می کند. در اینجا چیزی است که من از Kimi K3.1 Pro دریافت کردم، که Breakout را پس از 9 متر 41 ثانیه و 19493 توکن استدلال با موفقیت حدس زد.

اما Qwen 3.8 27B چطور؟ این هنوز هم مدل مورد علاقه من برای اجرا بر روی لپ تاپ خودم است - فقط 17 گیگابایت است (من از این نسخه استفاده می کنم) و به نوعی به مدل های اختصاصی پیشرو در سال 2025 نزدیک است.

من LM Studio را راه اندازی کردم، اطمینان حاصل کردم که Qwen 3.8 27B با یک پنجره زمینه طولانی بارگذاری شده است (متن پیش فرض 8192 با خطاها ناموفق بود)، افزونه llm-lmstudio را نصب کردم و این دستور را اجرا کردم:

(من مجبور شدم با استفاده از یک متغیر محیطی تایم اوت را افزایش دهم، به این موضوع نگاه کنید.)

پس از 46m 12s و 43506 توکن استدلال، Qwen در لپ‌تاپ من پاسخی را به این شکل به پایان رساند (در اینجا ردیابی استدلال آمده است):

بازی: دنیای شبکه ای ساده شده به سبک Pac-Man: یک مامور در یک پیچ و خم ثابت ۸×۸ با بلوک های دیوار مرکزی و گوشه ای، حرکت اشیا/ارواح و اهداف/گلوله های پاداش حرکت می کند.

توضیحات: عامل برای حرکت در راهروها، جمع‌آوری سلول‌های هدف پاداش، و اجتناب از متحرک اشیاء یا خطرات، با استفاده از نشانه‌های عامل فعلی/شیء متحرک/قاب قبلی، یک تخته پیچ و خم مانند ثابت را هدایت می‌کند.

این تاثیرگذار است. روی دو تا از بازی های دیگه هم امتحان کردم. پونگ (استدلال) را در 1 ساعت و 4 دقیقه و 54 ثانیه شناسایی کرد:

پنگ - به طور خاص یک بازی پارویی/توپ مانند پنگ که در آن عامل یک دست و پا زدن عمودی در سمت راست را کنترل می‌کند و باید به سمت بالا/پایین حرکت کند تا یک توپ در حال حرکت/شیء پاداش را رهگیری یا برگرداند.

عامل یک دست و پا زدن سمت راست را به صورت عمودی حرکت می دهد تا یک هدف پاداش مانند توپ متحرک را که در زمین 8×8 حرکت می کند ضربه بزند یا بگیرد، در حالی که یک جسم متحرک در سمت چپ / حریف و مرزهای دیوار بازی را مشخص می کند. پاداش با قطع / برگرداندن / به ثمر رساندن توپ به دست می آید و از دست دادن یا نخوردن آن جریمه می شود.

بازی: Breakout یا یک بازی دست و پا زدن/توپ/آجر مانند Arkanoid.

توضیحات: عامل یک دست و پا زدن در ردیف پایین است و به چپ/راست حرکت می کند تا توپ را در بازی نگه دارد. توپ در اطراف شبکه بالایی حرکت می کند، و اهداف آجر/پاداش در ردیف های بالا به هنگام ضربه زدن جایزه می دهند، در حالی که از دست دادن توپ/ ضربه به دیوار پایین قسمت را به پایان می رساند یا پنالتی می دهد.

Qwen در درخواست Freeway شکست خورد، که با توجه به اینکه بازی مبهم تر از سه بازی دیگر است، من را شگفت زده نکرد. این رونوشت است - کوئن فکر می‌کرد که «یک بازی شبکه‌ای ساده‌شده شبیه به Pac-Man: عامل به صورت ۴ جهته حرکت می‌کند».

ردپای استدلال بسیار سرگرم کننده و تقریبا غیرقابل درک است. در اینجا یک نمونه است:

در مورد نماینده channel0 چطور؟ ما چند ردیف channel0 بزرگ در نزدیکی ردیف 8 col7/8 و شاید پایین می بینیم؟ بیایید کانال 0 بزرگ را فهرست کنیم: line436 input435 (row8 col7 ch0) -2.107,1.169,0.513...; line441 input440 (row8 col8 ch0) -0.376,0.010,1.564,3.855...; line445 input444 (row8 col8 ch4) 0.142,0.491...; line382 input381 ch0 صبر کنید line382 input381: 381//5=76 (row7 col6)، ch1? 381%5=1؟ 76 * 5=380، فصل 1. پس نه. Channel0 بزرگ شاید فقط در row8 col7/8. همچنین ردیف بالا؟ خط44 ورودی43 ch3، خط49 ch3. Channel0 بزرگ شاید زیاد نباشد. موقعیت نماینده می تواند نزدیک به سمت راست پایین باشد؟ اگر نماینده معمولا در پایین سمت راست است؟

با این حال، من انتظار دارم که یک انسان با تجربه کافی مجهز به دفترچه یادداشت و یک مداد بتواند با تلاش کافی به آنجا برسد.

این مقاله جالبی است، اما برخی از تفسیرهای گسترده‌تری که در اطراف آن دیده‌ام، موجه به نظر نمی‌رسد. من آماده نیستم بگویم که عصر کد منبع به پایان رسیده است و آینده ما شامل ماشین های نامفهومی است که وزن مدل خود را به روش های نامفهوم ویرایش می کنند.