مدل‌های هوش مصنوعی مرزی چین دارای اثر انگشت پردازنده‌های گرافیکی کنترل‌شده صادراتی هستند

تجزیه و تحلیل پزشکی قانونی ما از مدل‌های هوش مصنوعی منتشر شده به طور عمومی شواهدی را پیدا می‌کند که نشان می‌دهد DeepSeek، Moonshot AI، MiniMax و Ant Group، علی‌رغم محدودیت‌هایی که در صادرات این تراشه‌ها به چین وجود دارد، به پردازنده‌های گرافیکی Blackwell NVIDIA دسترسی پیدا کرده‌اند و از این سخت‌افزار برای ایجاد مدل‌های هوش مصنوعی خود استفاده می‌کنند. شش مدل منتشر شده توسط این شرکت‌ها از آوریل 2026 حاوی الگوهای عددی منطبق با سخت‌افزار بلک‌ول هستند، در حالی که مدل‌های قبلی همان شرکت‌ها با نسل قدیمی Hopper NVIDIA مطابقت دارند. این یافته ها نشان می دهد که چندین توسعه دهنده برجسته چینی هوش مصنوعی شروع به استفاده از Blackwell برای آموزش جدیدترین مدل های خود کرده اند.

مقامات ایالات متحده و گزارش های مطبوعاتی قبلا بدون انتشار شواهد فنی ادعا کرده بودند که DeepSeek و Moonshot AI از تراشه های Blackwell استفاده می کنند.

این شواهد به‌طور کامل از وزن‌های منتشر شده خود مدل‌ها به‌جای افشای اطلاعات یا گزارش‌های داخلی سرچشمه می‌گیرد. ما آثاری از مقادیر اولیه مدل‌ها را بازیابی می‌کنیم و سپس پیکربندی‌های سخت‌افزاری و پیکربندی‌های اولیه‌ای را که آنها را بازتولید می‌کنند جستجو می‌کنیم. برای DeepSeek-V4-Flash و Kimi K3، ما همچنین این مسابقه را بر روی تراشه های فیزیکی Blackwell تایید کردیم. اثر انگشت نحوه ایجاد وزنه‌ها را مشخص می‌کند و بدون اثبات، استنباط می‌کند که بلک‌ول نیز تمرین را انجام داده است.

سخت افزار AMD با پیکربندی ویژه، که صادرات آن به چین نیز محدود شده است، تنها جایگزینی است که ما شناسایی کرده ایم. ما آن را برای DeepSeek-V4-Flash حذف کرده ایم و برای پنج مدل دیگر بسیار بعید می دانیم. قابل ذکر است، یافته‌های ما شواهد فنی دسترسی به سخت‌افزار محاسباتی پیشرفته را ارائه می‌کنند، اما مشخص نمی‌کنند که تراشه‌ها در کجا قرار گرفته‌اند، چگونه دسترسی به دست آمده است، یا اینکه آیا کنترل‌های صادراتی نقض شده است یا خیر.

جدول 1. اثر انگشت سخت افزاری در مدل های متوالی DeepSeek، Moonshot AI، MiniMax و Ant Group Link ↗

• برای صادرات به چین به مجوز ایالات متحده نیاز دارد. هیچ کدام گزارش نشده است

اثر انگشت Hopper نمی تواند H800 را از H100 SXM یا H200 تشخیص دهد. شناسه های H800 در بالا، افشای آزمایشگاهی هستند، نه یافته های این روش.

جدول 2. مقیاس تقریبی هر دوره آموزشی پیوند ↗

هر تخمین، محاسبات آموزشی یک اجراست، تقسیم بر آنچه که یک GPU بلک‌ول در طول اجرا ارائه می‌کند، که به نزدیک‌ترین عدد 500 گرد شده است. ما فرض می‌کنیم که پردازنده‌های گرافیکی در حدود 20 درصد از سرعت اوج خود کار می‌کنند، مطابق با سایر دوره‌های آموزشی افشا شده بلک‌ول (25 درصد برای DeepSeek، که 39 درصد برای مدل قبلی خود گزارش کرده است)، و برای طول اجرا نشان‌داده شده، که ما از جدول‌های زمانی انتشار تخمین می‌زنیم.

معادل‌های H100 با سرعت‌های پیک منتشر شده NVIDIA تبدیل می‌شوند: B200 یا B300 برابر با 2.3 H100s و GB200 یا GB300 حدود 2.5 است.

ما به این برآوردها اطمینان نداریم. آنها بر فرضیاتی هستند که وزن‌ها نمی‌توانند تأیید کنند: هر آزمایشگاه چقدر از GPUهای خود (که اغلب MFU نامیده می‌شود) استفاده کرده است، که هیچ آزمایشگاهی برای این اجراها منتشر نکرده است. هر مدل بر روی چند نشانه آموزش دیده است (تعداد DeepSeek مختص خودش است، و ما آنها را با اعتماد می‌پذیریم؛ بقیه تخمین‌های ما هستند که از وزن‌ها با روشی که هنوز منتشر نکرده‌ایم) انجام شده است. هر دویدن چقدر طول کشید، که هیچ آزمایشگاهی بیان نکرده است. و این تمرین بر روی سخت افزاری که وزنه ها را ایجاد می کرد باقی ماند. طول اجرا بسیار مهم است، زیرا نصف شدن آن تعداد GPU را دو برابر می کند.

دو نسخه فاش شده روی یک سخت‌افزار گسترش را نشان می‌دهند: Mistral می‌گوید Mistral Large 4 را که دارای همان تعداد پارامترهای فعال DeepSeek-V4-Pro است، بر روی 3800 پردازنده گرافیکی Grace Blackwell آموزش داده است، در حالی که مایکروسافت می‌گوید MAI-Base-2 را آموزش داده است، مدلی با اندازه مشابه که با داده‌های بیشتر در 3،80 روز آموزش داده شده است. با این سرعت، دو نسخه بزرگ در اینجا به 8000 تا 9000 پردازنده گرافیکی Blackwell نیاز دارند. ارقام فقط دوره آموزشی نهایی هر مدل را پوشش می‌دهند، نه آزمایش‌ها، دوره‌های قبلی یا سرویس‌دهی.

وزن یک مدل که پارامتر نیز نامیده می شود، میلیاردها عدد قابل تنظیم است که نحوه پردازش اطلاعات و تولید پاسخ را تعیین می کند. آموزش به طور مکرر این اعداد را تنظیم می کند. اما قبل از شروع آموزش، آنها به مقادیر اولیه نیاز دارند. در نرم افزار مورد بررسی در اینجا، این مقادیر از یک الگوریتم تولید اعداد شبه تصادفی (PRNG) به نام Philox می آیند: Philox اعداد به ظاهر تصادفی را به روشی قطعی تولید می کند. ورودی شروع فیلوکس عددی به نام "seed" است. با توجه به دانه و تنظیمات یکسان، Philox هر بار اعداد یکسانی را تولید می کند.

این به مهندسان اجازه می دهد آزمایشی را از همان نقطه شروع تکرار کنند.

برای پر کردن سریع میلیاردها وزن، PyTorch، چارچوب نرم‌افزاری که در توسعه بیشتر مدل‌های اصلی هوش مصنوعی استفاده می‌شود، کارهایی را که Philox انجام می‌دهد بین بسیاری از کارگران موازی در GPU تقسیم می‌کند که Threads نامیده می‌شوند. (این کار را از طریق CURAND، کتابخانه NVIDIA برای تولید اعداد تصادفی انجام می‌دهد.) هر رشته دنباله‌ای از اعداد خود را از دانه تولید می‌کند و مجموعه‌ای از موقعیت‌ها را پر می‌کند. سپس تعداد رشته ها نحوه تقسیم آن موقعیت ها را مشخص می کند.

در تراشه‌های NVIDIA که در اینجا مورد بررسی قرار می‌گیرند، یک مقداردهی اولیه به اندازه کافی بزرگ از حداکثر 2048 رشته برای هر واحد پردازشی استفاده می‌کند که چند پردازنده جریانی (SM) نامیده می‌شود. بنابراین، یک تراشه با SM های بیشتر، همان کار را به تعداد بیشتری از کارگران اختصاص می دهد و تعداد آنها را تغییر می دهد.

شکل 1 نشان می دهد که چگونه این کار روی یک GPU ساده شده با شش SM و هشت رشته در هر SM کار می کند که در مجموع 48 رشته را ارائه می دهد. وزن ها را به عنوان یک ردیف طولانی از جعبه های خالی تصور کنید که در یک شبکه پیچیده شده اند تا روی صفحه قرار بگیرند. نخ اول کادر اول را پر می کند، نخ دوم کادر دوم را پر می کند و به همین ترتیب از طریق تمام 48 رشته. سپس شماره بعدی اولین رشته به کادر 49، شماره بعدی آن به کادر 97 و غیره می رود. خطوط مشکی این یک رشته را از طریق شبکه دنبال می کنند: نخ اول هر 48 موقعیت را پر می کند.

رنگ ها مشخص می کنند که کدام واحد پردازشی هر مجموعه ای از مقادیر را تامین می کند، در حالی که روشنایی در پانل سمت راست خود مقدار را نشان می دهد.

حالا seed را ثابت نگه دارید، اما از GPU با پنج اس ام اس به جای شش اس ام اس استفاده کنید. در مثال ساده شده ما، این به معنای 40 رشته به جای 48 است. رشته اول دقیقا همان دنباله را ایجاد می کند، اما اکنون اعداد خود را به جای کادرهای 1، 49، 97 در کادرهای 1، 41، 81 و غیره قرار می دهد. شکل 2 این اعداد را با تغییر موقعیت آنها دنبال می کند. در سراسر شبکه، تنها 6 درصد از مقادیر با آرایش اصلی مطابقت دارند. بذر درست است، اما شمارش کارگر اشتباه است. این همان چیزی است که چیدمان وزنه های مدل را سرنخی از تراشه مورد استفاده برای ایجاد آن می کند.

بنابراین، بازتولید وزن‌ها به دو چیز نیاز دارد تا همزمان درست باشد. دانه باید اعداد مناسب را تولید کند و تعداد نخ ها باید آنها را در مکان های مناسب قرار دهد. یک دانه درست با تعداد نخ های اشتباه بیشتر اعداد درست را در موقعیت های اشتباه می دهد. تعداد رشته های صحیح با دانه اشتباه اعداد مختلفی را به دست می دهد. شکل 3 نشان می دهد که چرا فقط ترکیب صحیح آرایش اصلی را بازسازی می کند.

در تراشه های واقعی، تعداد نخ ها بسیار بیشتر است، اما اصل یکسان است. در پیکربندی‌های NVIDIA که در اینجا مورد بررسی قرار گرفته‌اند، Hopper H100 SXM، H200 و H800 دارای 132 SM هستند و از 270336 رشته استفاده می‌کنند. Blackwell B200/B300 دارای 148 پیامک است و از 303104 رشته استفاده می کند. و Blackwell GB200/GB300 دارای 152 پیام کوتاه هستند و از 311296 رشته استفاده می کنند. بنابراین، بازیابی تعداد نخ ها به ما می گوید که کدام یک از این گروه های سخت افزاری با آرایش شروع مطابقت دارد، اگرچه نمی تواند تراشه های درون یک گروه را تشخیص دهد. به عنوان مثال، یک مسابقه Hopper نمی تواند H800 را از H100 یا H200 تشخیص دهد.

سوال این است که آیا این ترتیب به اندازه کافی در تمرینات باقی می ماند تا بتوانیم آن را بازیابی کنیم؟ برخی از وزنه‌ها، مانند وزنه‌هایی که برای کلمات یا نمادهایی در نظر گرفته شده‌اند که هرگز در طول تمرین با آن‌ها مواجه نشده‌اند، می‌توانند دست نخورده باقی بمانند و تقریبا دقیقا مقادیر اولیه خود را حفظ کنند. ما می‌توانیم این مقادیر حفظ‌شده را مستقیما با مقادیر اولیه تولید شده توسط تعداد دانه‌ها و نخ‌های کاندید مقایسه کنیم. شکل 4 چنین مقایسه ای را نشان می دهد: وزن های حفظ شده DeepSeek-V3 با آرایش Hopper مطابقت دارد، در حالی که DeepSeek-V4-Flash با آرایش Blackwell مطابقت دارد.

حتی وزنه‌هایی که تمرین تغییر کرده است، می‌تواند اثری ضعیف از مقادیر اولیه خود را حفظ کند. هر وزنه نهایی مقدار شروع آن به اضافه تمام تنظیمات انجام شده در طول تمرین است. اگر این تنظیمات تفاوت‌های ابتدایی را به طور کامل لغو یا غلبه نکنند، برخی از آن تفاوت‌ها باقی می‌مانند. به عنوان مثال، دو وزن که از 0.2 و 0.8 شروع می شوند و هر کدام حدود 0.1 افزایش می یابند، پس از آن همچنان به همین ترتیب مرتب می شوند. تنظیمات واقعی بسیار بیشتر متفاوت است، بنابراین یک وزن چیز کمی به ما می گوید.

اما در میان صدها هزار وزن، می‌توانیم آزمایش کنیم که آیا مقادیر شروع بالاتر همچنان با مقادیر نهایی بالاتر مطابقت دارند یا خیر. شکل 5 این رابطه ضعیف اما قابل اندازه گیری را نشان می دهد. این یک یافته در این وزنه ها است، نه یک خاصیت تضمین شده برای زنده ماندن در هر دویدن تمرین.

این آثار باقیمانده به ما اجازه می‌دهد به عقب کار کنیم. فرض کنید، در یک مثال ابداع شده با استفاده از طرح بندی شکل 1، seed 7 باعث می شود که نخ اول 0.2، 0.5- و 0.8 تولید کند. با 48 رشته، این مقادیر به موقعیت های 1، 49 و 97 می روند. با 40 نخ، آنها به موقعیت های 1، 41 و 81 می روند. اگر وزن های منتشر شده الگوی اول را حفظ کنند، می توانیم تعداد دانه ها و نخ های کاندید را امتحان کنیم تا زمانی که دوباره آن را ایجاد کنیم. در بررسی واقعی، ما هزاران مقدار را در موقعیت های مربوطه آنها مقایسه می کنیم. وزن های دست نخورده می توانند دقیقا مطابقت داشته باشند. وزنه های تمرین شده ممکن است فقط شباهت ضعیف تری را که در بالا توضیح داده شد نشان دهند.

در هر صورت، ما به دنبال ترکیبی هستیم که الگوی باقی مانده را به بهترین شکل بازتولید کند.

سپس آن ترکیب را روی وزنه هایی که از جستجو دور نگه داشته ایم آزمایش می کنیم. پس از انتخاب تعداد دانه و نخ با استفاده از یک مجموعه وزنه، از آنها برای پیش‌بینی مقادیر شروع یک مجموعه دیگر استفاده می‌کنیم، بدون اینکه هیچ کدام از تنظیمات را برای بهبود تناسب تغییر دهیم. تطبیق روی این وزنه‌هایی که قبلا استفاده نشده بود، شواهد قوی‌تری نسبت به مسابقه محدود به وزنه‌هایی است که به ما در انتخاب ترکیب کمک کرد. شکل 6 مقایسه ها را نشان می دهد: DeepSeek-V3 با طرح اولیه تراشه های Hopper H100 SXM، H200 یا H800 مطابقت دارد. DeepSeek-V4-Flash با Blackwell B200/B300 مطابقت دارد. و Kimi K3 با Blackwell GB200/GB300 مطابقت دارد.

در بررسی‌های خود، الگوهایی را یافتیم که به شدت حاکی از مقداردهی اولیه بر روی تراشه‌های Blackwell در شش مدل از چهار شرکت چینی بودند: DeepSeek-V4-Flash و DeepSeek-V4-Pro از DeepSeek، Kimi K3 و Kimi K3.1-Pro از Moonshot AI، MiniMax-M3 از MiniMax، و Ling-Group از 3. V4-Flash و MiniMax-M3 با طرح 148-SM مطابقت دارند. چهار مورد دیگر با طرح 152-SM مطابقت دارند. اینها اثر انگشت وزنه‌های اولیه هستند که استفاده از تراشه‌های بلک‌ول برای آموزش مدل‌های هوش مصنوعی را پشتیبانی می‌کنند، اما به خودی خود ثابت نمی‌کنند.

قابل ذکر است، روش پزشکی قانونی که ما برای شناسایی سخت افزاری که این مدل ها بر روی آن مقداردهی اولیه شده اند استفاده کردیم، فقط برای مدل های خاصی کار می کند. به وزن های منتشر شده نیاز دارد، بنابراین مدل های بسته قابل بررسی نیستند. همچنین به یک الگوی قابل تشخیص و وابسته به سخت افزار از نرم افزاری که وزن های اولیه را تولید می کند نیاز دارد. PyTorch در پردازنده‌های گرافیکی مورد بررسی در اینجا چنین الگویی را به جا می‌گذارد. چارچوب Baidu's PaddlePaddle که برای آموزش مدل ERNIE-5.5 بایدو استفاده شد، چنین نیست. ما توانستیم دانه ERNIE-5.5 (2760) را بازیابی کنیم، اما نتوانستیم تشخیص دهیم که از کدام سخت افزار برای مقداردهی اولیه آن استفاده شده است.

به همین ترتیب، وزن‌های اولیه‌سازی شده روی یک پردازنده معمولی به جای یک پردازنده گرافیکی، هیچ اثر انگشت GPU باقی نمی‌گذارند. تعدادی از مدل‌های Qwen3 علی‌بابا از این طریق راه‌اندازی شده‌اند، و بنابراین هیچ اثری از GPU‌های مورد استفاده برای آموزش آن‌ها باقی نمی‌ماند. ما همچنین هیچ اثر انگشتی در LongCat-2.0 Meituan که به گفته شرکت بر روی «سوپرپادهای AI ASIC» آموزش دیده بود، یا در DeepSeek-V4.1-Flash، با وجود جستجوی جامع، پیدا نکردیم.

این روش سخت افزاری را که وزن های اولیه را تولید کرده است، شناسایی می کند، نه هر تراشه ای که بعدا به آموزش مدل کمک کرد. هنگامی که یک دوره آموزشی وزن خود را روی همان GPUهایی ایجاد می کند که آن را آموزش می دهند، اثر انگشت به هر دو اشاره می کند. اما یک آزمایشگاه می‌تواند وزنه‌ها را روی یک سیستم تولید کند و آنها را به سیستم دیگر منتقل کند یا به آموزش مدل موجود بر روی سخت‌افزار جدید ادامه دهد. وزن ها به تنهایی نمی توانند این احتمالات را رد کنند. یک خوشه مختلط همان محدودیت را معرفی می کند.

اگر تراشه‌های NVIDIA وزن‌هایی ایجاد می‌کردند و تراشه‌های هواوی بعدا به آموزش آن‌ها کمک می‌کردند، الگوی NVIDIA می‌توانست بدون افشای مشارکت هواوی زنده بماند. نسل‌های مختلف NVIDIA می‌توانند الگوهای متفاوتی را در قسمت‌هایی که مقداردهی اولیه کرده‌اند، به جای بگذارند، اگر آن ردپاها باقی بماند. در Kimi K3، حداقل 64 فرآیند جدا شده هر کدام همان طرح 152-SM را ترک کردند. بنابراین یک الگوی سازگار با Blackwell از استفاده از آن در زمان اولیه پشتیبانی می کند، مشروط به جایگزین AMD در زیر. ثابت نمی کند که کل دوره آموزشی از Blackwell استفاده شده است.

الگوی هاپر نیز آموزش بعدی در بلکول را رد نمی کند.

وزن ها همچنین نمی توانند نشان دهند که چه کسی صاحب تراشه ها بوده یا در کجا قرار داشته است. سیستم های بلک ول را می توان از مراکز داده خارج از چین اجاره کرد. شواهد مربوط به دسترسی به سخت افزار است. به خودی خود، ثابت نمی کند که تراشه ها به چین قاچاق شده یا نقض کنترل صادرات رخ داده است.

آیا یک تراشه متفاوت می تواند یکی از این الگوهای سازگار با Blackwell را تولید کند؟ در میان پیکربندی‌های NVIDIA که در اینجا آزمایش شده‌اند، تراشه‌های قدیمی‌تر نمی‌توانند: نرم‌افزار می‌تواند از واحدهای پردازشی تراشه‌ای کمتری استفاده کند، اما نمی‌تواند بیش از آنچه که از نظر فیزیکی دارد به آن بدهد. تحت رفتار استاندارد PyTorch که در اینجا مورد بررسی قرار گرفت، آنها نمی توانند طرح بندی های 148 یا 152-SM را تولید کنند. کارت‌های گرافیک بلک‌ول در بازار چین از تعداد رشته‌های متفاوتی در هر SM استفاده می‌کنند و هیچکدام از آنها را تولید نمی‌کنند.

AMD امکان متفاوتی را ارائه می دهد. یک MI300X معمولا از 304 واحد پردازشی استفاده می‌کند، اما می‌توان آن را به دو گروه 152 تایی تقسیم کرد یا برای استفاده از 148 پیکربندی کرد. نرم‌افزار اعداد تصادفی آن نیز می‌تواند دنباله‌های زیربنایی مشابه NVIDIA ایجاد کند. چنین پیکربندی‌هایی بسیار غیرمعمول خواهند بود، اما ما در یک MI300X فیزیکی تأیید کردیم که، محدود به 152 یا 148 واحد از آن، طرح‌بندی‌هایی را که ما با Blackwell مرتبط می‌کنیم بازتولید می‌کند، بنابراین طرح‌بندی به تنهایی این سوال را حل نمی‌کند.

برای تشخیص آنها، ما به دنبال تفاوت های عددی کوچک در خود مقادیر بودیم. AMD و NVIDIA یک محاسبه را در فرآیند تولید اعداد کمی متفاوت انجام می دهند. در MI300X فیزیکی، وزن‌های حفظ‌شده DeepSeek-V4-Flash به NVIDIA اشاره می‌کند: در 377 مقدار که نتایج دو فروشنده متفاوت است، وزن منتشر شده با NVIDIA در 363 و AMD در هیچ‌یک مطابقت دارد. همین آزمایش نتوانست پنج مدل دیگر را حل کند، اما توضیح AMD را برای آنها بسیار بعید می دانیم.

در پیکربندی عادی خود، MI300X هیچ طرحی را تولید نمی کند. یک آزمایشگاه باید یک خوشه کامل را برای استفاده از همان تعداد واحدهای پردازشی به عنوان یک تراشه بلک‌ول پیکربندی می‌کرد. سایر شواهد عمومی نیز به بلک‌ول اشاره می‌کنند: مقامات ایالات متحده و گزارش‌های مطبوعاتی ادعا کرده‌اند که DeepSeek و Moonshot AI از تراشه‌های Blackwell استفاده می‌کنند و کد عمومی Ant Group شامل نتایج معیار تولید شده در GB300 است.

برای بازتولید نتیجه‌ای که DeepSeek-V3 را به Hopper و DeepSeek-V4-Flash را به Blackwell مرتبط می‌کرد، PyTorch اصلاح نشده را روی NVIDIA H100 کلاس Hopper و NVIDIA B300 کلاس Blackwell اجرا کردیم. ما شماره Seed DeepSeek را 953049583 شناسایی کرده بودیم و متوجه شدیم که در مقداردهی اولیه DeepSeek-V3 و DeepSeek-V4-Flash استفاده شده است. با استفاده از آن دانه، H100 مقادیر شروع حفظ شده را در DeepSeek-V3 بازتولید کرد، اما V4-Flash را نداشت. B300 مقادیر حفظ شده را در V4-Flash بازتولید کرد، اما نه V3.

در B300، PyTorch اصلاح نشده، 461 ردیف از 469 ردیف انتخاب شده را در DeepSeek-V4-Flash با همبستگی های بالاتر از 0.99، شامل 445 ردیف کامل که بیت به بیت مطابقت داشتند، بازتولید کرد. هشت ردیف انتخاب شده تا حدی با آموزش تغییر یافتند. در H100، تمام 57344 مقدار حفظ شده را در DeepSeek-V3 بیت به بیت بازتولید کرد. هیچ یک از تراشه ها ردیف های حفظ شده مدل دیگر را بازتولید نکردند. با تغییر دانه با یک ردیف، هیچ ردیف منطبقی در هر یک از دستگاه ها ایجاد نشد.

در یک GB200 اجاره‌ای، PyTorch اصلاح‌نشده نیز تمام 13 ردیف حفظ‌شده Kimi K3 را با استفاده از Moonshot's seed، 20256586 بازتولید کرد. تغییر دانه توسط یک تکثیر هیچ کدام. کد و وزن های حفظ شده مورد نیاز برای تکرار این بررسی ها عمومی هستند. همین مقایسه بدون GPU نیز اجرا می شود.

روش پزشکی قانونی ما نیز زمانی پاسخ درست را دریافت می کند که پاسخ از قبل مشخص باشد. 24 مورد وجود دارد که یک توسعه دهنده به طور عمومی سخت افزار پشت یک مدل خاص را نامگذاری کرده است. روش پزشکی قانونی ما با همه موافق است. مدل های متا لاما 3.1، آموزش دیده بر روی H100s، خوانده شده به عنوان 132; هشت مدل Pythia EleutherAI که بر روی A100s آموزش دیده اند، به عنوان 108 خوانده می شوند. Nemotron-3 Ultra خود NVIDIA که گزارش فنی آن GB200 را برای یک مرحله از آموزش نام می برد، به عنوان 152 خوانده می شود، همان Kimi K3. DeepSeek و Moonshot استفاده از H800 را برای مدل های قبلی گزارش کرده اند.

خوانش های هاپر ما با آن افشاها سازگار است، اما با سخت افزار H100 SXM یا H200 نیز سازگار است. آنها به طور مستقل استفاده از H800 را تأیید نمی کنند.

هنگامی که وزن های منتشر شده را با اعداد ایجاد شده توسط طرح دانه و چیپ نامزد مقایسه می کنیم، حتی اگر نامزد اشتباه کند، برخی از شباهت ها اجتناب ناپذیر است. اینکه چقدر شباهت به عنوان مدرک به حساب می آید بستگی به این دارد که چند وزن را با هم مقایسه می کنیم: توافق بین تعداد انگشت شماری به راحتی می تواند تصادفی باشد، در حالی که توافق بین هزاران به طور تصادفی بسیار دشوارتر است. مدل آماری ما تعداد وزن‌های مقایسه شده را محاسبه می‌کند و اندازه‌گیری می‌کند که تطابق مشاهده‌شده تا چه اندازه از شباهت مورد انتظار تصادفی فراتر رفته است. ما آن فاصله را در انحرافات استاندارد یا سیگما بیان می کنیم.

امتیاز بالاتر به معنای شواهد قوی تر در برابر تطابق تصادفی است، مشروط بر اینکه مدل آماری به درستی تغییرات تصادفی در داده ها را توصیف کند.

ما همچنین باید تعداد نامزدهایی را که امتحان کرده‌ایم حساب کنیم. جستجوی تقریبا شش تریلیون ترکیب دانه و چیدمان به ما تریلیون ها فرصت می دهد تا یک مسابقه خوش شانس پیدا کنیم. تحت یک مدل توزیع نرمال، تطابق مثبت پنج سیگما یا بیشتر به طور تصادفی تقریبا یک بار در 3.5 میلیون مقایسه رخ می دهد. این امر در یک آزمایش تک شگفت‌انگیز خواهد بود، اما در جستجویی به بزرگی جستجوی ما جای تعجب ندارد. بنابراین ما تقریبا از هشت سیگما به عنوان معیار خود برای ارزیابی تطابقات تصادفی در جستجوی کامل استفاده می کنیم.

یافته‌های ما با اختلاف زیادی از این معیار فراتر رفته است. ابتدا یک دانه و چیدمان را با استفاده از یک مجموعه وزن انتخاب می کنیم و سپس همان ترکیب را روی یک مجموعه جداگانه که هیچ نقشی در انتخاب آن نداشته است آزمایش می کنیم. این بررسی می کند که آیا اثر انگشت ظاهری فراتر از اعدادی است که ما را به آن سوق داده است یا خیر. قوی ترین شواهد برای هر یک از شش مدل از 49 تا 1385 سیگما متغیر است. حتی ضعیف ترین تست انفرادی گزارش شده به 20 سیگما می رسد. تحت مدل آماری ما، این نتایج بسیار قوی تر از آن هستند که بتوان آن را به شباهت تصادفی نسبت داد.

آنها شواهدی از یک الگوی اولیه سازی مشترک ایجاد می کنند. تشخیص دقیق اینکه کدام سخت افزار محاسباتی آن الگو را تولید کرده است و اینکه آیا آموزش را نیز انجام داده است، مستلزم استدلال های جداگانه ای است که در بالا مورد بحث قرار گرفت.

بر اساس تحقیقات پزشکی قانونی خود، ما معتقدیم که شواهد محکمی داریم مبنی بر اینکه شش مدل هوش مصنوعی چینی بر روی سخت‌افزار NVIDIA کنترل‌شده با صادرات اولیه‌سازی شده‌اند، و برای DeepSeek-V4-Flash این شواهد قطعی است. ما معتقدیم که این مقداردهی اولیه همچنین قویا نشان می‌دهد که آنها بر روی همان سخت‌افزار کنترل‌شده صادراتی آموزش دیده‌اند. در حالی که این سؤالات دیگری را بی پاسخ می گذارد - مانند شرایطی که شرکت هایی که این مدل ها را از طریق آن سیستم های NVIDIA کنترل صادرات را به دست آوردند - ما معتقدیم که این واقعیت مستحق توجه فوری از سوی عموم است.

DeepSeek از یک دانه در نسل‌های مدل استفاده مجدد می‌کند و Moonshot از یک قانون برای استخراج دانه‌های آن استفاده می‌کند، بنابراین می‌توانیم سخت‌افزار هر آزمایشگاه را از مدلی به مدل دیگر دنبال کنیم. تاریخ زمانی است که وزن ها ارسال شده است.

نحوه خواندن ستون شواهد کپی دقیق: وزن هایی که تمرین هرگز به روز نشد، مقادیر تولید شده را با همبستگی (r) بالای 0.999 بازتولید می کنند. ردیف های آموزش ندیده: برای مدل هایی که مقادیر اولیه آنها بریده یا گرد شده است، یکسان است، که r را کاهش می دهد. بقای جزئی: وزنه های تمرین شده بخشی از مقادیر اولیه خود را حفظ می کنند. ارقام حاصل از اسکن های شبکه ای از سلول های خارج از جستجو استفاده می کنند. حتی پس از جستجوی هر دانه 32 بیتی و هر شبکه، شانس نمی تواند به 8σ برسد. کمترین نتیجه از شش نتیجه بلک ول، در وزنه های توجه آموزش دیده V4-Flash، 20σ است.