ساخت کارخانه های هوش مصنوعی در مقیاس سازمانی

هوش مصنوعی تبدیل به یک غول پیکر شده است که استراتژی فنی را در بخش فناوری و خارج از آن هدایت می کند. با رشد 30 درصدی بازار سرور در سراسر جهان در یک سال به 122.6 میلیارد دلار در سه ماهه اول سال 2025، IDC اکنون در دسته بندی مجدد سرمایه گذاری مبتنی بر هوش مصنوعی "از دوره ای به بادوام" احساس امنیت می کند.

این شرکت تحلیلگر انتظار دارد که استنتاج بیش از 70 درصد از تقاضای محاسباتی را تا سال آینده به خود اختصاص دهد و اضافه کرد که در لبه بیشترین سرعت رشد را دارد.

چرا شرکت ها در حال ساختن خود هستند

همه این سرمایه گذاری ها در زیرساخت های هوش مصنوعی ممکن است زمانی عمدتا برای hyperscalers انجام شده باشد، اما به سرعت در حال تغییر است. IDC اضافه می کند که پذیرش به سرعت فراتر از ارائه دهندگان خدمات ابر عمومی به محیط های سازمانی گسترش می یابد. آنها مشتاق هستند تا هوش مصنوعی عاملی را در داخل اداره کنند.

دلایل زیادی برای شرکت‌ها وجود دارد که زیرساخت‌های هوش مصنوعی خود را به جای تخلیه آن در فضای ابری، در اختیار داشته باشند. یکی از اینها کنترل داده ها است، به ویژه در بخش های تنظیم شده مانند مالی، مراقبت های بهداشتی، تولید و بخش عمومی که الزامات داده های مستقل دارند. مورد دیگر حول نیاز به هزینه‌یابی قابل پیش‌بینی از توکن‌های ارائه‌شده در سیستم‌های داخلی قابل تنظیم است.

بنابراین شرکت ها باید در یک تامین کننده به دنبال چه چیزی باشند؟ سرعت تحویل محرک قدرتمندی برای بسیاری از افرادی خواهد بود که در اجرای ابتکارات هوش مصنوعی برای تجارت هستند، به خصوص در دوره‌هایی که حافظه محدود و تامین CPU وجود دارد. خدمات چرخه حیات نیز در صدر فهرست قرار خواهند گرفت، برای شرکت هایی که برای مدیریت همه چیز از قدرت گرفته تا مدل های استدلالی LLM و حجم کاری که از آنها استفاده می کنند به کمک نیاز دارند. بعید است که نیاز به تخصص متوقف شود. شرکت‌ها با دستیابی به یک فناوری که هنوز در حال تکامل است، دستخوش تغییراتی در استراتژی هوش مصنوعی خواهند شد.

از میز تا دیتاسنتر

ایسوس انتظار دارد که این افزایش هوش مصنوعی در مرکز داده ادامه یابد، اما در جاهای دیگر، به‌ویژه در مکان‌های لبه (به‌ویژه موارد استفاده صنعتی) و در میز توسعه‌دهندگان، همزمان با ساخت برنامه‌هایی که به شرکت انرژی می‌دهند. می‌خواهد در همه این مکان‌ها در امتداد زنجیره هوش مصنوعی در صدر فهرست افراد برای سخت‌افزار و خدمات باشد.

در نمایشگاه GTC NVIDIA در 21 تا 22 اکتبر در برلین، این شرکت یک پیشنهاد هوش مصنوعی کامل را اعلام کرد که آن را Enterprise Agentic AI Solution می نامد. این موضوع سه لایه است که شامل موارد زیر است:

سرور و زیرساخت AI ASUS: انتخاب سرورهای هوش مصنوعی، از جمله چندین واحد جدید.

ASUS AI Software Stack: نرم افزار آن برای یکپارچه سازی و کنترل جریان های کاری هوش مصنوعی.

ASUS AI HUB: یک عملیات خدماتی که همه آن را به هم پیوند می دهد.

اینها برخی از دارایی های موجود را که ایسوس برای کاربران هوش مصنوعی سازمانی در اختیار داشت، همراه با برخی دارایی های جدید گرد هم می آورد. مدیران ASUS می گویند، به دلیل تغییر بازار، زمان مناسبی برای عرضه انتها به انتها با سخت افزار جدید است.

پاول جو، معاون ارشد و رئیس راه حل زیرساختی BG در ایسوس می گوید: «سرورهای ایسوس به شرکت ها کمک می کنند تا زیرساخت هوش مصنوعی عاملی با کارایی بالا بسازند که قادر به پشتیبانی از اجرای وظایف پیچیده و استقرار عامل هوش مصنوعی در مقیاس بزرگ است و پذیرش هوش مصنوعی عاملی را تسریع می بخشد.

در حالی که هوش مصنوعی مولد در ابتدا تقاضا را افزایش داد، ظهور هوش مصنوعی عامل باعث افزایش تقاضای محاسباتی شد. جو توضیح می دهد که تمرکز از پردازنده گرافیکی در حال گسترش است.

او می‌گوید: «از لحاظ تاریخی، سرورهای هوش مصنوعی عمدتا حول محور محاسبات GPU بهینه‌سازی شده‌اند. اما با تغییر هوش مصنوعی سازمانی به سمت هوش مصنوعی عاملی، حجم کاری به طور فزاینده‌ای حول یک «حلقه عامل» پیوسته می‌چرخد که به شدت به CPU وابسته است. این حلقه شامل برنامه ریزی کار، اجرای کد، فراخوانی ابزار خارجی و کار بازتاب یا تصحیح می شود.

او می افزاید: نقش افزایش یافته CPU در این کار اجرایی، ایجاد گلوگاه در سرورهای معمولی هوش مصنوعی است.

اولین نقطه گیر در این زمینه، عملکرد تک رشته ای است که GPU ها را در حالی که منتظر تکمیل CPU هستند، بیکار می کند. دومی در پهنای باند حافظه نهفته است. هنگامی که این بر اساس هر هسته مدیریت می شود، زمانی که بسیاری از عوامل به طور همزمان اجرا می شوند، می تواند سرعت را کاهش دهد.

جو استدلال می‌کند که طراحی چند قالبی بسیاری از CPUها آنها را در محیط‌های هوش مصنوعی جریمه می‌کند، زیرا دسترسی به داده‌ها از طریق قالب‌ها باعث ایجاد تأخیر می‌شود. پردازنده‌های دارای هسته‌ها و حافظه پنهان در قالب‌های مختلف زمانی که داده‌ها باید بین آن‌ها تلاقی کنند، دچار تأخیر می‌شوند. حفظ انسجام حافظه پنهان این مشکل را تشدید می کند.

در نهایت، یک خطر امنیتی وجود دارد: او هشدار می‌دهد که فقدان انزوا در سطح سخت‌افزار در برخی از CPUها، امکان تزریق سریع به سیستم‌های اصلی را فراهم می‌کند.

مشتریان همچنین چالش های خود را به همراه دارند که با برنامه های مختلف برای هوش مصنوعی دست و پنجه نرم می کنند. جو می افزاید، شرکت هایی که گزینه های سرور هوش مصنوعی را ارزیابی می کنند، باید پلتفرم سرور خود را با پروفایل های حجم کاری پیش بینی شده هوش مصنوعی مطابقت دهند. آموزش یک مدل یادگیری تحت نظارت برای طبقه‌بندی دسته‌بندی ادعاهای بیمه، منابع فنی مختلفی را برای اجرای یک ربات گفتگوی کارکنان با استدلال با تأخیر پایین نیاز دارد.

آنچه ایسوس به برلین برد

ایسوس می خواهد به مشتریان در حل مشکلاتی از این دست در هر کجا که پیش می آید کمک کند. با در نظر گرفتن این موضوع، این شرکت چیزهای خوبی برای تماشاگران در GTC داشت.

با شروع از مرکز داده، این شرکت سیستم‌های تک و فول رک را معرفی کرد که بر روی برد سرور هشت GPU NVIDIA HGX Rubin NVL8 ساخته شده‌اند. این سیستم دارای یک سیستم خنک کننده هیبریدی 3U، XA NR11-E12L، به همراه 2U 100 درصد خنک کننده با مایع XA NR11-E12 است که هر دو حجم کاری استدلالی بزرگ هوش مصنوعی را هدف قرار می دهند.

دو واحد روبین موارد استفاده متفاوتی را هدف قرار می دهند. سیستم خنک کننده مایع هیبریدی 3U از خنک کننده مایع مستقیم به تراشه در پایه 8GPU به همراه تراشه های دوگانه Xeon 6 با هوا خنک روی سورتمه استفاده می کند. این شرکت این را به عنوان مسیر آسان انتقال به سخت افزار کارخانه هوش مصنوعی می داند. واحد 2U، با 100 درصد خنک کننده مایع، برای حداکثر PUE و چگالی محاسباتی طراحی شده است. همچنین از طراحی برد به برد بدون کابل استفاده می کند تا ردپای خود را کم نگه دارد.

این کیت نیز سریع خواهد بود، زیرا NVIDIA HGX Rubin 800 گیگابیت پهنای باند یکپارچه در هر GPU ارائه می دهد.

ایسوس با استفاده از لیست ابزارهای CPU و GPU، قابلیت سرویس دهی این واحدها را ارتقا می دهد. ادعا می کند تا 50 درصد در زمان عملیات تعمیر و نگهداری این واحدها صرفه جویی می کند، به این معنی که زمان خرابی کمتر در هر سرویس و در نهایت هزینه کل مالکیت کمتر است.

به سرعت برای NVIDIA HGX Rubin تحویل داده شد

ایسوس در حال ساختاربندی پیشنهاد سخت افزاری خود حول محور تحویل سریع است تا مشتریان بتوانند سخت افزار را برای حمایت از ابتکارات هوش مصنوعی خود راه اندازی کنند. این سرعت از اعتبار سنجی انجام شده قبل از تحویل با کمک معماری مرجع قفسه از پیش تأیید شده ناشی می شود.

سرور NVIDIA MGX برای ساخت های انعطاف پذیر

ایسوس با توجه به تمرکز خود بر روی طرح های متعدد برای حجم کاری مناسب هوش مصنوعی، از MGX Blueprint ماژولار NVIDIA برای ساخت سرور نیز پشتیبانی می کند. نقطه فروش در اینجا انعطاف پذیری با ترکیبی از GPU ها، CPU ها و گزینه های شبکه برای استنتاج سازمانی، عامل ها و محاسبات بصری است. این مسیر ماژولار برای بارهای کاری است که به قدرت پایه 8-GPU HGX نیاز ندارند، و طیف وسیعی از استنتاج سازمانی و موارد استفاده عاملی را پوشش می دهد.

ایسوس سرورهای MGX از جمله 6U XA P8A-E14AXL را با هشت پردازنده گرافیکی NVIDIA RTX PRO 6000 Blackwell Server Edition با خنک کننده مایع به نمایش گذاشت. یک برادر 2U، XA P4N-E2، از پردازنده های NVIDIA Vera برای کارهای نمایندگی استفاده می کند.

راه حل برای لبه و توسعه دهندگان

غرفه ASUS همچنین دارای ExpertCenter Pro ET900N G3 بود که توسط دسکتاپ توسعه‌دهنده GB300 Grace Blackwell Superchip با 748 گیگابایت حافظه منسجم و Ascent GX10 مبتنی بر NVIDIA DGX Spark برای کار نمایندگی‌ها طراحی شده بود. همچنین ProArt GR1X Mini PC و ProArt P16 و P14 لپ‌تاپ - اولین لپ‌تاپ‌های مجهز به NVIDIA RTX Spark - که هم توسعه‌دهندگان و هم سازندگان را هدف قرار داده بودند، به نمایش درآمد.

برای نصب لبه، PE3000N را نشان داد، کامپیوتر مستحکم NVIDIA Jetson T5000 مبتنی بر edge-AI با هدف موارد استفاده از جمله محیط‌های صنعتی. این یک سال پیش اعلام شد، تا 2070 FP4 TFLOPS اوج عملکرد هوش مصنوعی با 128 گیگابایت حافظه را ارائه می دهد. PE6000G که یک پلتفرم شبیه‌سازی و هوش مصنوعی درجه یک ایستگاه کاری است، در محیط‌های هوش مصنوعی صنعتی مورد هدف قرار گرفت.

تمرین کارخانه هوش مصنوعی در یک دوقلو دیجیتال

تجهیزات تنها زمانی از یک کارخانه هوش مصنوعی پشتیبانی می کنند که قدرت اجرای آن وجود داشته باشد. ایسوس با NVIDIA به عنوان شریک در اینجا قدم هایی برداشته است و پلتفرم DSX AI Factory خود را با سیستم دیجیتال دوقلو برای چیدمان سخت افزار و قدرت در محیط های کارخانه هوش مصنوعی اتخاذ کرده است. DSX از تجهیزاتی با استفاده از خط پردازنده NVIDIA Vera Rubin پشتیبانی می کند که از خنک کننده های خشک و PUE پایین تر با ورودی آب گرم 45 درجه سانتی گراد پشتیبانی می کند.

رک‌های پیکربندی‌شده ایسوس به دارایی‌های آماده شبیه‌سازی در داخل DSX تبدیل می‌شوند و از فرمت فایل مشترک OpenUSD آن استفاده می‌کنند. که داده های مهندسی را در کنار هندسه برای اندازه گیری توان واقعی و نیازهای خنک کننده پوشش می دهد.

ایسوس می‌خواست خنک‌سازی را به عنوان بخشی از طرح طراحی اولیه کارخانه هوش مصنوعی هدف قرار دهد، نه به عنوان یک فکر بعدی. بنابراین، مشارکت DSX به تیم‌های پیاده‌سازی اجازه می‌دهد تا دما، جریان، فشار، قرارگیری CDU و لوله‌کشی آب را در مدل دوقلو دیجیتال مدل‌سازی کنند. آنها اطلاعات را از منابع برنامه‌ریزی که در این زمینه وجود دارد، مانند چارچوب NVIDIA Omniverse DSX Blueprint، با استفاده از مرکز استقرار زیرساخت ایسوس ترجمه می‌کنند.

ساخت سریع تر، اجرا آسان تر

سیستم دوقلو دیجیتال فقط برای طراحی و راه اندازی نیست. قرار است پس از پخش زنده به کار خود ادامه دهد تا اپراتورهای کارخانه هوش مصنوعی بتوانند قبل از لمس سخت افزار، تغییرات را شبیه سازی کنند. مرکز کنترل ASUS زیرساخت را نظارت می کند در حالی که تبادل DSX داده های فناوری اطلاعات و فناوری عملیاتی را به هم پیوند می دهد. اپراتورها می توانند تغییرات در شبیه سازی را قبل از چرخاندن سوئیچ برای فعال شدن، تأیید کنند.

هدف ASUS در اینجا واضح است: کمک به مشتریان سازمانی برای مقابله با فرصت‌های هوش مصنوعی داخلی و در عین حال اذعان به اینکه مشخصات عملکرد و مکان‌های فیزیکی بار کاری آنها متفاوت است. از آنجایی که شرکت ها همچنان درک خود را از هوش مصنوعی و جایی که در سازمان می گنجد، تکامل می دهند، باید در نحوه برنامه ریزی و پرورش زیرساخت های خود از مرکز داده تا لبه و تا میز توسعه دهنده چابک باشند.

اعلامیه‌های برلین آن را در یک بسته منظم برای سازمان‌هایی که برای آرمان‌های نمایندگی‌شان به کمک نیاز دارند، پیوند می‌دهد.

درباره سیستم های ASUS NVIDIA HGX Rubin NVL8 بیشتر بدانید: XR R1I12B-M1BLFS | سرورهای ایسوس

توسط ایسوس حمایت می شود