انویدیا سبز می شود تا ظرفیت شبکه را از کاهش درآمدهایش حفظ کند

توانایی انویدیا برای فروش پردازنده‌های گرافیکی در نهایت به میزان انرژی که شبکه برق می‌تواند ارائه کند محدود می‌شود. با چرخه‌های استهلاک رو به رشد، سال‌ها طول می‌کشد تا دیتاسنترها سیستم‌های قدیمی Hopper یا Blackwell خود را از رده خارج کنند. پردازنده‌های گرافیکی بیشتر به معنای مصرف انرژی بیشتر از شبکه است. انویدیا دقیقا نمی‌تواند اپراتورهای شبکه را مجبور به اضافه کردن ظرفیت سریع‌تر کند، اما می‌تواند ساخت انبارهای بیت هوشمندتر و کارآمدتر را برای مشتریانش آسان‌تر کند.

دیون هریس، مدیر ارشد Nvidia HPC و AI Hyperscale Infrastructure Solutions، در مصاحبه اخیر با ال رگ گفت: «در مقیاس مرکز داده و در مقیاس کارخانه هوش مصنوعی، ما به معنای واقعی کلمه در تلاش هستیم تا به این فکر کنیم که چگونه می‌توانیم هر ذره راندمان را برای عملکرد بیشتر در هر گیگاوات به کار ببریم. در نشست AI Infra Summit این هفته، اولین نگاه خود را به سیستم‌هایی که انویدیا برای به حداکثر رساندن توان موجود برای محاسبات ایجاد کرده است، در حالی که تأثیر مراکز داده بر شبکه محلی را به حداقل می‌رساند، دیدیم. به عنوان یک قاعده کلی، مراکز داده به ندرت در جایی نزدیک به حداکثر ظرفیت کار می کنند.

یک مرکز داده 100 مگاواتی ممکن است حداکثر 80 درصد را برای بارهای محاسباتی بحرانی استفاده کند. نسبت های واقعی از bit-barn به bit-barn متفاوت است، اما این یک بافر برای ناکارآمدی سخت افزار، تلفات تبدیل و سایر افزایش تقاضا فراهم می کند. البته نقطه ضعف آن این است که 20 مگاوات یا بیشتر از آن ظرفیت استفاده نشده ای باقی می گذارد که مرکز داده نمی تواند از آن استفاده کند و ابزار نمی تواند آن را بازیابی کند. هر کیلووات توان رشته ای یک پردازنده گرافیکی است که انویدیا می توانست آن را بفروشد، بنابراین پلتفرم DSX انویدیا قصد دارد هر دو مشکل را برطرف کند.

به حداقل رساندن سربار اولین مورد، که انویدیا آن را DSX MaxLPS می نامد، تکامل یک ایده قدیمی است. اگر محاسبات و تمام زیرساخت های فیزیکی - کابینت های برق، باتری ها، واحدهای توزیع مایع خنک کننده (CDU) و چیلرها - بتوانند با یکدیگر صحبت کنند، اپراتورها می توانند صرفه جویی قابل توجهی در مصرف برق داشته باشند. به عنوان مثال، اگر هواگیرها روشی برای دانستن میزان قدرتی که یک قفسه می کشد داشته باشند، می توانند بر اساس تقاضا به جای اینکه تمام وقت به حداکثر برسد، به سمت بالا و پایین بروند.

همانطور که انتظار دارید، چالش این است که سیستم‌هایی را از ده‌ها فروشنده مختلف به یک زبان صحبت کنند. بنابراین، در حالی که این ایده در تئوری عالی به نظر می رسد، گفتن همه افراد در یک صفحه آسان تر از انجام آن بود. هریس توضیح داد که با استقرار گسترده سیستم های هوش مصنوعی تغییر کرد. انبارهای بیت کارآمدتر می‌توانند توکن‌های بیشتری تولید کنند که به درآمدهای بالاتر تبدیل می‌شود - تا زمانی که مردم به هر حال مایل به پرداخت برای توکن‌ها باشند.

با این حال، انویدیا هنوز نیاز داشت که به لایه ارتباطات بپردازد، چیزی که بدون شک با این واقعیت که پردازنده‌های گرافیکی آن داغ‌ترین کالای حال حاضر جهان هستند، آسان‌تر شد. هریس توضیح داد: DSX Exchange واقعا نوعی API است که به ما امکان می دهد اطلاعات را نه فقط در اطراف سیستم های اصلی ضبط کنیم. ما می توانیم اطلاعاتی را از سایر ارائه دهندگان آماده DSX که دارایی ها را ارائه می دهند، دریافت کنیم.

این مانند Vertiv و Schneider Electric و تمام سیستم‌های مدیریت ساختمان است." در نشست AI Infra Summit این هفته، انویدیا و لامبدا نشان دادند که چگونه این پل، که به عنوان بخشی از پیشنهاد گسترده‌تر DSX MaxLPS خود کار می‌کند، می‌تواند برای بسته‌بندی محاسبات بیشتر در یک پاکت انرژی مورد استفاده قرار گیرد. در آزمایش، Lambda قادر بود به طور معمول بدون کاهش بودجه، از آن استفاده کند. 16، توان عملیاتی کل خوشه را 24 درصد و عملکرد در هر وات را با حاشیه مشابه افزایش می دهد.

نتیجه، طبق ادعای شرکت، این است که دیتاسنترها نیازی به تامین بیش از حد بیت‌بارن‌های خود به همان میزان ندارند، زیرا دید و کنترل بیشتری بر روی مرکز داده به‌عنوان یک کل دارند. کاهش بار همراه با کمک به مشتریان خود برای استفاده بیشتر از انبارهای بیت خود، انویدیا همچنین نشان داد که چگونه می توان از فناوری مدیریت مرکز داده خود برای به حداقل رساندن تأثیر آموزش های بزرگ هوش مصنوعی و استقرار استنتاج بر روی شبکه محلی استفاده کرد.

با کار با Emerald AI و Silicon Valley Power، انویدیا نشان داد که چگونه می‌توان از پلتفرم DSX Flex آن برای آزاد کردن نیروی دیتاسنتر در هنگام افزایش تقاضای شبکه بدون ایجاد اختلال در بارهای کاری حیاتی استفاده کرد. اما درست مانند ارائه DSX MaxLPS انویدیا، فناوری زیربنایی دقیقا جدید نیست. پاسخ به تقاضا سال‌هاست که وجود دارد و به شرکت‌های برق اجازه می‌دهد تا از صنایع تشنه انرژی بخواهند مصرف انرژی خود را در دوره‌های اوج تقاضا محدود کنند. گوگل و دیگران مدتی است که با این فناوری بازی می کنند.

ممکن است سال گذشته را به خاطر بیاورید که اعلام کرد بارهای کاری غیرضروری هوش مصنوعی را به منظور جلوگیری از بارگذاری بیش از حد شبکه متوقف می کند. هدف DSX Flex انویدیا این است که این قابلیت را برای هر کسی که از سخت افزار آن استفاده می کند، بیاورد. اما این فناوری ممکن است کمتر در مورد حفظ هوش مصنوعی از ایجاد خرابی ها باشد و بیشتر در مورد دریافت چراغ سبز ظرفیت اضافی توسط شرکت ها به شرط آن که بتوانند بخشی از آن را در یک لحظه پس بگیرند، باشد.

هریس توضیح داد: «در برخی موارد، ارائه‌دهندگان شبکه، مالکان خطوط انتقال، در نحوه تخصیص یا بیش از حد تأمین محافظه‌کارانه کمتری عمل می‌کنند، زیرا اکنون، با دانستن اینکه شما توانایی محدود کردن در یک پنجره خاص را دارید، نیازی به داشتن فضای سر زیادی ندارند.» او خاطرنشان می کند، اما صرفا به این دلیل که یک شرکت آب و برق ظرفیت را باز می گرداند، لزوما به این معنی نیست که بارهای کاری خاموش می شوند.

در حالی که بارهای کاری حیاتی همچنان در حال اجرا هستند، یکپارچگی عمیق با پشته نرم افزار انویدیا به این معنی است که بارهای کاری غیر ضروری را می توان متوقف کرد یا به مراکز داده همسایه با ظرفیت اضافی منتقل کرد - مفهومی که گاهی اوقات به عنوان تعقیب خورشید توصیف می شود. باغ دیواری دیگر همانطور که احتمالا قبلا حدس زده‌اید، در حالی که پلتفرم DSX انویدیا برای کارخانه‌های هوش مصنوعی که با استفاده از سخت‌افزار معتبر ساخته شده‌اند عالی عمل می‌کند، زیرا شتاب‌دهنده‌های شخص ثالث مانند d-Matrix، SambaNova و دیگران به این ترکیب اضافه می‌شوند.

برای شرکا، مانند d-Matrix که در حال حاضر در اکوسیستم NVLink Fusion خود زندگی می‌کند، هریس مسیری رو به جلو برای گسترش پشتیبانی از DSX به این پلتفرم‌ها می‌بیند، اگرچه او خاطرنشان می‌کند که درجاتی از یکپارچگی نرم‌افزار مورد نیاز خواهد بود و هر تراشه همان سطح کنترل دانه‌ای را که تراشه‌های خودش انجام می‌دهد در معرض دید قرار نمی‌دهد. وقتی نوبت به پلتفرم‌های رقیب مانند پردازنده‌های گرافیکی Instinct AMD می‌رسد، سازندگان بیت‌بارن احتمالا باید به دنبال سیستم‌های مدیریت دیتاسنتر جایگزین برای تکرار قابلیت‌های DSX باشند.

بنابراین، علاوه بر استفاده حداکثری از ظرفیت محدود شبکه موجود امروز، DSX انویدیا باغ دیواری دیگری است که به مشتریانش اطمینان می‌دهد که تجهیزاتش را ادامه می‌دهند. ®