پرش به محتوای اصلی

شتاب دهنده هوش مصنوعی پردازنده گرافیکی Intel D270 – تا 480 گیگابایت LPDDR5X

هکرنیوز۱۴۰۵ مهر ۲۱, سه‌شنبه، ساعت ۰۱:۰۵حدود 3 دقیقه مطالعه

آدرس مقاله: https://www.intel.com/content/www/us/en/products/details/discrete-gpus/data-center-gpu/d-series.html آدرس نظرات: https://news.ycombinator.com/item?id=50063365 امتیاز: 257 # نظرات: 124

عامل ها بسیار بیشتر از آنچه می نویسند می خوانند: زمینه های طولانی، گردش های کاری چند مرحله ای، محاسبات تحت سلطه prefill. با افزایش تقاضاها، چالش ها فراتر از پهنای باند گسترش می یابند. پردازنده‌های گرافیکی سری D اینتل برای این دوره جدید از هوش مصنوعی عاملی ساخته شده‌اند، و به طور موثری زمینه‌های بزرگ‌تر، جلسات همزمان بیشتر و توکن‌های بیشتری را در محدوده قدرت و هزینه عملی مدیریت می‌کنند.

بیش از هزاران مرحله، 100 هزار زمینه توکن، و ده‌ها جلسه همزمان، عاملان را مقیم نگه می‌دارد تا به حفظ توان در سراسر حلقه عامل کمک کند.

برای استدلال غنی‌تر با پردازنده‌های گرافیکی کمتر و حافظه با پهنای باند بالا (HBM) بیشتر از مدل و زمینه طولانی‌تر ساکن باشید.

زیرساخت استاندارد PCIe متراکم، خنک‌کننده هوا، به حداکثر رساندن توکن‌ها در هر رک و وات، افزایش ظرفیت سرویس و کنترل هزینه‌ها کمک می‌کند.

از آنجایی که هوش مصنوعی عامل درخواست‌های طولانی‌تر و جلسات همزمان بیشتری را هدایت می‌کند، مشتریان به زیرساخت مقیاس‌پذیر بدون معاوضه در قدرت، هزینه یا پیچیدگی استقرار نیاز دارند. اینتل GPU D270 حداکثر 480 گیگابایت حافظه LPDDR5X را برای استنتاج کم مصرف و محدود به حافظه در محیط های مرکز داده ارائه می دهد.

منطقه قالب از خطوط لوله گرافیکی و ردیابی پرتو به هسته‌های Xᵉ3P و محاسبات ماتریسی تخصیص داده شد و کارایی استنتاج را بهبود بخشید.

پردازش سریعتر به ازای هر وات: 32 هسته Xᵉ3P و موتورهای 256 XMX پیش‌پر را تسریع می‌کنند و هزینه‌های زمینه طولانی و عامل را کاهش می‌دهند.

از استنتاج با دقت پایین بومی گرفته تا محاسبات علمی FP64، حجم کار، دقت را تعیین می‌کند نه سخت‌افزار.

فاکتور فرم استاندارد، اتصال استاندارد، با استفاده از سرورهای موجود. بدون نیاز به شبکه اختصاصی یا سیستم های سفارشی.

خنک کننده غیرفعال در قفسه هایی که قبلا اجرا می کنید، بدون نیاز به بازسازی خنک کننده مایع بین ارزیابی و استقرار.

پشتیبانی روز صفر برای مدل‌های باز پیشرو، در چارچوب‌هایی که قبلا اجرا کرده‌اید: vLLM و اکوسیستم باز PyTorch.

ارائه یک تکامل هوشمند در زیرساخت مرکز داده. برای عصر جدید استنتاج هوش مصنوعی ساخته شده است.

از اخبار سری D پردازنده گرافیکی اینتل و آخرین منابع هوش مصنوعی برای سازمان ها به روز باشید.

Intel GPU D270 یک GPU مرکز داده استنتاج بهینه شده است که برای عصر هوش مصنوعی طراحی شده است. این برای پشتیبانی از هوش مصنوعی سازمانی، SaaS، GPUaaS، و استقرارهای ابری دولتی یا مستقل که نیاز به شتاب هوش مصنوعی با حافظه غنی و کارآمد دارند، ساخته شده است.

اینتل GPU D270 برای تولید بارهای کاری استنتاج هوش مصنوعی مانند هوش مصنوعی عاملی، نسل افزوده بازیابی با زمینه طولانی (RAG)، دستیاران هوش مصنوعی سازمانی، دستیاران کدنویسی، درک سند، هوش مصنوعی چندوجهی، مدل‌های انتشار، و سرویس‌دهی با همزمانی بالا طراحی شده است.

هوش مصنوعی عاملی اغلب یک کار را به چندین دور فراخوانی مدل، استفاده از ابزار، بازیابی، استدلال و تولید پاسخ تبدیل می‌کند. Intel GPU D270 برای نیازهای استنتاجی که در آن محیط‌ها مهم می‌شوند، از جمله پردازش پیش‌پر، زمینه بزرگ‌تر، ظرفیت حافظه، همزمانی و بهره‌وری انرژی طراحی شده است.

بهینه‌سازی استنتاج به این معنی است که GPU برای اجرای مدل‌های هوش مصنوعی در تولید به جای آموزش آن‌ها در مقیاس عظیم طراحی شده است. Intel GPU D270 بر نیازهای برنامه های کاربردی هوش مصنوعی مستقر شده، از جمله پردازش سریع، سرویس دهی با همزمانی بالا، ظرفیت حافظه، مصرف انرژی کارآمد و عملکرد در سطح سیستم تمرکز دارد.

بارهای کاری هوش مصنوعی با زمینه طولانی می تواند به حافظه بیشتری برای پشتیبانی از اعلان های بزرگتر، جریان های کاری سنگین بازیابی و رشد حافظه پنهان KV در طول استنتاج نیاز داشته باشد. اینتل GPU D270 با ظرفیت حافظه در دسترس بالا طراحی شده است تا به پشتیبانی از مدل های بزرگتر، زمینه طولانی تر و جلسات همزمان بیشتر کمک کند.

پیام‌رسانی Intel GPU D270 باید به نرم‌افزارهای آشنای هوش مصنوعی و چارچوب‌های ارائه‌دهنده مانند PyTorch، vLLM، SGLang، و OpenAI Triton که مورد تأیید است، ارجاع دهد. این به توسعه‌دهندگان و تیم‌های پلت‌فرم کمک می‌کند تا بفهمند محصول چگونه با جریان‌های کاری هوش مصنوعی موجود می‌آید.

پردازنده گرافیکی اینتل D270 بر اساس فرم فاکتور استاندارد PCIe 5.0 و نمایه استقرار هوا خنک طراحی شده است و به شرکت‌ها کمک می‌کند تا شتاب استنتاج هوش مصنوعی را در محیط‌های مرکز داده موجود ارزیابی کنند، بدون اینکه نیازی به مقاوم‌سازی تخصصی خنک‌کننده مایع داشته باشند.

مخاطبان اصلی شامل معماران سیستم هوش مصنوعی، معماران پلتفرم هوش مصنوعی، رهبران مهندسی زیرساخت و ابر، تصمیم گیرندگان هوش مصنوعی سازمانی، ارائه‌دهندگان SaaS، ارائه‌دهندگان GPUaaS، تیم‌های دولتی یا Sovereign-Cloud و توسعه‌دهندگانی هستند که حجم کاری استنتاج تولید را به کار می‌گیرند.

مشتریان باید با اینتل ارتباط برقرار کنند تا درباره Intel GPU D270 بیشتر بیاموزند، ارزیابی کنند که چگونه ممکن است با نقشه راه استنتاج هوش مصنوعی آنها مطابقت داشته باشد، و با در دسترس قرار گرفتن اطلاعات اضافی محصول، به‌روزرسانی‌ها را دریافت کنند.

پیش‌بینی‌های عملکرد در مقابل RTX Pro 6000 بر اساس اطلاعات در دسترس عموم و تجزیه و تحلیل داخلی اینتل از فوریه 2026 است. عملکرد بر اساس استفاده، پیکربندی و سایر عوامل متفاوت است. مقایسه ظرفیت حافظه در پهنای باند قابل مقایسه

خواندن متن کامل در هکرنیوزبه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

Intel D270 GPU AI Accelerator–Up to 480 GB LPDDR5X

Article URL: https://www.intel.com/content/www/us/en/products/details/discrete-gpus/data-center-gpu/d-series.html Comments URL: https://news.ycombinator.com/item?id=50063365 Points: 257 # Comments: 124

همه‌ی اخبار فناوری