CPU Arm AGI AMD را در معیار هوش مصنوعی عامل جدید شکست می دهد – اما مزیت عملکرد سطح رک 2 برابری آن برای آینده مراکز داده x86 چه معنایی دارد؟

پردازنده AGI Arm's تقریبا عملکرد AMD در سطح رک مدل‌سازی شده را در هفت بار کاری دو برابر می‌کند.

یک رک 24 کیلوواتی حداکثر 23 سرور Arm را تحت مفروضات ارزیابی در خود جای می دهد.

مزیت سطح قفسه بازو در قوی ترین حجم کاری فردی به 3.19 برابر می رسد CPU AGI Arm در هفت بار کاری طراحی شده برای ارزیابی هوش مصنوعی عاملی، تقریبا دو برابر عملکرد مدل‌سازی شده در سطح رک نسبت به EPYC 9755 AMD ثبت کرده است.

این ارزیابی که توسط Signal65 با همکاری Arm انجام شد، نتایج اندازه‌گیری‌شده پردازنده را قبل از تخمین عملکرد در رک‌هایی که با بودجه برق ثابت کار می‌کنند، مقایسه کرد.

یافته‌ها تا حدی بر مدل‌سازی مبتنی بر قدرت تکیه دارند، در حالی که آزمایش بر روی سخت‌افزار تولید نهایی همچنان برجسته است.

چگالی رک به Arm مزیت قابل توجهی می دهد

این ارزیابی بارهای کاری شامل ابزارهای نرم افزاری، اجرای وظایف مستقل، بازیابی اطلاعات، و پشتیبانی از سرویس مدل هوش مصنوعی، از جمله ترمینال-بنچ 2 و سکو-بنچ را بررسی کرد.

در طول هفت آزمایش، پردازنده Arm به میانگین نسبت عملکرد 1.99x، با نتایج فردی از 1.43x تا 3.19x در مقایسه با AMD EPYC 9755 دست یافت.

مزیت مدل‌سازی شده تا حدی ناشی از تفاوت در مصرف انرژی سرور است که به سیستم‌های بازوی بیشتری در تخصیص برق یکسان اجازه می‌دهد.

یک رک 24 کیلوواتی می تواند 21 تا 23 سرور CPU AGI را در مقایسه با 13 سیستم EPYC 9755 دو سوکتی در خود جای دهد.

این پیکربندی بین 5712 تا 5888 هسته فیزیکی برای Arm در مقایسه با 3328 هسته برای AMD ارائه می‌کند، اگرچه مقایسه به مفروضات توان نامی بستگی دارد.

قدرت سرور فردی برای سیستم‌های Arm از 950 تا 1050 وات است، در حالی که پیکربندی‌های دو سوکتی AMD دارای مصرف نامی 1700 وات هستند.

در بین دسته‌های حجم کاری، Arm مزیت‌های مدل‌سازی شده در سطح قفسه را به‌طور میانگین 1.7 برابر برای ابزارسازی، 2.0 برابر برای گردش‌های کاری عاملی و 2.2 برابر برای استدلال و برنامه‌ریزی ثبت کرد.

این گزارش همچنین تخمین زد که عملیات پایگاه داده و جستجوی برداری می‌تواند به 30 تا 35 درصد رک کمتری برای بارهای کاری پردازشی معادل نیاز داشته باشد.

ایجاد سریعتر جعبه شنی و چالش x86

آزمایش جداگانه، پردازنده Arm را با EPYC 9965 AMD با استفاده از Sandbench مقایسه کرد، که زمان مورد نیاز برای ایجاد محیط های اجرایی ایزوله را اندازه گیری می کند.

بازوی تکمیل شده سرد 45 درصد سریع‌تر شروع می‌شود، شروع گرم 27 درصد سریع‌تر، و بدترین سناریوی آن تحت چهار برابر اضافه اشتراک 41 درصد سریع‌تر است.

این پیشرفت‌ها اهمیت دارند زیرا عوامل هوش مصنوعی اغلب در حین دسترسی به خدمات، اجرای کد و پردازش اطلاعات، محیط‌های اجرایی ایجاد می‌کنند.

راه‌اندازی سریع‌تر می‌تواند تاخیرها را کاهش دهد، اگرچه نتایج دستاوردهای معادل را در همه برنامه‌ها یا استقرار کامل مرکز داده را نشان نمی‌دهد.

محمد عواد، معاون اجرایی Cloud AI گفت: «صنعت باید اندازه‌گیری کند که سیستم‌ها تا چه اندازه عملکرد واقعی کارگزاران را کامل می‌کنند» و نیاز به ارزیابی عملکرد خاص حجم کار را تشریح کرد.

این شرکت چارچوب ارزیابی خود را با پشتیبانی فوجیتسو، متا و OpenAI توسعه داد، در حالی که Signal65 به طور مستقل نتایج پردازنده گزارش شده را تأیید کرد.

آرم همچنین اذعان کرد که آزمایش‌های بیشتر بر روی سیستم‌های تولید نهایی، بارهای کاری اضافی و مقایسه‌های رقابتی را پوشش می‌دهد.

برای AMD و Intel، یافته‌ها نشان می‌دهد که سرورهای مبتنی بر Arm می‌توانند زیرساخت x86 را در استقرار هوش مصنوعی عاملی که قدرت رک محدودیت ظرفیت محاسباتی را محدود می‌کند، به چالش بکشد.

عملکرد بالاتر در سطح رک می تواند به اپراتورها اجازه دهد تا بارهای کاری هوش مصنوعی بیشتری را در تخصیص توان موجود جای دهند.

با این حال، معیار نشان نمی دهد که Arm در محاسبات همه منظوره از x86 بهتر عمل کند یا جایگزینی سرورهای موجود در کل مراکز داده را توجیه کند.

سازگاری نرم‌افزار، هزینه‌های استقرار و شرایط عملیاتی در دنیای واقعی بر اینکه مزیت مدل‌سازی‌شده به پذیرش گسترده‌تر ترجمه شود، تأثیر می‌گذارد.