اقتصاد جدید هوش مصنوعی سازمانی

تصور کنید شرکت شما به تازگی برق را کشف کرده است. در ابتدا فقط چند ماشین روی آن کار می کنند و هیچ کس نگران کارایی نیست - مصرف کم است و ارزش آن آشکار است. اما هنگامی که برق به زیرساخت تبدیل می شود، هر فرآیندی به آن بستگی دارد و این سوال از "آیا می توانیم از آن استفاده کنیم؟" تغییر می کند. به "چقدر کارآمد از آن استفاده می کنیم؟"

هوش مصنوعی سازمانی نیز همین تغییر را طی می کند. آنچه که به عنوان آزمایش‌های ربات چت مجزا و کمکی آغاز شد، در حال تبدیل شدن به لایه‌ای اساسی از کسب‌وکار است، با مدل‌ها، عوامل و داده‌ها که به طور فزاینده‌ای در حجم کاری تولید به هم مرتبط هستند. سوال مهم این است که یک توکن یا یک ساعت GPU چقدر هزینه دارد. مشخص می شود که محیط هوش مصنوعی چقدر ظرفیت پرداخت شده را به نتایج مفید تجاری تبدیل می کند.

این معیار ارزش ردیابی است: هزینه موثر به ازای هر نتیجه مفید - کل پلت فرم، مدل، عملیات و هزینه ظرفیت مورد نیاز برای تکمیل کاری که کسب و کار واقعا می تواند از آن استفاده کند، خواه یک درخواست حل شده یا یک گردش کار تکمیل شده.

سه راه برای اجرای هوش مصنوعی

بهره‌برداری در اقتصاد نقش اساسی دارد. هدایت کار بیشتر به سمت ظرفیت پرداخت شده، هزینه واحد موثر را کاهش می دهد. پردازنده‌های گرافیکی بی‌کار، حجم کاری تکه‌تکه‌شده و مدل‌های بزرگ، همگی هزینه هر نتیجه مفید را افزایش می‌دهند. شرکت ها به طور کلی از بین سه مدل انتخاب می کنند:

یک پشته سفارشی - تهیه زیرساخت ها و کنترل های داخلی. این رویکرد انعطاف‌پذیر است، اما بار مستمری ایجاد می‌کند، زیرا تیم‌ها باید با تغییر مدل‌ها و سیاست‌ها، محیط را دوباره اعتبار بخشند.

مصرف برحسب تقاضا - هایپراسکیلرها بار مونتاژ را کاهش می دهند و با تقاضای کم یا نامشخص مطابقت دارند، اما با هر اقدام سریع یا نماینده، هزینه ها افزایش می یابد.

یک پلتفرم هوش مصنوعی خصوصی یکپارچه - ظرفیت متعلق به یا اختصاصی جفت شده با پشته معتبر. مزیت استنتاج رایگان نیست. این کنترل بر روی اهرم های بهره وری مانند زمان بندی، انتخاب مدل، پارتیشن بندی GPU و مدیریت حافظه پنهان است.

مدل مناسب به حجم کار بستگی دارد. APIها می توانند برای آزمایش یا تقاضای متغیر منطقی باشند. از آنجایی که حجم کار پایدار و حیاتی می شود، شرکت ها باید نه تنها آنچه را که مصرف می کنند، بلکه میزان کارآمدی سیستم را نیز بسنجند.

مالکیت یک رشته عملیاتی است

خرید یک ماشین مسابقه فرمول 1 و پارک آن در گاراژ به معنای داشتن یکی از پیچیده ترین وسایل نقلیه ساخته شده است - اما مالکیت به تنهایی شما را رقابتی نمی کند. شما هنوز به درایورها، مکانیک ها و زمان پیگیری برای توجیه آن نیاز دارید. زیرساخت های هوش مصنوعی به همین ترتیب کار می کنند.

یکی از بزرگترین تصورات غلط در هوش مصنوعی سازمانی این است که داشتن زیرساخت به طور خودکار اقتصاد را بهبود می بخشد. داشتن GPU فرصتی را برای اقتصاد بهتر ایجاد می کند، اما تنها در صورتی که سازمان تقاضا و نظم عملیاتی کافی برای حفظ بهره وری منابع داشته باشد.

زیرساختی که بهترین ROI را برمی‌گرداند، یک معماری مرجع یا یک ساخت سفارشی نیست - یک پشته کاملا یکپارچه و واجد شرایط است که به تیم‌ها اجازه می‌دهد وظایف را به کم‌هزینه‌ترین مدلی که الزامات کیفیت را برآورده می‌کند و زمینه استفاده مجدد را از طریق تکنیک‌هایی مانند مدیریت KV-cache، کاهش ظرفیت تلف شده و در عین حال پاسخ‌دهی، هدایت کنند.

بدون این شیوه ها، زیرساخت های متعهد می توانند به سرمایه های سرگردان تبدیل شوند. با آنها، تقاضای فزاینده اقتصاد را بهبود می بخشد زیرا هزینه های ثابت در کارهای مفیدتر مستهلک می شوند - در سیستم های عاملی که در آن اقتصاد کمتر از طریق کارایی یک محیط کامل شکل می گیرد، اهمیت فزاینده ای دارد.

از استقرار تا ارزش

HPE Private Cloud AI یک بنیاد آماده تولید است که زیرساخت ها، نرم افزارها، مدل ها، ابزارها، حاکمیت و خدمات را ترکیب می کند و بار یکپارچه سازی عملکرد هوش مصنوعی خصوصی را در مقیاس کاهش می دهد. معماری آن به تیم‌ها اجازه می‌دهد تا زمان‌بندی، انتخاب مدل، پارتیشن‌بندی GPU و مدیریت حافظه پنهان را به عنوان اهرم‌های عملیاتی مدیریت کنند و ظرفیت و سطوح خدمات را با نیازهای هر حجم کاری هماهنگ کنند. همچنین شامل یک تعامل 90 روزه با مهندسین مستقر در آینده است که به تیم‌های مشتری کمک می‌کنند تا موارد استفاده اولیه را مستقر کرده و شیوه‌های عملیاتی قابل تکرار را ایجاد کنند.

در آزمایش مستقلی که توسط HPE سفارش داده شد، یک پلتفرم یکپارچه که بارهای کاری متعدد را با استفاده بالا ارائه می‌کند، هزینه مؤثر کمتری برای هر توکن نسبت به اجاره مکرر ظرفیت معادل ارائه می‌دهد. نتایج واقعی بر اساس ترکیب حجم کار و استفاده متفاوت خواهد بود.

آنچه مهم است را اندازه گیری کنید

مصرف توکن همچنان مفید است، اما معیار کاملی برای اقتصاد هوش مصنوعی نیست. یک نمای کاملتر سازمانی هزینه هر نتیجه مرتبط با کسب و کار، استفاده از شتاب دهنده و انتخاب مدل را نسبت به پیچیدگی کار ردیابی می کند.

شرکت‌هایی که قبلا هوش مصنوعی خصوصی دارند باید بپرسند که میزان استفاده از آنها چقدر بالغ است و حجم کار در 12 تا 18 ماه آینده چگونه تغییر می‌کند. کسانی که زودتر در سفر بودند باید این شیوه‌ها را از اولین استقرار ایجاد کنند، بنابراین استراتژی رشد را قبل از تبدیل شدن تقاضا به گلوگاه پیش‌بینی می‌کند.

برای تقاضای کم حجم و غیرقابل پیش بینی، یک API یا hyperscaler ممکن است معقول باقی بماند. اما با تبدیل شدن هوش مصنوعی به قابلیت تولید مداوم، شرکت ها انگیزه فزاینده ای برای کنترل استفاده، استهلاک هزینه های ثابت و مدیریت محیط به عنوان یک دارایی عملیاتی بلند مدت دارند. سوال استراتژیک این نیست که آیا شرکت‌ها برای هوش مصنوعی هزینه خواهند کرد یا خیر، بلکه این است که آیا آنها اقتصاد پشت آن را درک می‌کنند و در نهایت صاحب آن خواهند شد.

برای کسب اطلاعات بیشتر در مورد HPE Private Cloud AI، لطفا از HPE دیدن کنید.

این محتوا توسط HPE تولید شده است. این توسط هیات تحریریه MIT Technology Review نوشته نشده است.