صورتحساب ذخیره سازی پنهان هوش مصنوعی: آنچه استنباط به جا می گذارد

از اکثر مدیران بخواهید که هزینه هوش مصنوعی را به تصویر بکشند و احتمالا پردازنده‌های گرافیکی - قفسه‌هایی از شتاب‌دهنده‌ها با گیگاوات قدرت - و فهرست انتظار برای سیلیکون را خواهند دید. اما این تصویر چیزی را نادیده می گیرد: هزینه های ذخیره سازی داده ها.

پس از پاسخ یک مدل برای داده ها چه اتفاقی می افتد؟ بسیاری از داده های پشتیبان تولید شده - از میلیاردها درخواست روزانه، تصویر و ویدیو - باید ذخیره شوند. اما ذخیره‌سازی داده یکی از هزینه‌های زیرساختی سخت‌تر برای برنامه‌ریزی است، و اغلب در برنامه‌ریزی اولیه زیرساخت هوش مصنوعی نادیده گرفته می‌شود.

همانطور که استنتاج مقیاس می شود، ردپای داده با آن رشد می کند

به طور سنتی، مکالمات زیرساخت هوش مصنوعی بر فرآیند محاسباتی فشرده آموزش یک مدل متمرکز شده است. آموزش متناهی است: یک اجرا شروع می شود، از طریق محاسبات می سوزد و به پایان می رسد. اما استنتاج به طور مداوم اجرا می شود، هر بار که یک مدل به یک درخواست پاسخ می دهد. برای برنامه ریزی زیرساخت، این تفاوت مهم است: یک دوره آموزشی پروژه ای است که می توانید برای آن بودجه بندی کنید و بازنشسته شوید. استنباط بازنشسته نمی شود؛ هر درخواست استنتاج چیزی را پشت سر می گذارد.

ویدیوی تولید شده توسط هوش مصنوعی بگیرید. در این حجم کاری، هزینه های پشتیبان می تواند قابل توجه باشد. از اندازه‌گیری‌های داخلی، WD دریافت که یک کلیپ 8 ثانیه‌ای (به عنوان یک فایل 720p با حجم 3.97 مگابایت به کاربر بازگردانده می‌شود) بیش از 500 مگابایت داده مرتبط را در قسمت پشتی باقی می‌گذارد، از جمله گزارش‌ها، زمینه ذخیره‌سازی شده، رندرهای فوری، پشتیبان‌گیری و سوابق ایمنی. این یک افزایش 130 برابری نسبت به اندازه فایل خروجی است که کاربر مشاهده کرده است. این را در مقیاس شرکتی قرار دهید که ویدیوی طولانی‌تر و وضوح بالاتر تولید می‌کند و ردپای بک‌اند به صدها گیگابایت در هر کلیپ افزایش می‌یابد.

و این ردپای عقبی به سرعت در حال رشد است. مک‌کینزی پیش‌بینی می‌کند که تقاضای استنتاج هوش مصنوعی تا سال 2030 با 35 درصد CAGR رشد خواهد کرد، در مقابل 22 درصد برای آموزش، که بیش از 40 درصد از کل تقاضای مرکز داده تا پایان دهه را تشکیل می‌دهد.

یک مقاله سفید جهانی IDC که اخیرا توسط WD حمایت شده است و 763 تصمیم گیرنده فناوری اطلاعات و کسب و کار را مورد بررسی قرار داده است، نشان می دهد که تقریبا 95٪ از پاسخ دهندگان افزایش حجم داده ها را به دلیل هوش مصنوعی در 12 ماه گذشته گزارش کرده اند و تقریبا 61٪ رشد 25٪ یا بیشتر را گزارش کرده اند.

یکی از مدیران ارشد محصول یک ارائه‌دهنده خدمات ابر مقیاس بزرگ که در گزارش نقل شده است، می‌گوید: «می‌توانید به داشتن فضای ذخیره‌سازی بیشتر به‌عنوان بهینه‌سازی برای مشغول نگه‌داشتن پردازنده‌های گرافیکی فکر کنید». "بزرگترین چالش این است که اطمینان حاصل شود که GPU ها بیکار نیستند و منتظر نمایش داده ها هستند - ساعت ها زمان بیکاری GPU بسیار گران و بسیار سریع می شود." به بیان دلار: اگر هزینه ذخیره‌سازی شما سالانه 25 درصد افزایش می‌یابد در حالی که بودجه محاسباتی شما به روش چرخه‌ای قابل پیش‌بینی‌تر رشد می‌کند، فضای ذخیره‌سازی در نهایت از ردیف بودجه‌ای که بیشترین توجه را به خود جلب می‌کند، پیشی می‌گیرد.

تطبیق ذخیره سازی با چرخه عمر داده های هوش مصنوعی

محاسبه تقاضا با چرخه‌های آموزشی، راه‌اندازی محصول و به‌روزرسانی سخت‌افزار افزایش و کاهش می‌یابد. اما حجم داده های حفظ شده با کاهش تقاضای محاسباتی کاهش نمی یابد. گزارش‌های مدل، خروجی‌های مصنوعی، نتایج استنتاج و موارد دیگر در حال انباشته شدن هستند و سازمان‌ها بیشتر آن را برای مدت طولانی‌تری نگه می‌دارند.

این نقش داده های حفظ شده را تغییر می دهد. اطلاعاتی که زمانی به بایگانی منتقل می‌شد و به ندرت ظاهر می‌شد، اکنون می‌تواند ورودی‌ای برای بارهای کاری هوش مصنوعی آینده باشد. همانطور که داده های بیشتری حفظ، بازیابی و استفاده مجدد می شود، ذخیره سازی نه تنها باید از ظرفیت رو به رشد، بلکه دسترسی پویا به آن پشتیبانی کند. همان نظرسنجی WD-IDC نشان داد که 96٪ از پاسخ دهندگان پیش بینی می کنند که برای پشتیبانی از استنتاج یا تولید تقویت شده با بازیابی (RAG) به بازیابی سریعتر آرشیو نیاز دارند.

بارهای کاری هوش مصنوعی هم به کارایی و هم به ظرفیت نیاز دارد، با فناوری های مختلف که نیازهای متفاوتی را در طول چرخه عمر داده ها برآورده می کنند. و برای حجم وسیعی از داده‌ها که باید حفظ و بازبینی شوند، هارد دیسک‌ها پایه‌ای مقرون‌به‌صرفه و با ظرفیت بالا و مزیت قابل توجه هزینه به ازای هر ترابایت را فراهم می‌کنند.

این برای چگونگی بودجه بندی هوش مصنوعی چه معنایی دارد

برای یک CFO یا CIO، این بدان معناست که «هزینه زیرساخت هوش مصنوعی» ممکن است در محاسبات بسیار محدود باشد. مدلی که در زمان بارگیری داده ها در حالت بیکار می باشد، به دلیل نداشتن GPU تقریبا به اندازه یک حالت آماده به کار است. اما گلوگاه ذخیره سازی پنهان می ماند تا زمانی که در حال حاضر یک مشکل باشد، به جای یک خط CapEx در کنار شتاب دهنده ها، در هزینه های عملیاتی و تاخیرهای بازیابی ظاهر می شود.

خرده‌فروشی را در نظر بگیرید که ویدیوهای محصولات هوش مصنوعی را برای کاتالوگ خود تولید می‌کند، یا بیمه‌گری که اسناد ادعا را از طریق خط لوله RAG برای پذیره‌نویسی سریع‌تر اجرا می‌کند. در هر دو مورد، هزینه محاسبه یک مقدار شناخته شده و بودجه بندی شده است: نرخ هر نسل یا هر پرس و جو که امور مالی می تواند پیش بینی کند. هزینه ذخیره سازی متفاوت است: با هر ویدیوی تولید شده و هر ادعای پردازش شده ترکیب می شود، زیرا هیچ یک از آن داده های پشتیبان پس از اتمام کار ناپدید نمی شوند.

تیمی که هوش مصنوعی را به‌عنوان «محاسبه به اضافه خطای گرد کردن برای ذخیره‌سازی» بودجه بندی می‌کند، ممکن است طی 12 تا 18 ماه متوجه شود که خطای گرد کردن به کسری قابل‌توجه از هزینه کل برنامه تبدیل شده است - درست در زمانی که رهبری تصمیم می‌گیرد که آیا گسترش یابد یا خیر.

ایجاد ظرفیت های اقتصادی مقیاس پذیر

پرداختن به این چالش با معماری شروع می شود. استراتژی ذخیره سازی تمایل دارد برای عملکرد گران قیمت و سطح داغ طراحی شود (برای داده هایی که به صورت آنی و دائمی در دسترس هستند)، در حالی که بیشتر داده های هوش مصنوعی بر اساس حجم در لایه های گرم، سرد و سرد پشت آن جمع می شوند.

آنچه شرکت ها به آن نیاز دارند ظرفیت مقیاس پذیر از نظر اقتصادی است: زیرساخت طراحی شده برای چرخه زندگی کامل داده های هوش مصنوعی، متعادل کردن عملکرد با ظرفیت، قدرت، قابلیت اطمینان و هزینه کل مالکیت با تداوم داده ها، ترکیب شدن و استفاده مجدد فزاینده. این بدان معناست که بایگانی‌هایی را که زمانی دست نخورده بودند به‌عنوان دارایی‌های فعال برای RAG و استنتاج تلقی کنیم، و سیاست‌های نگهداری را برای ارزش استراتژیک رو به رشد داده‌ها به جای هزینه ذخیره‌سازی اولیه تنظیم کنیم. همچنین به این معنی است که تصمیمات مربوط به ذخیره سازی در ناوگان ها انجام می شود، نه درایوهای فردی.

چنین زیرساختی به لایه‌های ذخیره‌سازی نیاز دارد، جایی که مصرف انرژی، قابلیت اطمینان، چگالی و کارایی عملیاتی همگی تعیین می‌کنند که آیا سیستم از نظر اقتصادی به عنوان مقیاس‌های ظرفیت پایدار باقی می‌ماند یا خیر.

سه سوال در مورد بودجه زیرساخت هوش مصنوعی سازمان شما وجود دارد:

خط مشی حفظ داده ما برای محتوای تولید شده توسط هوش مصنوعی چیست و چه کسی آن را تنظیم می کند؟

آیا خرید ذخیره سازی ما به نیازهای عملکرد زمان آموزش یا چرخه زندگی واقعی داده هایی که تولید می کنیم مرتبط است؟

اگر استفاده از هوش مصنوعی ما در سال آینده دو برابر شود، آیا هزینه ذخیره سازی ما با آن دو برابر می شود یا بدتر؟

اکثر سازمان ها نمی توانند هر سه را با اطمینان پاسخ دهند. این شکافی است که ارزش کاهش قبل از چرخه بودجه بعدی را دارد، نه بعد از آن.

این محتوا توسط WD تولید شده است. این توسط هیات تحریریه MIT Technology Review نوشته نشده است.