زیرساخت فناوری اطلاعات سازمانی برای استنتاج هوش مصنوعی ساخته نشده است

همانطور که سرمایه‌گذاری جهانی هوش مصنوعی به افزایش خود ادامه می‌دهد - طبق IDC، در سال 2025 از 300 میلیارد دلار گذشت - فناوری اطلاعات سازمانی عمدتا بر روی پشتیبانی از توسعه مدل‌های آموزشی متمرکز است و معماری مانند خوشه‌های GPU بزرگ و محاسبات با چگالی بالا در مرکز توجه قرار دارد.

اما اکنون استنتاج هوش مصنوعی در حال تبدیل شدن به حجم کاری غالب است و معماری که از مدل ها در تولید، در مقیاس و برای کاربران و سیستم های واقعی پشتیبانی می کند، به سرعت به آینده هوش مصنوعی تبدیل شده است.

تقاضا برای استنتاج هوش مصنوعی وجود دارد - طبق گفته Deloitte، استنتاج در حال حاضر تقریبا دو سوم محاسبات را تشکیل می دهد، در حالی که مک کینزی پروژه می دهد که بین 30٪ تا 40٪ از کل تقاضای مرکز داده تا سال 2030 را تشکیل می دهد - اما زیرساخت اختصاصی اینطور نیست.

استنتاج فراتر از یک محیط آموزشی کوچک است

آنچه آموزش و استنباط از دیدگاه فناوری اطلاعات نیاز دارد، متضادهای تقریبا قطبی هستند. شرکت‌ها آموزش هوش مصنوعی را از طریق مراکز داده با خوشه‌های پردازش گرافیکی متمرکز و عظیم برای چگالی توان فوق‌العاده و اتصالات تخصصی و پرسرعت به منظور به حداکثر رساندن ارتباط در یک اتاق واحد تسهیل کرده‌اند.

استنتاج، از سوی دیگر، با جریان مداوم اطلاعات و تقاضای غیرقابل پیش‌بینی کاربر در مقابل حجم کاری از پیش تعریف شده تعریف می‌شود. هنگامی که درخواست‌ها شروع به ورود کردند، به محاسبات توزیع‌شده جغرافیایی نیاز دارید که به خواسته‌های بلادرنگ پاسخ دهد و مقیاس‌بندی شود.

از آنجایی که استنتاج 24/7 اجرا می‌شود و به پاسخ‌های سریع میلی‌ثانیه‌ای برای کاربران نهایی نیاز دارد، به‌جای توان عملیاتی ایزوله در یک مرکز داده، به اترنت کالا، سایت‌های لبه توزیع‌شده جغرافیایی، و اتصالات شبکه با تأخیر کم متکی است. انتخاب های طراحی که یک مرکز داده سازمانی را برای آموزش بهینه می کند، به طور فعال در برابر اجرای استنتاج در مقیاس عمل می کند.

ساختار هزینه نیز کاملا متفاوت است. آموزش یک رویداد سرمایه‌ای است که یکبار مصرف می‌کند - وقتی یک مدل ساخته شد، این هزینه قبلا کاهش می‌یابد. سازمان‌هایی که به بهینه‌سازی هزینه‌های خود برای آموزش ادامه می‌دهند، اکنون با این واقعیت مواجه شده‌اند که پایه و اساس اشتباهی دارند.

در عین حال، استنتاج یک هزینه عملیاتی تکرارشونده است که با هر کاربر، پرس و جو، تعامل عامل و موارد دیگر مقیاس می شود. این بیشتر شبیه یک موجود زنده و تنفسی است که باید در کنار نوع حجم کاری که آینده اقتصاد هوش مصنوعی را تعیین می کند رشد کند.

عوامل فشار جدیدی بر معماری ایجاد می کنند

عوامل هوش مصنوعی مستقل نیز کسری زیرساخت را تشدید می کنند. عوامل یک پاسخ واحد تولید نمی کنند و سپس متوقف می شوند. آنها برنامه ریزی می کنند، چندین مرحله را اجرا می کنند، ابزارهای خارجی را فراخوانی می کنند، سایر عوامل را هماهنگ می کنند و خروجی ها را بین سیستم ها ارسال می کنند. اثر موج دار یک بار کاری عاملی، ترافیک داده ای را که از طریق شبکه جریان می یابد، چند برابر می کند. با افزایش تقاضا برای راه حل های عامل، تقاضا برای زیرساخت های پشتیبانی نیز افزایش می یابد.

این رشد در حال حاضر پیامد است. گارتنر پیش‌بینی می‌کند که تا پایان سال 2026، 40 درصد از برنامه‌های کاربردی سازمانی با عوامل خاص یکپارچه می‌شوند، در حالی که پروژه‌های IDC که استفاده از آنها از عامل‌ها تا سال 2027 ده برابر افزایش می‌یابد و حجم تماس توکن و API در هزاران برابر می‌شود.

استنتاج همچنین به‌عنوان یک ضرب‌کننده ترافیک شمال به جنوب عمل می‌کند، به گونه‌ای که معماری‌های شبکه سنتی WAN و مرکز داده برای مدیریت آن طراحی نشده‌اند. مک‌کینزی دریافت که اکثر شبکه‌های WAN سازمانی در حال حاضر قادر به پشتیبانی از الگوهای ترافیک داده‌های هوش مصنوعی نیستند و باید به عنوان دومین اولویت سرمایه‌گذاری زیرساختی در رتبه دوم هوش مصنوعی قرار بگیرند.

ترافیک انفجاری یکی دیگر از مسائلی است که بر فشار معماری تأثیر می گذارد. حجم کاری نمایندگی یک جریان ثابت نیست، آنها یک باران سیل آسا هستند که می آید و می رود. یک رویداد ارکستراسیون می‌تواند ده‌ها تماس API پایین‌دستی را به‌طور همزمان راه‌اندازی کند.

این باعث می‌شود که شبکه‌هایی که برای بارهای متوسط ​​اندازه‌گیری می‌شوند، به سقف ظرفیت برسند، زمانی که عوامل در مقیاس هماهنگ می‌شوند، و همین مشکلات تأخیر و قابلیت اطمینان را ایجاد می‌کنند که باعث می‌شود خلبان‌های هوش مصنوعی سازمانی قبل از رسیدن به تولید سقوط کنند. برای پیشرفت در عصر هوش مصنوعی، شرکت ها باید زیرساخت های مناسب را از ابتدا ایجاد کنند.

استنتاج در حال حاضر مورد مهم استفاده از CPU است

ساخت معماری استنتاج رو به جلو از ابتدایی ترین لایه شروع می شود: سخت افزار. پردازنده‌ها برای برنامه‌ریزی، زمان‌بندی، هماهنگی ابزار-تماس و حلقه‌های استدلال چند مرحله‌ای که بار کاری عامل را تعریف می‌کنند، حیاتی هستند.

با این حال، تمرکز شدید صنعت بر بازار پردازنده‌های گرافیکی در طول رونق آموزش هوش مصنوعی، توجه را از نیاز به CPU در حجم کاری استنتاج هوش مصنوعی دور کرده است. همانطور که حجم کار استنتاج در مقیاس افزایش می یابد، CPU ها از یک نقش پشتیبانی به نقش حیاتی می روند و به عنوان فیلتر اصلی به لایه ارکستراسیون عمل می کنند.

هنگامی که از طریق یک لنز صرفا عامل مشاهده می شود، CPU های سرور با تعداد هسته بالا می توانند حجم کار را به طور اقتصادی تری نسبت به شتاب دهنده های GPU اداره کنند. اما درک این نکته مهم است که یکی بدون دیگری نمی تواند کار کند. استنتاج همچنان به عملکرد GPU نیاز دارد. این به سادگی این است که ظرفیت CPU گلوگاهی است که اکثر سازمان ها آن را در نظر نمی گیرند.

تراز کردن محاسبات، شبکه و ذخیره سازی کلیدی است

واقعیت این است که موارد استفاده از هوش مصنوعی در بیشتر موارد ROI وحشتناکی ایجاد می کنند. جدیدترین نظرسنجی گارتنر از رهبران زیرساخت و عملیات نشان داد که تنها 28 درصد از موارد استفاده از هوش مصنوعی به طور کامل موفق می شوند و پیش بینی های بازگشت سرمایه را برآورده می کنند، در حالی که 20 درصد به طور کامل شکست می خورند. علت اصلی شکست، انتظار بیش از حد و سریع از زیرساخت هایی بود که قادر به پشتیبانی از حجم کار نبودند.

چگونه شرکت ها می توانند از آن دام جلوگیری کنند؟ قبل از غواصی در ساختمان‌هایی که نمی‌توانند از آن پشتیبانی کنند، برای راه‌اندازی زیرساخت‌های زیربنایی آن‌ها وقت بگذارید. تلاش واقعی برای ایجاد محاسبات، شبکه و ذخیره سازی اختصاصی که به عنوان منابع مدیریت شده به صورت جداگانه عمل می کنند، کلید اصلی است.

استنتاج در مقیاس تولید مستلزم این است که هر سه به صورت پشت سر هم کار کنند، با اجرای مدل پردازش محاسباتی، ذخیره سازی تعیین می کند که با چه سرعتی زمینه، جاسازی ها و داده های بازیابی در دسترس هستند، و شبکه تعریف می کند که آیا محاسبات و ذخیره سازی می توانند به صورت خارجی با تأخیر مناسب ارتباط برقرار کنند.

سازمان‌هایی که می‌توانند زودتر این تمایز را ایجاد کنند، برای فاز بعدی هوش مصنوعی آماده‌تر خواهند بود و زمان کمتری را برای مدیریت خرابی‌های زیرساخت در طول تولید صرف می‌کنند و زمان بیشتری را صرف تمرکز بر تولید ارزش از طریق استنتاج هوش مصنوعی خواهند کرد.

ما بهترین ابزار هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit