هزینه پنهان عوامل هوش مصنوعی حافظه است

اولین نسل از پروژه های هوش مصنوعی سازمانی به کسب و کارها نحوه بازیابی اطلاعات را آموزش داد. کاربر یک سوال می پرسد، سیستم زمینه مربوطه را پیدا می کند و یک مدل آن را به یک پاسخ تبدیل می کند.

عوامل هوش مصنوعی این معادله را تغییر می دهند زیرا آنها اطلاعات را به صورت پویا بازیابی می کنند و وضعیت خود را در این فرآیند تنظیم می کنند. همانطور که وظایف تکامل می‌یابند، همه چیز را از توسعه طرح، و تماس‌های ابزارهای خروجی گرفته تا به‌روزرسانی سوابق و ثبت نتایج به‌کار می‌گیرند.

آن فعالیت را در صدها یا هزاران عامل ضرب کنید و لایه داده شروع به رفتار بسیار متفاوتی می کند - با پیامدهای قابل توجهی برای هزینه و دقت. این پیامدها هنگام انتقال پروژه های هوش مصنوعی عاملی از آزمایشی به تولید، به ملاحظات اصلی تبدیل می شوند.

چرا خلبانان می توانند هزینه واقعی را پنهان کنند؟

حافظه به یک سیستم عملیاتی تبدیل می شود

خلبان های اولیه معمولا از نظر طراحی باریک هستند. به طور معمول، یک تیم با مجموعه داده محدود و تعاملات نسبتا ساده و کوتاه مدت کار می کند. به عنوان مثال درخواست خلاصه ای از یک سند را در نظر بگیرید. مدل یک درخواست را تکمیل می کند و آن کار انجام می شود. در اینجا، به نظر می‌رسد که دسترسی مدل، نشانه‌ها و بازیابی زمینه بیشتر صورت حساب را تشکیل می‌دهند.

با این حال، وقتی از چت ربات‌های غیرفعال به سیستم‌های چند عاملی تغییر می‌کنیم، اقتصاد تغییر می‌کند. هزینه‌های سنتی AI مولد به صورت خطی با کاربران مقیاس می‌شوند، در حالی که هزینه اجرای استقرار چند عامله با پیچیدگی کار افزایش می‌یابد. مخارج اثبات مفهوم معمولا با پیچیده تر شدن وظایف چند برابر می شود.

به عنوان مثال، AWS یک اثبات مبتنی بر متن برای مدیریت حدود 100 تعامل در روز با حدود 40 دلار در ماه ارائه می دهد. تخمین آن برای اثبات مفهوم مبتنی بر عامل با استفاده از پایگاه دانش و نرده‌های محافظ تقریبا با همان حجم حدود 840 دلار در ماه است. نوشته Anthropic در مورد تحقیقات چند عاملی خود از این یافته حمایت می کند.

داده‌ها نشان می‌دهند که سیستم‌های چند عاملی 15 برابر بیشتر از تعاملات چت از توکن‌ها استفاده می‌کنند و این که دوام اقتصادی مستلزم آن است که ارزش کار به اندازه کافی بالا باشد تا هزینه را توجیه کند.

بنابراین، در سیستم‌های چند عاملی، به راحتی می‌توان فهمید که چرا هزینه‌ها افزایش می‌یابد. عامل ها از حلقه های پویا، فراخوانی ابزار، تلاش مجدد و انتقال زمینه برای تکمیل یک کار استفاده می کنند. اما یک بعد مهم دیگر وجود دارد - عوامل باید به خاطر داشته باشند و در مورد حجم فزاینده داده استدلال کنند.

کارگزاران نسبت به یک جلسه چت بات معمولی عمر عملیاتی بیشتری دارند. آنها باید اقدامات دیروز را به خاطر بسپارند، شواهد پشت یک تصمیم را حفظ کنند و این اطلاعات را در اختیار سایر عوامل ناوگان قرار دهند. هر کار تکمیل شده به حالت جدیدی تبدیل می شود.

همانطور که ناوگان نمایندگی رشد می کند، کسب و کار نه تنها برای پاسخ بعدی بلکه برای منشأ عملیاتی در حال گسترش مورد نیاز برای کارکرد موثر و ایمن نیز هزینه می پردازد.

سیستم‌های هوش مصنوعی مولد اولیه اغلب حافظه را به عنوان زمینه در نظر می‌گیرند - در صورت لزوم بازیابی می‌شوند. عوامل پایدار نیاز متفاوتی را ایجاد می کنند. حافظه به یک سیستم عملیاتی زنده تبدیل می شود که دائما به روز می شود.

این هم برای عملکرد و هم برای هزینه اهمیت دارد. یک مسیر نوشتن باریک می‌تواند باعث ایجاد مشاجره شود زیرا تعداد بیشتری از نمایندگان رکوردها را به‌روزرسانی می‌کنند. کپی‌های جداگانه از یک زمینه، کار ذخیره‌سازی و همگام‌سازی را افزایش می‌دهند، و نگه‌داشتن هر رکورد تاریخی در سریع‌ترین سطح ذخیره‌سازی، اطلاعاتی که به ندرت استفاده می‌شوند را گران‌تر می‌کند.

هنگام طراحی لایه داده برای پشتیبانی از ناوگان عامل، سطح خدمات نحوه دسترسی و مدیریت حافظه را تعیین می کند. رهبران باید تعیین کنند که هر نوع حافظه با چه سرعتی باید در دسترس باشد، چه کسی می تواند آن را به روز کند، چه عواملی باید آن را به اشتراک بگذارند، و چه مدت باید بلافاصله در دسترس باشد.

طراحی حافظه برای ناوگانی از عوامل

با افزایش تنوع و پیچیدگی استقرار عامل، سه اصل اصلی اهمیت فزاینده ای پیدا خواهند کرد.

اولین مورد همزمانی است. رهبران باید بپرسند که آیا ظرفیت نوشتن می تواند با افزایش تعداد نمایندگان افزایش یابد یا خیر. زیرساختی که عمدتا برای کاربردهای خواندنی طراحی شده است، ممکن است زمانی که تعداد زیادی از فرآیندهای مستقل شروع به به روز رسانی وضعیت به طور همزمان کنند، بسیار متفاوت عمل می کند.

دومی حافظه مشترک است. اگر چندین نماینده روی یک مشتری، دارایی یا فرآیند کار می کنند، ایجاد نسخه های جداگانه از یک زمینه می تواند هزینه و ناسازگاری ایجاد کند. یک منبع مشترک دولت می‌تواند همکاری را آسان‌تر کند، مشروط بر اینکه کنترل‌های دسترسی و منشأ روشن باقی بماند.

سوم، جداسازی حافظه فعال از حافظه تاریخی. یک نماینده ممکن است بلافاصله به چند دقیقه آخر گردش کار نیاز داشته باشد، در حالی که سوابق شش ماه پیش ممکن است فقط برای یک ممیزی یا یک پرس و جو غیر معمول مورد نیاز باشد. برخورد یکسان با این دو دسته یک پیش فرض گران قیمت است.

وضعیت دسترسی مکرر می‌تواند نزدیک به لایه محاسباتی باقی بماند، در حالی که اطلاعات قدیمی‌تر به سمت ذخیره‌سازی بادوام کم‌هزینه‌تر حرکت می‌کنند. سپس محاسبات می تواند بر اساس فعالیت فعلی به جای کل حافظه انباشته شده از زمان راه اندازی سیستم، مقیاس شود.

اینکه تغییرات تاریخی چگونه ذخیره می شوند، سوال مشابهی را مطرح می کند. ذخیره هر نسخه کامل از یک رکورد، بازیابی را ساده می کند اما ظرفیت بیشتری را مصرف می کند. صرفه جویی در تغییرات تدریجی، فضای کمتری را مصرف می کند، اما بازسازی یک حالت قدیمی می تواند بیشتر طول بکشد. عکس‌های فوری دوره‌ای همراه با تغییرات کوچک‌تر بین آن‌ها می‌تواند یک حد وسط مفید باشد.

چه چیزی را قبل از مقیاس بندی ایجاد کنیم

اینها مانند ملاحظات فنی به نظر می رسند، اما مدل اقتصادی استقرار را تعیین می کنند، و حل آنها قبل از توسعه ناوگان عامل ارزان تر از بعد از آن است.

هنگامی که پذیرفته شد که عوامل ایجاد اطلاعات و همچنین مصرف آن، انتخاب های طراحی اولیه قابل اندازه گیری به جای انتزاعی. به عنوان مثال، هر عامل چه مقدار و چند بار می نویسد. چند عامل ممکن است یک مشتری، دارایی یا گردش کار یکسان را به‌طور همزمان به‌روزرسانی کنند. پس از یک روز، یک هفته یا یک ماه، چه مقدار حافظه نیاز به دسترسی فوری در مقابل ذخیره سازی بادوام ارزان تر دارد. و اینکه آیا می توان متن را به طور ایمن به اشتراک گذاشت تا اینکه برای هر نماینده کپی کرد.

هر یک از این مراحل هزینه ای را به همراه دارد و با هم رقمی را تعیین می کند که دوام را در مقیاس تعیین می کند - هزینه هر کار هم تعداد عامل ها و هم حجم حافظه حفظ شده است.

رفع این ملاحظات قبل از توسعه، طراحی پیلوت را تغییر می دهد. یک تیم می‌تواند بار نوشتن، قوانین حفظ و مدل اشتراک مورد انتظار را در تولید آزمایش کند، در حالی که سیستم هنوز کوچک است، که در آن هزینه‌های پنهان هم قابل مشاهده و هم ارزان هستند.

اقتصاد هوش مصنوعی زیر مدل شروع می شود

حتی اگر کاهش قیمت مدل ادامه یابد و استنتاج کارآمدتر شود، استقرار عامل در مقیاس بزرگ همچنان جریان رو به رشدی از داده‌های عملیاتی ایجاد می‌کند که باید نوشته شود، به اشتراک گذاشته شود، محافظت شود، بازیابی شود و نگهداری شود.

هزینه این فعالیت تا حد زیادی به معماری زیر مدل بستگی دارد، اما شرکت‌هایی که در حال برنامه‌ریزی مرحله بعدی پذیرش هوش مصنوعی هستند، باید کل چرخه حیات یک کار عامل، از جمله حافظه‌ای که از خود به جای می‌گذارد، اندازه‌گیری کنند. انجام این کار قبل از تبدیل شدن یک خلبان به ناوگان، به رهبران فناوری دید بسیار واضح تری نسبت به اینکه آیا یک سیستم هوش مصنوعی زمانی که به مقیاس تولید برسد مقرون به صرفه خواهد ماند یا خیر، می دهد.

ما بهترین ابزار هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit