در بهینه‌سازی هزینه هوش مصنوعی دنباله‌روی نکنید – از این طریق محاسبه کنید

Tokenmaxxing را به خاطر دارید؟ همین چند ماه پیش، گزارش‌هایی مبنی بر ردیابی و بازی‌سازی استفاده از توکن توسط شرکت‌های فناوری به عنوان معیاری از کارمندان به‌عنوان «کاربران قدرتمند» هوش مصنوعی توجه جهانی را به خود جلب کرد. از آن زمان یک چرخش 180 درجه ای وجود دارد. چرخش تدریجی از آزمایش به استقرار در مقیاس عوامل هوش مصنوعی با هزینه بیشتری همراه است. اوبر از این که کل بودجه هوش مصنوعی خود را برای سال 2026 در چهار ماه به باد داد، ابراز تاسف کرد.

این امر باعث شده است که بسیاری از ایده مسیریابی مدل و استفاده از مدل های منبع باز برای بهینه سازی هزینه های هوش مصنوعی صحبت کنند. هیجان در مورد مدل‌های جدید چینی مانند Kimi K3 که دسترسی ارزان‌قیمت به قابلیت‌های نزدیک به مرز را ارائه می‌دهد، شور و شوق را افزایش داده است.

هدف قرار دادن مدل‌هایی که برای کدام کار استفاده می‌شوند، راهی مشروع برای بهینه‌سازی هزینه‌های هوش مصنوعی است. اما هنگامی که به صورت مجزا استفاده می شود، تمرکز محدودی دارد. سازمان‌هایی که فاقد نظم و انضباط برای تعریف زمانی هستند که یک LLM باید استفاده شود، و در جایی که اجرای پردازش داده در جای دیگری منطقی است، مصرف توکن غیرضروری و هزینه‌های متورم را تضمین می‌کنند.

تشخیص این فرصتی است که فراتر از کاهش هزینه توکن ها به عنوان تنها مسیر بهینه سازی هزینه های هوش مصنوعی نگاه کنیم.

حماقت اجرای LLM به عنوان یک موتور تجزیه و تحلیل

LLM ها بدون شک تحول آفرین هستند و مردم دوست دارند از آنها استفاده کنند. اما بررسی دقیق نحوه استفاده از آنها ارزش دارد. تطبیق پرونده ها، اعمال قوانین تجاری، بررسی انطباق، تفسیر اسناد منبع. LLM ها ممکن است بتوانند کار را انجام دهند، اما مقرون به صرفه نیستند.

این به این دلیل است که LLM ها دائما زمینه را برای فرموله کردن پاسخ هایی برای چنین مشکلاتی بازسازی می کنند. به‌طور مستقل، LLM‌ها از دانش سازمانی بهره نمی‌برند که به سرعت به راه‌حل‌ها می‌رسند، بدون اینکه توکن‌ها را بررسی کنند، زیرا مدل‌ها به طور شفاهی از طریق بهترین رویکرد برای رسیدن به یک پاسخ نهایی که تعاریف، سیاست‌ها و زمینه یک کسب‌وکار فردی را برآورده می‌کند، استدلال می‌کنند.

مسئله دیگر این است که بسیاری از مشکلاتی که برای LLM ها مطرح می شود، قابل تکرار هستند. نیازی نیست که مدل‌ها از مربع اول شروع به کار کنند تا بارها و بارها به همان مشکل پاسخ دهند، در میان مکالمات کاربر و در طول زمان.

این به ریشه محدودیت های تمرکز محدود بر انتخاب مدل می رسد. زیرا درخواست از مدل‌ها برای کشف مجدد اطلاعات در هر گوشه - بدون توجه به محاسبه درآمد، حاشیه و دانش انطباق که قبلا در داخل وجود دارد - صرف نظر از مدل، هدر می‌رود. محدود کردن استفاده غیر ضروری توکن باید بخشی از معادله باشد.

ارزان ترین توکن آن چیزی است که هرگز تولید نمی کنید

اگر قبلا مشخص نبود، یک گلوگاه کلیدی که هزینه‌های هوش مصنوعی را افزایش می‌دهد این است که بسیاری از سیستم‌های هوش مصنوعی به منطق تجاری متصل نیستند. آنها فاقد یک لایه منطق تجاری هستند، جایی که گردش کار تجزیه و تحلیل برای وظایف تکرار شونده، فاکتورگیری در قوانین و تعاریف خاص سازمان، در آن فعال است. چنین لایه‌هایی همچنین جایی هستند که می‌توان نرده‌های حفاظ را تنظیم کرد و به طور کلی در خروجی تجزیه و تحلیل اعمال کرد.

هنگامی که LLM ها با یک لایه منطق تجاری یکپارچه می شوند، گزینه بهتری برای پاسخ به انواع خاصی از سؤالات کاربر در اختیار دارند. تصور کنید یک کارمند از یک LLM می خواهد تا عملکرد حاشیه فعلی تیمش را محاسبه کند.

یک مدل مستقل، می‌تواند داده‌ها را از طیف گسترده‌ای از منابع مرتبط جمع‌آوری کند، یک پنجره زمینه عظیم را در فرآیند منفجر کند و اگر نتواند در تعاریف داخلی مفاهیمی مانند حاشیه فاکتور بگیرد، پاسخ اشتباه را دریافت کند. از سوی دیگر، یک لایه منطق تجاری، مدل‌هایی را ارائه می‌دهد که گردش‌های کاری از پیش ساخته شده را محاسبه می‌کنند که متغیرهای حاشیه اصلی را روزانه محاسبه می‌کنند. مدل با خروجی کار می کند.

گردش‌های کاری تکرار شونده، با تکیه بر گردش‌های کاری تجزیه و تحلیل و زمینه تجاری که از قبل وجود دارد، به بهینه‌سازی هزینه‌های هوش مصنوعی کمک می‌کند. لایه‌های منطق کسب‌وکار همچنین دارای مزیت یکپارچه‌سازی با پلتفرم‌های داده ابری و همچنین LLM هستند تا به عنوان یک بافت همبند عمل کنند که از تکرار احتمالی هزینه‌های محاسباتی جلوگیری می‌کند.

به عنوان مثال، محاسبه در یک پلت فرم داده ابری اتفاق می افتد. نتیجه به یک گردش کار تحلیلی منتقل می شود که یک LLM می تواند از آن استفاده کند. نیاز به محاسبات فشرده LLM برای درک داده ها از بستر داده ابری محدود است.

نیاز انتقادی به درست بودن

با کنار گذاشتن مدیریت هزینه گرانول، در مورد مزایای هزینه درازمدت تزریق منطق تجاری قوی به ورودی ها و خروجی های هوش مصنوعی نیز چیزی می توان گفت. فقدان منطق تجاری، اعتماد به ابزارهای هوش مصنوعی را محدود می‌کند و در نتیجه، عرضه‌ای را که ROI ارائه می‌کند، کند می‌کند.

این کاملا ساده است. وقتی نوبت به پرسش‌هایی در مورد حوزه‌های تجاری مانند مالیات، انطباق و امور مالی می‌رسد، سؤالات قطعی را می‌بینیم که به پاسخ‌های قطعی نیاز دارند. این منطق تجاری و بسیج آن است که کلید این پاسخ ها را نگه می دارد.

نادیده گرفتن این امر سخت تر می شود زیرا سرعت گسترش نمایندگان در محل کار افزایش می یابد. عوامل به سرعت حرکت می کنند و می توانند این کار را در جهت اشتباه انجام دهند بدون اینکه ریشه در قوانین و منطق درست داشته باشند. در یک محیط سازمانی، 1000 نماینده در سراسر یک نیروی کار نمی توانند 1000 پاسخ متفاوت برای هر سوال ارائه دهند و نیروی خوبی باشند. منبع حقیقت کسب و کار، از طریق یک لایه زمینه کسب و کار، همه چیز را کنترل می کند.

زاویه ای جدید برای بهینه سازی هزینه

انتخاب مدل به‌عنوان وسیله‌ای برای بهینه‌سازی هزینه‌های هوش مصنوعی بدون محدود کردن مصرف توکن غیرضروری محدود است. در این فرآیند، سازمان‌ها نتایج بهتری را از راه‌اندازی هوش مصنوعی به دست می‌آورند - درست همانطور که عرضه‌ی نمایندگان آغاز می‌شود. در نهایت، سازمان‌هایی که گردش‌های کاری قابل اعتماد، منطق تجاری حاکم و موارد استفاده هدفمند را ترکیب می‌کنند، بهترین بازده را از این فناوری خواهند دید.

ما بهترین چت ربات هوش مصنوعی را برای تجارت معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit