پرش به محتوای اصلی

پایان tokenmaxxing برای AI ROI به چه معناست

تک‌رادار۱۴۰۵ مهر ۳, جمعه، ساعت ۱۲:۱۹حدود 4 دقیقه مطالعه

پذیرش هوش مصنوعی مولد مدل مصرف جدیدی را معرفی کرده است و کسب و کارها باید با آن سازگار شوند.

از کسب‌وکارهایی که بودجه‌های سالانه هوش مصنوعی را در چند ماه خسته می‌کنند تا برخی محدودیت‌های تحمیلی برای استفاده از هوش مصنوعی کارکنان، واضح است که مصرف توکن سنگین یا «tokenmaxxing» به محدودیت‌های خود رسیده است.

بسیاری به جای تشویق و اندازه گیری بازده کسب و کار، مصرف و استفاده را اندازه گیری می کنند.

در حالی که کاهش استفاده از هوش مصنوعی یک راه حل طبیعی به نظر می رسد، این همیشه در عمل کار نمی کند. در واقع، این می تواند منجر به اجرای پروژه های واقعا مفید شود.

بدون یک روش قابل اعتماد برای اندازه گیری AI ROI، شرکت ها تنها معیاری را که می توانند ببینند کاهش می دهند: مصرف.

ما می دانیم که فقدان معیارهای عملکرد و قابلیت ردیابی به بازگشت سرمایه ضعیف منجر می شود و گارتنر تخمین می زند که 84٪ از رهبران مالی قادر به اندازه گیری بازگشت سرمایه (ROI) ابتکارات هوش مصنوعی نبوده اند.

برای دادن اعتماد به شرکت‌ها برای حرکت در این مرحله بعدی، رهبران کسب‌وکار باید دریافت تصویر واضحی از هزینه‌های هوش مصنوعی از ابتدا تا انتها را در اولویت قرار دهند.

چگونه به اینجا رسیدیم

پذیرش سریع هوش مصنوعی مولد یک مدل مصرف جدید را معرفی کرده است و مدیریت مالی سنتی فناوری اطلاعات نیاز به سازگاری با آن دارد. برای مدت طولانی، سازمان‌ها بودجه‌های خود را در فضای ابری و حجم کاری در محل بهینه می‌کردند.

با این حال، این ابزارهای جدید به روشی متفاوت عمل می کنند. هزینه ها بر اساس پیچیدگی و دقت یک درخواست یا حتی نوع مدل مورد استفاده متفاوت است. به عبارت دیگر، تنوع ذاتی LLM ها ردیابی دقیق هزینه را دشوارتر کرده است.

این مشکل تنها با معرفی عوامل هوش مصنوعی پیچیده‌تر می‌شود که می‌تواند هزینه‌ها را به دلیل مصرف غیرقابل پیش‌بینی توکن، استفاده سنگین GPU و مقیاس‌بندی سریع افزایش دهد. برخلاف چت ربات‌های استاندارد هوش مصنوعی، اینها ابزارهای ثابت نیستند.

این عوامل با استفاده از حلقه‌های پس‌زمینه پیوسته و مستقل از عملگرهای انسانی کار می‌کنند که می‌توانند پرس‌وجوهای متعددی را برای حل وظایف دشوار ایجاد کنند. از آنجایی که این حلقه استدلال به طور مستقل اتفاق می‌افتد، می‌تواند درک هزینه‌های اجرای یک عامل را دشوارتر کند.

نقطه کور

مانع دیگر دید است. به دلیل پذیرش سریع ابزارهای هوش مصنوعی، هزینه ها به ندرت متمرکز می شود و در ترکیب پیچیده ای از واحدهای تجاری، زیرساخت ها، API های فروشنده و تیم های مهندسی توزیع می شود. صورت‌حساب‌های ابر سازمانی و API نیز بعید است به‌روزرسانی شوند، یا در زمان واقعی تفسیر شوند، به این معنی که درک آنچه که خرج شده است دشوارتر می‌شود.

در نتیجه، این امر باعث تغییر در نحوه اندازه گیری موفقیت و هزینه سازمان ها می شود. ردیابی رقم خام و مجزای هزینه هر توکن کافی نیست. برای اطمینان از اینکه شرکت‌ها درک روشنی از آنچه می‌پردازند و در ازای آن چه چیزی دریافت می‌کنند، دارند، مهم است که رهبران تیم چارچوب‌هایی را در اختیار داشته باشند تا بودجه‌ها را محکم‌تر نگه دارند.

شیوه‌های مالی یک کسب‌وکار باید با همان سرعت پذیرش فناوری آن تکامل یابد.

ارزش بیش از حجم

بنابراین، چه چیزی جایگزین رویکرد آزمون و خطا می شود که تا کنون پذیرش هوش مصنوعی را تعریف کرده است؟ پس از گذراندن سال‌ها کار با کسب‌وکارها، ابتدا از طریق انتقال ابری و اکنون هوش مصنوعی سازمانی، دیدم که بازدهی پایدار به بازنگری در نحوه تعریف و اندازه‌گیری بهره‌وری در وهله اول بستگی دارد.

بسیاری از کسب‌وکارها کارگران را تشویق می‌کنند تا هرجا که ممکن است از هوش مصنوعی استفاده کنند، اما تعداد کمی از آنها معیارهای هوش مصنوعی خاصی را پیاده‌سازی کرده‌اند که می‌تواند استفاده بالاتر را به نتایج بهبود بخشد.

به عنوان مثال، آیا روند انتقال یک محصول از مفهوم به تولید سرعت گرفته یا ارزان شده است؟ فقط اندازه‌گیری مراحل میانی مانند ورود کد، بسته شدن بلیط و پرونده‌ها لزوما با ارزش تجاری همخوانی ندارد.

برای این کار باید یک معیار تعیین شود. کسب‌وکارها باید بدانند که چه فرآیندی، از نیروی انسانی گرفته تا ابزار، بدون هوش مصنوعی برایشان هزینه دارد تا بتوانند تماس مناسبی را برقرار کنند. بدون آن خط مبنا، هر سودی حدس و گمان است.

اینجاست که چارچوب هایی مانند مدیریت کسب و کار فناوری و FinOps جایگاه خود را به دست می آورند. هدف هر دو روش این است که اطمینان حاصل شود که هر جنبه ای از هزینه ها درک شده و با یک هدف کلیدی تجاری مرتبط است. در تجربه من، آنها همچنین به ایجاد فرهنگی کمک می کنند که مسئولیت پذیری را در بین تیم ها در مورد نقش آنها در مدیریت هزینه های فناوری اطلاعات القا کند.

نیاز به برچیدن سیلوهایی وجود دارد که می‌توانند هزینه‌ها را از دید دور نگه دارند و در عوض روی هزینه‌های فناوری به‌عنوان یک متغیر محصول بلادرنگ تمرکز کنند.

هوش مالی پایدار

برای پیشرفت واقعی و ایجاد ارزش با هوش مصنوعی، تیم ها باید آن را به عنوان یک محرک تجاری قابل اندازه گیری ببینند. این انتقال مستلزم این است که رهبران موفقیت را اینگونه نبینند که چند بار یک کارمند به هوش مصنوعی روی آورده یا به آخرین ابزار وارد شده است، یا فقط داشتن یک ابزار هوش مصنوعی به عنوان بخشی از یک فرآیند تجاری است. بازگشت سرمایه واقعی زمانی اتفاق می‌افتد که شرکت‌ها بتوانند پول خرج شده را مستقیما به نتایج بهبودیافته مرتبط کنند که بر خروجی کسب‌وکار تأثیر می‌گذارد.

به زبان ساده، این در مورد دریافت تصویری واضح و صادقانه از هزینه‌ها است تا بتوان انتخاب‌های هوشمندانه‌تری انجام داد و سرمایه‌گذاری در حوزه‌های مناسب را در اولویت قرار داد. نتیجه؟ درک دقیق‌تر از هزینه‌ها و اینکه پروژه‌های هوش مصنوعی کسب‌وکار را به سمت جلو سوق می‌دهند، نه پروژه‌های بیهوده بودن.

ما بهترین معاملات لپ تاپ تجاری را فهرست کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit

خواندن متن کامل در تک‌راداربه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

What the end of tokenmaxxing means for AI ROI

Adoption of generative AI has introduced a new consumption model and businesses have to adapt.

همه‌ی اخبار فناوری
پایان tokenmaxxing برای AI ROI به چه معناست | چکیده