McKinsey: مدل‌های ارزان‌تر هوش مصنوعی، صورت‌حساب‌های بزرگ‌تر هوش مصنوعی

صبح بخیر هوش به شدت ارزان‌تر می‌شود، اما به هر حال صورت‌حساب‌های هوش مصنوعی سازمانی همچنان بالا می‌رود.

این تناقض اصلی بود که شرکای ارشد مک‌کینزی تانگوی کاتلین و لاری هامالاینن در روز سه‌شنبه در طول جلسه مجازی McKinsey Live با عنوان «بهبود اقتصاد هوش مصنوعی عاملی» به آن پرداختند، که وضعیت هوش مصنوعی شرکت را در نظرسنجی سال 2026 برجسته کرد.

Hämäläinen، که همچنین یکی از رهبران McKinsey Digital است، می‌گوید: «هوش در سطح توانایی معین بسیار مقرون به صرفه‌تر می‌شود.

به عنوان مثال، GPT-4 در اوایل سال 2023 با قیمت 60 دلار به ازای هر میلیون توکن خروجی راه اندازی شد. او توضیح داد که امروزه، مدل‌هایی با عملکرد تقریبا کلاس GPT-4 در معیارهای تعیین‌شده می‌توانند با کسری از این هزینه ارائه شوند - در برخی موارد صدها برابر ارزان‌تر، با کاهش قیمت‌ها از ده‌ها دلار در هر میلیون توکن خروجی به بسیار کمتر از یک دلار.

اما با فروپاشی هزینه تولید یک واحد اطلاعات، میزان مصرف کسب و کارها در حال انفجار است.

مدل‌ها به ازای هر واحد قابلیت ارزان‌تر می‌شوند در حالی که شرکت‌ها از آنها می‌خواهند تا استدلال و کار بسیار بیشتری انجام دهند، به‌ویژه از طریق عوامل مستقل. Hämäläinen گفت، فروشندگان AI همچنین برخی از این دستاوردهای بهره وری را از طریق حاشیه های بالاتر بدست می آورند.

او گفت، برای مثال، در توسعه نرم‌افزار، عوامل هوش مصنوعی می‌توانند مکررا کل پایگاه‌های کد را بازرسی، اصلاح و بازنویسی کنند و کدی بسیار بیشتر از آنچه که توسعه‌دهنده انسانی معمولا لمس می‌کند تولید می‌کند.

اقتصاد هوش مصنوعی عاملی

Hämäläinen گفت که شرکت ها تازه شروع به درک اقتصاد هوش مصنوعی عاملی کرده اند. برخلاف نرم‌افزارهای سنتی که هزینه اجرای یک کار نسبتا قابل پیش‌بینی است، عوامل می‌توانند مسیرهای متفاوتی را برای رسیدن به نتیجه یکسان طی کنند و هزینه‌ها را بسیار متغیر کند. او گفت که همین کار می تواند تا 30 برابر بیشتر از یک اجرا به دیگری هزینه داشته باشد.

بیشتر این هزینه از استدلال و اصلاح مکرر پشت خروجی نهایی ناشی می شود. Hämäläinen گفت: انتخاب هایی مانند استفاده از یک عامل واحد در مقابل چندین عامل می تواند به طور چشمگیری بر هزینه تکمیل یک کار تأثیر بگذارد.

مدیریت هزینه هوش مصنوعی بیشتر به سیستم های مهندسی تبدیل شده است که در وهله اول توکن ها را هدر نمی دهند.

او گفت که رهبران به جای اندازه‌گیری عوامل بر اساس هزینه هر نشانه، باید آنها را در سطح کار ارزیابی کنند: اجرای یک کار چقدر هزینه دارد، هر چند وقت یک‌بار عامل موفق می‌شود و چقدر زمان انسانی برای تأیید کار آن لازم است.

او گفت که به عنوان یک قاعده کلی، یک عامل زمانی می تواند منطقی باشد که زمان مورد نیاز برای تأیید خروجی آن بخش کوچکی از زمانی باشد که انسان برای تکمیل کار از ابتدا نیاز دارد. او افزود: اگر یک کار یک ساعت طول بکشد، اما کار یک نماینده را بتوان در شش دقیقه تأیید کرد، یک عامل با میزان موفقیت بالای 10 درصد می‌تواند شروع به ایجاد ارزش کند.

او گفت که چالش بزرگ‌تر، طراحی مجدد گردش کار اطراف برای استفاده از ظرفیتی است که نماینده آزاد می‌کند.

در همین حال، کاتلین، که همچنین مدیر موسسه جهانی مک کینزی است، گفت: «حقیقت این است که هیچ اهرم هزینه واحدی وجود ندارد. او سه حوزه را که شرکت‌ها می‌توانند هزینه‌های هوش مصنوعی را مدیریت کنند، شناسایی کرد:

- اولا، شرکت‌ها به دیدی نیاز دارند که موارد استفاده، واحدهای تجاری، نمایندگان، مدل‌ها و کاربران هزینه‌ها را به آنها هدایت می‌کنند.

—دوم، آنها باید گردش کار را با تطبیق پیچیدگی مدل با کار، مسیریابی درخواست ها به مدل های مناسب، ذخیره سازی زمینه قابل استفاده مجدد و محدود کردن فراخوانی های غیر ضروری ابزار و حلقه های عامل، بهینه سازی کنند.

-سوم، آنها به نظم و انضباط بیشتر در منابع نیاز دارند، از جمله حذف مجوزهای استفاده نشده، مدیریت سهمیه ها، مذاکره در مورد شرایط ارائه دهنده و اجتناب از وابستگی بیش از حد به یک مدل یا فروشنده.

اما کاتلین هشدار داد که هدف نباید کاهش بی رویه هزینه ها باشد. شرکت‌ها باید تعیین کنند که در کجا هزینه‌های هوش مصنوعی بالاترین بازده را دارد و نسبت به آن بازده بهینه‌سازی شوند.

شریل استرادا Sheryl.Estrada@fortune.com

این داستان در ابتدا در سایت Fortune.com منتشر شد