واقعیت این است که هر کاری به پیشرفتهترین یا گرانترین مدل موجود نیاز ندارد: Snowflake توضیح میدهد که چرا پیدا کردن مدل مناسب هوش مصنوعی میتواند در کمک به موفقیت کسبوکار شما تفاوت ایجاد کند.
Snowflake نشان می دهد که چگونه کسب و کار شما می تواند مشکل اقتصاد هوش مصنوعی را حل کند.
با توجه به اینکه هوش مصنوعی در حال حاضر بخشی جدایی ناپذیر از زندگی کاری روزمره برای اکثر مشاغل بزرگ است، اکنون تمرکز بر این است که اطمینان حاصل شود که سازمان شما بیشترین بهره را از سرمایه گذاری هوش مصنوعی خود می برد.
Snowflake مدتهاست که در خط مقدم تولیدات هوش مصنوعی قرار داشته و اخیرا قابلیتهای جدیدی را راهاندازی کرده است تا به مشتریان خود کمک کند تا بهطور خودکار بهترین مدل را بر اساس کیفیت، سرعت، ترجیحات انتخاب کنند - همه اینها در حالی که هزینههای هوش مصنوعی را با کنترل بیشتری ردیابی میکنند، امیدواریم این مشکل در زمانی که بودجهها محدودتر از همیشه است، حل شود.
برای کسب اطلاعات بیشتر با گریس آدامسون، مدیر بازاریابی محصول هوش مصنوعی در Snowflake صحبت کردیم. در دو سال گذشته، بیشتر گفتگوها بر روی یافتن قدرتمندترین مدل هوش مصنوعی متمرکز بوده است. آیا مرحله بعدی هوش مصنوعی سازمانی در واقع در مورد انتخاب مدل مناسب برای هر کار است - مدلی که کیفیت، تأخیر، هزینه و ارزش تجاری را متعادل می کند؟ در طول موج اول هوش مصنوعی مولد، تمرکز قابل توجهی بر قدرت مدل بود. مسابقه هوش مصنوعی بیشتر آزمایشی بود و عمدتا تلاش می کرد به بالاترین کیفیت خروجی ها دست یابد یا پیچیده ترین وظایف را حل کند.
به سرعت به امروز، و سازمانها در حال تغییر از آزمایش هوش مصنوعی به سمت هدایت نتایج واقعی کسبوکار با هوش مصنوعی هستند. به این ترتیب، کسبوکارها اکنون بر درک این موضوع متمرکز شدهاند که چگونه میتوانند بیشترین بازده را از هر تعامل هوش مصنوعی داشته باشند.
واقعیت این است که هر کاری به پیشرفته ترین یا گران ترین مدل موجود نیاز ندارد. برخی از بارهای کاری مستلزم استدلال پیچیده هستند، در حالی که برخی دیگر شامل کارهای تکراری طبقه بندی، خلاصه یا استخراج است که می تواند به طور موثر توسط مدل های کارآمدتر، از جمله آخرین نسل از مدل های منبع باز، با کسری از هزینه انجام شود.
این پارادایم جدید همان چیزی است که ما آن را کارایی هوشمندی می نامیم، اساسا اینکه چگونه سازمان ها به طور موثر مدل ها، داده ها و محاسبات را به نتایج و ارزش های قابل اندازه گیری تبدیل می کنند. این امر از طریق مسیریابی مدل پویا، حاکمیت بومی و ایجاد هوش مصنوعی مستقیما در کنار دادههای مورد اعتماد سازمان امکانپذیر است، بنابراین زمینه کسبوکار پشت هر درخواست را درک میکند. این بدان معناست که سازمانها میتوانند بارهای کاری هوش مصنوعی خود را بر روی مناسبترین مدل اجرا کنند و در عین حال هزینههای هوش مصنوعی را بهتر مدیریت کنند.
Snowflake در مورد "مسیریابی مدل پویا" به عنوان راهی برای تطبیق خودکار بارهای کاری با مدل های مختلف صحبت کرده است. این از لحاظ عملی چه مشکلی را برای مشتریان حل میکند و چگونه به تبدیل آزمایش هوش مصنوعی به تأثیر تجاری قابل اندازهگیری کمک میکند؟ آیا واقعا شرکت ها می توانند به انتخاب مدل فکر نکنند و به جای آن بر نتایج تمرکز کنند؟ یکی از بزرگترین چالشهایی که امروزه شرکتها با آن مواجه هستند، کمبود مدل نیست، بلکه زیادهروی در آنهاست. مدلهای جدید به صورت هفتگی ظاهر میشوند که هر کدام با نقاط قوت، ساختار قیمتگذاری و ویژگیهای عملکرد متفاوت هستند.
تصمیم گیری اینکه کدام مدل باید از عهده کدام کار برآید می تواند به سرعت به یک بار عملیاتی تبدیل شود.
مسیریابی مدل پویا در Cortex AI Gateway با هدایت خودکار بارهای کاری به مدلی که به بهترین وجه کیفیت، سرعت و هزینه را برای یک مورد استفاده خاص متعادل می کند، به آن رسیدگی می کند. به عنوان مثال، یک کار ساده ممکن است به یک مدل منبع باز بسیار کارآمد هدایت شود، در حالی که یک درخواست پیچیده تر که نیاز به استدلال عمیق تری دارد، می تواند به یک مدل مرزی هدایت شود. این واقعیت جدید اقتصاد هوش مصنوعی است. سازمانها به سطح عملکرد مورد نیاز خود دست مییابند، بدون اینکه هزینههای بالاتری برای هر تعاملی بپردازند.
همه اینها باید در داخل مرزهای حکومتی اتفاق بیفتد. همان سیاستها و کنترلهای حاکمیتی، از جمله پوشش، برای هر مدلی که درخواستی را مدیریت میکند، باز یا اختصاصی اعمال میشود، بنابراین انتخاب یک مدل کارآمدتر هرگز به معنای به خطر انداختن امنیت نیست.
مشتریان همچنین کنترل میکنند که کدام مدلها و ارائهدهندگان در دسترس کاربرانشان هستند، که واقعا برای سازمانهای جهانی که باید در دسترس بودن منطقهای یا صنایع تنظیمشده با الزامات انطباق خاص حرکت کنند، اهمیت دارد. برای آن دسته از کاربران نهایی، انتخاب مدل باید بدون درز و نامرئی باشد، در حالی که برای سازندگان و مدیران باید تنظیم و مدیریت آن ساده باشد.
اکنون میتوان رهبران کسبوکار را بر اساس اینکه آیا برنامههای هوش مصنوعی آنها در بهبود بهرهوری یا تسریع در تصمیمگیری موفق است، اندازهگیری کرد. در حالی که انتخاب مدل همیشه در سطح حاکمیت مهم است، اما نباید چیزی باشد که هر کارمند یا کاربر به طور مداوم باید آن را مدیریت کند.
موفق ترین شرکت ها در حال حاضر استفاده از مدل خود را بر اساس عملکرد، هزینه، و اینکه کدام مدل نتایج کسب و کار مهم ترین را ایجاد می کند، بهینه می کنند.
بسیاری از سازمانها متوجه میشوند که همیشه تواناترین مدل اقتصادیترین مدل نیست. کسب و کارها چگونه باید در مورد مبادله بین هوش، سرعت و هزینه در هنگام استقرار هوش مصنوعی در مقیاس فکر کنند؟ اشتباه رایجی که رهبران کسب و کار مرتکب می شوند این است که فرض می کنند مدل با بالاترین عملکرد باید در همه جا استفاده شود. بسیاری از بارهای کاری سازمانی نیازی به استدلال سطح مرزی ندارند.
اگر حجم زیادی از اسناد را پردازش می کنید، مانند استخراج اطلاعات از قراردادها، یک مدل بسیار کارآمد ممکن است نتایج تقریبا یکسانی را با یک مدل مرزی با هزینه بسیار کمتر ارائه دهد.
در مقیاس، این پس انداز قابل توجه است. در آزمایش داخلی ما، عواملی که از مسیریابی مدل پویا استفاده میکردند، خط لوله dbt را با بازده توکن تا سه برابر بیشتر از رویکرد فقط مدل مرزی ساختند و در عین حال کیفیت یکسانی را حفظ کردند.
حتی تفاوتهای کوچک در مصرف نشانه یا هزینههای استنتاج میتواند به سرعت در زمانی که سازمانها میلیونها درخواست را در ماه پردازش میکنند، ترکیب شود. به همین دلیل است که شرکتهای پیشرو به طور فزایندهای سیستمهای هوش مصنوعی را بر اساس اقتصاد کسبوکار ارزیابی میکنند تا امتیازات معیار. بهترین تصمیمات توانایی مدل، سرعت و هزینه را با هم می سنجد، نه به صورت مجزا.
چگونه Snowflake به مشتریان کمک می کند تا تصمیم بگیرند که چه زمانی یک مدل ساده و کم هزینه کافی است و چه زمانی یک مدل مرزی پیشرفته تر توجیه می شود؟ آیا این خطر وجود دارد که کسبوکارها به دلیل استفاده از مدل یکسان برای هر مورد استفاده، هزینه بیشتری برای هوش مصنوعی بپردازند؟ استاندارد کردن گردش کار بر روی یک مدل، خطر واقعی پرداخت بیش از حد را به همراه دارد. این مانند استفاده از یک ماشین فرمول یک برای هر سفر است، چه در حال مسابقه دادن در اطراف یک پیست یا صرفا رانندگی به سوپرمارکت باشید. عملکرد همیشه با نیاز مطابقت ندارد و همچنین هزینه آن نیز مطابقت ندارد.
Snowflake به مشتریان کمک می کند تا سیاست هایی در مورد کیفیت، عملکرد و هزینه ایجاد کنند، سپس از مسیریابی مدل پویا برای تصمیم گیری هوشمندانه در این پارامترها استفاده می کند. این بدان معنی است که تیم ها مجبور نیستند هر مدل جدید را به صورت دستی ارزیابی کنند یا هر بار که بازار تغییر می کند برنامه ها را بازسازی کنند. سازمانها میتوانند روی تعریف و تعیین اهداف تجاری تمرکز کنند و پلتفرم انتخاب مدل را در پشت صحنه مدیریت میکند.
این موضوع اهمیت بیشتری دارد زیرا شکاف بین مدلهای مرزی و مدلهای باز همچنان برای وظایف مشترک سازمانی کم میشود. مدلهای باز به سرعت در حال بهبود هستند و برای گردشهای کاری کاملا تعریف شده، اغلب حس تجاری بیشتری دارند. با این حال، موثرترین استراتژی هوش مصنوعی انعطاف پذیری را حفظ می کند. Snowflake همیشه ابر آگنوستیک بوده است و ما از همان اصل برای مدل ها استفاده می کنیم. پلت فرم آگنوستیک مدل ما به سازمان ها وسعت کامل انتخاب می دهد، بنابراین آنها می توانند مدل مناسب را برای هر کار انتخاب کنند و کارایی هوش مصنوعی را به حداکثر برسانند.
یکی از بزرگترین نگرانیهای مدیران، غیرقابل پیشبینی شدن هزینههای هوش مصنوعی است. مشاهدهپذیری، اعم از ردیابی استفاده، عملکرد، تأخیر و هزینه، چقدر در تبدیل هوش مصنوعی به یک سرمایهگذاری تجاری قابل مدیریت به جای هزینهای بیپایان اهمیت دارد؟ مشاهده پذیری هم برای ما و هم برای مشتریان ما اساسی است. رهبران تجاری اغلب با سرمایه گذاری در هوش مصنوعی راحت هستند، اما در انجام سرمایه گذاری هایی که نمی توانند نظارت کنند مردد هستند.
اکنون باید قابلیت مشاهده فراتر از نظارت فنی گسترش یابد و به اینکه آیا پیاده سازی در هر سطحی از شرکت کار می کند یا خیر. سازمانها برای درک اینکه کدام تیمها ارزش را محرک میکنند و اینکه آیا نتایج سرمایهگذاری را توجیه میکنند، نیاز به مشاهده الگوهای استفاده، عملکرد مدل، تأخیر، مصرف و تخصیص هزینه دارند.
به همین دلیل است که ما کنترلهای دید و هزینه را مستقیما در پلتفرم ایجاد کردهایم، استفاده از رمز و هزینهها را در برنامهها و عوامل هوش مصنوعی در یک مکان، از جمله هر عامل شخص ثالثی که از طریق Cortex AI Gateway متصل شدهاند، آوردهایم. سازمان ها همچنین می توانند محدودیت ها و سهمیه های مخارج را تعیین کنند و حتی هزینه ها را به تیم های خاصی نسبت دهند.
این امر به ویژه از آنجایی که سازمانها به سمت سیستمهای عامل و جریانهای کاری مبتنی بر هوش مصنوعی حرکت میکنند، اهمیت دارد. هرچه این سیستمها مستقلتر شوند، وجود حاکمیت و کنترلهای اقتصادی مهمتر است. مشاهده پذیری نه تنها در آن نقطه مفید است، بلکه ضروری است. هوش مصنوعی اغلب به عنوان یک فناوری بهره وری توصیف شده است، اما هیئت مدیره به طور فزاینده ای شواهدی از ROI می خواهند. شرکتها باید از چه معیارهایی برای قضاوت در مورد اینکه آیا سرمایهگذاریهای هوش مصنوعی آنها واقعا تأثیر تجاری دارد استفاده کنند؟ من ابتدا توصیه می کنم که استفاده به تنهایی ROI نیست.
سازمانها اغلب نرخ پذیرش بالا را با نتایج تجاری معنادار و قابل اندازهگیری اشتباه میگیرند.
آنها باید با شناسایی هدف یک ابتکار هوش مصنوعی خاص شروع کنند و تأثیر آن را در برابر آن هدف اندازه گیری کنند.
فکر کردن به AI ROI در دو سطل کمک می کند. اندازهگیری مستقیم دستاوردهای بهرهوری عمومی دشوارتر است، بنابراین سازمانها اغلب بر پروکسیهایی مانند زمان برای ارزشگذاری، تکمیل سریعتر پروژه یا امتیازات رضایت کارکنان تکیه میکنند. موارد خاص استفاده تجاری، مانند کشف تقلب، کاهش ریسک یا افزایش درآمد، میتواند مستقیما به ارقام سخت مرتبط باشد.
اقدامات مالی می تواند به همان اندازه مهم باشد. هیئت ها به طور فزاینده ای می خواهند بفهمند که آیا هوش مصنوعی فرصت های درآمدی ایجاد می کند و حاشیه ها را بهبود می بخشد. این معیارها اغلب قانعکنندهتر از معیارهای صرفا فنی هستند، زیرا مستقیما به عملکرد تجاری مرتبط هستند.
معیار نهایی، اما مهمی که ما میسنجیم، حول کارایی اطلاعات است، زیرا این گونه است که سازمان چگونه میتواند منابع هوش مصنوعی را به ارزش تجاری تبدیل کند. این به معنای نگاه کردن به نتایج نسبت به هزینه است، زیرا راه حلی که نتایج مشابهی را با نیمی از هزینه ارائه می دهد، ممکن است در نهایت ارزش بیشتری ارائه دهد. آیا فکر میکنید شرکتها از دنیای استراتژیهای هوش مصنوعی «اول مدل» به استراتژیهای «اول بار کاری» حرکت میکنند - به عبارت دیگر، با شروع کار تجاری و سپس انتخاب پویا مناسبترین مدل در پشت صحنه؟ شرکت ها شروع به m
در این جهت که نشانه طبیعی بلوغ بازار است. ما شاهد علاقه فزاینده ای به رویکردهای اول بار کاری هستیم که در آن سازمان ها نتایج مورد نظر خود را تعریف می کنند. ایجاد حفاظ در مورد هزینه، کیفیت و حاکمیت؛ و سپس به پلتفرم ها اجازه دهید تا به صورت پویا حجم های کاری را با مناسب ترین مدل مطابقت دهند. از بسیاری جهات، این نشان دهنده تکامل هوش مصنوعی سازمانی از آزمایش به بهینه سازی است.
این تا حدی به این دلیل است که سازمانها فشار ناشی از افزایش هزینههای مدل را احساس میکنند و به دنبال راههای هوشمندتر برای دستیابی به نتایج مشابه هستند. تمرکز فزاینده بر به حداقل رساندن مصرف توکن نشان می دهد که سازمان ها نسبت به هزینه ها آگاه تر می شوند. من مطمئن هستم که وقتی شرکتها به طور فزایندهای عاملیت میشوند، مکالمات «اول بار کاری» مناسب را شروع میکنند و با نتایج دلخواه شروع میکنند و بهترین مسیر را برای اقدام از آنجا ترسیم میکنند. به نظر می رسد رویکرد Snowflake نشان می دهد که زیرساخت هوش مصنوعی باید به طور فزاینده ای برای کاربران نهایی نامرئی شود.
آیا هدف بلندمدت این است که کارکنان به سادگی یک سوال بپرسند یا یک کار را آغاز کنند، در حالی که پلت فرم به طور خودکار انتخاب مدل، حاکمیت و بهینه سازی هزینه را انجام می دهد؟ آن هدف در حال حاضر اتفاق می افتد. سازمانها بر نتایج متمرکز هستند و مؤثرترین پلتفرمها بهطور بیسروصدا پیچیدگیهای زیر را مدیریت میکنند. دلیل آن بسیار ساده است، زیرا اکثر سازمان ها نمی خواهند متخصص زیرساخت هوش مصنوعی شوند. آنها نمی خواهند معیارهای مدل را ارزیابی کنند، قیمت گذاری توکن ها را مقایسه کنند، یا تصمیم بگیرند که کدام مدل باید یک کار خاص را انجام دهد.
کارمندان ابزارهای قابل اعتماد و قابل اعتمادی را می خواهند که به آنها کمک می کند کار خود را به طور موثرتر انجام دهند. این دقیقا همان چیزی است که آنها باید دریافت کنند.
مانع بیشتر سازمان ها در واقع توانایی نیست. هنوز هم داستانهایی از سازمانهایی میشنوید که بر معیارهای پذیرش متمرکز شدهاند، و هوش مصنوعی را بر اساس تعداد افرادی که از آن استفاده میکنند و نه آنچه که ارائه میدهد، اندازهگیری میکنند. این شکاف به سرعت در حال بسته شدن است، اما همچنان یک مانع کلیدی برای شرکت هایی است که می خواهند ارزش واقعی را نشان دهند.
نکته مهم، نامرئی به معنای کنترل نشده نیست. در غیر این صورت، حاکمیت و مشاهده پذیری حیاتی تر می شود زیرا هوش مصنوعی عمیق تر در سراسر سازمان جاسازی می شود. با مدلهای باز و اختصاصی که در کنار هم بر روی یک پلتفرم اجرا میشوند، حاکمیت یکسانی برای هر مدلی که استفاده میشود اعمال میشود، دادهها در جایی که هستند باقی میمانند و تیمها میتوانند مدلها را بدون قراردادهای جدید، بررسیهای امنیتی یا قفل شدن در یک ارائهدهنده واحد تغییر دهند. اگر به مدیر عاملی در مورد چگونگی تبدیل سرمایهگذاری هوش مصنوعی به ارزش تجاری در دو سال آینده مشاوره میدادید، اولویتهای شما چه خواهد بود؟ آیا ابتدا روی دولت تمرکز می کنید؟
تاریخچه، دید هزینه و شناسایی موارد استفاده با ارزش قبل از مقیاس بندی گسترده تر هوش مصنوعی؟ من ابتدا به مدیران عامل توصیه می کنم که در برابر وسوسه شروع با فناوری مقاومت کنند و در عوض با نتایج شروع کنند.
"برندگان" مسابقه هوش مصنوعی امروزی معمولا درک روشنی از مشکلاتی دارند که سعی در حل آنها دارند و زیرساختی را که در این نتایج مستقر شده است ایجاد می کنند. در عمل، این بدان معناست که صاحبان کسبوکار و تیمهای داده و هوش مصنوعی با شروع از اولویتهای کسبوکار، پشت سر هم کار میکنند. در عین حال، آنها باید یک معماری باز بسازند که بتواند سازگار شود، زیرا هیچ کس دقیقا نمی داند که چشم انداز فناوری چگونه توسعه می یابد.
از آنجا، حکومت و دیده شدن به پایه های اساسی تبدیل می شوند. رهبران به نحوه استفاده از هوش مصنوعی، هزینه آن، و دسترسی به چه داده هایی نیاز دارند. این پایه و اساس اعتماد چیزی است که باعث پذیرش واقعی در سراسر تجارت می شود. به عنوان اولویت بعدی، من تعداد کمی از موارد استفاده با ارزش را که می توانند تأثیر ملموسی را نشان دهند، شناسایی می کنم. خلبان های موفق اعتماد سازمانی را ایجاد می کنند و شواهد مورد نیاز برای مقیاس گذاری گسترده تر سرمایه گذاری را ارائه می دهند.
در نهایت، من بر روی افراد و تحول فرآیند تمرکز خواهم کرد. هوش مصنوعی از سازمانها میخواهد که به طور کامل در جریان کار تجدیدنظر کنند، به این معنی که افراد و طرف فرآیند تحول به اندازه خود فناوری مستحق توجه هستند.
متن اصلی (انگلیسی)
'The reality is that not every task requires the most advanced or expensive model available': Snowflake explains why finding the right AI model can make all the difference in helping your business succeed
Snowflake lays out how your business can solve the AI economics problem.