Jev، یک هوش مصنوعی برای تصمیم‌گیری سریع، در سیلیکون ولی محبوبیت زیادی پیدا کرده است. اما OpenAI در پاشنه های خود داغ است

Jev، یک مدل هوش مصنوعی که برای تصمیم‌گیری سریع ساخته شده است، زمانی که استارت‌آپ TypeSafe AI آن را در ماه سپتامبر منتشر کرد، در میان توسعه‌دهندگان هوش مصنوعی و دانش‌آموزان Silicon Valley منتشر شد.

این کاربران اولیه به سرعت مدل هوش مصنوعی را آزمایش کردند، مدلی که می‌توانست انواع تصمیمات طبقه‌بندی را انجام دهد - مانند مرتب کردن مشتریان آنلاین در سطل‌ها بر اساس نقاط داده خاص یا دسته‌بندی اسناد - با هزینه بسیار کمی از مدل‌های پیشرو هوش مصنوعی. برنامه نویسان به آن نشان دادند که ایمیل ها را مرتب می کند، اشتباهات نوشتاری را تشخیص می دهد و حتی بازی می کند.

در عرض یک روز پس از ورود به دروازه هوش مصنوعی Vercel، سرویسی برای دسترسی به مدل‌های مختلف، تقریبا 13 درصد از تیم‌های پولی آن Jev را امتحان کردند. Vercel گفت که Jev در 24 ساعت اول خود به بیش از دو برابر تعداد تیم‌های پولی رسیده نسبت به مدل‌های قبلی خود رسیده است.

شاید واضح‌ترین نشانه این باشد که TypeSafe به چیزی روی آورده است: در 6 اکتبر، تنها سه هفته پس از راه‌اندازی Jev، OpenAI یک محصول رقیب به نام Decisions API را عرضه کرد.

این سرویس‌ها در حال رقابت هستند تا هوش مصنوعی را برای هزاران قضاوت معمولی که کسب‌وکارها می‌خواهند هر روز خودکارسازی کنند، عملی کنند. در این حجم، تفاوت‌های کوچک در هزینه، سرعت و نرخ خطا می‌تواند ارزش خودکارسازی یک کار را تغییر دهد. TypeSafe Jev را به طور خاص برای این کار آموزش داده است. OpenAI’s Decisions API از GPT-6 Luna، یک مدل موجود در خط تولید خود استفاده می کند.

یک مدل هوش مصنوعی که از نثر عبور می کند

مدیر عامل TypeSafe، دیوگو آلمیدا، به فورچون گفت که او پس از کمک به توسعه فناوری ChatGPT در OpenAI، شروع به فکر کردن درباره Jev کرد. آلمیدا شکافی بین توانایی مدل‌ها برای پاسخ‌گویی به سؤالات افراد و مفید بودن آن‌ها در خودکارسازی کارهای روزمره دید. آلمیدا گفت که او می‌خواهد به «مسئله عظیم کم‌فروشی بیش از حد وعده» هوش مصنوعی رسیدگی کند و از «زمستان هوش مصنوعی» جلوگیری کند. او گفت: «ساخت یک شرکت اتفاقا مؤثرترین راه برای انجام این کار بود.

قبل از پیوستن به OpenAI در سال 2020، آلمیدا یک سال و نیم مرخصی را برای مسافرت، مدیتیشن و بازی انجام داد. او می‌گوید که به رتبه دوم در Hearthstone رسیده است، بازی با ورق کلکسیونی دیجیتال، دستاوردی که او به شوخی می‌گفت ممکن است سخت‌تر از ساختن Jev باشد.

آلمیدا گفته است که تلاش کرده است نسبت به آینده ای که در آن هوش مصنوعی اقتصاد را متحول کرده است، کار کند. در آن آینده، آیا اکثر درخواست‌ها به مدل‌ها از سوی افراد می‌آیند یا از کدهایی که به صورت خودکار اجرا می‌شوند؟ او به این نتیجه رسید که اکثریت قریب به اتفاق از کد حاصل می شود.

برای مثال، یک برنامه خدمات مشتری می‌تواند از یک مدل بپرسد که آیا پیام دریافتی مربوط به یک مشکل صورت‌حساب است یا یک مشکل فنی، سپس از پاسخ برای هدایت آن به تیم مناسب استفاده کند.

توسعه دهندگان می توانند آستانه ای برای اطمینان مدل در مورد تصمیم مسیریابی آن تعیین کنند. بالاتر از این آستانه، پیام به طور خودکار به صورت‌حساب یا پشتیبانی فنی هدایت می‌شود. در زیر آن، و برای انسان علامت گذاری می شود تا بررسی کند..

این نوع کار طبقه‌بندی چیزی است که هوش مصنوعی ابتدایی یا سیستم‌های یادگیری ماشینی برای دهه‌ها از عهده آن برآمده‌اند. به دانشجویان علوم کامپیوتر اغلب آموزش داده می شود که این طبقه بندی کننده ها را در دوره های یادگیری ماشین بسازند. سرویس‌های ایمیل مدت‌هاست که از این مدل‌های ساده برای فیلتر کردن هرزنامه‌ها استفاده می‌کنند. یک مدل می‌تواند میزان احتمال هرزنامه بودن یک پیام را تخمین بزند، و نرم‌افزار می‌تواند آن را به پوشه ناخواسته منتقل کند که این تخمین از آستانه تعیین‌شده توسط توسعه‌دهندگانش عبور کند.

مشکل این مدل‌های ساده این است که نسبتا انعطاف‌ناپذیر هستند، بدون درک زیادی از متن سند، و برای ایجاد آنها به دانش فنی نیاز دارند.

از برخی جهات، مدل‌های زبان بزرگ (LLM) که بهترین سیستم‌های هوش مصنوعی امروزی مبتنی بر آن هستند، نشان‌دهنده پیشرفت در این سیستم‌های طبقه‌بندی ساده هستند. LLMها می‌توانند وظایف طبقه‌بندی را نیز انجام دهند، پیام‌های خدمات مشتری را بر اساس توضیحات مکتوب دسته‌ها مانند سؤالات صورت‌حساب یا مشکلات فنی مرتب کنند. آنها درک بسیار عمیق تری از متنی که پردازش می کنند دارند، بنابراین می توانند تصمیمات دقیق تری بگیرند. توسعه دهندگان همچنین می توانند دستورالعمل های LLM را تغییر دهند تا از همان مدل برای مشاغل دیگر استفاده کنند.

بنابراین این سیستم ها را نسبت به مدل های طبقه بندی قدیمی انعطاف پذیرتر می کند.

اما LLMها قدرت محاسباتی بیشتری را برای پردازش این تصمیمات می‌گیرند، که هم گران‌تر و هم کندتر از طبقه‌بندی‌کننده‌های قدیمی و ساده یادگیری ماشینی می‌شود. وقتی LLM مجبور است هزاران مورد از این درخواست‌ها را در طول روز رسیدگی کند، هزینه و تأخیر هر تماس افزایش می‌یابد.

TypeSafe می‌گوید Jev طوری طراحی شده است که این قضاوت‌ها را سریع‌تر و ارزان‌تر از مدل‌های زبان عمومی انجام دهد، اما با همان توانایی برای تنظیم طبقه‌بندی‌کننده از طریق دستورالعمل‌های ساده و زبان طبیعی که LLM‌ها ارائه می‌دهند. توسعه‌دهندگان آنچه را که می‌خواهند Jev ارزیابی کند، توصیف می‌کنند و Jev انتخاب‌ها، امتیازها یا احتمالاتی را که نرم‌افزارشان می‌تواند استفاده کند، برمی‌گرداند. این شرکت می‌گوید که این خروجی‌ها را با هم تولید می‌کند و از زمان صرف شده برای ایجاد پاسخ تکه‌به‌جزئی اجتناب می‌کند. توسعه دهندگان هنوز باید مشخص کنند که آیا قضاوت های آن به اندازه کافی برای کار خاص آنها دقیق است یا خیر.

آلمیدا در ابتدا فکر می کرد که ساخت مدل های پشت سر Jev قابل اعتماد یک هفته طول می کشد. در عوض، TypeSafe دو سال را صرف توسعه Jev کرد. او به فورچون گفت: «قابل اعتماد ساختن مدل‌ها بسیار سخت‌تر از حد انتظار بود.

آنچه توسعه دهندگان در مورد Jev دوست دارند

Niels Mouthaan، توسعه‌دهنده مستقل برنامه ردیابی زمان روزانه، به فورچون گفت که Jev را در یک نمونه اولیه املا و دستور زبان آزمایش کرده است که به کاربران هنگام تایپ بازخورد می‌دهد. او گفت که کاربران انتظار دارند "بازخورد نزدیک به آنی در هنگام تایپ کردن" دریافت کنند. او تحت تأثیر سرعت Jev قرار گرفت و نویدبخش استفاده از آن برای پرچم‌گذاری خطاها بود، با یک مدل زبانی که فقط در صورت نیاز اصلاحات را پیشنهاد می‌کرد.

TypeSafe Jev را یک مدل «System One» می نامد و اصطلاح قضاوت سریع را از روانشناس دانیل کانمن به عاریت گرفته است. آشوتوش ماتور، بنیان‌گذار نرم‌افزار سازگار با محیط زیست Atlensa، پس از آزمایش با Jev، به Fortune گفت که سرعت این نرم‌افزار باعث شد در مورد اینکه ممکن است از LLM‌ها بدون عادت استفاده کنیم، حتی زمانی که کار واقعا مشکل زبان نیست، تجدید نظر کند.

آلمیدا در پست راه اندازی TypeSafe نوشت: Jev به نام اقتصاددان ویلیام استنلی جوونز نامگذاری شده است. جیوونز استدلال می‌کرد که موتورهای بخار کارآمدتر، تا حدودی به طور غیرمستقیم، مصرف کلی زغال سنگ را با ارزان‌تر کردن کار زغال‌سنگ افزایش می‌دهند. هزینه کمتر نیروی زغال سنگ باعث افزایش تقاضا می شود و باعث می شود مردم از آن برای کارهای بیشتر استفاده کنند. در مورد هوش مصنوعی، ایده این است که هزینه‌های کمتر می‌تواند کارهای بسیار بیشتری را ارزش خودکارسازی کند.

پائولو روسون، رئیس هوش مصنوعی کاربردی در شرکت نرم‌افزاری حسابداری دکس، می‌گوید که مشکل LLM‌ها این است که «زمانی که تنها به یک برچسب نیاز دارید، برای پاسخ کتبی کامل هزینه می‌پردازید». در غربالگری پروژه شخصی تغییرات نرم افزاری پیشنهادی، او از Jev برای کاهش تعداد دفعات انجام تغییرات روتین از طریق یک مدل بزرگتر استفاده کرده است. او هزینه تماس های مدل Jev را هفت سنت در هر 1000 تغییر تخمین زد. او همچنین به فورچون گفت که او زمان زیادی را صرف تصمیم‌گیری درباره اینکه کدام تخمین‌های احتمالی باید باعث بازبینی انسانی شود، بسته به اینکه «با چه میزان خطری موافق هستید»، صرف کرد.

با این حال، برای توسعه دهندگانی که اکنون به استفاده از LLM عادت کرده اند، تغییر به Jev نیاز به عادت کردن دارد. "برای به دست آوردن نتایج موفقیت آمیز از Jev، باید سوالات و درخواست هایی متفاوت از LLM های سنتی شکل دهید." آرون روی، توسعه دهنده برنامه اسکن مواد تشکیل دهنده GlutenOrNot، گفت. در یک آزمایش مرتب‌سازی ایمیل، روی از Jev خواست تا ایمیل‌هایی را که به توجه او نیاز دارند، علامت‌گذاری کند. این اجازه می دهد تا پیام های مهم از بین بروند. او سپس آنچه را که برایش اهمیت دارد، بیان کرد و از او پرسید که آیا ایمیلی مربوط به پول، فرزندان یا مسائل پزشکی او است. آن سوالات خاص تر باعث کاهش خطا در آزمون او شد.

سپس OpenAI ظاهر شد

زمانی که هنوز در OpenAI بود، آلمیدا سندی نوشت که ایده‌اش را برای مدل‌های بهینه‌سازی شده برای کار با نرم‌افزار شرح می‌داد و آن را به سم آلتمن، مدیر عامل OpenAI نشان داد. آلمیدا در پستی در لینکدین به یاد می آورد که آلتمن از او خواست کارهای دیگرش را کنار بگذارد و آن را دنبال کند. او نوشت: «او به من گفت که کار روی RLHF را متوقف کنم و در عوض روی ایده‌ام کار کنم. در نهایت، Almeida رفت و TypeSafe را تاسیس کرد. اما OpenAI هرگز موتور طبقه بندی خود را راه اندازی نکرد تا اینکه Jev ظاهر شد و در میان توسعه دهندگان آتش گرفت.

نیکونج هاندا از OpenAI در مصاحبه ای با پادکست «فضای نهفته» به Jev نسبت به «الهام بخشیدن به همه چیز» اشاره کرد. او گفت که API تصمیمات چهار هفته قبل در نقشه راه توسعه قرار نداشت. برای اولین نسخه، تیم بدون آموزش بیشتر از GPT-6 Luna استفاده کرد، آن را محدود کرد تا پاسخ‌های ساختاریافته را بازگرداند، چندین سؤال را همزمان پردازش کرد و سیستم را تنظیم کرد تا اولین تصمیم را سریع‌تر ارائه دهد.

این شرکت این سرویس را راهی برای برنامه‌های کاربردی توصیف می‌کند تا «مدل، ابزار یا اقدام مناسب» را در زمان واقعی انتخاب کنند. OpenAI می‌گوید رابط اختصاصی آن می‌تواند تصمیمات را تا ده برابر سریع‌تر از فراخوانی GPT-6 Luna از طریق API پاسخ‌های همه منظوره خود بازگرداند. مانند Jev، می‌تواند از میان گزینه‌های از پیش تعیین‌شده انتخاب کند، درستی یک شرط را تخمین بزند و امتیازهایی را اختصاص دهد. همچنین تصاویر را می پذیرد و به برنامه اجازه می دهد عکس یا اسکرین شات مرورگر را بررسی کند. Jev در حال حاضر فقط متن را می پذیرد.

OpenAI قیمت ورودی 0.10 دلار به ازای هر میلیون توکن، واحدهای کوچک مدل های متنی پردازش شده را در مقایسه با 0.042 دلار Jev فهرست می کند. هیچ خدماتی برای توکن های خروجی هزینه ندارد.

علاوه بر جیب های عمیق و پایگاه کاربر بزرگ، OpenAI ممکن است مزایای خاصی در این مسابقه با Jev داشته باشد. به عنوان مثال، روی به فورچون گفت که Jev را در کنار کلود آنتروپیک در اسکن مواد اولیه کاربران واقعی اجرا می کند، و Jev متن مواد تشکیل دهنده به دست آمده از این اسکن ها را ارزیابی می کند. او قصد دارد از Jev برای طبقه‌بندی اولیه استفاده کند و زمانی که Jev در مورد نحوه طبقه‌بندی ورودی‌ها مطمئن نیست، به مدل‌های مرزی کندتر و گران‌تر روی می‌آورد. در این نوع موارد استفاده، توسعه‌دهندگانی که قبلا از OpenAI برای کارهای پیچیده‌تر استفاده می‌کنند، ممکن است ترجیح دهند اکنون آن دسته‌بندی اولیه و سریع را به دست آورند.

dgments از همان ارائه دهنده.

از سوی دیگر، جیمز هاردیمن، یک شریک عمومی در DCVC، که دور اولیه 40 میلیون دلاری TypeSafe را رهبری کرد، به دو سال توسعه استارت‌آپ، به ویژه کار آن در زمینه قابلیت اطمینان، به عنوان یک مزیت نسبت به رقیب بزرگ‌تر اشاره می‌کند. او به فورچون گفت: «این نوع عنصر ناملموسی وجود دارد که من فکر می‌کنم در مورد برخی از این چیزها وجود دارد که بنچمارک‌ها از آن استفاده نمی‌کنند، و به همین دلیل است که فکر می‌کنم در واقع در تولید، Jev بهتر از این نوع کلون‌های دنباله‌دار سریع که ما شروع به دیدن آن‌ها کردیم، عمل می‌کند.

TypeSafe می گوید که یک معماری مدل جدید و یک روش آموزشی ایجاد کرده است تا تخمین های احتمال Jev را نشان دهد که چقدر قضاوت های آن درست است.

در حالی که مشخص نیست Jev می‌تواند در برابر OpenAI و سایر رقبا که احتمالا به ارائه محصولات تصمیم‌گیری هوش مصنوعی مشابه می‌پردازند فاصله بگیرد، از قبل واضح است که شهود Almeida در مورد نیاز به راه بهتری برای راه‌اندازی سیستم‌های طبقه‌بندی درست بوده است. او موج را زود تشخیص داد. اکنون OpenAI و دیگران در حال دست و پا زدن هستند تا به عقب برسند.

این داستان در ابتدا در سایت Fortune.com منتشر شد