خفه شو و محاسبه کن: اصول اولیه هوش مصنوعی Jev برای کدنویس ها

TypeSafe's Jev که هفته گذشته راه اندازی شد، رفتار متفاوتی با مدل های مرزی استانداردی دارد که اکنون همه به آن عادت کرده اند و به همین دلیل به سرعت توجه و علاقه زیادی را به خود جلب کرده است زیرا توسعه دهندگان نحوه کار با این فناوری را بررسی می کنند. خروجی Jev محدودتر از رویکرد چت ربات‌های گفتگوی مبتنی بر LLM است. اساسا، Jev یک طبقه بندی کننده با مغز است.

هنگامی که مجموعه‌ای از داده‌ها داده می‌شود، تصمیمات «تایپ‌شده» از پیش تعریف‌شده‌ای را که توسعه‌دهنده از قبل درباره آن تصمیم گرفته بود، همراه با توزیع‌های احتمال و برای برخی از انواع پرس‌وجو، سطح اطمینانی را برمی‌گرداند که سپس می‌توان از آن برای تصمیم‌گیری و خودکارسازی فرآیندها استفاده کرد. همانطور که برایان انو اغلب گفته است، محدودیت های بیشتر اغلب باعث خلاقیت بیشتر می شود. در هفته ای که از انتشار Jev می گذرد، توسعه دهندگان به سراغ این سرویس رفته اند، حداقل برای آزمایش آن. نیکونج کوتاری، شریک FPV Ventures، سایتی به نام Jevable راه اندازی کرد تا نمونه اولیه برنامه های Jev پست شده در X را جمع آوری کند.

Jevable میزبان ابزارهای توسعه‌دهنده و ابزارهای بهره‌وری است که برخی بی‌اهمیت هستند. یکی از برنامه ها انگلیسی ساده را به «نثر غیر ضروری فانتزی» ترجمه می کند. دیگری به کاربر اجازه می‌دهد تا یک ستون «فوریت» را به ردیف‌های صفحه‌گسترده اضافه کند، سپس Jev می‌تواند از «بدون نیاز به پیگیری» به «فوری» رتبه‌بندی کند. اپلیکیشنی دیگر راهی مجازی به افراد می دهد تا ببینند لباس ها روی آن ها چه شکلی است. در یک ماکت، Jev رونوشت را می‌خواند، فهرستی از لباس‌ها را بررسی می‌کند و لباس‌ها را روی تصویر کاربر در زمان واقعی تغییر می‌دهد.

هزینه هر تصمیم 0.0011 دلار است، و Jev ~ 620 میلی‌ثانیه طول می‌کشد تا نشان دهد در آن پیراهن هاوایی که قصد خرید آن را دارید چقدر وحشتناک به نظر می‌رسید. هک های بازی یکی دیگر از موارد مورد علاقه است. برنامه‌هایی برای سرعت در میان Doom، Tetris، League of Legends، Settlers of Catan، و شطرنج (جایی که Jev به مدل وزن باز GLM 5.3 باخت اما اجرای آن بسیار ارزان‌تر بود) وجود دارد. شاید شدیدترین بیان کنجکاوی کدنویس استفاده از Jev برای تقلید از یک CPU بوده است که بیشتر از نظر سرگرمی برای تثبیت گیک ها با بازگشت مفید است.

برای این منظور، شخصی اصطلاح "JevOps" را برای توصیف "انتهای بازی" "اجرای همه کدها" در مجازی سازی مبتنی بر Jev ابداع کرد. "JevOps" هنوز فقط یک الگوی رفتاری است، نه یک رشته. در حال حاضر. کاری که توسعه دهندگان می توانند با Jev Jev انجام دهند به یک فراخوانی تابع هوشمند تشبیه شده است. شما یک ورودی به آن می دهید و با استفاده از یک مدل تصمیم ساخت یافته، خروجی تعریف شده را برمی گرداند. TypeSafe آن را یک مدل "System One" می نامد، مدلی که برای تصمیم گیری سریع و بسیار ساختار یافته طراحی شده است.

کاربران داده‌ها را برای تجزیه و تحلیل به یک API ارسال می‌کنند و می‌توانند داده‌های خود را با سه نوع سؤال مورد بازجویی قرار دهند: یک انتخاب، یک امتیاز، یا یک «نقص» (امتیاز احتمال صداقت بین 0 تا 1)، که همگی از موارد اولیه Jev هستند. Jev با پاسخ هایی که به پرسش های انتخاب و امتیاز می دهد، سطوح اطمینان را ارائه می دهد. از آنجایی که Jev متنی با فرم آزاد تولید نمی کند، کاربر باید به صراحت طرح و گزینه های نامزد را برای پرس و جوهای Choice و Score تعریف کند.

بنابراین استفاده از Jev نیاز به پیکربندی دستی قدیمی قبل از زمان دارد، در مقایسه با درخواست چرخش آزاد مورد نیاز برای تولید پاسخ‌های LLM. توسعه‌دهنده باید به این فکر کند که می‌خواهد چه کاری را از نظر این سؤالات انجام دهد، شاید با تقسیم وظایف خود به مجموعه‌ای از آنها. اسناد TypeSafe استفاده از سؤالی مانند "آیا این پیام فوریت را نشان می دهد؟" توصیه می کند. در مورد یک سوال بازتر مانند "این پیام را تجزیه و تحلیل کنید و بهترین مسیر اقدام را تعیین کنید." پاسخ ساختاریافته چندین مزیت را به همراه دارد.

یکی این است که به این معنی است که Jev مجبور نیست به نحوه ساختار پاسخ برای کاربر فکر کند. TypeSafe می‌گوید Jev می‌تواند در کمتر از 150 میلی‌ثانیه پاسخ را بازگرداند، به‌اندازه کافی سریع برای برخی از برنامه‌های تعاملی و بلادرنگ (از این رو شیفتگی کدنویس با استفاده از Jev برای سرعت بخشیدن به بازی‌ها است). به همین ترتیب، سرویس Jev بسیار ارزان‌تر از LLM‌های مرزی استاندارد است – توکن‌های ورودی 0.042 دلار در هر میلیون توکن هستند و هیچ هزینه‌ای برای توکن‌های خروجی دریافت نمی‌شود.

"اگر بسیاری از قضاوت های معنایی مفید در بودجه زمان پاسخ برنامه ما مقرون به صرفه بودند، چه چیزی را متفاوت طراحی می کردیم؟" از یوجین شوارتز، عضو کادر فنی TypeSafe، در صفحه GitHub README درخواست LLM برای ارزیابی سودمندی Jev برای هر پروژه داده شده است. حجم کاری احتمالی که ممکن است از فرمت Jev بهره مند شود می تواند شامل استخدام شغل و همچنین غربالگری مقالات علمی برای اطمینان از داشتن تمام بخش های مورد نیاز باشد. می تواند نرم افزاری را مدیریت کند که در غیر این صورت به یک انسان در حلقه نیاز دارد.

خالق Jev، دیوگو آلمیدا، استفاده از Jev را برای مسیریابی ابزارها و MCP برای مدل‌های دیگر پیشنهاد کرد. جیو چقدر باهوش است؟ Mo Bitar، شخصیت هوش مصنوعی یوتیوب در ویدئویی گفت: "این مدل چقدر هوشمند است؟ این چیزی است که من نمی توانم بفهمم." دموها سرگرم کننده هستند، اما نتایج چقدر دقیق هستند؟ Jev یک LLM است، اما تاکنون، بینش (یا معیارهای) محدودی در مورد هوش Jev داریم. "من می دانم که سریع است. می دانم که ارزان است، اما آیا خوب است؟" Bitar گمان می‌کند که با مجموعه‌های آموزشی ثابت استاتیک، مانند هرزنامه‌های ایمیل یا خرید آنلاین، بهترین کار را خواهد داشت.

او گفت کار پیش‌بینی، مانند پیشنهاد انتخاب سهام، ممکن است استفاده هوشمندانه از Jev نباشد. مهندس آرچر هیوم که کمی عمیق‌تر کند، گزارش داد که چگونه Jev را با 10000 تماس API بررسی کرد. (TypeSafe Jev را به‌عنوان یک سرویس مبتنی بر API اجرا می‌کند، اگرچه دیگران چندین طبقه‌بندی‌کننده منبع باز شبیه به خود Jev ساخته‌اند، مانند Jeff و Nimble.) هیوم حدس زد که Jev دانش عمیق یک LLM را دارد، اما سعی نمی‌کند متن مورد نیاز برای بازخورد دادن به کاربر را پیش‌بینی کند. در عوض، احتمالات تصمیم گیری را مستقیما از نمایش های داخلی مدل محاسبه می کند.

با این وجود، دیگران Jev را حرکتی در جهت درست می‌دانند، یعنی فراتر از رابط ساده و گاهی فریبنده LLM‌های فوق‌العاده امروزی. آدام جاکوب، مدیر عامل شرکت ارائه‌دهنده نرم‌افزار Swamp Club، در پیام X خاطرنشان کرد: «زمان آن فرا رسیده است که از این ایده عبور کنیم که آنچه ما نیاز داریم مدل‌های مرزی هوشمندتر هستند. آنچه ما نیاز داریم سیستم‌های هوشمندتر است. هوشمندی خوب است، اما نتایج صحیح و قابل تکرار نیز لازم است. آندری کارپاتی، محقق انسان‌شناسی، موافق است که Jev فضای جدیدی را در بازار نوظهور هوش مصنوعی ایجاد می‌کند.

او در X نوشت: Jev "تقاضای نهفته [...] را آشکار کرد که به دلیل رقابت برای هوش بالاتر، سرمایه گذاری کمتری روی آن انجام شد." ®