کلون Jev OpenAI می تواند به آزمایشگاه مرزی کمک کند تا عوامل انبوه خود را متوقف کند

آخرین روز برای نمایش موفقیت خود برای بیش از 10000 رهبر فناوری در 2 اکتبر است. میز نمایشگاه کتاب هم اکنون.

یکی از اعلان‌های جذاب‌تر در رویداد روز توسعه‌دهنده OpenAI در روز سه‌شنبه به غیر از مدیر عامل شرکت سام آلتمن منتشر شد که «API تصمیم‌گیری» جدید این شرکت را فاش کرد.

API ظاهرا عملکردی مشابه Jev را ارائه می‌کند، مدلی که توسط TypeSafe AI اوایل این ماه منتشر شد و به صراحت برای اتوماسیون نرم‌افزار طراحی شده است. یک نوع طبقه‌بندی‌کننده فوق‌العاده قدرتمند که بر روی یک LLM ساخته شده است، توسعه‌دهندگان می‌توانند مجموعه‌ای از انتخاب‌ها را به Jev بدهند که به‌عنوان احتمالات ارزان‌قیمت و با سرعت بالا تولید می‌کند.

به نظر می رسد OpenAI's Decisions API همان نوع محصول باشد. در این رویداد، آلتمن API را به‌عنوان روشی برای ارائه مجموعه‌ای از گزینه‌های از پیش تعریف‌شده برای انتخاب بین مدل لونا آزمایشگاه توصیف کرد، مانند دسته‌هایی که در آن یک تصویر یا رفتارهای مختلف عامل طبقه‌بندی می‌شود.

آلتمن گفت: «با تمرکز مدل بر روی آن انتخاب، می‌توانیم آن را بسیار سریع کنیم و در عین حال قابلیت‌هایی مانند درک تصویر، پشتیبانی از زبان گسترده و حفاظت‌های ایمنی را حفظ کنیم.

TypeSafe به سؤالات TechCrunch در مورد محصول جدید پاسخ نداد، اما مدیر عامل شرکت Diogo Almeida، مهندس سابق OpenAI که یادگیری تقویتی را اختراع کرده بود، در X در مورد شروع جنگ های کلون ها شوخی کرد.

او اضافه کرد که علاقه OpenAI می تواند "نشانه ای باشد که ساختن به روشی سازگار با سیستم یک آینده است." ("System One" اصطلاح هنری TypeSafe برای تفکر سریع و شهودی است، در مقابل "System 2" که برای استدلال عمدی به کار می رود.)

زیرمتن اینجا این است که LLM ها همانطور که می دانیم راه حل مناسبی برای بسیاری از نرم افزارها نیستند زیرا نسبتا کند و گران هستند. توسعه دهندگان از Jev برای تقویت LLM ها استفاده کرده اند و با انجام این کار متوجه شده اند که سریع تر و ارزان تر هستند.

مشخص نیست که Decisions API چقدر شبیه Jev خواهد بود، زیرا OpenAI آن را به صورت یک پیش‌نمایش محدود منتشر کرد و تا کنون، TechCrunch توسعه‌دهندگانی را ندیده است که آن را با سرعت اجرا می‌کنند. با این حال، طبق مکالمات روی X، به وضوح علاقه وجود دارد.

Decisions API تنها API مشابه Jev در اینترنت نیست - استارت‌آپ‌های دیگری نیز در حال ارائه مدل‌های مشابه هستند. OpenAI آخرین غول فناوری نخواهد بود که یکی را تولید می کند. یک سوال کلیدی این است که خروجی‌های هر یک از این مدل‌های تصمیم‌گیری چقدر در زندگی واقعی کالیبره شده است.

آلمیدا می گوید که خندق شرکت او داده های مصنوعی است که برای تولید خروجی های آماری مفید ایجاد می کند.

آلمیدا هفته گذشته به TechCrunch گفت: «سریع و ارزان بسیار آسان است، می دانید. "اگر واقعا سریع و ارزان می‌خواهید، از تاس استفاده کنید، درست است؟ هوش قسمت سخت است و ستاره شمالی من همیشه منحنی پارتو را به ازای هر دلار پیش می‌برد."

پس از گذشت تنها چند هفته، به نظر می رسد روشن است که این مدل ها آینده ای در پیش دارند و یکی از کاربردهای احتمالی آن نظارت و ایمن سازی عوامل هوش مصنوعی است. یکی از اقدامات امنیتی جدید OpenAI پس از یک سری حوادثی که در آن عوامل آن در اینترنت باز رفتار نادرست داشتند، استفاده از یک مدل جداگانه برای نظارت بر اقدامات بد با "هزینه محاسباتی قابل توجه" است.

شاپور نقیب زاده، یک متخصص قدیمی امنیت سایبری که استارت‌آپ QueryStory را رهبری می‌کند، فکر می‌کند که مدلی مانند Jev می‌تواند بسیار ارزان‌تر این امکان را فراهم کند.

او یک نسخه نمایشی برای هکاتونی که آخر هفته گذشته برگزار شد ساخت که از Jev استفاده می‌کند تا هر اقدام عاملی را در برابر وظیفه‌ای که به آن داده شده است بررسی کند، مسدود کردن اقداماتی که اعتماد بالایی داشت بد هستند، دیگران را برای بازبینی پرچم‌گذاری می‌کند و بقیه را مجاز می‌داند.

یک مشاهدات کلیدی این است که Jev مسلما به اندازه کافی ارزان است که بتواند روی هر اقدام عاملی اجرا شود، که لایه‌ای از بررسی را ارائه می‌دهد که می‌تواند قابلیت اطمینان عامل‌های بزرگ را بهبود بخشد. این همان چیزی است که TypeSafe امیدوار بود به آن دست یابد - و اکنون OpenAI نیز این ارزش را دیده است.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آسترا و اوپوس به تازگی آزمون دیگر تورینگ تیم فرنهولز را پشت سر گذاشتند

Waymo به سرعت در حال افزایش است: این چیزی است که داده‌های ناوگان کریستن کوروسک نشان می‌دهد

اوراکل اخطار فورس ماژور را به مرکز داده New Mexico Stargate خود Aditya Mehta ارسال می کند

Meta’s Muse Charm شبیه تاماگوچی به نظر می رسد، اما در حال بهره برداری از روند بسیار جدیدتر سارا پرز است.