Base Labs با Hugging Face و Goodfire همکاری ایمنی هوش مصنوعی با وزن باز راه اندازی کرد

Baseten یک استاندارد زیرساخت ایمنی جدید را در کنار بازوی تحقیقاتی Base Labs خود در روز چهارشنبه راه‌اندازی کرد و با Hugging Face و Goodfire AI برای ایجاد زیرساخت ارزیابی ایمنی و نظارت برای مدل‌های وزن باز همکاری کرد.

این اعلامیه در بحبوحه بحث در مورد ایمنی مدل‌های با وزن باز - که می‌تواند با حذف محافظ‌های آنها از طریق تکنیک افزایشی معروف به ابلیتراسیون، خطرناک شود، قرار دارد. مقیاس مشکل بسیار بزرگ است: Hugging Face که میزبان مدل‌های AI منبع باز است، در حال حاضر بیش از 6000 مدل حذف شده را فهرست می‌کند.

Base Labs، گروه تحقیقاتی Baseten که در اوایل سال جاری تأسیس شد، روش‌هایی را برای آموزش و نظارت بر مدل‌های باز توسعه و منتشر خواهد کرد. این شرکت کار آینده خود را به‌عنوان یک «استاندارد» برای مدل‌های باز طراحی می‌کند که شفاف است و در نحوه آموزش و استقرار مدل‌ها به جای پیچ‌شدن پس از آن، تعبیه شده است.

این شرکت در X گفت: «ما معتقدیم که باز بودن مزیتی برای ایمنی هوش مصنوعی است. "باز بودن دید بیشتری را به رفتار مدل ها و مهمتر از همه، ابزار بیشتری برای تبدیل تحقیقات ایمنی به کنترل های عملی و شفاف نسبت به منبع بسته ارائه می دهد."

این شرکت‌ها نحوه عملکرد این همکاری را از نظر فنی فاش نکرده‌اند، اگرچه Goodfire در پاسخ به پست Baseten این هدف را مشخص کرد: "ایمنی باید در مدل‌های باز ساخته شود و توسط کسانی که به آنها خدمات می‌دهند ارائه شود." Goodfire که در باز کردن "جعبه سیاه" هوش مصنوعی برای توضیح نحوه تصمیم گیری مدل ها تخصص دارد، محتمل ترین نامزد برای بخش "تشکیل شده" است.

با نگاهی به آینده، Baseten در حال فراخوانی آزاد با اکوسیستم توسعه دهندگان گسترده تر برای مشارکت در چارچوب است. این شرکت خاطرنشان کرد: با هم، ما در حال ساخت اکوسیستمی از مدل‌های باز هستیم که برای همه ایمن و قابل دسترسی است.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.

مدل استدلال جدید Salesforce و Nvidia همه چیزهایی است که آزمایشگاه‌های هوش مصنوعی باید از جولی بورت بترسند.

جنسن هوانگ از ترامپ تماس گرفت و چیز دیگری را نیز به نمایش گذاشت، کانی لویزوس

9 استارت‌آپ پرطرفدار از آخرین روز نمایشی Y Combinator، به گفته VCs Marina Temkin Dominic-Madori Davis

تسلا می‌گوید سرانجام در تاریخ 1 اکتبر از نسل دوم رودستر آنتونی ها رونمایی خواهد کرد

Revolut نقض اطلاعات مشتری از طریق درخواست های جعلی دولت Jagmeet Singh را تأیید می کند

مت مولنوگ به کارکنان Automattic می‌گوید (ترول‌ها؟) و می‌گوید که پس از برکناری سارا پرز، مدیر عامل، دوباره کنترل را به دست گرفته است.