PrismML LLM های کوچک خود را به عینک های هوشمند کوالکام می آورد

آزمایشگاه هوش مصنوعی PrismML - که توسط محققان Caltech تاسیس شده و توسط Ion Stoica از UC Berkeley توصیه شده است - نسخه ای از مدل های زبان کوچک خود را برای عینک های هوشمندی که بر روی تراشه های اسنپدراگون کوالکام اجرا می شوند ایجاد کرده است.

روز چهارشنبه، در اجلاس اسنپدراگون کوالکام، سازنده تراشه، Bonsai LLM 1 بیتی PrismML را به نمایش گذاشت که می‌تواند به صورت محلی روی عینک‌های هوشمند هوش مصنوعی ساخته شده بر روی پلتفرم Snapdragon AR1 Gen 1 اجرا شود.

همانطور که قبلا TechCrunch گزارش داده بود، ادعای شهرت PrismML این است که مدل های بزرگتر را به طور قابل توجهی کوچک می کند (در این مورد، 4 برابر)، در حالی که تقریبا تمام عملکرد آنها را در معیارهای استاندارد حفظ می کند. نسخه عینک هوشمند مدلی با 2 میلیارد پارامتر است که برای بینایی و زبان تنظیم شده است، بنابراین کاربران می توانند بپرسند که در زمان واقعی به چه چیزی نگاه می کنند.

هدف بزرگ‌تر Prism هوش مصنوعی وزن باز است که روی دستگاه‌ها اجرا می‌شود و از قدرت محاسباتی که در حال حاضر دارند استفاده بهتری می‌کند. این استارت آپ این را به عنوان جایگزینی برای بسته به وعده های حفظ حریم خصوصی آزمایشگاه های اختصاصی هوش مصنوعی و نیاز سیری ناپذیر آنها به محاسبات بیشتر مطرح می کند.

عرضه مدلی برای تراشه کوالکام گامی به سوی این چشم انداز است. اما هنوز هیچ عینک هوشمندی با PrismML معرفی نشده است.