آنتروپیک می‌خواهد هویت مدل‌های هوش مصنوعی را اثبات‌پذیر کند
آنتروپیک با معرفی سیستمی متن‌باز به نام FlashProve، امکان راستی‌آزمایی ریاضی خروجی‌های مدل‌های هوش مصنوعی را فراهم کرد.
آنتروپیک با معرفی سیستمی متن‌باز به نام FlashProve، امکان راستی‌آزمایی ریاضی خروجی‌های مدل‌های هوش مصنوعی را فراهم کرد.
آنتروپیک در حال توسعه‌ی سیستمی متن‌باز با نام FlashProve است که به کاربران اجازه می‌دهد هویت دقیق مدل تولیدکننده‌ی هر پاسخ را اعتبارسنجی کنند. هدف این فناوری ارائه‌ی راهکاری به نام «استنتاج اثبات‌پذیر» محسوب می‌شود که با استفاده از اثبات رمزنگاری، تضمینی ریاضی برای انتساب یک متن به مدلی مشخص فراهم می‌آورد.
فناوری جدید مشابه امضاهای دیجیتال ایمیل عمل می‌کند و مانع از جازدن یک مدل به‌جای مدلی دیگر می‌شود. پژوهشگران تأکید دارند که پروتکل یادشده حتی در صورت سوءاستفاده‌ی شرکت توسعه‌دهنده نیز کارایی دارد و از ترفندهایی مانند تعویض پنهانی مدل‌ها با نسخه‌های ارزان‌تر برای کاهش هزینه‌ها یا استفاده از مدل‌های پیشرفته‌تر برای دستکاری نتایج بنچمارک جلوگیری می‌کند.
پژوهشگران آنتروپیک درباره‌ی ضرورت این اعتبارسنجی اعلام کردند: «یک توسعه‌دهنده شاید ادعا کند کتابخانه‌ی نرم‌افزاری او توسط یک مدل پیشرفته‌ی امنیت سایبری بررسی شده است، یا شرکتی ادعا کند طرح تجاری‌اش مورد تأیید مدلی خاص قرار گرفته است؛ کاربر چگونه می‌تواند این ادعاها را تأیید کند؟»
عملکرد ساختار مذکور نیازمند انتشار یک رد پای اختصاصی از سوی آزمایشگاه‌های هوش مصنوعی است که بدون افشای وزن‌ها یا اسرار تجاری، امکان بررسی محلی پاسخ‌ها را فراهم می‌سازد. کدهای فنی پروژه در گیت‌هاب منتشر شده‌اند، هرچند برنامه‌ای فوری برای استقرار تجاری آن در دستور کار نیست.
تیم توسعه‌دهنده درباره‌ی وضعیت فعلی این پروژه گفت: «هدف از انتشار این مطلب پژوهشی، به‌اشتراک‌گذاری پیشرفت‌های مرحله‌ای است و نه یک برنامه‌ی پژوهشی تکمیل‌شده. ما یافته‌ها را با این هدف صریح به اشتراک می‌گذاریم که دیگران کارهای انجام‌شده را بررسی کنند، به کار بگیرند و آن را ارتقا دهند.»