Anthropic مدل های جدید Mythos و Fable را در میان نگرانی های RSI منتشر می کند

Anthropic نسخه های جدید پیشرفته ترین مدل های خود را روز دوشنبه با عرضه Mythos 5.2 و Fable 5.2 منتشر کرد. این شرکت می‌گوید مدل‌های جدید «پیشرفت‌هایی را در زمینه‌هایی مانند کدنویسی، استدلال و بینش نشان می‌دهند» و ارتباط واضح‌تری با کاربران برقرار می‌کنند.

Fable 5.2 همچنین از طریق سیستم Enterprise Frontier Safeguards با خط‌مشی‌های حفظ داده‌های صفر (ZDR) سازگار است، که مدت‌ها برای بسیاری از مشتریان سازمانی نقطه گیر بوده است.

این اولین نسخه مدل آنتروپیک از زمان ارائه گزارش شخص ثالث از گروه ارزیابی METR است که نشان می‌دهد آزمایشگاه ممکن است به خود-بهبودی بازگشتی (RSI) نزدیک شود - یا توانایی مدل‌های هوش مصنوعی برای ادامه آموزش مدل به طور مستقل. گزارش METR نشان می‌دهد که مدل‌های داخلی پیشرفت هوش مصنوعی Anthropic را تقریبا 2 برابر سرعت می‌بخشند، اگرچه بسیاری از عدم قطعیت‌ها همچنان وجود دارد.

با این حال، انتشار آنتروپیک به چالش‌های مداوم در آزمایش دقیق قابلیت‌های مدل اشاره می‌کند. "Claude Mythos 5.2 و Fable 5.2 هر کدام مشکوک هستند که بیشتر از هر مدل اخیر ما مورد ارزیابی قرار می گیرند، که توانایی ما را برای ارزیابی نحوه عملکرد آنها در تنظیمات دنیای واقعی به چالش می کشد. همانطور که این تنظیمات گسترش می یابد و قابلیت ها با مدل های آینده افزایش می یابد، ما انتظار داریم این چالش رشد کند."

Anthropic معتقد است که نسخه جدید Mythos توانایی عمل مخفیانه علیه کاربر خود را ندارد، حکمی که در کارت سیستم Mythos 5.2 بیشتر توضیح داده شده است.

کارت سیستم می‌گوید: «Claude Mythos 5.2 قابلیت‌های مخفی قوی‌تری را نسبت به مدل‌های قبلی Claude در چندین ارزیابی ما نشان می‌دهد، به‌ویژه زمانی که استدلال آن از مانیتور پنهان است». با این حال، ما معتقدیم که سطوح پایین عملکرد مطلق در ارزیابی‌های مخفی جدید ما از ادعاهایی پشتیبانی می‌کند که بر تشخیص اقدامات مضر در موقعیت‌های پرمخاطره تکیه دارند.

Fable 5.2 برای مدتی پیش از انتشار برای گروه‌های منتخب در دسترس بوده است، و Anthropic می‌گوید این مدل قبلا «دو مشکل باز در فیزیک نظری را حل کرده است، آخرین قضیه فرما را رسمی کرده و از پروژه‌های تحقیقاتی متعدد دیگری پشتیبانی کرده است».

همچنین روز دوشنبه، استارت‌آپ Physical Superintelligence اثبات جدیدی از حدس Aaronson-Ambainis را اعلام کرد که گامی اساسی در تعیین محدودیت‌های نظری برای محاسبات کوانتومی است. نکته قابل توجه این است که این آزمایشگاه گفت که نتیجه با اجرای «یک مدل آنتروپیک غیر عمومی» در سیستم خود PSI به دست آمده است. Anthropic تایید یا رد نکرد که آیا Fable 5.2 مدل مورد بحث بوده است.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

One Pass بخرید، جلد دوم رایگان را در بوت کمپ نهایی سال TechCrunch با آوردن هم بنیانگذار یا شریک خود به صورت کتاب رایگان قبل از انقضای قرارداد BOGO دریافت کنید.

تسلا ساخت Cybertruck را در سال 2027 شان اوکین متوقف خواهد کرد

کلود اکنون می تواند هزینه های شما را با ابزار جدید مالی شخصی خود عایشه مالیک تجزیه و تحلیل کند

سارا پرز می گوید تقریبا هیچ کس از عوامل هوش مصنوعی برای رزرو Uber خود استفاده نمی کند

متا استارتاپ کدنویسی هوش مصنوعی Conductor Lucas Ropek را خریداری کرد

با افزایش انتظار برای قدرت، مراکز داده به موتورهای جت قدیمی روی آورده اند

ممدانی شهر نیویورک از مالک مدیسون اسکوئر گاردن به خاطر فناوری نظارتی زک ویتاکر انتقاد کرد.