مدل Mythos فوق العاده باگ یاب Anthropic در حال ورود به محصولات سیسکو و IBM است

Anthropic با اجازه دادن به Cisco و IBM که آن را بخشی از محصولات امنیتی خود قرار دهند، دسترسی به مدل Mythos یاب باگ خود را گسترش داده است.

سیسکو امروز در رویدادی در ملبورن استرالیا ادغام خود را اعلام کرد، جایی که فاش کرد که ابزارهای قرمز رنگ در مجموعه دفاع هوش مصنوعی خود که به دنبال نقاط ضعف و فعالیت نامناسب در مدل‌ها، عوامل و برنامه‌های کاربردی هوش مصنوعی هستند، می‌توانند با Mythos تماس بگیرند تا تنظیمات مشتریان را آزمایش کنند.

جف شولتز، معاون ارشد استراتژی و بازاریابی پورتفولیو سیسکو می گوید: «در سطح بسیار بالایی، دفاع هوش مصنوعی توانایی نگاه کردن به مدل ها و شکستن آنها را دارد. او گفت که این ابزار اکنون "سوپر شارژ شده توسط Mythos" است و خطر بیشتری را شناسایی می کند که دفاع هوش مصنوعی سپس به آن رسیدگی خواهد کرد.

AI Defense در حال حاضر از ترکیب قرمز مبتنی بر هوش مصنوعی برای یافتن نقص‌ها استفاده می‌کند. Mythos به گزینه دیگری تبدیل خواهد شد. سیسکو آن را تحت مجوزهای موجود کاربران بدون هزینه اضافی در دسترس قرار می دهد.

ناتالی مید، رئیس هوش مصنوعی کاربردی آنتروپیک برای آسیا و اقیانوسیه، گفت که این شرکت صف طولانی خریدارانی دارد که می‌خواهند از Mythos استفاده کنند و همکاری با سیسکو برآورده کردن این تقاضا را آسان‌تر می‌کند.

Anthropic ابتدا Mythos را تحت «Project Glasswing» در دسترس قرار داد، برنامه‌ای که به سازمان‌های بررسی‌شده امکان دسترسی به مدل را برای آزمایش پایگاه‌های کدشان می‌داد، اما از آن زمان دسترسی را از طریق سایر برنامه‌های کنترل‌شده گسترش داد، ترتیبی که منطقی به نظر می‌رسد زیرا در دستان اشتباه Mythos می‌تواند به مهاجمان کمک کند تا از نقص‌های نرم‌افزاری سوءاستفاده کنند.

قرارداد سیسکو عملکرد Mythos را در معرض دید کاربران نهایی قرار می دهد، بدون اینکه به آنها اجازه دهد از خود مدل استفاده کنند.

رجیستر از مید پرسید که آیا آنتروپیک معاملات مشابهی با سایر اشخاص ثالث دارد یا خیر و او مخالفت کرد. این ممکن است به این دلیل باشد که چند ساعت پس از اینکه سیسکو در مورد استفاده از Mythos به ما گفت، IBM اعلام کرد که مدل Anthropic را نیز در یک محصول ادغام خواهد کرد - یعنی ابزار Concert خود، که از هوش مصنوعی برای اسکن برنامه‌ها برای بررسی خطرات و نقاط ضعف استفاده می‌کند.

آی‌بی‌ام می‌گوید که از Mythos برای کشف نقاط ضعفی که اسکنرهای سنتی از دست می‌دهند، تعیین خطر واقعی و ایجاد راه‌حل‌هایی برای تأیید توسعه‌دهنده استفاده خواهد کرد.

ما از Anthropic پرسیده‌ایم که آیا این ادغام‌ها تصمیمی برای باز کردن Mythos برای کاربران بیشتر به روش‌های بیشتر است. اگر پاسخ قابل توجهی دریافت کنیم، این داستان را به روز خواهیم کرد.

همچنین روز دوشنبه، Anthropic نسخه 5.2 Mythos and Fable را معرفی کرد که به گفته این شرکت، خروجی‌ها تا 30 درصد سریع‌تر از نسخه 5.1 تولید می‌شود، اما هزینه کمتری دارد: 8 دلار برای هر میلیون توکن ورودی و 40 دلار برای هر میلیون توکن خروجی.

کاربران می‌توانند هر دو مدل را در «حالت سریع» اجرا کنند که سرعت تولید توکن‌ها را تا ۲.۵ برابر افزایش می‌دهد و قیمت‌ها را به ۱۶ دلار در هر میلیون توکن ورودی و ۸۰ دلار برای هر میلیون توکن خروجی دوبرابر می‌کند.

Anthropic می‌گوید: «آزمایش‌های ایمنی پیش از انتشار گسترده‌ای را بر روی مدلی انجام داد که زیربنای Fable 5.2 و Mythos 5.2 است. این شامل ارزیابی‌های جدیدی بود که بینش عمیق‌تری در مورد رفتارهای خاص مانند فرار از جعبه شنی ارائه می‌کرد.»

پس از آن آزمایش‌ها، این شرکت به این نتیجه رسید که «ریسک‌های مخاطره‌آمیز ناشی از عدم همسویی کم باقی می‌ماند و این مدل در اکثر معیارهای همسویی به همان خوبی یا بهتر از مدل‌های اخیر ما عمل کرد.

حفاظت‌های سایبری و زیست‌شناسی Fable 5.2 به اندازه موارد Fable 5.1 قوی هستند، اما بلوک‌های غیرضروری کمتری تولید می‌کنند، و ما قوی‌ترین محافظت‌های خود را در برابر حملات تقطیر اجرا کرده‌ایم.

با توجه به اینکه آنتروپیک معتقد است آزمایشگاه‌های هوش مصنوعی چینی از تقطیر برای شبیه‌سازی مؤثر مدل‌های خود بدون انجام کار آموزشی گران‌قیمت استفاده می‌کنند، این مورد تأییدی قاطع است. ®