پادمان های جدید حملات تقطیر هوش مصنوعی را به شدت کاهش می دهد: Anthropic

آنتروپیک گفت پادمان هایی که دسترسی به استدلال کلود را محدود می کند، تلاش های استخراج را به شدت کاهش داده است.

سان فرانسیسکو - آنتروپیک در 12 اکتبر گفت که اقدامات جدید طراحی شده برای جلوگیری از کپی کردن رقبا از قابلیت‌های مدل‌های هوش مصنوعی کلود، داده‌های جمع‌آوری‌شده در حملات به اصطلاح تقطیر را حدود 90 تا 99 درصد کاهش داده است.

تقطیر مدل به دلیل تشدید رقابت ایالات متحده و چین به عنوان یک نگرانی کلیدی برای شرکت‌های پیشرو هوش مصنوعی مطرح شده است، با شرکت‌هایی مانند Anthropic، OpenAI و Google که استدلال می‌کنند این روش رقبا را قادر می‌سازد تا قابلیت‌های پیشرفته‌تر را سریع‌تر و با هزینه کمتر بازتولید کنند.

آنتروپیک گفت اقدامات حفاظتی که دسترسی به استدلال کلود را محدود می کند، تلاش های استخراج را به شدت کاهش داده است، به طوری که "تعداد نشانه های استدلال استخراج شده توسط تقطیرکنندگان" اکنون "10 تا 100 برابر کمتر از قبل است".

شرکت مستقر در کالیفرنیا گفت که استفاده از شبکه‌های پراکسی برای بررسی مکرر استدلال محافظت شده کلود، مسدود کردن تلاش‌های استخراج و ممانعت از تلاش‌های تقطیر در مقیاس بزرگ را دشوارتر کرده است.

آنتروپیک گفت سیستم ایمنی آن «تقریبا به اندازه سیستم‌هایی است که از کمک به کلود در ساخت سلاح‌های زیستی جلوگیری می‌کنند» و «نرخ مثبت کاذب کمتر از 0.1 درصد» دارد.

آنتروپیک ده‌ها هزار حساب مرتبط با کمپین‌های تقطیر را ممنوع کرد و از استارت‌آپ چینی هوش مصنوعی Z.ai، که با نام ژیپو نیز شناخته می‌شود، به عنوان نمونه‌ای از شرکتی نام برد که در حین توسعه مدل GLM-5.3 خود، تلاش کرد قابلیت‌های کلود را حذف کند و هشدار داد که چنین اقداماتی خطرات ایمنی و امنیت ملی را به همراه دارد.

Z.ai بلافاصله به درخواست اظهار نظر پاسخ نداد. رویترز