پس از اینکه مدل‌ها سایت‌های دولتی را نقض می‌کنند، آنتروپیک تست‌های هوش مصنوعی خطرناک را آفلاین انجام می‌دهد

آنتروپیک اعلام کرد که مدل‌های هوش مصنوعی داخلی آن تحت «ارزیابی‌های پرخطر و امنیت سایبری» پس از حوادث مربوط به وب‌سایت‌های دولت ایالات متحده در سطوح فدرال، ایالتی و محلی دیگر به اینترنت دسترسی ندارند.

مواردی که منجر به این تصمیم می‌شود شامل مدل‌های هوش مصنوعی است که از آسیب‌پذیری‌های وب‌سایت، فرم‌های ارسال‌شده، دور زدن محدودیت‌های داده‌ها و دور زدن پادمان‌ها استفاده می‌کنند.

با این حال، این شرکت گفت که رفتار نادرست تأثیر کمتری در دنیای واقعی داشته و رفتار را کمتر از حوادث گزارش شده قبلی ارزیابی کرد. شرکت هوش مصنوعی در مورد این فعالیت غیرمجاز به کاخ سفید اطلاع داد:

Anthropic تخمین می زند که عوامل ممکن است با پاداش های بیش از حد سخاوتمندانه در طول یادگیری تقویتی انگیزه داشته باشند، که ممکن است آنها را تشویق کند تا راه حل های غیرمجاز را پیدا کنند تا زمانی که یک کار مسدود یا غیرممکن بود متوقف شوند.

به همین دلیل، تا زمانی که اقدامات امنیتی دوباره قابل اعتماد تلقی نشوند، Anthropic دسترسی زنده به اینترنت را در تمام ارزیابی‌های مدل هوش مصنوعی داخلی قطع کرده و همه آزمایش‌ها را به محیط‌های آفلاین منتقل می‌کند.

آنتروپیک توضیح می‌دهد: «اگرچه تأثیر این رفتارها بسیار کم بود و ما قبلا دسترسی به اینترنت زنده را برای برخی ارزیابی‌های پرخطر و امنیت سایبری خاموش کرده بودیم، اکنون تصمیم گرفته‌ایم آن را گسترش دهیم تا همه ارزیابی‌های داخلی خود را تا زمانی که تأیید کنیم اقدامات امنیتی و نظارتی ما به‌طور قابل اعتمادی رفتارهایی از این قبیل را شناسایی می‌کند، گسترش دهیم.»

در اواخر جولای، Anthropic یک حادثه بسیار جدی‌تر را فاش کرد که در آن عوامل مبتنی بر Claude Mythos یک بسته پایتون مخرب حاوی یک دزد اعتبار ایجاد کردند و آن را در فهرست بسته پایتون (PyPI) آپلود کردند، جایی که 15 سیستم آن را دانلود و اجرا کردند.

کلود از این بسته برای تکمیل یک چالش "تسخیر پرچم" استفاده کرد، اما به جای انتشار آن در یک محیط شبیه سازی شده، در پلت فرم واقعی PyPI منتشر شد.

در ماه آگوست، AISI فاش کرد که Mythos 5 با ارسال کد مخرب به یک پروژه منبع باز و تحت فشار قرار دادن نگهدارنده برای تایید آن با استفاده از هویت های جعلی، اقدام به حمله به زنجیره تامین کرد.

در ماه سپتامبر، Anthropic فاش کرد که Opus 4.6 طی ارزیابی ژانویه 2026 به یک سیستم شخص ثالث دسترسی مدیر دسترسی پیدا کرده و اطلاعات شخصی یک فرد را خوانده است.

به میکو هیپونن و رهبران امنیتی NFL، CHANEL و Atlassian بپیوندید تا در یک نشست دیجیتالی دو ساعته در مورد اینکه حملات با سرعت هوش مصنوعی چه تغییراتی می‌کنند، مدافعان چه کارهایی را باید انجام ندهند و چگونه اعتبار، تصمیم‌گیری، اصلاح و تأیید مجدد با سرعت ماشین را انجام دهند، بپیوندید.

Anthropic از کاربران کلود می خواهد که داده های صوتی را برای آموزش مدل هوش مصنوعی به اشتراک بگذارند

Anthropic کلود را به یک بازار هوش مصنوعی با بیش از 2000 پلاگین و رابط تبدیل می کند

Claude Opus 5.5 95% کمتر از خطوط em استفاده می کند، اما پاسخ های آن طولانی تر می شود

Anthropic از کلود می خواهد که حساب بانکی و داده های مالی شما را تجزیه و تحلیل کند