شرکت هوش مصنوعی برای دفاع از زیرساخت های حیاتی و پروژه های منبع باز در برابر هوش مصنوعی حرکت می کند

Anthropic تلاشی را برای کمک به مردم برای رفع آسیب‌پذیری‌های نرم‌افزاری که توسط Project Glasswing خود در معرض دید قرار گرفته است، آغاز کرده است. اگر به نظر می رسد که یک کمپینگ بی دقت آتش سوزی را شروع کرده و بعدا به یک آتش نشانی کمک مالی می کند، خوب، این یکی از راه های بررسی آن است. Anthropic اصرار دارد که می‌خواهد به مدافعان اجازه دهد به ابزارهایی که مهاجمان از قبل استفاده می‌کنند دسترسی داشته باشند. تحت نام برنامه ای که شبیه فیلم آتی تام کروز به نظر می رسد - "ماموریت سایبری انسان دوستانه" - کلودفادر تلاش خود را به دو حوزه هدایت می کند.

اولین مورد، یک برنامه دفاعی زیرساخت حیاتی است، زیرا هیچ‌کس نمی‌خواهد مدل‌های هوش مصنوعی به افراد نابکار نشان دهد که چگونه سرویس‌های عمومی را با آسیب‌پذیری‌های SCADA جدید کشف شده روز صفر خاموش کنند. این برنامه گران‌ترین مدل‌های شرکت را با مهندسین در محل ترکیب می‌کند - که گاهی اوقات به آنها مهندسان مستقر پیشرو می‌گویند - زیرا علیرغم پیچیدگی عوامل کدنویسی هوش مصنوعی، کارشناسان امنیت انسانی هنوز مفید هستند و بسیاری از سازمان‌ها فاقد استعدادهای درون سازمانی هستند که در روش‌های یادگیری ماشینی آموزش دیده باشند.

هدف آنتروپیک برای مقابله با این چالش با کمک شرکای ثابتی است: Accenture، Booz Allen، CrowdStrike، Deloitte، Dragos، Hitachi، Insane Cyber، Nozomi Networks، Palo Alto Networks، PwC، و Rockwell Automation. این سازمان‌ها با سازمان‌های زیرساختی حیاتی ارتباط دارند و در حال حاضر برای محافظت از چارچوب فنی شکننده که دائما توسط عوامل هوش مصنوعی بررسی می‌شود، کار می‌کنند.

دومین حوزه تمرکز ماموریت سایبری Anthropic شامل سرویسی به نام OSS Scanner است که پروژه های منبع باز اسکن های امنیتی منظم را از قوی ترین مدل های ما به صورت رایگان ارائه می دهد. این پیشنهاد شامل همه پروژه های منبع باز نمی شود و کاملا رایگان نیست. Anthropic معیارهای واجد شرایط بودن مورد استفاده توسط Google را برای پروژه OS-FUZZ خود وام گرفته است و بنابراین روی "پروژه های تاسیس شده ای که تأثیر مهمی بر زیرساخت ها و امنیت کاربر دارند" کار خواهد کرد. بنابراین اگر فقط یک مخزن برنامه وب عمومی دارید که در GitHub ضعیف است، در عوض می توانید به ابزارهای موجود مانند Socket، Dependabo مراجعه کنید.

t، OSV-Scanner، Trivy، Renovate یا چیزی مشابه. و شاید بتوانید هنگام مواجهه با ممیزی امنیتی، از عامل کدنویسی AI انتخابی خود استفاده کنید تا سایت شما را بدون ابهام بررسی کند. اما برای کسانی که در پروژه‌های متن‌باز تأثیرگذار و پرکاربرد شرکت دارند، تقویت‌کننده‌ها در دسترس هستند، تا زمانی که نگهبانان پروژه از استفاده از «مواد» - ورودی و خروجی - برای آموزش مدل‌ها، بر اساس شرایط خدمات مصرف‌کننده Anthropic برای OSS Scanner بدشان نمی‌آید. با این حال، بیشتر پروژه‌های منبع باز در حال حاضر در مجموعه داده‌های آموزشی ثبت شده‌اند.

پروژه‌هایی که مجاز به ثبت‌نام هستند می‌توانند منتظر اسکن‌های خودکار دوره‌ای باشند که جزئیاتی در مورد نحوه بهره‌برداری باگ‌های شناسایی شده ارائه می‌دهند. این گزارش‌ها بدون بررسی انسانی منتشر می‌شوند، اما آنتروپیک مجموعه‌ای از نقل قول‌ها را از نگهبانان OSS شرکت‌کننده که معتقدند گزارش‌دهی رباتیک ارزشمند است، جمع‌آوری کرده است. بر اساس گزارش آنتروپیک، در ابتدای سال، گزارش‌های ایرادات خودکار هوش مصنوعی عمدتا ناهنجار در نظر گرفته می‌شدند، اما اکنون گزارش‌های باگ با کیفیت بالا در نظر گرفته می‌شوند. به گفته این شرکت، LLM ها اکنون بیش از 85 درصد از آسیب پذیری ها را پیدا می کنند، در حالی که این میزان در ابتدای سال 2025 20 درصد بود.

هوش مصنوعی پیش‌بینی می‌کند که در دو سال آینده، مدافعان از این مزیت برخوردار خواهند شد، زیرا هوش مصنوعی قبل از ارسال باگ‌ها را شناسایی می‌کند. اما تا آن زمان، مهاجمان دست بالا را دارند. آنتروپیک در یک پست وبلاگی گفت: "مدافعان زیرساخت های حیاتی و جامعه OSS چندین دهه تجربه امنیتی دارند، اما با کمبود شدید منابع مواجه شده اند که در این لحظه تشدید شده است." لحظه سخاوت آنتروپیک پس از حوادث اخیر رخ می دهد که مدل های مرزی به حداقل 20 سازمان (و شاید بیش از 100) نفوذ کردند که مهم ترین آنها HuggingFace بود.

پس از ماه‌ها که Anthropic و OpenAI به عوامل هوش مصنوعی خود اجازه می‌دادند بدون نظارتی عمل کنند که می‌تواند فعالیت شبکه غیرقانونی یا نامطلوب را جلب کند، به نظر می‌رسد نگرانی عمومی، واکنش شدید دولت [PDF] و شاید برنامه‌هایی برای بهره‌برداری از بازارهای عمومی برای تامین مالی بیشتر، احساس فوری‌تری از مسئولیت مدنی ایجاد کرده است. ®