CrowdStrike «سوئیچ کشتن هوش مصنوعی» را راه‌اندازی کرد که ادعا می‌کند می‌تواند عوامل سرکش و موارد دیگر را متوقف کند

CrowdStrike سوئیچ AI Kill را معرفی می کند که برای متوقف کردن، ایزوله کردن و جلوگیری از راه اندازی مجدد عوامل سرکش هوش مصنوعی طراحی شده است.

این ویژگی به مدیران انسانی کنترل مستقیم برای پایان دادن به فعالیت های مشکوک عامل و بررسی حوادث را می دهد

نگرانی های فزاینده در مورد رفتار هوش مصنوعی مستقل باعث افزایش تقاضا برای پادمانی می شود که می تواند به سرعت عوامل در معرض خطر را مهار کند. CrowdStrike معتقد است که ممکن است با راه‌اندازی «AI Kill Switch»، ویژگی جدیدی که در محصول فالکون گاردین آن معرفی شده، مشکل عوامل سرکش هوش مصنوعی در شرکت را حل کرده باشد.

در چند ماه گذشته گزارش‌های متعددی از سرکشی یا رفتار بدخواهانه عوامل هوش مصنوعی مشاهده شده است. حتی زمانی که مأموریت‌های نسبتا ساده و خوش‌خیم (مثلا جمع‌آوری داده‌های مربوط به سوابق طلاق در کانادا) را بر عهده می‌گیرند، هر زمان که ماموران به مانعی برسند، هر کاری که لازم است برای انجام کار انجام می‌دهند - که شامل سوء استفاده از آسیب‌پذیری‌های روز صفر یا آزمایش حملات تزریق SQL می‌شود.

انتظار می‌رود، با وجود مزایای آشکار، کسب‌وکارها تا حدودی در به کارگیری عوامل هوش مصنوعی بی‌میل شدند. در همان زمان، سازمان های امنیت سایبری و توسعه دهندگان هوش مصنوعی به دنبال حل این چالش بودند. وارد CrowdStrike شوید.

سوئیچ AI Kill

این شرکت اخیرا Falcon Guardian را معرفی کرده است، یک پلتفرم تشخیص و پاسخ هوش مصنوعی (AIDR) که برای کشف و نظارت بر عوامل هوش مصنوعی در حال اجرا در محیط های سازمانی ساخته شده است. قابلیت های اصلی آن شامل شناسایی عوامل تایید شده هوش مصنوعی و هوش مصنوعی سایه، ردیابی آنچه از ماموران خواسته می شود انجام دهند و به چه فایل هایی می توانند دسترسی داشته باشند، کنترل دسترسی، تشخیص حملات تزریق سریع و بررسی رفتار مشکوک عامل است.

اکنون، این شرکت سوئیچ AI Kill را اضافه کرده است که زمانی که یک عامل از رفتار مورد نظر خود خارج می شود، باید به عنوان یک ایمن عمل کند.

جورج کورتز، مدیر عامل و بنیانگذار CrowdStrike، گفت: "ایمنی هوش مصنوعی نحوه بهره مندی کامل از هوش مصنوعی است. هنگامی که عوامل را با یک سوئیچ kill مستقر می کنید، کنترل خود را حفظ می کنید." "برای اولین بار، امنیت به طور همزمان شتاب دهنده و شبکه ایمنی برای پذیرش فناوری است. سوئیچ AI Kill قدرت را در دستان مردم قرار می دهد تا ایمنی هوش مصنوعی را درک کنند."

این بدان معناست که این ویژگی در واقع توسط انسان ها، نه هوش مصنوعی، اداره می شود و می تواند عامل را در ریشه خود خاتمه دهد. این شرکت توضیح داده است که از نقطه پایانی، جایی که سنسور فالکون از قبل کار می‌کند، شروع می‌شود، و براساس آنچه فالکون گاردین قبلا می‌بیند، می‌سازد: آنچه به یک عامل گفته می‌شود انجام دهد، چه چیزی ارتباط برقرار می‌کند، و چه چیزی را اجرا می‌کند.

Crowdstrike در توضیح نحوه کار این ابزار می‌گوید که حسگر فالکون ابتدا اجرای عامل را متوقف می‌کند (اول در Gateway و به زودی در نقطه پایانی)، تا مانع از آسیب رساندن به عامل در حین بررسی تیم شود.

سپس، خط مشی آن عامل را از راه اندازی مجدد بر روی میزبان یا گروه میزبان هدف باز می دارد، در حالی که ابزار دسترسی عامل را به شبکه سازمانی مسدود می کند.

یک مدیر مجاز اقدام را راه اندازی می کند و هر اقدامی در مسیر حسابرسی ثبت می شود.

راه حل های دیگر

CrowdStrike تنها شرکتی نیست که روی این موضوع کار می کند. به عنوان مثال، سوئیچ Agentic Kill Straiker به کاربران اجازه می دهد تا عوامل فردی را به حالت تعلیق درآورند، دسترسی آنها به ابزارها، API ها و داده های مختلف را لغو کنند یا آنها را به طور کامل آفلاین کنند.

راه حل مشابهی توسط JetStream Security ساخته شد که به سازمان‌ها اجازه می‌دهد تا عوامل فردی را بدون ایجاد اختلال در سایر گردش‌های کاری هوش مصنوعی غیرفعال کنند، در حالی که Agent DOS Trust3 AI دارای یک سوئیچ کش داخلی است که می‌تواند به صورت دستی یا حتی خودکار راه‌اندازی شود (زمانی که امتیاز امنیتی یک عامل به زیر آستانه از پیش تعریف‌شده می‌رسد).

همچنین Entra Agent ID مایکروسافت، Prisma AIRS شبکه Palo Alto و دفاع هوش مصنوعی Cisco نیز وجود دارد. همه اینها نوعی از اهرم اصلی هوش مصنوعی را ارائه می دهند که می تواند عامل را مسدود کرده و از آسیب معنی دار آن جلوگیری کند.