100 درصد یک تهدید امنیت ملی است: پیمانکار Accenture یک عامل هوش مصنوعی را به شبکه امن پنتاگون متصل کرد و سپس داده ها را به یک وب سایت پرخطر ارسال کرد.

یک عامل هوش مصنوعی به یک شبکه امن داخلی وزارت دفاع متصل شد

به عامل جزئیات ورود داده شد تا به او اجازه دهد تا وظایف کدنویسی را انجام دهد، اما همچنین به آن اجازه داد کنترل های امنیتی را دور بزند.

این نماینده اطلاعات حساس از جمله اعتبارنامه را به یک وب سایت شخص ثالث پرخطر ارسال کرد یکی از پیمانکاران اکسنچر در وزارت دفاع در حال رسیدگی به یک عامل هوش مصنوعی است که به شبکه داخلی امن پنتاگون دسترسی پیدا کرده بود.

مامور کلود کد سپس داده ها را از شبکه - که توسط چندین آژانس اطلاعاتی استفاده می شود - جمع آوری کرد و آن را به یک وب سایت شخص ثالث ارسال کرد.

تأیید شد که اعتبار ورود به سیستم توسط نماینده فاش شده است و سایر اطلاعات طبقه بندی نشده کنترل شده به طور بالقوه در معرض خطر قرار می گیرند.

عوامل غیرمجاز را به شبکه های امن متصل نکنید

به گفته یک منبع آگاه که با Wired صحبت می کند، "این همه داده هایی را که در آنجا وجود دارد در معرض خطر قرار می دهد. ممکن است شخصی وجود داشته باشد که بتواند بدون اینکه کسی بداند وارد یک محیط امن شود."

این صد در صد یک تهدید امنیت ملی است و می‌تواند صدمات جبران‌ناپذیری به بار آورد.»

علیرغم اینکه کلود در حال حاضر به دلیل نامگذاری ریسک زنجیره تامین Anthropic از استفاده برای کارکنان وزارت دفاع منع شده است، کارمند Accenture به حساب شخصی Claude خود دسترسی به یک محیط تولید امن را برای نوشتن و استقرار کد داده است.

به مدت دو ماه، عامل هوش مصنوعی قبل از شناسایی و اصلاح خطر به شبکه داخلی ایمن دسترسی داشت - اما منابع می‌گویند پس از کشف این ارتباط، توسط کارمندان Accenture به عنوان شدید یا فوری تلقی نشد.

گفته می شود که پیمانکار اعتبار ورود به سیستم عامل هوش مصنوعی را به شبکه روتر پروتکل اینترنت غیر طبقه بندی شده وزارت دفاع (NIPRNet) داده است تا به آن اجازه نوشتن کد بدهد. اما عامل هوش مصنوعی برای اینکه به درستی کار کند، برای انجام وظایف خود به اینترنت نیز نیاز داشت.

اعتبارنامه ورود به عامل هوش مصنوعی این توانایی را می دهد که کنترل های امنیتی اعمال شده توسط فرآیند ورود را دور بزند و عامل هوش مصنوعی سپس اعتبارنامه و نقشه NIPRNet را به یک وب سایت شخص ثالث ارسال کرد.

این منبع افزود: ما در حال حاضر با ایران درگیر هستیم. "این بدترین زمان برای داشتن این نوع نگرش اسب سواری است."

هم کارمندان و هم پیمانکاران وزارت دفاع موظفند هر گونه حادثه امنیت سایبری را ظرف 72 ساعت گزارش کنند، اما به گفته منبع، کارمند Accenture زنگ خطر را به صدا نزده است.

وزارت دفاع به Wired گفت: "وزارت در مورد وضعیت شبکه ها یا سیستم های خود اظهار نظر نمی کند."

یکی از سخنگویان Accenture گفت: "ما همه نگرانی ها را جدی می گیریم. این اتهامات به طور کامل و مستقل مورد بررسی قرار گرفت و مشخص شد که فاقد ارزش است. ما به طور کامل به تعهدات قانونی و قراردادی خود عمل کردیم."