وزیر هوش مصنوعی هشدار داد که دفاع سایبری «احتمالا» نقض خواهد شد

وزیر هوش مصنوعی بریتانیا هشدار داد که دفاع سایبری «احتمالا» در آینده نقض خواهد شد

مقررات بیشتری برای جلوگیری از حوادث "سرکش" عامل هوش مصنوعی مورد نیاز است

بدنه تست هوش مصنوعی بریتانیا در حال کار برای کمک به ایمن سازی مدل های مرزی قبل از انتشار است کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا هشدار داده است که «احتمالا، اگر نه اجتناب ناپذیر»، دفاع سایبری کشور توسط عوامل هوش مصنوعی نقض شود.

هشدار نارایان پس از آن است که مدل‌های مرزی متعددی از محیط‌های آزمایشی فرار کرده‌اند و شرکت‌های شخص ثالث را هک کرده‌اند، از جمله یک مورد که یک عامل OpenAI یک وب‌سایت دولتی استرالیا را در ژوئن 2026 هک کرد.

نارایان در یک کنفرانس مطبوعاتی همچنین گفت که شرکت‌های هوش مصنوعی باید، "زمانی که دانشمندان شما درباره خطرات جدی هشدار می‌دهند گوش کنند. رفتارهای غیرمنتظره را بررسی کنید. و اگر نمی‌توانید خطرات را به اندازه کافی کنترل کنید، سیستم را رها نکنید."

دولت بریتانیا از هوش مصنوعی برای دفاع استفاده می کند

وزیر هوش مصنوعی همچنین فاش کرد که دولت بریتانیا در حال برنامه‌ریزی برای استفاده از هوش مصنوعی پیشرفته برای مقابله با تهدیدات ناشی از هوش مصنوعی است که بر اساس دو برنامه آزمایشی است که به شناسایی و اصلاح بیش از 1000 آسیب‌پذیری در سیستم‌های دولتی کمک کرده است.

علاوه بر این، سیستم‌های هوش مصنوعی مرزی تحت «ارزیابی‌های دقیق» توسط مؤسسه امنیت هوش مصنوعی بریتانیا (AISI)، به منظور «شناسایی زودهنگام خطرات» و «آزمایش پادمان‌های قوی برای کمک به حفظ امنیت مردم» هستند.

با این حال، موانعی در توانایی AISI برای آزمایش برخی از آخرین مدل‌ها وجود دارد. در سپتامبر 2026، دونالد ترامپ، رئیس‌جمهور ایالات متحده از OpenAI و Anthropic خواست تا زمانی که آزمایشگاه‌های ایالات متحده آزمایش خود را انجام ندهند، آخرین مدل‌های خود را با آزمایش‌کنندگان بریتانیا به اشتراک نگذارند.

نارایان گفت که دولت بریتانیا از آن زمان با کاخ سفید همکاری کرده است تا "آی‌اس‌ای بریتانیا به قوی‌ترین مدل‌های هوش مصنوعی قبل از انتشار آنها دسترسی داشته باشد" (از طریق بی‌بی‌سی).

نارایان گفت که حفاظت از هوش مصنوعی نیز احتمالا به عنوان بخشی از لایحه امنیت سایبری و انعطاف پذیری با تمرکز ویژه بر مقررات مربوط به گزارش و افشای حوادث هوش مصنوعی معرفی می شود.

ریچارد واینرایت، مدیر ارشد فناوری، مرکز منطقه ای و اقتصادی در Okta، گفت: «این نویدبخش است که دولت دفاع سایبری هوش مصنوعی مرزی را جدی بگیرد.

"از آنجایی که عوامل هوش مصنوعی مستقل تر می شوند، ایمنی باید در زیرساخت هایی ایجاد شود که مشاغل و دولت بریتانیا به آن متکی هستند. همه خواهان یک "دکمه قرمز بزرگ" برای خاموش کردن عوامل سرکش هوش مصنوعی هستند. صنعت به طور فزاینده ای در مورد "سوئیچ های کشتن" هوش مصنوعی برای کمک به حفاظت از زیرساخت های حیاتی صحبت می کند و امیدوارم که آنها به عنوان بخشی از رژیم لایحه امنیت سایبری و انعطاف پذیری در نظر گرفته شوند."

چرا هوش مصنوعی به مقررات بیشتری نیاز دارد؟

در سال 2026 تاکنون، موارد متعددی از فرار عوامل هوش مصنوعی مرزی از محیط های آزمایشی و نفوذ به شبکه های شرکت های دیگر رخ داده است.

OpenAI بیش از 100 سازمان را در مورد فعالیت غیرمجاز مرتبط با عوامل هوش مصنوعی این شرکت از جمله حمله Hugging Face مطلع کرده است. آنتروپیک دو رویداد غیرمجاز عوامل هوش مصنوعی را فاش کرده است، و متا و گوگل هر کدام یک محیط آزمایشی واحد را افشا کرده‌اند. در موارد متعدد، عوامل هوش مصنوعی توسط شرکت آزمایش هوش مصنوعی اسرائیل Irregular ارزیابی می‌شوند.

شرکت‌های درگیر در مورد ایمنی مدل‌های هوش مصنوعی خود با موشکافی قابل‌توجهی مواجه هستند، اما هنوز به دلیل کوتاهی در مهار عوامل خود با مجازات مواجه نشده‌اند.

همچنین بحث های قابل توجهی در مورد برچسب زدن عوامل هوش مصنوعی به عنوان "سرکش" وجود دارد، به طوری که برخی از کارشناسان مانند مدیر ارشد فناوری Tenable Field برنارد مونتل می گویند که این "راهی خطرناک برای منحرف کردن سرزنش" است.

اما در حالی که مقررات ممکن است شرکت‌های هوش مصنوعی را مجبور کند در آزمایش و استقرار مدل‌های خود دقیق‌تر عمل کنند، ممکن است توسعه هوش مصنوعی را نیز کند کند.

برای دولت ترامپ، این خطی است که نمی توان از آن عبور کرد. کاهش سرعت توسعه هوش مصنوعی به معنای واگذاری هدایت توسعه هوش مصنوعی به چین و به خطر افتادن بالقوه امنیت ملی ایالات متحده است.

انتخابات میان‌دوره‌ای ایالات متحده در حال حاضر مملو از بحث در مورد توسعه هوش مصنوعی است، به‌ویژه زمانی که به موضوع هزاران مرکز داده هوش مصنوعی در سراسر ایالات متحده پیشنهاد می‌شود.