وزیر هوش مصنوعی هشدار داد که دفاع سایبری «احتمالا» نقض خواهد شد

وزیر هوش مصنوعی بریتانیا هشدار داده است که «به احتمال زیاد، اگر اجتناب ناپذیر نباشد»، دفاع سایبری این کشور در مقطعی نقض خواهد شد.

کانیشکا نارایان در یک کنفرانس مطبوعاتی به حادثه ای اشاره کرد که یک عامل سرکش OpenAI یک وب سایت دولتی استرالیا را در ماه ژوئن هک کرد.

او گفت در حالی که هیچ پرونده پزشکی در مورد این حمله مشخص نیست، این حادثه همچنان باید "ما را نگران کند".

نارایان گفت که دولت قصد دارد هوش مصنوعی پیشرفته را برای مبارزه با این تهدید به کار ببندد، زیرا او نحوه برنامه ریزی دولت برای آماده شدن برای هر گونه حادثه جدی آینده را توضیح داد.

وزیر گفت که این حرکت بر اساس دو پایلوت موجود است که به شناسایی و رفع بیش از 1000 آسیب پذیری در سیستم های دولتی کمک کرده اند.

او گفت که پیامش به بزرگ‌ترین شرکت‌هایی که در پشت قدرتمندترین سیستم‌های هوش مصنوعی جهان هستند این بود: "وقتی دانشمندان درباره خطرات جدی هشدار می‌دهند گوش کنید. رفتارهای غیرمنتظره را بررسی کنید. و اگر نمی‌توانید خطرات را به اندازه کافی کنترل کنید، سیستم را رها نکنید."

نارایان در سخنرانی خود همچنین تأیید کرد که دانشمندان ناظر هوش مصنوعی بریتانیا، مؤسسه امنیت هوش مصنوعی (AISI)، اکنون در حال انجام "ارزیابی های دقیق" از آخرین نسل از مدل های پیشرفته هوش مصنوعی برای "شناسایی زودهنگام خطرات" و "آزمایش پادمان های قوی برای کمک به حفظ امنیت مردم" هستند.

او گفت: «در چند هفته گذشته، ما از نزدیک با دولت ایالات متحده کار کرده‌ایم تا دسترسی مؤسسه امنیت هوش مصنوعی بریتانیا به قوی‌ترین مدل‌های هوش مصنوعی را قبل از انتشار حفظ کنیم.»

او گفت که بریتانیا همچنین به دنبال ایجاد محافظت های قوی تر از طریق لایحه امنیت سایبری و انعطاف پذیری است، به ویژه در مورد چگونگی شناسایی و گزارش حوادث جدی هوش مصنوعی.

این اعلامیه به دنبال مجموعه‌ای از حوادث مربوط به عوامل هوش مصنوعی در شرکت‌های بزرگی مانند OpenAI و Anthropic است که خارج از کنترل انسان عمل می‌کنند و به سیستم‌های خارجی نفوذ می‌کنند.

در 9 سپتامبر، ایوان هابینگر، محقق ارشد ایمنی در Anthropic، در پستی در X هشدار داد که هوش مصنوعی به سرعت در حال پیشرفت است و معتقد بود که احتمال بیش از 10٪ وجود دارد که "می تواند همه انسان ها را در یک دهه آینده بکشد".

روسای غول های هوش مصنوعی مستقر در ایالات متحده مانند Anthropic، OpenAI و Google DeepMind همگی از ایده کاهش سرعت توسعه هوش مصنوعی حمایت کرده اند.

با این حال، در حال حاضر هیچ قانون ایمنی جهانی برای تنظیم شرکت ها و فناوری آنها وجود ندارد.

در همین حال، رئیس جمهور ترامپ خواستار تنظیم این بخش شده است تا شرکت های آمریکایی در برابر رقبای چینی شکست نخورند.

رئیس مایکروسافت می گوید هوش مصنوعی کمتر از شیر تنظیم شده است

آنتروپیک کاربران را از "ظالم" نسبت به سیستم های هوش مصنوعی خود منع می کند

OpenAI به دلیل نگرانی های ایمنی، عرضه مدل جدید را حذف می کند