«تقریبا جنگ شروع شد»: ارتش ایالات متحده پس از دریافت گزارش اطلاعاتی توهم‌آمیز هوش مصنوعی مبنی بر داشتن سلاح هسته‌ای در کشتی نزدیک بود سوار کشتی چینی شود.

یک چت بات جزئیات محموله کاملا نادرست یک کشتی چینی را اختراع کرد

قبل از اینکه کسی منبع را بررسی کند، نیروهای مسلح آماده سوار شدن به کشتی شدند

زمانی که مقامات متوجه خطا شدند، هواپیماهای نظامی از قبل فعال بودند یک ارزیابی نادرست اطلاعاتی تقریبا باعث تهاجم نظامی ایالات متحده به یک کشتی چینی شد، زیرا تجزیه و تحلیل به کمک هوش مصنوعی محموله آن را به اشتباه شناسایی کرد.

این گزارش در جریان درگیری با ایران منتشر شد و قبل از اینکه مقامات متوجه مشکلات جدی در اطلاعات اساسی آن شوند، مقدمات رهگیری کشتی را فراهم کرد.

منابع به سی ان ان گفتند که پرسنل مسلح در حال آماده شدن برای سوار شدن بودند در حالی که هواپیماهای نظامی از آمادگی ها پشتیبانی می کردند و یک رویارویی بالقوه خطرناک بین قدرت های بزرگ ایجاد می کردند.

تجزیه و تحلیل به کمک هوش مصنوعی ارزیابی اشتباه را ایجاد کرد

این قسمت زمانی شروع شد که یک تحلیلگر اطلاعات مربوط به مانیفست کشتی را بررسی کرد و از یک ربات چت برای تفسیر اطلاعات استفاده کرد.

منابع گفتند این سیستم قبل از ایجاد ارزیابی نادرست در مورد محموله کشتی، مواد در دسترس عموم را با اطلاعات سیگنال های طبقه بندی شده ترکیب می کند.

متعاقبا این تحلیلگر دوباره از هوش مصنوعی استفاده کرد تا یافته ها را در قالب استاندارد اطلاعاتی که بین مقامات نظامی توزیع شده بود آماده کند.

مقامات فقط اندکی قبل از عملیات برنامه ریزی شده اطلاعات اساسی را بررسی کردند و نشان دادند که شناسایی محموله گزارش شده اشتباه بوده است.

The source described the assessment as “entirely false,” while CNN reported that another source said it “almost started a war.”

مطالب دقیقی که چت بات به اشتباه شناسایی کرده است به صورت عمومی فاش نشده است و جزئیات مهمی در مورد خطای اصلی در دسترس نیست.

پنتاگون و فرماندهی نظامی مسئول عملیات ویژه اقیانوس آرام درباره این حادثه اظهار نظری نکردند.

این اپیزود زمانی رخ می دهد که ارتش ایالات متحده استفاده خود از ابزارهای هوش مصنوعی را در زمینه اطلاعات، عملیات، مدیریت و تصمیم گیری در میدان جنگ گسترش می دهد.

در ژانویه، وزیر دفاع، پیت هگزث، استراتژی هوش مصنوعی را برای تسریع استقرار در مأموریت‌های نظامی و عملکردهای سازمانی اعلام کرد.

هگزت گفت: «ما آزمایش‌ها را آزاد می‌کنیم، موانع بوروکراتیک را از بین می‌بریم، سرمایه‌گذاری‌های خود را متمرکز می‌کنیم و رویکرد اجرایی مورد نیاز برای اطمینان از اینکه در هوش مصنوعی نظامی رهبری می‌شویم، نشان خواهیم داد.

این استراتژی شامل برنامه هایی برای کارهای اطلاعاتی، برنامه ریزی عملیاتی، عملکردهای سازمانی و دسترسی گسترده تر به سیستم های هوش مصنوعی مولد است.

The department later said more than 1.3 million personnel had used GenAI.mil, generating tens of millions of prompts within five months.

این حادثه یک مشکل تأیید صحت را آشکار می کند

اشتباه گزارش شده بیش از یک پاسخ نادرست چت بات را شامل می شود زیرا خروجی آن وارد فرآیندی می شود که برای تصمیم گیری های نظامی بعدی استفاده می شود.

هنگامی که اطلاعات نادرست در ارزیابی رسمی ظاهر شد، مقامات دریافت کننده سند باید تعیین می کردند که آیا شواهد اساسی آن نتیجه گیری را تأیید می کند یا خیر.

هیچ اطلاعاتی در مورد اینکه کدام رویه های راستی آزمایی قبل از رسیدن ارزیابی به پرسنل آماده کننده عملیات دریایی اعمال شده است، وجود ندارد.

همچنین مشخص نیست که آیا تحلیلگر می‌دانست که چت بات قبل از انتشار گزارش تفسیر نادرستی ارائه کرده است یا خیر.

به گزارش CNN، سازمان‌های نظامی مختلف از سیستم‌های هوش مصنوعی متفاوتی استفاده می‌کنند، در حالی که مقامات روش‌های مختلفی را برای بررسی اطلاعات تولید شده توسط آنها توصیف کرده‌اند.

That fragmented environment makes it difficult to identify a single verification process governing every AI-assisted intelligence product across the military.

ابزارهای هوش مصنوعی می‌توانند تجزیه و تحلیل نظامی را سریع‌تر و آسان‌تر کنند، با این حال پتانسیل آنها برای خطاهای قابل توجه نیاز به تأیید دقیق انسانی قبل از تصمیم‌گیری‌های عملیاتی دارد.

این نیاز زمانی اهمیت بیشتری پیدا می‌کند که اطلاعات مربوط به یک کشور رقیب باشد، جایی که ارزیابی نادرست مربوط به یک کشتی نظامی می‌تواند باعث انتقام‌جویی شود.

یک حمله اشتباه می‌تواند تنش‌ها را بین کشورهای درگیر تشدید کند و به طور بالقوه منجر به یک رویارویی مسلحانه گسترده‌تر یا درگیری سیاسی و نظامی طولانی‌تر شود.