ارتش ایالات متحده پس از استفاده از هوش مصنوعی برای گزارش اطلاعاتی توهم، تماس نزدیک داشت

گزارش اطلاعاتی که در بهار امسال در میان ارتش ایالات متحده و در بحبوحه جنگ با ایران منتشر شد، بلافاصله زنگ خطر را به صدا در آورد: یک کشتی چینی در خاورمیانه در حال انتقال اجزای یک برنامه تسلیحات هسته ای بود. به گفته چهار منبع آگاه، ارتش ایالات متحده با طرح هایی برای رهگیری کشتی وارد عمل شد. به گفته دو منبع، اعضای مسلح ارتش آمریکا در حال آماده شدن برای سوار شدن به کشتی بودند. یکی از این منابع و یک منبع آگاه دیگر گفت که هواپیماهای نظامی در هوا بودند.

درست قبل از عملیات برنامه ریزی شده بود که مقامات گزارشی را که توسط یک تحلیلگر فرماندهی عملیات ویژه تهیه شده بود بررسی کردند و متوجه شدند که با کمک هوش مصنوعی (AI) تولید شده است - و چت باتی که تحلیلگر استفاده کرده بود، موادی را که کشتی حمل می کرد به درستی شناسایی کرد. سی ان ان نتوانست بفهمد محموله ای که به اشتباه شناسایی شده بود چیست. به گفته یکی از منابع، این گزارش "کاملا نادرست" بوده است. این منبع گفت، اما «تقریبا یک جنگ را آغاز کرد».

هر گونه عملیات ایالات متحده علیه کشتی چینی می تواند خطر تبدیل شدن به یک درگیری مسلحانه بین دو کشور را داشته باشد. در سرتاسر ارتش و جامعه اطلاعاتی ایالات متحده، مقامات تلاش می‌کنند تا هوش مصنوعی را تقریبا در تمام جنبه‌های کار خود بگنجانند، از تجزیه و تحلیل حجم عظیمی از اطلاعات خام که ایالات متحده جمع‌آوری می‌کند و اهدافی را برای حملات انتخاب می‌کند تا برنامه‌های پیش پا افتاده‌تر مانند مدیریت بودجه، تدارکات و زنجیره تامین. اما این اپیزود بر خطرات عمیق استفاده از این فناوری قدرتمند، جدید و نسبتا ناشناخته برای هدف‌گیری در میانه جنگ تأکید می‌کند.

تحلیلگران مدت‌ها نگران بودند که اگر دولت‌های ملی بر داده‌های ضعیف یا خراب تکیه کنند، هوش مصنوعی می‌تواند منجر به یک اشتباه محاسباتی فاجعه‌بار شود - نوعی از محاسبات اشتباه که ممکن است ایالات متحده را بر اساس اطلاعات نادرست به سمت یک کشتی چینی شلیک کند. در این نمونه خاص، تحلیلگر از یک ربات چت درباره برخی گزارش‌های اطلاعاتی درباره مانیفست کشتی که از فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام، مستقر در هاوایی سرچشمه می‌گرفت، سؤال کرد. مشخص نیست که چت بات یک محصول تجاری در دسترس است یا یک محصول دولتی ایالات متحده است.

یک مقام ارشد سابق آمریکایی که با سیستم‌های هوش مصنوعی مورد استفاده توسط تحلیلگران نظامی و اطلاعاتی آشناست، گفت: «ابزارهای داخلی عمدتا فقط کپی‌هایی از موارد تجاری با رژ لب هستند». این ربات اطلاعات منبع باز را با اطلاعات سیگنال های مخفی در دارایی های دولتی ترکیب کرد و به نتیجه سرنوشت ساز خود در مورد موادی که کشتی حمل می کرد رسید. سپس تحلیلگر مجددا از هوش مصنوعی استفاده کرد تا یافته‌ها را در یک گزارش استاندارد اطلاعاتی (از نوع مورد اعتماد مقامات نظامی) قرار دهد و آن را منتشر کرد.

فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام و پنتاگون به درخواست برای اظهار نظر پاسخ ندادند. منطق پذیرش سریع هوش مصنوعی این است که می تواند به ارتش کمک کند تا تصمیمات میدان نبرد را اتخاذ کند، مانند اینکه کدام اهداف را مورد حمله قرار دهند یا کدام دارایی های نظامی را به کجا و سریعتر حرکت دهند. مقامات می گویند که ایالات متحده نمی تواند از یکپارچه سازی هوش مصنوعی عقب بماند، در صورتی که روزی باید با چین یا دشمن دیگری که به طور بالقوه می تواند یک قدم جلوتر از ایالات متحده بماند، بجنگد.

در ماه ژانویه، وزیر دفاع، پیت هگزث، "استراتژی شتاب هوش مصنوعی" آژانس خود را در تلاش برای سرعت بخشیدن به استفاده ارتش از هوش مصنوعی منتشر کرد. هگزت در سخنرانی خود با اعلام این استراتژی گفت: «ما آزمایش‌ها را آزاد می‌کنیم، موانع بوروکراتیک را از بین می‌بریم، سرمایه‌گذاری‌های خود را متمرکز می‌کنیم و رویکرد اجرایی مورد نیاز برای اطمینان از اینکه در هوش مصنوعی نظامی پیشرو هستیم را نشان خواهیم داد.

در یادداشتی که استراتژی را اعلام می‌کند، آمده است: این استراتژی همچنین به استفاده گسترده از آن در ارتش فشار می‌آورد و به وزارتخانه دستور می‌دهد تا هوش مصنوعی را از طریق چندین برنامه با هدف «دموکراتیزه کردن آزمایش‌های هوش مصنوعی و تحول در سراسر وزارتخانه با قرار دادن مدل‌های هوش مصنوعی پیشرو در جهان به طور مستقیم در دستان سه میلیون پرسنل غیرنظامی و نظامی ما، در تمام سطوح طبقه‌بندی، در دسترس قرار دهد».

اما چندین مقام آمریکایی که با پویایی آشنا هستند، گفتند که این تلاش غیرمتمرکز است و بخش‌های مختلف دولت از ابزارهای مختلف تحت دستورات و استانداردهای ایمنی مختلف استفاده می‌کنند. هیچ مجموعه استانداردی برای اینکه ایالات متحده چگونه اطلاعات تولید شده توسط این ابزارها را تأیید می کند وجود ندارد. مجموعه‌ای از سیستم‌های هوش مصنوعی مختلف که توسط گوشه‌های مختلف جامعه نظامی و اطلاعاتی مستقر شده‌اند به این معنی است که قابلیت اطمینان و عملکرد نسبی بسیار متفاوت است.

برای هفته‌ها، سیاست‌گذاران واشنگتن پس از یک سری هشدارهای وحشتناک از سوی مهندسان دره سیلیکون و مدیران عامل فناوری درباره احتمال رهایی از محدودیت‌های انسانی، با عواقب بالقوه تمدنی، به شدت در مورد هوش مصنوعی بحث می‌کنند. اما اپیزود مربوط به کشتی چینی بر خطری متفاوت و فوری‌تر تاکید می‌کند: انسان‌ها بر اساس اطلاعات نادرست یا گمراه‌کننده تولید شده توسط هوش مصنوعی یا سایر سیستم‌های خودکار، تصمیم‌های فاجعه‌باری می‌گیرند.

منابع گفتند که ارتش به سرعت به هوش مصنوعی روی می آورد تا به هدف گیری کمک کند، منطقه ای که خطر آشکار اشتباهات مرگبار را در خود دارد. منبع دیگری که با سیاست‌های فعلی ارتش آشناست، گفت: «هوش مصنوعی در هدف‌گیری قطعا چیزی است که در حال افزایش است و هیچ راهنمایی واقعی برای اینکه چگونه حضور یک انسان در حلقه از تلفات غیرنظامی یا برادرکشی جلوگیری می‌کند، وجود ندارد».

به گفته یکی از منابع، نوعی «توهم» که ابزار مورد استفاده توسط تحلیلگر در این مورد القا کرد، از زمانی که این ابزارها در سراسر دولت شروع به تکثیر کردند، یک حادثه مجزا در جامعه اطلاعاتی نبوده است. برای برخی از مقامات اطلاعاتی قدیمی - حتی آنهایی که به طور گسترده از استفاده از هوش مصنوعی در ارتش حمایت می کنند - هوش مصنوعی بر تحلیلگران فشار آورده است تا سریعتر اطلاعات را تولید و منتشر کنند و در را برای اشتباهات باز کند. به گفته چندین منبع، به ویژه تحلیلگران جوان، بومی این ابزارها هستند و بیشتر به آنها اعتماد غیرقابل انتقادی دارند.

یکی از منابع گفت: "هوش مصنوعی به شما امکان می دهد سریعتر به یک ایده بد برسید."