گزارش اطلاعاتی «کاملا نادرست» تولید شده توسط هوش مصنوعی «تقریبا جنگی را با چین آغاز کرد» - گزارش

یک گزارش اطلاعاتی فاش می‌کند که یک کشتی چینی در خاورمیانه در حال انتقال اجزای برنامه تسلیحات هسته‌ای است، بلافاصله قبل از اینکه مشخص شود که اطلاعات نادرست است، زنگ خطر را در سراسر ارتش آمریکا به صدا درآورد. سی ان ان به نقل از چهار منبع آگاه گفت: ارتش ایالات متحده بلافاصله برنامه هایی برای رهگیری کشتی انجام داد.

به گفته دو منبع دیگر، دو تن از این منابع گفتند که اعضای مسلح ارتش آمریکا قصد داشتند سوار کشتی شوند و هواپیماهای نظامی نیز در هوا بودند. با این حال، قبل از عملیات برنامه ریزی شده، یک تحلیلگر فرماندهی عملیات ویژه دریافت که این گزارش با هوش مصنوعی تهیه شده است.

به گزارش سی ان ان، یک ربات چت مورد استفاده تحلیلگر به اشتباه مواد موجود در کشتی را شناسایی کرده بود. سی ان ان گفت که این خبرگزاری نتوانست بفهمد محموله در واقع چه بوده است. سی ان ان به نقل از یکی از منابع گفت، این گزارش "کاملا نادرست" بود، اما "تقریبا جنگ را آغاز کرد" زیرا عملیات ایالات متحده علیه یک کشتی چینی به طور بالقوه باعث درگیری مسلحانه بین دو کشور می شد. این حادثه در حالی رخ داد که دونالد ترامپ، رئیس‌جمهور آمریکا در انتظار سفر شی جین پینگ، رئیس‌جمهور چین به واشنگتن در 24 سپتامبر بود. انتظار می‌رود رهبران درباره استفاده از هوش مصنوعی به عنوان متخصص صحبت کنند.

از هر دو دولت می‌خواهند نگرانی‌های فزاینده مرتبط با افزایش استفاده از آن را در نظر بگیرند. مقامات ارتش و جامعه اطلاعاتی ایالات متحده تلاش می‌کنند تا هوش مصنوعی را در «تقریبا همه جنبه‌های کار خود» ادغام کنند، «از تجزیه و تحلیل حجم عظیم اطلاعات خامی که ایالات متحده جمع‌آوری می‌کند و انتخاب اهداف برای حملات، تا برنامه‌های پیش پا افتاده‌تر بودجه و برنامه‌های پیش پا افتاده‌ی انسانی.» برای افزایش استفاده از هوش مصنوعی منطق پذیرش سریع هوش مصنوعی این است که می تواند تصمیمات میدان جنگ را تسهیل و تسریع بخشد، مانند اینکه به کدام اهداف حمله کنیم یا به کدام دارایی های نظامی.

به نقل از CNN. به گفته مقامات، اگر روزی باید با چین یا دشمن دیگری که به طور بالقوه می تواند یک قدم جلوتر باشد، روبرو شود، نمی تواند از این فناوری عقب بماند. سی ان ان گزارش داد، وزیر دفاع ایالات متحده، پیت هگزث، «استراتژی شتاب هوش مصنوعی» را در ژانویه برای تسریع استفاده ارتش از هوش مصنوعی منتشر کرد. او طی یک سخنرانی گفت: «ما آزمایش‌ها را آزاد می‌کنیم، موانع بوروکراتیک را از بین می‌بریم، سرمایه‌گذاری‌های خود را متمرکز می‌کنیم و رویکرد اجرایی مورد نیاز برای اطمینان از اینکه در هوش مصنوعی نظامی پیشرو هستیم را نشان خواهیم داد.» هدف این استراتژی همچنین دموکراتیک کردن «تجربه هوش مصنوعی» است

سی‌ان‌ان با استناد به یادداشتی که این استراتژی را اعلام می‌کند، با قرار دادن مدل‌های هوش مصنوعی پیشرو در جهان آمریکا، مستقیما در دستان سه میلیون پرسنل غیرنظامی و نظامی ما، در تمامی سطوح طبقه‌بندی شده است. بر خطرات عمیق استفاده از هوش مصنوعی تاکید می کند.

سی‌ان‌ان گفت: تحلیلگران مدت‌ها نگران بودند که استفاده از این فناوری جدید و نسبتا ناشناخته می‌تواند منجر به "اشتباه محاسباتی فاجعه‌بار" شود، اگر کشورها بر داده‌های ضعیف یا خراب تکیه کنند. بر اساس گزارش CNN، در این مورد، تحلیلگر از یک ربات چت هوش مصنوعی درباره گزارش اطلاعاتی که از فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام مستقر در هاوایی سرچشمه گرفته است، پرسید.

مشخص نیست که چت بات به صورت تجاری در دسترس است یا محصول دولت ایالات متحده است. به گفته CNN، این ربات اطلاعات منبع باز را با اطلاعات سیگنال های مخفی در دارایی های دولتی برای رسیدن به نتیجه ترکیب کرد. تحلیلگر سپس از هوش مصنوعی برای تهیه گزارش اطلاعاتی برای مقامات نظامی استفاده کرد. به گفته سی ان ان، یک مقام ارشد سابق آمریکایی گفت که هوش مصنوعی ارتش ایالات متحده «چیزهای تجاری است که رژ لب می پوشند». منبع دیگری گفت که «هوش مصنوعی

این گزارش می افزاید: هدف گیری قطعا چیزی است که در حال افزایش است و هیچ راهنمایی واقعی برای اینکه چگونه حضور یک انسان در حلقه از تلفات غیرنظامی یا برادرکشی جلوگیری می کند وجود ندارد. به گفته یکی از منابع CNN، «توهم» چت ربات یک اتفاق مجزا در جامعه اطلاعاتی نبود، زیرا این ابزارها در سراسر دولت شروع به تکثیر کردند. این گزارش می افزاید که اجرای سریع هوش مصنوعی فشار بر تحلیلگران را افزایش داده است تا «تولید و انتشار سریعتر اطلاعات، درها را برای اشتباهات باز کند». و تحلیلگران جوان بیشتر به ربات‌های گفتگوی «uncri» اعتماد می‌کنند

یکی از منابع گفت: "هوش مصنوعی به شما امکان می دهد سریعتر به ایده بد برسید." فرماندهی عملیات ویژه ایالات متحده اقیانوس آرام و پنتاگون به درخواست CNN برای اظهار نظر پاسخ ندادند.