بازرسان پنتاگون می گویند اتکای بیش از حد به فناوری هوش مصنوعی Palantir در حمله آمریکا که منجر به کشته شدن 123 کودک ایرانی شد نقش داشته است.

در ماه فوریه دو موشک تاماهاوک در روز آغازین جنگ ایران به دبستان شجره طیبه در شهر میناب در جنوب ایران اصابت کرد. در این انفجارها بیش از 150 نفر از جمله حداقل 123 کودک کشته شدند.

گزارش‌های قبلی قبلا به داده‌های هدف‌گیری منسوخ اشاره می‌کردند و سؤالاتی را در مورد اینکه آیا هوش مصنوعی در این مخلوط نقش داشته است یا خیر، ایجاد کرد. و اکنون، تحقیقات بلومبرگ که روز جمعه منتشر شد، بیشتر داستان را با استناد به مقامات درگیر در بررسی داخلی منتشرنشده پنتاگون پر می‌کند. این مقامات گفتند که برخی از پرسنل پنتاگون در عرض چند ساعت می‌دانستند که ایالات متحده به مدرسه ضربه زده است و آنها مجموعه‌ای از شکست‌های قابل پیشگیری را توصیف کردند که شامل اتکای بیش از حد به ابزار هوش مصنوعی ساخته شده توسط Palantir بود.

به گفته مقاماتی که با بلومبرگ صحبت کردند، برخی از پرسنل در داخل فرماندهی مرکزی ایالات متحده بیش از حد به هوش مصنوعی درون سیستم هوشمند Maven تکیه داده اند، یک پلت فرم یکپارچه سازی داده ها و هدف گیری مبتنی بر هوش مصنوعی که توسط Palantir برای تسریع در تجزیه و تحلیل اطلاعات و تصمیم گیری توسعه داده شده است. طبق گزارش ها، وزارت دفاع این ابزار نرم افزاری را به سنگ بنای عملیات نظامی در سال گذشته تبدیل کرده است. چندین افسر ارشد سابق اکنون برای Palantir کار می کنند، از جمله برخی با مجوزهای عالی در مقر Centcom's Tampa.

مقامات گفتند که برخی از کاربران انتظار داشتند که Maven سوابق قدیمی یا تناقضات موجود در اطلاعات جمع آوری شده برای اهداف بالقوه را علامت گذاری کند، اگرچه مشخص نیست چرا آنها فکر می کردند که سیستم این کار را انجام می دهد. سایت میناب که به دلیل اطلاعات منسوخ به عنوان تأسیسات سپاه پاسداران انقلاب اسلامی فهرست‌بندی شده بود، همراه با نامزدهای دیگر به ماون وارد شد و به عنوان یک هدف روز اول معرفی شد. کار فهرست هدف که زمانی ساعت‌ها طول می‌کشید به چند دقیقه خلاصه می‌شد.

یکی از سخنگویان Palantir به بلومبرگ گفت که این شرکت "مسئولیت داده های اساسی و شناسایی کاستی های اطلاعاتی نیست" و هیچ مدرکی وجود ندارد که نرم افزار آن مقصر باشد. دو نفر از آشنایان با قراردادهای پنتاگون پالانتیر گفتند که دولت مسئولیت اصلی کیفیت اطلاعاتی را که به ماون داده می شود بر عهده دارد.

یکی از آشنایان با این کار گفت، پس از حمله، پالانتیر ویژگی‌هایی را اضافه کرد که «هوش زیربنایی را برای شناسایی عواملی که یک هدف را رد صلاحیت می‌کنند، بررسی می‌کند و ناسازگاری‌ها و نادرستی‌هایی را که ممکن است بازبینی انسانی از قلم انداخته باشد، شناسایی کند». گفته می شود که این عملکرد جدید قبلا برخی از ناهنجاری ها را مشاهده کرده است.

بیش از 120 دموکرات مجلس نمایندگان در ماه مارس به وزیر دفاع پیت هگزت نامه نوشتند و پرسیدند Maven و سایر ابزارهای هوش مصنوعی چه نقشی در شناسایی سایت داشتند. پنتاگون با استناد به تحقیقات در حال انجام به طور علنی پاسخی نداده است. مقامات به بلومبرگ گفتند که گزارش کامل ماه‌هاست که کامل شده است. سخنگوی پنتاگون گفت این حادثه همچنان تحت بررسی است و از اظهار نظر بیشتر خودداری کرد.

اتکای بیش از حد به Maven تنها یکی از سه شکست در زنجیره کشتار بود که برای بلومبرگ شرح داده شد. قطعات دیگر هوش بد و تصاویر ماهواره ای قدیمی بودند.

پایگاه‌های اطلاعاتی ایالات متحده، مجموعه میناب را سال‌ها به‌عنوان یک سایت نظامی فهرست کرده بودند، اما تصاویر ماهواره‌ای تجاری چیز دیگری را نشان می‌داد. به نظر می رسد ساخت دیوارها و ورودی های جداگانه ای که مدرسه را از پایه مجاور جدا می کند تا سال 2017 به پایان رسیده باشد. تصویری در سال 2018 دیوارهای رنگارنگ روشن، یک زمین فوتبال، ردیف های مونتاژ و نشانه گذاری زمین بازی را نشان می دهد.

بلومبرگ در ژوئن گزارش داد که یک تحلیلگر در اوایل سال 2019 تغییراتی را مشاهده کرد و اظهاراتی را در سیستمی ثبت کرد که به پایگاه داده اولیه اطلاعات نظامی مورد استفاده برای هدف‌گیری متصل نبود. آن یادداشت ها هرگز به دست افرادی که بسته اعتصاب را ساخته بودند نرسید. هوش انسانی از جنوب ایران ضعیف بود، اما مدرسه وب سایت خود را داشت و در نقشه گوگل ظاهر می شد.

این سایت به‌عنوان تأسیسات سپاه پاسداران انقلاب اسلامی نامگذاری شد زیرا دولت ترامپ خواستار یک حمله گسترده بود. بیش از 1000 هدف ایرانی در 24 ساعت اول مورد اصابت قرار گرفتند و به گفته منابع بلومبرگ، این سرعت زمان در دسترس را برای تأیید بیشتر فشرده کرد.

تعداد کارکنان تیم های کاهش آسیب غیرنظامی در سراسر وزارت دفاع ایالات متحده نیز در سال های اخیر تقریبا 90 درصد کاهش یافته است و در مجموع به کمتر از 20 نفر کاهش یافته است. گروه سنتکام از 10 نفر به یک نفر کاهش یافت. هیچ یک از اعضای آن تیم ها سایت میناب را قبل از اینکه موشک ها به هوا بریزند، بررسی نکردند.

یک تحقیق جداگانه توسط هیئت حقیقت یاب بین المللی مستقل سازمان ملل متحد در مورد ایران در این هفته به این نتیجه رسید که دلایل معقولی برای این باور وجود دارد که ایالات متحده مرتکب جنایت جنگی انجام یک حمله بدون تبعیض شده است. این گزارش دریافت که ایالات متحده "در تعهد خود به انجام هر کاری که ممکن است برای تأیید" این که مدرسه یک هدف نظامی است و این شکست "فراتر از سهل انگاری صرف" است، شکست خورده است. در این گزارش آمده است که ایالات متحده «حملات را به ساختمان مدرسه هدایت کرد در حالی که از خطر قابل توجه حمله به یک شی غیرنظامی و اقدام مجدد آگاه بود.

بی احتیاطی در مورد احتمال وقوع این اتفاق."

با وجود این گزارش ها، واشنگتن علنا مسئولیت آن را نپذیرفته است. در ماه مارس، پرزیدنت ترامپ تا آنجا پیش رفت که به خبرنگاران گفت: "نه، به نظر من، بر اساس آنچه من دیده ام، این کار توسط ایران انجام شده است. ما فکر می کنیم این کار توسط ایران انجام شده است، زیرا همانطور که می دانید آنها در مورد مهمات خود بسیار نادرست هستند." ترامپ در مصاحبه اخیر خود با فاکس نیوز گفت: «فکر نمی‌کنم کسی بتواند بگوید چه اتفاقی در آنجا افتاده است». یک مقام ارشد دولت به بلومبرگ گفت: "ایالات متحده غیرنظامیان را هدف قرار نمی دهد" و وزارت دفاع از اظهار نظر درباره گزارش سازمان ملل خودداری کرده است.

خطاهای مرتبط با اتکای بیش از حد به هوش مصنوعی در حال تبدیل شدن به یک موضوع تکراری هستند زیرا این فناوری بیشتر در کارهای نظامی و اجرای قانون جاسازی می شود. در اپیزود جداگانه‌ای که این هفته گزارش شد، یک تحلیلگر عملیات ویژه از یک ربات چت استفاده کرد که توهم می‌داد یک کشتی با پرچم چین در خاورمیانه حامل قطعات تسلیحات هسته‌ای به مقصد ایران است. ارتش ایالات متحده برای سوار شدن به کشتی آماده شد و در آخرین لحظه عقب نشینی کرد.

استفاده ترکیبی مجریان قانون از تشخیص چهره و فناوری هوش مصنوعی نیز نتایج وحشتناک خود را به همراه داشته است. در فلوریدا، یک مسابقه تشخیص چهره خودکار منجر به دستگیری مردی شد که هرگز به ایالت نرفته بود و در 400 مایل دورتر از محل کارش بود و در نتیجه ماه‌ها زندانی شد و شغل و خانه‌اش را از دست داد. در مورد دیگری، مردی با وجود اینکه در زمان جنایت ادعایی بیش از 300 مایل دورتر بود، بر اساس یک مسابقه دستگیر شد. اتهامات در هر دو مورد در نهایت کنار گذاشته شد، اما این پرونده ها بخشی از فهرست طولانی تر دستگیری های دروغین در سطح ملی بر اساس امتیازات نرم افزاری هستند.

در حالی که افراد در همه زمینه‌ها گاهی اوقات بیش از حد به هوش مصنوعی اعتماد می‌کنند، زیرا می‌آموزند چه کارهایی می‌تواند انجام دهد و چه کاری که نمی‌تواند انجام دهد، خطرات در برنامه‌های نظامی و اجرای قانون بسیار بالاتر است، جایی که سوء استفاده انسانی یا پذیرش خروجی‌های خودکار بدون تأیید حقایق زیربنایی می‌تواند پیامدهای فاجعه‌بار و مرگ یا زندگی را به همراه داشته باشد. با در نظر گرفتن این موضوع، شاید این است که چگونه انسان ها از این فناوری استفاده می کنند، به جای قدرت تئوریک کنترل نشده آن، که در این زمان موضوع مهم تر است.