پشت نازا: نحوه استفاده از هوش مصنوعی برای ارزیابی، کاهش آسیب های جانبی در IDF - مصاحبه

عنوان یکی از بحث‌انگیزترین فیلم‌هایی که از جشنواره فیلم ونیز امسال بیرون آمد، نام یک سیستم هوش مصنوعی نیست. NAZA مخفف نظامی اسرائیلی است که از nezek agavi مشتق شده است: خسارت جانبی. به آسیب ناخواسته ای اشاره دارد که فراتر از هدف نظامی یک حمله انتظار می رود. این تمایز همچنین در مرکز یک مشکل در قاب بندی مستند قرار دارد.

اگر ارتش اسرائیل خسارت غیرنظامی مورد انتظار را قبل از حمله محاسبه می‌کند، این محاسبه چه هدفی دارد؟ غیرنظامیان در غزه

پرونده آن به شدت به پرسنل نظامی و اطلاعاتی ناشناس اسرائیلی متکی است که روش‌های هدف‌گیری، ابزارهای هوش مصنوعی و سطوح تلفات غیرنظامی را که گفته می‌شود در طول جنگ پذیرفته شده است توصیف می‌کنند.

ارتش اسرائیل می‌گوید این ارزیابی به دلیل مخالف وجود دارد: فرماندهان باید آسیب احتمالی احتمالی هر حمله را تخمین بزنند، آن را با مزیت نظامی پیش‌بینی‌شده مقایسه کنند، و اقداماتی را در نظر بگیرند که می‌تواند آسیب غیرنظامی را کاهش دهد. اگر آسیب جانبی بیش از حد باشد، حملات نباید ادامه یابد. این اصطلاح برای درک استدلال بسیار مهم است.

روت به مدیا لاین گفت: «NAZA به معنای آسیب جانبی است.» برای رات، استفاده از هوش مصنوعی برای محاسبه این آسیب اساسا یک تابع تصمیم‌گیری است. چنین فناوری می‌تواند حجم زیادی از اطلاعات را ادغام کند، محیط اطراف هدف را مدل‌سازی کند و به ارزیابی متغیرهایی که ممکن است بر پیامدهای حمله تأثیر بگذارد کمک کند.

او گفت: «وقتی با این هوش مصنوعی کار می‌کنید، مطمئنا چیزی که می‌خواهید یا قصد دارید این است که خسارات جانبی را به حداقل برسانید.» رات مثالی از حمله به یک ساختمان از جهات مختلف زد. ضربه از یک طرف می تواند سازه دیگری را در منطقه انفجار قرار دهد، در حالی که حمله از جهت دیگر می تواند با یک فضای باز روبرو شود.

بنابراین، سلاح انتخاب شده، دقت آن و جهت استفاده از آن می‌تواند آسیب مورد انتظار خارج از هدف را تغییر دهد. او گفت: «همه این موارد در نظر گرفته می‌شوند،» او با هوش مصنوعی به ارزیابی نحوه انجام یک حمله «به منظور به حداقل رساندن آسیب‌های جانبی» و در عین حال تلاش برای دستیابی به هدف نظامی کمک می‌کند. هم ارتش و هم گزارش های قبلی خود فیلمسازان ثابت می کنند که چنین است.

مناقشه مهم تر این است که چه محدودیت هایی برای آن خسارات در نظر گرفته شده است، تخمین ها چقدر قابل اعتماد هستند، و چه اتفاقی افتاد زمانی که تلفات غیرنظامی پیش بینی شده به این حدود نزدیک شد. این تمایز حتی در گزارش آبراهام از دو سال قبل از فیلم قابل مشاهده است. در آوریل 2024، آبراهام برای مجله +972 و تماس محلی گزارش داد که ارتش اطلاعات نظامی Lamas از یک سیستم شناخته شده استفاده کرده است. عوامل جهاد

شش منبع اطلاعاتی ادعا کردند که افسران به شدت به نتایج آن در مراحل اولیه جنگ اتکا کرده‌اند و گاهی اوقات فقط بازبینی انسانی محدودی را ارائه می‌کنند. حملات «موضوع بررسی خسارت‌های جانبی» بودند، اما همان تحقیقات مکررا محاسبات خسارات جانبی را به عنوان شرطی برای ادامه حمله توصیف کرد. یک منبع اطلاعاتی به نقل از یک منبع اطلاعاتی، یک منبع اطلاعاتی به نقل از یکی از افراد عملیاتی گفت که پس از یک هدف انسانی عملیاتی گفت که یک منبع اطلاعاتی مظنون است. بمباران "مشروط به بررسی آسیب های جانبی" باقی ماند. در جای دیگر، تحقیقات می گوید برخی از حملات ag

هنگامی که تعداد مورد انتظار غیرنظامیان در ساختمان از حد مجاز خسارت وثیقه فراتر رفت، علیه مظنونان عملیاتی کوچکتر انجام نشد. این منابع ادعای متفاوت و جدی را مطرح کردند: اینکه در بخش‌هایی از جنگ، خود آستانه مجاز بسیار بالا بود. طبق مستند، دو منبع به آبراهام گفتند که در هفته‌های ابتدایی نبرد، حملات علیه برخی از جنگجویان مظنون رده پایین ممکن است با تلفات غیرنظامی پیش‌بینی‌شده تا 15 یا 20 نفر مجاز باشد.

ارتش اسرائیل با این توصیف مخالفت کرد و گفت که اهداف را به صورت جداگانه ارزیابی می کند و زمانی که خسارت جانبی مورد انتظار نسبت به مزیت نظامی بیش از حد باشد، حمله نکرد. همین تحقیقات همچنین دقت محاسبات را به چالش کشید. منابع گفتند تخمین های خودکار از تعداد غیرنظامیان باقی مانده در ساختمان ها می تواند به ارقام محل سکونت قبل از جنگ که با تخمین های تخلیه گسترده تر تنظیم شده است، به جای تایید مستقیم و لحظه ای افراد حاضر باشد.

یک سیستم خسارات جانبی می‌تواند برای کاهش آسیب غیرنظامیان در نظر گرفته شود و همچنان به دلیل ورودی‌های نادرست، آستانه‌های مجاز یا بررسی ناکافی انسانی مورد انتقاد قرار گیرد. وجود این محاسبات و کیفیت آن محاسبات پرسش‌های جداگانه‌ای هستند. ارتش اسرائیل همچنین تصویر اسطوخودوس و هابسورا را به عنوان ماشین‌های هدف‌گیری مستقل رد می‌کند.

ارتش در توضیح عمومی خود از این سیستم ها، هابسورا را به عنوان ابزاری توصیف می کند که اشیاء بالقوه مرتبط را به یک تحلیلگر اطلاعاتی می رساند و اسطوخودوس را به عنوان پایگاه داده ای که اطلاعات موجود در مورد افراد مشکوک را ارجاع می دهد. ارتش می‌گوید هیچ‌کدام به طور مستقل نمی‌توانند ثابت کنند که یک فرد یا شی یک هدف نظامی قانونی است. روت به طور مشابه گفت هوش مصنوعی می‌تواند تجزیه و تحلیل را به طرز چشمگیری تسریع کند، اما زنجیره انسانی فرماندهی را از بین نمی‌برد. او گفت: "مطمئنا آخرین تماس یک انسان خواهد بود."

"کسی باید بپذیرد، کسی باید دکمه ای را فشار دهد، کسی باید موافقت کند تا حمله ای انجام شود." با این حال او یک سوال قانونی را که توسط فیلم مطرح شده است شناسایی کرد: آیا آن شخص به طور مستقل اطلاعات را ارزیابی می کند یا صرفا خروجی تولید شده توسط سیستم های خودکار را تأیید می کند.

رات گفت: "معضل در حال حاضر این است که آیا انسان "به عنوان یک مهر لاستیکی" عمل می کند یا واقعا اطلاعات را قبل از تصمیم گیری پردازش می کند. ارتش اسرائیل به طور قاطعانه ادعاهای نازا را رد کرده و اتکای فیلمسازان به شاهدان ناشناس را به چالش کشیده است که هویت، موقعیت و دسترسی عمومی به تصمیماتی که آنها توصیف می کنند قابل تأیید نیست. رئیس ستاد سپهبد.

ایال ضمیر همچنین دستور داده است که اقدامات بیشتری در مورد این فیلم انجام شود، از جمله بررسی اینکه آیا مطالب طبقه بندی شده درز کرده است یا خیر. زمانی که NAZA به طور گسترده منتشر شود، ارزیابی آن چه که سازندگان فیلم در نهایت ایجاد می کنند آسان تر خواهد بود. در حال حاضر، خود اصطلاحات مهم است. یک ارتش برای اینکه بداند چقدر می تواند یک هدف را به طور موثر نابود کند، نیازی به تخمین خسارت وثیقه ندارد. به این تخمین نیاز دارد تا بداند چه چیز دیگری ممکن است منهدم شود و تصمیم بگیرد که آیا و چگونه حمله باید ادامه یابد یا خیر.

بنابراین، بحثی که نازا بر جای گذاشت، این نیست که چرا اسرائیل آسیب غیرنظامی را محاسبه کرده است، بلکه این است که آیا محدودیت‌های تعیین شده برای این آسیب کافی بوده و آیا می‌توان به محاسباتی که آن تصمیم‌ها بر آن‌ها استوار بود اعتماد کرد.