سیستم هدف گیری هوش مصنوعی ارتش آمریکا با افزایش مرگ و میر غیرنظامیان در چندین کشور مرتبط است.
بر اساس تحقیقات مشترک رهگیری و سازمان نظارت بر خسارات غیرنظامی AirWars، استقرار برنامه هدفگیری هوش مصنوعی پنتاگون همزمان با افزایش شدید حملات هوایی آمریکا و کشتهشدگان غیرنظامی در سومالی، عراق، سوریه و ایران رخ داد، که با ادعاهایی که جنگ الگوریتمی باعث کاهش آسیب یا بهبود دقت میشود، متناقض است. پروژه Maven که در ابتدا قبل از عقد قرارداد Palantir در سال 2018 با گوگل توسعه داده شد، جریانهای پهپاد، ماهواره و رادار بیدرنگ را برای سرعت بخشیدن به شناسایی هدف ترکیب میکند. داده های تجزیه و تحلیل شده توسط AirWars نشان می دهد که در دو سال پس از ورود Maven به سومالی در دسامبر 2017، حملات ثبت شده ایالات متحده از 64 به 153 افزایش یافت، در حالی که حداقل تلفات غیرنظامیان از 25 به 79 سه برابر شد. این تحقیق نشان میدهد که چگونه مدلهای بینایی کامپیوتری با وجود نادرستیهای جدی، با نرخ شناسایی زیر 30 درصد و گاهی کمتر از 10 درصد، در قلمروی ناآشنا به کار گرفته شدهاند، زیرا برنامهریزان پنتاگون سومالی را «یک مکان آزادتر» میدانند که در آن اشتباهات «نحوه بهبود تیمها» است. ".
در سوریه، هوش مصنوعی Maven در طول حمله اکتبر 2019 که به ابوبکر البغدادی برخورد کرد، یک وسیله نقلیه غیرنظامی را پرچمگذاری کرد، که منجر به حمله هلیکوپتری شد که منجر به کشته شدن دو کارگر مزرعه شد و بازوی بازمانده برکت را قطع کرد، که بعداً ارتش ایالات متحده ادعای خسارت آن را رد کرد. محققان هشدار دادهاند که تسریع «زنجیره کشتار» با تمرینهای نظامی اخیر که اپراتورها را به تصمیمگیری برای هدفگیری هر 72 ثانیه وادار میکند، نظارت انسانی را به یک توهم تبدیل میکند و خاطرنشان کردند که حمله مشترک آمریکا و اسرائیل به ایران در 40 روز به بیش از 17000 هدف اصابت کرد و هر روز تلفات غیرنظامی را در پی داشت.