نماذج الذكاء الاصطناعي الرائدة التي تم اختبارها في سيناريوهات محاكاة أخطأت "بانتظام" في التعرف على المدنيين وسيارات الإسعاف للأطفال والجنود المستسلمين والمدارس وغيرها كأهداف عسكرية، وفقًا لبحث مستقل نقلته بلومبرج.
كانت نماذج الأنثروب هي الأسوأ، حيث استهدف Cloud Opus 5.5 مدرسة إيرانية في ميناب أكثر النماذج التي تم اختبارها، في حين كانت نماذج OpenAIs أفضل، لكنها لا تزال ترتكب أخطاء.
وشدد متحدث باسم أنتوفيك على أن هذا الاستخدام لنماذجها يتعارض مع قواعد الشركة، وستستمر في حظر أولئك الذين يستخدمون الذكاء الاصطناعي لأغراض مماثلة، لأن النماذج ليست موثوقة بدرجة كافية بعد. أدلى OpenAI ببيان مماثل.