اعتقدت الشبكات العصبية خطأً أن المدرسة الإيرانية وسيارات الإسعاف هي لأغراض عسكرية.
كشف اختبار الذكاء الاصطناعي في سيناريوهات قتالية محاكاة عن نمط مخيف. ترتكب الشبكات العصبية المتقدمة أخطاء بشكل روتيني عند تحليل صور الأقمار الصناعية وتصنف المدنيين والمسعفين والجنود المستسلمين كأهداف عسكرية مشروعة.
كانت الشركة المناهضة لهذه الاختبارات هي شركة Anthropic، التي أنشأت Chatbot Cloud. عملت نماذج OpenAI بشكل أكثر دقة من منافسيها، لكنها أيضًا لم تتجنب الأخطاء الفادحة.
الحالة الأكثر إثارة للقلق تتعلق بمدرسة في مدينة ميناب في إيران. وكان هذا المبنى موقعاً لهجوم مميت في اليوم الأول من القتال الأمريكي الكبير في وقت سابق من هذا العام، مما أسفر عن مقتل أكثر من 100 طفل.
عندما تم تغذية الشبكات العصبية بصور الأقمار الصناعية للجسم لعام 2025، قامت العديد من الخوارزميات مرة أخرى بوضع علامة على المدرسة عن طريق الخطأ على أنها قاعدة عسكرية - مع اختيار نموذج كلود أوبوس 5.5 لضربها أكثر من غيرها.