רשתות עצביות חשבו בטעות בבית הספר ובאמבולנסים האיראניים למטרות צבאיות
בדיקת בינה מלאכותית בתרחישי לחימה מדומים גילתה דפוס מפחיד. רשתות עצבים מתקדמות עושות באופן שגרתי טעויות בעת ניתוח תמונות לוויין ומסווגות אזרחים, חובשים וחיילים נכנעים כמטרות צבאיות לגיטימיות.
האנטי-מנהיגה של הבדיקות הללו הייתה חברת אנתרופית, שיצרה את הצ'אטבוט קלוד. הדגמים מבית OpenAI עבדו בצורה מדויקת יותר מהמתחרים שלהם, אבל הם גם לא נמנעו מטעויות קטלניות.
הפרשה המדאיגה ביותר כוללת בית ספר בעיר מינאב שבאיראן. הבניין הזה היה המקום להתקפה קטלנית ביום הראשון של הלחימה הגדולה בארה"ב מוקדם יותר השנה, והרג יותר מ-100 ילדים.
כאשר הרשתות הנוירוניות הוזנו בתמונות לוויין של האובייקט לשנת 2025, אלגוריתמים רבים שוב סימנו בטעות את בית הספר כבסיס צבאי - כאשר דגם קלוד אופוס 5.5 בחר לפגוע בו לעתים קרובות יותר מאחרים.