מודלים מובילים של בינה מלאכותית שנבדקו בתרחישים מדומים טעו בזיהוי "באופן קבוע" של אזרחים, אמבולנסים לילדים, חיילים נכנעים, בתי ספר ועוד כמטרות צבאיות, על פי מחקר בלתי תלוי שצוטט על ידי בלומברג.
דגמי אנתרופים היו הכי גרועים, כשקלוד אופוס 5.5 מכוון לבית ספר איראני במינאב הכי הרבה מכל הדגמים שנבדקו, בעוד שדגמי OpenAIs היו טובים יותר, אבל עדיין עשו טעויות.
דובר של אנתופיק הדגיש שהשימוש הזה בדגמים שלה מנוגד לכללי החברה, והיא תמשיך לאסור על אלה שמשתמשים בבינה מלאכותית למטרות דומות, מכיוון שהדגמים עדיין לא מספיק אמינים. OpenAI הצהירה הצהרה דומה.