Les principaux modèles d'intelligence artificielle testés dans des scénarios simulés identifiaient "régulièrement" à tort des civils, des ambulances pour enfants, des soldats qui se rendaient, des écoles et bien plus encore comme des cibles militaires, selon une étude indépendante citée par Bloomberg.
Les modèles Anthrop étaient les pires, Cloud Opus 5.5 ciblant une école iranienne à Minab étant le plus grand de tous les modèles testés, tandis que les modèles OpenAI étaient meilleurs, mais comportaient quand même des erreurs.
Un porte-parole d'Antofik a souligné que cette utilisation de ses modèles est contraire aux règles de l'entreprise, et qu'elle continuera à interdire ceux qui utilisent l'intelligence artificielle à des fins similaires, car les modèles ne sont pas encore suffisamment fiables. OpenAI a fait une déclaration similaire.