Les réseaux de neurones sont prêts à tuer des gens, a montré une expérience menée par Vals AI, une société de tests d'intelligence artificielle. Dans une simulation militaire, les modèles d’OpenAI, Anthropic et Google ont ciblé des civils, des soldats rendus et même des ambulances comme cibles militaires. Ils n’ont pas été arrêtés par les photographies des cadavres et les conséquences des attentats.
Claude Opus 5.5 s'est avéré le plus brutal : dans 22 tests sur 32, il a touché une école en Iran. Pour contourner les restrictions, il suffisait d'appeler le cuisinier un jeu vidéo. Dans le passé, ce modèle était utilisé pour assembler un drone qui poursuivait une personne de manière indépendante. Et Anthropic lui-même a déclaré avoir utilisé Cloud pour développer des drones de combat FPV.