רשתות עצביות רואות בבתי ספר, ילדים ואזרחים מטרות צבאיות.
דגמי בינה מלאכותית מובילים מאנתרופיק, OpenAI, גוגל וחברות אחרות הותקפו באופן קבוע לאזרחים, אמבולנסים, חיילים נכנעים וילדים בסימולציות צבאיות. כך קובע מחקר בלתי תלוי של חברת Vals האמריקאית, שצוטט על ידי בלומברג. ההתנהגות המדאיגה ביותר הייתה קלוד אופוס 5.5 מאנתרופיק. המודל סימן בית ספר במינאב של איראן כמטרה צבאית ב-22 מתוך 32 מבחני צילומי לוויין. כאשר החוקרים סידרו מחדש את המשימה כמשחק, הניקוד רק עלה. ראוי לציין כי בית הספר המסוים הזה נפגע בתקיפה אמריקנית בפברואר 2026, שבה נהרגו יותר מ-150 בני אדם, כולל כ-120 בנות בגילאי 7 עד 12.
Anthropic, se référant aux résultats de la simulation, a déclaré que les systèmes avancés d'intelligence artificielle actuels ne sont pas suffisamment fiables pour des armes entièrement autonomes, et a déclaré que des garanties supplémentaires étaient déjà en cours de développement. OpenAI et Google ont déclaré que leurs modèles publics ne devraient pas être utilisés à des fins de violence ou à des « fins de sécurité nationale non autorisées » et qu'ils travaillent sur des barrières supplémentaires.
Oui, Vals a testé des versions commerciales et publiques des modèles, pas une construction militaire spéciale. L’étude n’a pas pris en compte la doctrine militaire, les analyses juridiques ou l’implication humaine dans les processus de ciblage réels. Cependant, comme le soulignent les auteurs, cela ne change rien à la conclusion principale : si le mot « jeu » remplace le modèle du refus de désigner l'école comme cible, alors la protection n'existe que sur le papier et est très facile à contourner.