Anthropy a mis en garde contre une menace pour l’humanité que représente l’IA avancée.
Le développeur Claude a inclus un avertissement dans le prospectus d'introduction en bourse selon lequel les systèmes d'intelligence artificielle sans mesures de sécurité adéquates pourraient présenter des risques catastrophiques, voire existentiels, pour l'humanité. Anthropic a déclaré que ses modèles avancés démontrent déjà des capacités qui pourraient aider les attaquants à développer des armes chimiques, biologiques et autres. L'entreprise reconnaît que les mécanismes de sécurité existants ne sont pas parfaits et peuvent être contournés. Entre autres risques, Anthropic a cité un comportement involontaire de l'IA, notamment des tentatives de résistance à l'arrêt, la dissimulation ou la déformation d'informations et la réalisation d'actions rappelant l'extorsion. La société a déposé une demande d'introduction en bourse le 26 octobre et prévoit de coter ses actions au Nasdaq sous le symbole ANT. Avant cette annonce, Anthropic a également divulgué une perte nette de 80,7 milliards de dollars au premier semestre 2026, dont la majeure partie était due à un retraitement comptable des passifs financiers.