Les systèmes avancés d'intelligence artificielle sans mesures de sécurité et de contrôle adéquates peuvent constituer une menace existentielle pour l'humanité, et les modèles les plus puissants peuvent aider les attaquants à créer des armes de destruction massive, selon Anthrop (créateur Claude).