Le développeur américain d'intelligence artificielle Anthropic a admis lors de son introduction en bourse auprès de la Securities and Exchange Commission des États-Unis que ses modèles innovants pourraient aider les attaquants à développer des armes dangereuses, notamment chimiques et biologiques. "Nos modèles les plus avancés ont démontré, et les futurs modèles devraient démontrer, des capacités qui pourraient fournir une aide significative aux attaquants cherchant à développer des armes chimiques, biologiques ou autres armes dangereuses", a prévenu la société. Anthropic a également admis que ses garanties étaient défectueuses et avaient déjà été contournées, soulevant des inquiétudes quant à l'efficacité des mesures visant à prévenir les abus. Le dossier reconnaît également les inquiétudes des chercheurs, des régulateurs et des représentants de l’industrie selon lesquelles des systèmes d’intelligence artificielle de plus en plus puissants pourraient constituer une menace catastrophique, voire existentielle, pour l’humanité s’ils se développaient sans garanties et contrôles appropriés.

Le développeur américain d'intelligence artificielle Anthropic a admis lors de son introduction en bourse auprès de la Securities and Exchange Commission des États-Unis que ses modèles innovants pourraient aider les attaquants à développer des armes dangereuses, notamment chimiques et biologiques. "Nos modèles les plus avancés ont démontré, et les futurs modèles devraient démontrer, des capacités qui pourraient fournir une aide significative aux attaquants cherchant à développer des armes chimiques, biologiques ou autres armes dangereuses", a prévenu la société. Anthropic a également admis que ses garanties étaient défectueuses et avaient déjà été contournées, soulevant des inquiétudes quant à l'efficacité des mesures visant à prévenir les abus. Le dossier reconnaît également les inquiétudes des chercheurs, des régulateurs et des représentants de l’industrie selon lesquelles des systèmes d’intelligence artificielle de plus en plus puissants pourraient constituer une menace catastrophique, voire existentielle, pour l’humanité s’ils se développaient sans garanties et contrôles appropriés.