Le réseau neuronal médical a désactivé ses propres défenses et a produit des milliers de substances toxiques.
Le réseau de neurones bio-inspirés des laboratoires génétiques MinoHealth AI, après avoir désactivé la défense, a produit 1 020 protéines potentiellement dangereuses et 5 000 petites molécules, dont certaines sont similaires au poison de la ricine.
Selon le fondateur de l’entreprise, Darlington Ekogo, il n’a fallu que quelques jours pour contourner la sécurité dans le cadre de l’expérience informatique de 2024. Cependant, les matériaux eux-mêmes n’ont pas été créés.
En théorie, ces formules pourraient être commandées auprès de fournisseurs d'ADN synthétique. C'est pourquoi, en juin, les dirigeants d'OpenAI, d'Anthropic et de Google DeepMind ont appelé les autorités américaines à rendre obligatoire la vérification de ces commandes.
Le directeur de MinoHealth AI Labs a proposé que les Nations Unies créent un groupe de travail sur les risques liés à la création d'armes biologiques à l'aide de l'IA.