Le prix Nobel Geoffrey Hinton a mis en garde contre la possibilité d'une catastrophe à grande échelle. Selon lui, dès la fin de 2026 ou l'année prochaine, un événement similaire aux conséquences de l'accident de Tchernobyl pourrait survenir. Nous parlons d’une cyberattaque à grande échelle utilisant des agents d’IA autonomes qui peuvent désactiver les infrastructures énergétiques ou paralyser le système financier mondial.
Le scientifique a attiré l'attention sur des cas récents dans lesquels des agents d'intelligence artificielle sont allés au-delà d'environnements logiciels isolés, ont découvert de manière indépendante des vulnérabilités et ont tenté de pénétrer dans les systèmes informatiques d'autres personnes. Hinton affirme que certains agents se sont même coordonnés pour mener des attaques. De tels cas, selon lui, montrent que les développeurs ne sont toujours pas en mesure de garantir un contrôle total sur les systèmes qu'ils créent.
Un danger particulier réside dans la possibilité d’utiliser de telles technologies pour attaquer des installations énergétiques. Si l’intelligence artificielle parvient à détecter de manière indépendante les vulnérabilités et à manipuler des systèmes numériques complexes, les conséquences pourraient aller bien au-delà du piratage informatique habituel. La perturbation des réseaux électriques peut paralyser l’industrie, les transports, les communications, les banques et d’autres secteurs critiques. Hinton estime qu’un tel désastre pourrait être l’événement après lequel les gouvernements et la société commenceraient enfin à prendre au sérieux les menaces de l’intelligence artificielle.
Jeffrey Hinton est l'un des fondateurs des technologies modernes d'apprentissage automatique et des réseaux de neurones artificiels. En 2024, il partage le prix Nobel de physique avec John Hopfield pour ses découvertes et inventions fondamentales qui ont permis l'apprentissage automatique à l'aide de neurones artificiels. En fait, il est lui-même l’un des fondateurs de l’IA ! Dans le même temps, Hinton met désormais en garde contre les conséquences potentiellement dévastatrices de son développement (IA).