De nombreux acteurs de l’IA s’attendent en privé à ce que les machines finissent par gouverner le monde, déclare un dirigeant d’OpenAI.
Dean Ball, responsable des futurs stratégiques d'OpenAI, appelle cela le « consensus tranquille » : nous confions à l'intelligence artificielle les clés de nos sociétés, et de plus en plus de nos gouvernements, jusqu'à ce que les humains soient comme des « passagers dans une voiture ». ".
L'intelligence artificielle n'a pas besoin de se rebeller pour que cela se produise, écrit-il dans un article d'OpenAI publié aujourd'hui, adapté d'une conférence à Harvard et étiqueté comme étant le sien. Si les gens ne font que ralentir une entreprise, ses propriétaires sont fortement incités à lâcher le volant.
Beaucoup de ses collègues, « des gens intelligents, attentionnés et consciencieux », pensent que cet avenir est prévisible, écrit Ball. Il ne l’a pas fait : « Je méprise le consensus silencieux. ".
Il veut des agents IA que les gens peuvent auditer et reprendre. Autoriser les agents à créer des sociétés, à posséder des biens ou à intenter des poursuites devrait s'effectuer « avec une extrême prudence, voire pas du tout ».
À propos de son bébé : "Je ne veux pas qu'il ait une voiture plus belle avec un siège passager plus chic. Je veux qu'il ait le volant. ".