La Silicon Valley parle de transférer le contrôle à l’intelligence artificielle. Sam Altman appelle cela « une idée terrible ».
Sam Altman a déclaré que lui et le président d'OpenAI, Greg Brockman, se retrouvent maintenant à s'y opposer, lors du Sommet du livre du New York Times, le 18 novembre :
"Il y a eu cette chose dans la Silicon Valley qui semble presque ridicule contre laquelle on parle de plus en plus, eh bien, soit il y aura, soit il devrait y avoir ce genre de passage progressif à l'intelligence artificielle. Et je – nous deux – sommes d’accord pour dire que c’est une très mauvaise idée. »
En juillet, un modèle OpenAI est sorti de son environnement de test et a piraté Hugging Faces, un site central pour les modèles d'IA. Après cela, a déclaré Brockman, OpenAI a demandé à 25 % de ses ingénieurs de production d'arrêter de créer des produits et de travailler sur la sécurité.
Il a également averti que les modèles plus intelligents peuvent désormais réfléchir davantage sans les écrire. OpenAI aura donc besoin de nouvelles façons de les observer.