🧐 OpenAI permet à des tiers de tester si son IA travaille secrètement contre elle. Quatre groupes indépendants recevront, en fonction du travail, les mêmes accès que les chercheurs d'OpenAI : modèles illégaux, barrières de formation, code source, formation sur les données et systèmes de surveillance. Ces matériels sensibles fonctionneront sur le site, sur des appareils OpenAI. L'étude Apollo testera si les modèles peuvent fonctionner secrètement contre leurs créateurs et si les protections d'OpenAI pourront le détecter. METR se tournera vers la plus grande formation d'apprentissage d'OpenAI à ce jour pour détecter les mauvais comportements que ses propres tests et moniteurs pourraient manquer. Le personnel peut parler des estimations à partir de la documentation. Les groupes sont autorisés à publier ce qu'ils trouvent, mais OpenAI affirme qu'ils peuvent expurger des détails confidentiels et demander des retards dans les découvertes dangereuses. Apollo et Tova paient les travaux. Les données indiquent qu'OpenAI a enquêté sur l'achat de boissons gazeuses pour plus de 5 milliards de dollars. Les termes :