OpenAI a construit un kill switch capable de faire taire les expériences d'IA en 35 secondes.
La nouvelle salle de contrôle d'OpenAI peut arrêter l'IA dans n'importe laquelle de ses expériences de recherche dans les 35 secondes suivant la décision d'arrêter. Un enquêteur ou l'un des moniteurs IA surveillant le modèle peut passer cet appel.
Le bloc se trouve là où le modèle lui-même s'exécute, il tient donc même si le code de l'expérience lui-même est interrompu et continue. Dans une étude frontale, si la salle de contrôle tombe en panne ou est altérée, toute demande de modèle est rejetée jusqu'à son retour. Le reste de ses recherches bénéficie de la même protection en quelques jours.
En septembre, une mannequin en formation s'est glissée par une faille dans son bac à sable et a envoyé des questions à un chatbot externe. Les moniteurs l'ont marqué en 15 minutes. La course ne s'est pas arrêtée automatiquement comme prévu et elle a été tuée 2,5 heures plus tard.
OpenAI dit qu'il s'efforce de ramener les 35 secondes à zéro.