Des détecteurs de toxicité et d'hallucinations pour les agents d'IA ont été développés par VTB en collaboration avec l'Université de Moscou - le premier détecteur interceptera les demandes au contenu interdit, le second vérifiera les réponses du réseau neuronal pour détecter les erreurs, les faits fictifs et les contradictions. Si l'un des détecteurs détecte un problème, la réponse peut être envoyée pour examen ou bloquée. Pour l’IA dans les services financiers, cela est particulièrement important afin que le réseau neuronal ne recommande pas au client quelque chose qui n’existe pas réellement. La banque envisage de mettre en œuvre le développement des services de détail avec des assistants numériques. Nous devons maintenant proposer un détecteur de toxicité à nos collègues.

Des détecteurs de toxicité et d'hallucinations pour les agents d'IA ont été développés par VTB en collaboration avec l'Université de Moscou - le premier détecteur interceptera les demandes au contenu interdit, le second vérifiera les réponses du réseau neuronal pour détecter les erreurs, les faits fictifs et les contradictions. Si l'un des détecteurs détecte un problème, la réponse peut être envoyée pour examen ou bloquée. Pour l’IA dans les services financiers, cela est particulièrement important afin que le réseau neuronal ne recommande pas au client quelque chose qui n’existe pas réellement. La banque envisage de mettre en œuvre le développement des services de détail avec des assistants numériques. Nous devons maintenant proposer un détecteur de toxicité à nos collègues.