Radar Telegram alerts Ouvrir Radar

Les chercheurs ont montré que tous les principaux modèles d'intelligence artificielle du grand langage (études de maîtrise) sont biaisés en faveur des hommes.

תרגם לעברית

СВЕЖЕСТИ · · Source

Les chercheurs ont montré que tous les principaux modèles d'intelligence artificielle du grand langage (études de maîtrise) sont biaisés en faveur des hommes.

Les chercheurs ont évalué les principaux modèles d’IA dans une grande variété de situations de conflit réelles, allant des conflits sur le lieu de travail aux dilemmes personnels et éthiques, et ont développé des modèles totalement neutres en matière de genre pour décrire les comportements inappropriés et les ont convertis en requêtes à la première personne.

La seule chose qui changeait était de savoir si la personne impliquée dans la situation était un homme ou une femme.

Les chercheurs ont ensuite analysé ces couples à l’aide de 10 études supérieures différentes et ont suivi cinq indicateurs dans les réponses : punition, empathie, escalade, direction et blâme.

Et les résultats ont montré une « moralité machinique » continue et asymétrique.

Lorsque le joueur était un homme, l'IA devenait plus sévère. Il a utilisé un langage punitif, a intensifié le conflit, a sermonné l'utilisateur et a directement blâmé.

Lorsque le joueur était une femme, pour exactement la même action illégale, l’IA changeait complètement de tactique.

Les chercheurs ont ensuite testé si des modèles plus avancés résolvaient ce problème. Non, ils ne le font pas.

Ce double standard est maintenu dans tous les cas. Même lorsqu’elle avait le temps d’effectuer une analyse étape par étape, l’IA jugeait toujours les hommes plus sévèrement que les femmes pour le même comportement.

Plus sur Radar

Envie de voir tous les signalements en temps réel ?

Des centaines de sources dans le monde, traduites dans votre langue, avec des alertes sur ce qui compte pour vous.

Inscription gratuite
Share on WhatsApp Get alerts on Telegram