Le rapport de l'expert français recommande une réglementation plus stricte de l'intelligence artificielle générative.
Agence de presse Xinhua, Paris, 10 novembre (Reporter Luo Yu) Le palais présidentiel français a annoncé le 10 dans un communiqué qu'un comité d'experts français avait soumis le même jour un rapport au président Macron, recommandant de renforcer l'intelligence artificielle générative pour surveiller la réglementation et prévenir les dommages potentiels liés à la création d'une intelligence artificielle personnelle, telles que des mesures sanitaires et sociales, telles que la limitation de l'intelligence cognitive et sociale. Mécanismes de flatterie et de maintien, réalisation d’évaluations interdisciplinaires des risques avant le marché et renforcement de l’éducation.
Le rapport a été préparé par la Commission française de l'intelligence artificielle et du numérique. Après 55 auditions, neuf experts interdisciplinaires ont proposé 18 recommandations politiques axées sur les risques aux niveaux personnel et sociétal.
Le rapport note que l'intelligence artificielle générative est largement utilisée, avec 33 millions d'utilisateurs uniques en France au début de cette année, mais qu'un quart des Français s'inquiètent de ses risques potentiels.
Des études montrent qu’une utilisation excessive de l’intelligence artificielle peut nuire au développement cognitif des utilisateurs. Par exemple, l’utilisation fréquente de chatbots pour écrire peut entraîner un déclin cognitif important. Les outils d’intelligence artificielle sont de plus en plus caractérisés par l’anthropomorphisme et la flatterie, ce qui peut conduire à une dépendance émotionnelle chez les utilisateurs. L’intelligence artificielle peut également aggraver la violence en ligne.
En réponse aux risques ci-dessus, le comité d'experts a soumis 18 recommandations, notamment limiter la flatterie et l'anthropomorphisme excessif des systèmes d'intelligence artificielle au niveau de la conception, afin d'empêcher les entreprises d'exploiter les faiblesses psychologiques des utilisateurs à des fins lucratives. Dans le même temps, la surveillance devrait passer de la correction après la découverte des violations à la prévention préalable des risques, et les produits d'intelligence artificielle générative destinés aux consommateurs ordinaires devraient être soumis à des évaluations de risques interdisciplinaires avant d'être mis sur le marché. Le comité a également recommandé que l'éducation à l'IA soit popularisée auprès des enfants dès le plus jeune âge afin de former la prochaine génération à être capable d'utiliser l'IA sans toutefois compter sur l'IA.