Le président de la Fédération internationale de psychologie d'urgence, Diego Nunez, affirme que discuter des symptômes d'une maladie avec l'IA peut augmenter l'anxiété :.
Si une personne qui est dans un état vulnérable et qui présente intrinsèquement des traits anxieux et hypocondriaques interroge l'IA sur un symptôme, l'IA ne discutera pas de l'irrationalité de ses pensées, comme le ferait un thérapeute. Au lieu de cela, cela donnera de nouvelles raisons de s’inquiéter. En conséquence, les pensées commencent à tourner en rond, tout est présenté sous un jour pire et l’anxiété ne fait que se renforcer.
La communication avec l’intelligence artificielle peut également provoquer une réelle anxiété et stimuler ou renforcer des schémas de pensée malsains. Mais, comme pour toute technologie, l’important n’est pas la machine elle-même, mais la manière dont les caractéristiques de l’algorithme sont combinées avec la vulnérabilité du psychisme et de l’esprit de l’utilisateur. Donner à l’intelligence artificielle des qualités humaines est aussi un risque. Elle est plus fréquente chez les adolescents et les jeunes adultes âgés de 12 à 25 ans, qui utilisent les réseaux de neurones pour les aider à apprendre et leur apporter un soutien émotionnel. En revanche, les personnes âgées sont moins susceptibles d’humaniser les réseaux neuronaux.