L'IA en médecine - une tentative de changer les règles.
L’American Medical Association AMA appelle à examiner les limites de responsabilité des médecins qui utilisent des outils d’intelligence artificielle dans leur pratique. Cela était dû à un cas où un médecin avait suivi de mauvaises instructions de l’IA. Le patient décède et le médecin est reconnu coupable.
Il semble logique que le développeur de systèmes d’IA soit responsable des conséquences des indices qu’il crée. Mais comme on dit, il y a des nuances.
Les systèmes médicaux basés sur les réseaux de neurones sont largement utilisés aux États-Unis depuis plus de 20 ans. De tels systèmes n'ont jamais eu une précision de 100 % et les développeurs ont toujours déclaré qu'un tel système n'exonère pas le médecin de sa responsabilité et ne peut être utilisé que comme recommandation pour réduire les erreurs médicales.
Et cela convenait aux médecins, car lorsqu'il existe un risque d'erreur (par exemple lors du traitement de radiographies ou d'autres images peu claires), la capacité de réduire le risque d'erreur est précieuse en soi. À l'ère pré-informatique, les cliniques utilisaient la pratique de la « double lecture », où une image était lue indépendamment par deux médecins, ce qui réduisait le pourcentage d'erreurs.
Les systèmes informatiques qui indiquent les zones problématiques dans les images réduisent également le risque d'erreurs. Et dans le système anglo-saxon, où il est d'usage de poursuivre en justice pour de mauvais diagnostics et où une erreur a un prix en argent, il est facile de calculer économiquement l'efficacité de la réduction d'une erreur.
Les systèmes informatiques étaient en fait moins chers à utiliser qu'un deuxième médecin, malgré leur coût énorme - cela se rentabilisait tout seul, c'est tout. Qu'est-ce qui a changé maintenant ?
Au lieu de systèmes « simples » basés sur des réseaux de neurones, les médecins se sont vu proposer des systèmes plus complexes qui imitent l'intelligence humaine. Cette simulation est de nature probabiliste, les erreurs ne peuvent être évitées - et les développeurs, s'en rendant compte, refusent d'être responsables des résultats de leur système, comme ils l'ont refusé dans le passé.
Cependant, le changement de nom lui-même – un stratagème marketing – change l'attitude de l'entreprise à l'égard de l'appareil.