Algorithme et diagnostic : les conseilleurs ne sont pas les payeurs !

Dr JP CHEMLA

Un système d'intelligence artificielle recommande un diagnostic ; le médecin le suit ; le patient subit un préjudice. Cette situation, hier de science-fiction, entre aujourd'hui dans le champ ordinaire de l'expertise en responsabilité médicale. Elle mérite qu'on s'y arrête, car elle déplace une question que notre pratique croyait stabilisée : à qui imputer la faute lorsque la décision n'est plus seulement humaine ?

Le rapport que la CNIL a consacré à cette question dès 2017 identifiait déjà le risque : la délégation d'une décision à un système apprenant peut dissimuler des choix engageants derrière une neutralité technique apparente, et diluer une chaîne de responsabilité qui allait jusque-là de soi. Le cas de la médecine y est cité en exemple privilégié, aux côtés de la justice : seul un médecin est habilité à poser un diagnostic, mais que devient cette habilitation quand l'outil qui l'assiste repose sur une logique que ses concepteurs eux-mêmes ne savent plus toujours expliquer ?

Le droit français n'a pas, à ce jour, créé de régime de responsabilité propre à l'intelligence artificielle en santé. Le cadre reste celui, classique, de l'obligation de moyens : le médecin demeure responsable de la décision médicale, y compris lorsqu'elle s'appuie sur un outil algorithmique. C'est ce que rappellent Manaouil, Chamot et Petit dans leur étude récente sur le médecin confronté à l'intelligence artificielle : l'outil n'a pas de personnalité juridique et ne peut donc être tenu pour responsable ; c'est l'usage qu'en fait le praticien — sa vigilance, son esprit critique, sa capacité à s'écarter de la recommandation quand le contexte clinique l'exige — qui reste au cœur de l'appréciation de la faute.

Pour l'expert judiciaire, cela change la grille d'analyse. Apprécier un dommage corporel né d'une erreur de diagnostic assistée par l'IA suppose désormais des questions inédites : l'outil était-il validé pour l'indication en cause ? Le praticien disposait-il des moyens de comprendre les limites de sa recommandation ? A-t-il exercé un contrôle réel, ou s'en est-il remis à la machine par confiance excessive dans son autorité apparente — ce que la CNIL nomme la déresponsabilisation ? Ces questions s'ajoutent aux critères classiques de l'expertise en responsabilité médicale, et supposent de notre part une compréhension minimale de ces outils, sous peine de nous voir imposer, nous aussi, l'autorité qu'ils prétendent avoir sur la décision clinique.

Rien n'indique que cette évolution restera cantonnée aux quelques disciplines où l'IA diagnostique est aujourd'hui la plus avancée. L'imagerie médicale, l'anatomopathologie, la cardiologie l'expérimentent déjà à grande échelle ; l'obstétrique et la médecine légale ne resteront pas à l'écart. L'expertise médicale devra intégrer, comme une donnée ordinaire du dossier, la part que l'algorithme a prise dans la décision contestée — sans céder à la tentation, inverse et tout aussi problématique, de faire de la machine un bouc émissaire commode pour dissoudre la responsabilité humaine qui reste, en l'état du droit, la seule que nous sachions établir.

Références bibliographiques

1. CNIL. Comment permettre à l'Homme de garder la main ? Les enjeux éthiques des algorithmes et de l'intelligence artificielle. Rapport sur le débat public organisé dans le cadre de la loi pour une République numérique. Paris, décembre 2017.

2. Manaouil C, Chamot S, Petit P. Le médecin confronté à l'IA (Intelligence artificielle) : Éthique et responsabilité. Médecine & Droit. 2024;2024(186):50-66.