Au CHU de Montpellier, l’IA prépare des lettres pour les patients : qui veille à ce qu’elles restent fidèles aux soins ?

Une lettre que l’on peut relire après les urgences : l’un des usages les plus concrets de l’intelligence artificielle à l’hôpital n’a rien d’un médecin virtuel. Dans un article publié le 11 octobre, le professeur David Morquin décrit à Ça M’Intéresse des documents explicatifs générés à partir des observations médicales aux urgences pédiatriques du CHU de Montpellier. L’enjeu est simple : laisser aux familles une trace écrite des explications reçues. [1]

Après les urgences, les explications doivent pouvoir être retrouvées

Le passage aux urgences ne s’arrête pas à l’examen ou au diagnostic. Une fois rentrés, les parents doivent pouvoir retrouver ce qui leur a été expliqué et comprendre les suites prévues. Dans son entretien, David Morquin souligne que le stress peut faire oublier une partie de l’échange avec les médecins. Un document consultable à la maison répond à ce problème de continuité, plutôt qu’à une nouvelle question diagnostique.

L’objectif mérite d’être distingué du simple gain de temps administratif. Rédiger plus vite n’est utile au patient que si l’information reçue reste juste et compréhensible. Une lettre courte peut rendre les étapes plus visibles ; elle perd son intérêt si elle oublie le rendez-vous à prendre ou reformule mal une consigne.

Le CHU présente ERIOS Assistant comme un outil conversationnel intégré à son environnement hospitalier. Il peut aider à rédiger des comptes rendus et des documents explicatifs, interroger les référentiels internes ou transcrire une consultation. L’établissement indique que plus de 200 professionnels le testent dans une quinzaine de services : il décrit un déploiement en cours, pas un équipement présent dans tous les hôpitaux français. [2]

Une aide à la rédaction, pas une consultation en dehors de l’hôpital

Dans ce dispositif, l’outil s’appuie notamment sur le dossier patient informatisé, qui rassemble les informations enregistrées pendant les soins, et sur des références internes. Le point de départ n’est donc pas une question posée à un chatbot public sans contexte médical. Il s’agit de préparer une explication à partir d’informations déjà disponibles dans le parcours de soins.

Cette différence compte, mais elle ne suffit pas à rendre chaque phrase exacte. Une IA générative produit un nouveau texte : elle ne se contente pas de photocopier les notes du médecin. Elle peut organiser les informations, remplacer du jargon par des mots courants et relier des éléments du dossier. C’est précisément au cours de cette transformation qu’une omission ou un ajout peut se glisser.

Le CHU formule sa règle ainsi : « L’IA propose ; la décision, comme la responsabilité, reste toujours au professionnel. » [2] Pour une lettre destinée au patient, cela implique de contrôler le contenu clinique, pas seulement l’orthographe. Une phrase fluide ou un ton rassurant ne permettent pas de savoir si une dose et une durée ont été correctement retranscrites.

Un texte plus simple peut malgré tout introduire une erreur

Une étude publiée en novembre 2024 dans npj Digital Medicine aide à comprendre ce risque. Des chercheurs ont utilisé une version de GPT-3.5 pour transformer 100 comptes rendus de sortie issus d’une base hospitalière américaine en instructions destinées aux patients. Des professionnels de médecine et de pharmacie ont comparé les textes produits avec les documents d’origine. [3]

Les réponses étaient plus courtes et utilisaient un langage moins complexe. Mais les évaluateurs ont repéré des problèmes de sécurité potentiellement dommageables attribuables à l’IA dans 18 des 100 documents. Cela décrit des erreurs dans des textes évalués, pas 18 patients ayant subi un dommage. L’expérience ne porte pas sur ERIOS à Montpellier et n’est pas un essai de lettres remises aux familles françaises.

Ce résultat ancien éclaire une exigence toujours pertinente : la simplicité et la fidélité sont deux qualités différentes. Dire plus clairement ce qu’il faut faire ne doit pas modifier ce que l’équipe a réellement prescrit. Les auteurs ont notamment recherché les omissions, les changements de dose ou de fréquence et l’ajout d’éléments absents des consignes de sortie.

Le contrôle utile peut ainsi porter sur des points très concrets :

• Les médicaments : le bon produit, sa dose, la manière de le prendre et la durée indiquée.
• Les suites des soins : les examens et les rendez-vous réellement prévus, sans en ajouter de nouveaux.
• La fidélité aux explications : les incertitudes et les conditions conservées, plutôt qu’une réponse rendue artificiellement catégorique.

La lettre doit aider à poser une question, pas clore l’échange

La promesse la plus intéressante n’est pas de supprimer le dialogue après les soins. C’est de donner au patient un support pour le poursuivre. Une explication écrite peut faire apparaître ce qui reste obscur : quel rendez-vous est attendu, quelle consigne concerne la maison, quel interlocuteur peut clarifier une phrase ? L’utilité du document se joue dans cette compréhension, pas dans sa seule longueur.

Une contradiction entre une lettre et une ordonnance doit être clarifiée avec l’équipe ou le professionnel concerné, plutôt que tranchée par un nouvel échange avec une IA générale. Le document explicatif n’est pas une autorisation de modifier seul un traitement. Le rôle du support est d’éclairer les consignes médicales, non d’en créer une seconde version concurrente.

Le dossier médical n’a pas à devenir une pièce jointe pour n’importe quel chatbot

Le CHU affirme que son assistant fonctionne sur ses serveurs et conserve les mêmes droits d’accès que le dossier patient. Il associe aussi les patients et leurs représentants à une communauté « IA & usagers », pour les informer de la place de ces outils dans leur parcours et les faire participer à leur conception. Ce sont les engagements et l’organisation présentés par l’établissement. [2]

Demander une reformulation dans cet environnement hospitalier et envoyer soi-même un compte rendu à un service grand public ne sont donc pas des opérations équivalentes. Dans le premier cas, le document s’inscrit dans le système de soins décrit par le CHU, avec des accès liés aux professionnels. Dans le second, les informations sortent de ce cadre et sont confiées à un autre service : les conditions d’utilisation et la destination des données deviennent une question distincte de la qualité de la réponse obtenue.