Ce qu’une IA ne doit pas faire dans un cabinet

Il n’émet pas de diagnostic

Ni au patient, ni au médecin. Ce n’est pas une précaution juridique : c’est ce que la littérature impose. Les orienteurs de symptômes évalués dans la revue de référence atteignent 19 à 37,9 % de précision diagnostique, et leurs auteurs concluent à un risque pour la sécurité des patients Wallace.

On pourrait objecter que les modèles ont progressé depuis, et c’est vrai — l’étude Nature sur AMIE le montre en conditions contrôlées Tu. Mais un cabinet n’installe pas un protocole de recherche : il installe un produit, dans une salle d’attente, devant des patients réels, sans acteur ni scénario. Tant que cette expérience-là n’a pas été menée, l’hypothèse diagnostique reste hors du périmètre, et la synthèse s’arrête à l’histoire.

Il ne trie pas les patients

Aucun score d’urgence, aucun ordre de passage, aucune recommandation de créneau. Un tri est un acte médical, il engage celui qui le pose, et il se trompe d’une façon particulièrement coûteuse : le faux négatif renvoie chez lui quelqu’un qui aurait dû rester.

Il existe une exception, et c’est une exception qui va dans l’autre sens. Lorsque le patient décrit un signe d’urgence vitale — douleur thoracique constrictive, déficit neurologique brutal, détresse respiratoire — l’entretien s’arrête et affiche le 15 et le 112. Ce n’est pas un tri : c’est un refus de continuer. L’outil ne dit pas « vous êtes prioritaire », il dit « ceci ne se règle pas dans une salle d’attente ».

Il ne conseille pas le patient

Pas de conduite à tenir, pas de posologie, pas de « ce n’est probablement rien ». Le patient est à trois mètres d’un médecin ; c’est le pire endroit du monde pour qu’une machine se prononce à sa place.

C’est aussi la différence de fond entre un usage grand public et un usage en cabinet. Sur le web, un outil qui ne dit rien n’a aucun intérêt pour l’internaute. Dans une salle d’attente, un outil qui ne dit rien au patient et beaucoup au médecin est exactement ce qu’il faut.

Il n’est pas lu comme une vérité

C’est le risque le moins discuté et le plus sérieux : une synthèse bien écrite est convaincante, et une synthèse convaincante oriente le raisonnement de celui qui la lit. Le phénomène n’est pas propre à l’IA — une lettre d’adressage produit le même effet — mais son échelle change quand toutes les consultations en reçoivent une.

L’essai de Goh et al. donne une idée de ce qui se joue là : donner un modèle de langage à des médecins n’a pas amélioré leur raisonnement diagnostique, alors même que le modèle seul faisait mieux qu’eux Goh. L’interaction entre un praticien et une aide n’est jamais l’addition de leurs performances.

• La synthèse est présentée comme un propos rapporté du patient, jamais comme un constat.
• Ce qui n’a pas été demandé n’apparaît pas — une rubrique vide vaut mieux qu’une rubrique remplie par défaut.
• Le médecin doit pouvoir signaler une erreur en un geste, et ce signalement doit revenir jusqu’à nous.
• Le compte-rendu porte la mention de son origine : un entretien conduit par une IA, relu par personne.

Il échoue visiblement

Un outil qui tombe en panne bruyamment est un outil sain. Le vrai danger est celui qui rend une synthèse tronquée sans le dire, ou qui n’en rend aucune sans que personne l’apprenne.

C’est une règle d’ingénierie avant d’être une règle clinique, et elle vaut d’être vérifiée chez n’importe quel fournisseur : que se passe-t-il quand le modèle ne répond pas, quand la réponse est coupée, quand le réseau du cabinet tombe ? Si la réponse est « on ne sait pas », le reste de la démonstration n’a pas d’importance.

La question à poser à tout fournisseur

Une seule, et elle est discriminante : « qu’est-ce que votre outil s’interdit de faire, et comment est-ce garanti autrement que par votre parole ? » Un fournisseur qui répond par une liste de fonctionnalités n’a pas compris la question. Un fournisseur qui répond par une architecture — ce qui est envoyé au modèle, ce qui est rendu, à qui, et ce qui est enregistré — a au moins réfléchi au problème.

Sources

Chaque référence a été vérifiée sur PubMed. La phrase sous chaque entrée dit ce que l’étude a mesuré, pas ce qu’on aimerait qu’elle dise.

1. Wallace W, Chan C, Chidambaram S, et al. The diagnostic and triage accuracy of digital and online symptom checker tools: a systematic review npj Digit Med. 2022;5:118. PMID 35977992.Revue systématique de 10 études sur les orienteurs de symptômes grand public : précision diagnostique de 19 à 37,9 %, précision d’orientation de 48,8 à 90,1 %. Les auteurs concluent à un risque pour la sécurité des patients.Lire sur PubMed
2. Tu T, Schaekermann M, Palepu A, et al. Towards conversational diagnostic artificial intelligence Nature. 2025;642(8067):442-450. PMID 40205050.Étude randomisée en double aveugle, 159 scénarios cliniques joués par des acteurs-patients en consultation écrite. Le système AMIE a été jugé supérieur aux médecins généralistes sur la quasi-totalité des axes évalués, précision diagnostique comprise — sur des patients simulés, pas sur des patients réels.Lire sur PubMed
3. Goh E, Gallo R, Hom J, et al. Large Language Model Influence on Diagnostic Reasoning: A Randomized Clinical Trial JAMA Netw Open. 2024;7(10):e2440969. PMID 39466245.Médecins randomisés avec ou sans accès à un modèle de langage : score médian 76 % contre 74 %, différence non significative. Le modèle seul faisait mieux que les deux groupes de médecins — donner l’outil ne suffit pas, la façon de l’intégrer décide de tout.Lire sur PubMed
4. Huo B, Boyle A, Marfo N, et al. Large Language Models for Chatbot Health Advice Studies: A Systematic Review JAMA Netw Open. 2025;8(2):e2457879. PMID 39903463.137 études évaluant des agents conversationnels de santé : 99,3 % portent sur des modèles fermés, et la plupart ne décrivent ni le modèle ni les instructions utilisées. Une littérature abondante et, en l’état, largement irreproductible.Lire sur PubMed

À lire ensuite