L'essentiel en 30 secondes ⚡
Selon le Financial Times, des cliniciens s'opposent à l'extension des outils d'IA médicale au-delà du diagnostic — vers la décision thérapeutique, le suivi ou l'orientation des patients — en invoquant la faiblesse des données de performance disponibles. L'argument n'est pas une méfiance de principe : c'est une exigence de preuve.
Selon le Financial Times, des cliniciens s'opposent à l'extension des outils d'IA médicale au-delà du diagnostic — vers la décision thérapeutique, le suivi ou l'orientation des patients — en invoquant la faiblesse des données de performance disponibles. L'argument n'est pas une méfiance de principe : c'est une exigence de preuve.
Nous avons consacré un article à l'état réel de l'IA en médecine, en distinguant ce qui est établi de ce qui est promis. Cette prise de position recoupe précisément cette frontière.
Pourquoi le diagnostic est un cas favorable
Il faut comprendre pourquoi l'IA a progressé d'abord sur le diagnostic, parce que cela explique où elle bute.
Lire une image médicale a trois propriétés qui la rendent mesurable. La tâche est délimitée : une image, une question. La vérité est connue après coup, par une biopsie ou l'évolution du patient. Et l'on dispose d'archives massives d'images annotées pour entraîner et évaluer.
Ces trois conditions permettent de répondre à la question qui compte : le système se trompe-t-il plus ou moins qu'un spécialiste ? C'est pour cela que les résultats les plus solides concernent la radiologie, la dermatologie ou l'ophtalmologie.
Pourquoi le reste est différent
Décider d'un traitement ne présente aucune de ces trois propriétés.
La tâche n'est pas délimitée : elle dépend de l'histoire du patient, de ses autres traitements, de ses préférences, de sa situation sociale. La vérité n'est pas connue : on ne saura jamais ce qu'aurait donné le traitement qu'on n'a pas choisi. Et les données d'entraînement reflètent les pratiques passées, avec leurs biais, plutôt que les bonnes décisions.
Mesurer la performance d'un système sur cette tâche exige donc ce que la médecine exige de tout traitement : des essais cliniques, avec des groupes comparables, des critères définis à l'avance et un suivi dans le temps. C'est long, coûteux, et c'est précisément ce qui manque.
Ce que « performance » veut dire en médecine 🩺
Un point mérite d'être compris, parce qu'il sépare les deux mondes. Dans les annonces technologiques, la performance d'un système se mesure à la justesse de ses réponses. En médecine, elle se mesure à l'état des patients. Un outil qui produit des recommandations excellentes sur le papier mais que les soignants suivent mal, ou qui les fait se reposer sur lui au point de rater ce qu'ils auraient vu, peut dégrader les résultats tout en affichant d'excellents scores. Seul un essai sur des patients réels permet de le savoir.
Un point mérite d'être compris, parce qu'il sépare les deux mondes. Dans les annonces technologiques, la performance d'un système se mesure à la justesse de ses réponses. En médecine, elle se mesure à l'état des patients. Un outil qui produit des recommandations excellentes sur le papier mais que les soignants suivent mal, ou qui les fait se reposer sur lui au point de rater ce qu'ils auraient vu, peut dégrader les résultats tout en affichant d'excellents scores. Seul un essai sur des patients réels permet de le savoir.
La prudence n'est pas du conservatisme
Il serait facile de lire cette prise de position comme la réaction d'une profession qui défend son territoire. Ce serait injuste.
La médecine a mis un siècle à construire l'exigence de preuve qu'elle applique aujourd'hui, et elle l'a construite à partir de drames : des traitements adoptés sur la foi de leur plausibilité, qui se sont révélés inutiles ou nuisibles quand on les a enfin évalués correctement.
Demander que l'IA soit soumise à la même exigence que n'importe quel médicament n'est pas une hostilité : c'est l'application d'une règle que la discipline s'impose à elle-même. Nous l'écrivions à propos de la calibration : un système aussi assuré quand il a tort que quand il a raison est particulièrement dangereux là où l'erreur coûte une vie.
Ce qu'il faut retenir
La frontière que tracent ces cliniciens n'est pas arbitraire : elle passe exactement là où la performance cesse d'être mesurable par des moyens simples.
Cela ne veut pas dire que l'IA n'aura jamais de rôle au-delà du diagnostic. Cela veut dire que ce rôle devra être démontré par les méthodes que la médecine applique à tout le reste, et que ces méthodes prennent des années.
C'est probablement le cas le plus clair où la lenteur est une méthode plutôt qu'un obstacle. Et c'est aussi un rappel que les annonces de capacité, si impressionnantes soient-elles, ne remplacent pas la question que pose tout médecin face à un traitement nouveau : est-ce que les patients vont mieux ?