Sur l'écran, de minuscules filaments battent en rythme, colorés de vert, de rouge et de violet. Ce sont des cils de la paroi des bronches d'un enfant atteint d'une maladie génétique rare, qui empêche ces cils de nettoyer correctement ses poumons.
La vidéo est magnifique. En septembre, elle a remporté le premier prix du concours Small World in Motion, organisé par Nikon, l'une des compétitions d'images scientifiques les plus prestigieuses du monde.
Le 9 octobre, Nikon lui a retiré son prix.
Ce qui s'est passé
Dès sa publication, la vidéo a suscité des doutes chez les spécialistes de cette maladie. Les structures montrées ne ressemblaient pas à ce qu'ils observent habituellement chez leurs patients. Certains ont soupçonné l'intervention d'une IA générative.
Après avoir réexaminé la vidéo et consulté son jury, Nikon a conclu qu'elle ne respectait pas le règlement du concours sur l'IA générative. L'entreprise a précisé que sa décision ne constituait pas un jugement sur la réputation, le travail scientifique ou les intentions de l'auteur, et qu'elle allait revoir ses règles pour les prochaines éditions.
Le premier prix revient désormais à un chercheur vietnamien, Nguyen Nam Nhat, pour une vidéo montrant un petit ver et un organisme unicellulaire.
La version de l'auteur
Le chercheur ne nie pas avoir utilisé l'IA. Mais il affirme qu'elle n'a servi ni à fabriquer la vidéo, ni à créer les cils, ni à inventer leur mouvement, qui viennent bien de son instrument. Selon lui, l'IA a seulement permis, après coup, de distinguer et de colorer les différentes structures dans des images d'origine en noir et blanc. Il pensait rester dans les règles.
Le règlement, lui, interdit les vidéos générées par IA. Toute la question est là : colorer et séparer des structures avec une IA, est-ce embellir une image réelle, ou commencer à en fabriquer une autre ?
La recherche scientifique a des règles strictes sur les images, bien antérieures à l'IA. Depuis le milieu des années 2000, de grandes revues imposent par exemple qu'un réglage de luminosité ou de contraste s'applique à l'image entière, et jamais à une seule zone, et que toute amélioration soit signalée. La raison est simple : en science, une image n'est pas une décoration, c'est une preuve. La modifier, même avec de bonnes intentions, c'est risquer de montrer quelque chose qui n'existe pas.
Pourquoi c'est important
Le concours de Nikon récompense autant la beauté que la science. Mais l'affaire touche à une question beaucoup plus large.
Les outils d'IA sont de plus en plus utilisés pour nettoyer, améliorer, coloriser des images scientifiques. C'est souvent utile. Mais une IA qui « améliore » une image peut aussi y ajouter des détails plausibles qui n'existaient pas. Dans une photo de vacances, c'est sans conséquence. Dans une image de cellules malades, cela peut conduire à de fausses conclusions.
Et la science est déjà sous pression. La grande bibliothèque en ligne arXiv a dû rationner les dépôts, débordée par les textes écrits avec l'IA. Les images sont le prochain front.
Ce qu'on retient
Ce sont des spécialistes de la maladie, pas un logiciel de détection, qui ont repéré le problème. Ils ont vu que ces cils ne ressemblaient pas à ceux de leurs patients.
C'est peut-être la leçon la plus rassurante de cette histoire : face à des images de plus en plus parfaites, l'œil de ceux qui connaissent vraiment leur sujet reste le meilleur détecteur. Pour les images du quotidien, nos cinq réflexes face à une photo douteuse restent valables.