Presque tout le monde répond spontanément oui : bien sûr qu'on doit savoir. Puis on demande si un correcteur orthographique doit se signaler, si un service client qui utilise une IA pour rédiger ses réponses doit le mentionner, si un ami qui a fait relire son message par une machine doit vous prévenir. Et les évidences se dissolvent.
Le sujet est revenu cette semaine avec l'épisode du filigrane contourné en quatre heures. Derrière la question technique de la détection se cache une question de principe qu'on traite rarement de front.
L'argument pour : le consentement
Le raisonnement est solide. Nous n'accordons pas la même confiance, ni le même type d'attention, selon notre interlocuteur.
Face à un humain, nous mobilisons une compétence sociale extraordinairement fine : évaluer sa sincérité, sa compétence, ses intérêts. Nous l'avons développé dans notre article sur la bonne foi : cette compétence ne fonctionne pas face à une machine, parce qu'il n'y a rien à évaluer. Le ton d'une IA ne contient aucune information sur sa fiabilité.
Ne pas savoir revient donc à utiliser un instrument de mesure sur un objet pour lequel il n'a pas été conçu. On croit jauger quelqu'un, on ne jauge rien.
S'y ajoute l'argument de la manipulation. Un système conçu pour paraître humain exploite un réflexe que nous ne contrôlons pas, comme nous l'expliquions dans notre article sur l'anthropomorphisme. Savoir ne désactive pas le réflexe, mais permet au moins de le corriger consciemment.
L'argument contre : où s'arrête l'obligation
L'objection n'est pas la mauvaise foi d'entreprises qui voudraient dissimuler. Elle est plus embarrassante : où trace-t-on la ligne ?
Si une IA rédige entièrement un message, la mention paraît nécessaire. Si elle corrige une faute, elle paraît absurde. Entre les deux se trouve la quasi-totalité des usages réels : un brouillon retravaillé, une idée suggérée puis reformulée, un plan proposé puis modifié.
Exiger une mention pour tout usage rendrait l'information inutile par saturation, exactement comme les bandeaux de consentement aux cookies. Une mention affichée partout n'informe plus personne.
Et il y a une objection de fond : nous n'avons jamais exigé cela d'aucun autre outil. Personne n'indique qu'un texte a été relu par un correcteur, écrit par un nègre littéraire, ou produit par un cabinet de conseil.
La ligne la plus solide ne passe pas par le degré d'intervention de la machine, mais par ce que l'interaction engage. Quand quelqu'un croit être en relation avec une personne, il a le droit de savoir. Quand il utilise un service, ce qui compte est la qualité du service. Un chatbot qui se fait passer pour un conseiller humain trompe sur la relation. Un service client dont les réponses sont rédigées avec assistance ne trompe sur rien, tant que la réponse est juste et qu'un humain en répond.
Les trois cas où la réponse est claire
Ce critère produit trois zones où le doute n'est pas permis.
Les relations affectives. Un système conçu pour créer un attachement doit être identifié comme tel. C'est le sujet que nous avons traité dans notre article sur les compagnons IA, et la Chine a tranché en interdisant ces dispositifs aux mineurs.
Les situations de vulnérabilité. Santé, détresse psychologique, conseil juridique ou financier. Quelqu'un qui s'adresse à ce qu'il croit être un professionnel doit savoir à quoi il parle.
Les décisions qui engagent. Nous l'avons vu à propos du recrutement : le cadre européen prévoit déjà qu'une personne faisant l'objet d'une décision automatisée significative doit en être informée et pouvoir la contester.
Le problème de l'application
Reste une difficulté que l'épisode du filigrane rend criante. Même en s'accordant sur le principe, comment le fait-on respecter ?
Le marquage technique est contournable en quelques heures. La déclaration volontaire dépend de la bonne foi. Et une obligation légale ne vaut que si l'on peut constater l'infraction, ce que précisément on ne sait pas faire.
Cela suggère que la solution ne viendra pas de la détection mais de la responsabilité. Plutôt que d'exiger que chaque contenu soit marqué, tenir celui qui publie pour responsable de ce qu'il publie, quel que soit l'outil utilisé. C'est un déplacement important : on cesse de traquer la machine pour revenir à celui qui s'en sert.
Ce qu'il faut retenir
Notre réponse, et elle est discutable : le droit de savoir n'est pas absolu, il est proportionné à ce que l'interaction engage.
Personne n'a besoin de savoir qu'un mail professionnel a été relu par une machine. Tout le monde a besoin de savoir que la voix chaleureuse qui l'écoute tous les soirs n'est pas quelqu'un. Entre les deux, le critère utile est celui de la relation : dès qu'une personne pourrait croire qu'il y a quelqu'un en face, il faut le lui dire.
C'est peut-être la formulation la plus simple : ce qu'on doit à l'autre, ce n'est pas la transparence sur nos outils. C'est de ne pas le laisser croire à une présence qui n'existe pas.