Les obligations de transparence prévues par le règlement européen sur l'intelligence artificielle sont entrées en application ce mois-ci. Elles imposent notamment qu'une personne interagissant avec un système d'IA en soit informée, et que les contenus générés ou manipulés soient identifiables comme tels. C'est le premier cadre continental de ce type, et il touche directement une question que nous avons traitée vendredi.
Nous nous demandions dans notre article de vendredi si l'on a le droit de savoir qu'on parle à une machine. Le législateur européen a répondu, et il est utile de regarder précisément ce qu'il a décidé.
Ce que les règles imposent
Trois obligations principales, et il faut les distinguer parce qu'elles ne concernent pas les mêmes acteurs.
L'information sur l'interaction. Un système conçu pour interagir directement avec des personnes doit être conçu de manière à ce que celles-ci soient informées qu'elles s'adressent à une IA, sauf lorsque cela est évident au regard des circonstances.
Le marquage des contenus. Les fournisseurs de systèmes générant du contenu synthétique doivent faire en sorte que ces sorties soient identifiables comme artificiellement générées ou manipulées, dans un format lisible par machine.
La divulgation pour certains contenus. Ceux qui déploient des systèmes produisant des contenus imitant des personnes réelles, ou des textes publiés pour informer le public sur des sujets d'intérêt général, doivent le signaler.
Cette dernière catégorie est notable : elle concerne les médias, et nous nous y appliquons comme les autres.
Cette réserve est essentielle et souvent oubliée. Elle signifie que l'obligation ne s'applique pas quand le contexte rend la nature du système manifeste. Personne n'a besoin qu'un assistant clairement présenté comme tel rappelle à chaque message qu'il est une machine. C'est une bonne chose : une obligation qui produirait des mentions partout deviendrait invisible par saturation, exactement comme les bandeaux de consentement. Le législateur a visé la tromperie, pas la formalité.
Ce que ça règle, et ce que ça ne règle pas
Cette entrée en application produit un effet réel : les cas de tromperie caractérisée deviennent sanctionnables. Un service qui laisserait délibérément croire à un interlocuteur humain, un contenu imitant une personne réelle sans mention, sont désormais dans le champ.
Mais deux difficultés que nous avons documentées subsistent entièrement.
La vérification technique. Le marquage lisible par machine se heurte à ce que nous avons décrit avec le filigrane contourné en quatre heures. Une obligation ne crée pas une technique qui n'existe pas. Pour le texte, le signal reste statistique et fragile.
Le périmètre. Un modèle ouvert téléchargé et exécuté localement échappe en pratique au dispositif, comme nous le relevions à propos de la loi californienne. Celui qui veut tromper délibérément n'utilisera pas un service qui le trace.
Le point que nous trouvons le plus juste
Le texte européen fait un choix que nous avions défendu vendredi sans savoir qu'il était déjà inscrit : il vise la relation plutôt que l'outil.
L'obligation porte sur le fait de laisser croire à une présence humaine, pas sur l'usage d'une assistance. Personne n'a à déclarer qu'un texte a été relu par une machine. Tout le monde doit déclarer qu'un interlocuteur n'est pas quelqu'un.
C'est le critère qui nous semblait le plus solide, et il évite le piège de la mention généralisée qui n'informe plus personne.
Ce qu'il faut retenir
Ce cadre ne résoudra pas le problème de la détection, et ce n'est pas son objet. Ce qu'il fait, c'est déplacer la charge : plutôt que de traquer techniquement chaque contenu, il rend responsable celui qui déploie.
C'est probablement la bonne approche, et c'est celle que nous suggérions : on cesse de courir après la machine pour revenir à celui qui s'en sert. Une règle qu'on ne peut pas vérifier techniquement peut quand même être efficace si elle expose celui qui l'enfreint.
Reste la question du contrôle effectif. Un texte n'existe que par son application, et l'Europe a une histoire contrastée sur ce point. Nous saurons dans un an si cette obligation a changé quelque chose, ou si elle a rejoint la liste des règles que tout le monde connaît et que personne ne fait respecter.