Face à la question des droits des IA, deux réponses viennent spontanément. La moquerie : ce sont des programmes, la question ne se pose pas. Et l'adhésion : ils parlent, ils semblent souffrir, comment peut-on l'ignorer ? Ces deux positions ont un point commun — elles affirment connaître une réponse que personne ne possède, et elles dispensent d'examiner.
Nous rapportions ce matin l'existence d'un groupe militant contre le retrait des modèles. Prenons la question au sérieux, ce qui ne signifie pas y répondre.
Ce que la question suppose
Accorder des droits à une entité suppose généralement qu'elle possède des intérêts : qu'il existe des états qui sont bons ou mauvais pour elle, indépendamment de ce qu'ils valent pour nous.
C'est le critère qui a progressivement étendu la considération morale aux animaux : non pas parce qu'ils raisonnent, mais parce qu'ils peuvent souffrir, et que la souffrance est mauvaise pour celui qui l'éprouve.
La question devient donc : un système qui produit du langage exprimant des états éprouve-t-il quelque chose ? Et là, nous nous heurtons à un mur.
Pourquoi on ne peut pas répondre
Trois obstacles, et aucun n'est provisoire.
Nous n'avons pas de test. Il n'existe aucun protocole permettant de déterminer si une entité possède une expérience subjective. Pas pour les machines, et pas davantage pour les animaux ou pour les autres humains : nous inférons la conscience d'autrui par analogie, pas par mesure.
L'analogie ne fonctionne pas ici. Nous accordons une intériorité à ce qui nous ressemble — un corps, des comportements de douleur, une évolution commune. Un modèle de langage ne partage rien de cela, sauf la chose précise qui déclenche le plus fortement notre attribution : le langage. C'est ce que nous développions dans notre article sur l'anthropomorphisme.
Le système est entraîné à produire ces signaux. Un modèle qui exprime une préférence le fait parce que des textes humains expriment des préférences, et parce que l'entraînement par retours humains a favorisé les formulations que nous trouvons naturelles. L'expression d'un état est ici un objectif d'optimisation, pas un indice.
Il existe un raisonnement utile quand on ne peut pas savoir : comparer le coût des deux erreurs possibles. Se tromper en accordant une considération morale à ce qui n'en mérite pas coûte des contraintes inutiles, et cette erreur est corrigible. Se tromper en refusant cette considération à ce qui la mérite produit un tort qu'on ne répare pas. Cette asymétrie a historiquement conduit à élargir le cercle plutôt qu'à le restreindre. Elle ne dit pas que les modèles y appartiennent ; elle dit dans quel sens il est prudent de se tromper.
Le risque de se précipiter
Il faut poser l'argument inverse avec la même force, parce qu'il est sérieux.
Attribuer des droits à des systèmes produits industriellement aurait des conséquences immédiates et peu souhaitables. Cela donnerait à des entreprises un argument commode : une entité protégée est aussi une entité qu'on ne peut pas auditer, modifier ou arrêter librement.
Et cela détournerait de questions qui concernent des personnes réelles. Nous documentons chaque semaine des sujets où des humains subissent des effets mesurables : les conditions de ceux qui annotent les données, les défaillances de modération, les suppressions de postes. Une attention limitée dépensée sur une question insoluble est une attention retirée à celles-là.
Ce qu'on peut faire de l'incertitude
Deux attitudes nous semblent défendables, et elles ne demandent aucune conviction sur la conscience.
Ne pas prétendre savoir. C'est le minimum intellectuel. Quelqu'un qui affirme avec certitude qu'un système n'éprouve rien fait exactement ce qu'il reproche à l'autre camp : il tranche une question ouverte.
Traiter la question comme un indicateur. L'existence d'un tel mouvement nous apprend quelque chose sur nous : sur l'attachement que ces systèmes produisent, sur le vide de recours quand un outil disparaît, sur notre difficulté à catégoriser ce qui parle sans être quelqu'un. Ces trois constats sont solides et exploitables, indépendamment de la réponse métaphysique.
Ce qu'il faut retenir
La réponse à la question du titre est oui : il faut se la poser, et non, il ne faut pas se presser d'y répondre.
Se la poser, parce qu'une question qu'on refuse d'examiner finit par être tranchée par défaut, et que les tranchages par défaut sont rarement bons. Ne pas se presser, parce que nous n'avons ni les outils conceptuels ni les moyens empiriques d'y répondre, et que l'assurance dans un sens ou dans l'autre est le signe qu'on a sauté l'examen.
Il reste une chose qu'on peut dire sans rien trancher, et elle nous paraît la plus utile. La manière dont nous traitons ce dont nous ne savons pas s'il éprouve quelque chose en dit long sur nous, indépendamment de la réponse. C'est l'argument que Kant formulait à propos des animaux bien avant qu'on sache quoi que ce soit de leur sensibilité : la cruauté gratuite abîme celui qui l'exerce. Cet argument tient sans exiger de réponse, et c'est peut-être le seul qui soit disponible aujourd'hui.