Le responsable des politiques publiques d'OpenAI a confirmé que les trois plus grands laboratoires travaillent depuis plusieurs semaines à un organisme chargé de tester les modèles avant leur déploiement, sur le modèle de l'autorégulation du secteur financier américain. Le dirigeant de Cohere a qualifié le projet de cartel. Les deux positions méritent d'être prises au sérieux.
Nous rapportions mercredi l'existence de ces réunions en notant qu'un organisme dirigé par l'industrie ne peut structurellement pas fournir la vérification indépendante. Voici la confirmation, et la première objection publique.
Le modèle invoqué, et ce qu'il implique
La référence à l'autorégulation financière américaine est précise. Il s'agit d'un organisme privé, financé par les entreprises du secteur, qui édicte des règles, contrôle leur application et peut sanctionner — le tout sous la supervision d'un régulateur public.
Ce dernier point est essentiel et souvent oublié. Ce modèle ne fonctionne pas parce que l'industrie se régule elle-même : il fonctionne parce qu'une autorité publique peut annuler ses décisions, la sanctionner, et lui retirer sa délégation.
Un organisme équivalent pour l'IA n'a aujourd'hui aucun régulateur public au-dessus. C'est la différence entre une délégation et une substitution.
L'argument du cartel
Il faut le formuler précisément, parce que le mot est fort et qu'il désigne quelque chose de concret.
Trois entreprises dominantes qui définissent ensemble les tests qu'un modèle doit passer avant déploiement fixent, de fait, un coût d'entrée. Ce coût est supportable pour celui qui l'a conçu et l'a budgété. Il l'est beaucoup moins pour un acteur plus petit.
Ce mécanisme n'exige aucune mauvaise intention. Des exigences sincèrement destinées à réduire un risque produisent le même effet qu'une barrière délibérée, et c'est précisément ce qui le rend difficile à contester.
L'objection vient d'ailleurs d'un acteur en position de le subir, ce qui ne la disqualifie pas — nous l'écrivions à propos du débat sur le rythme : quelqu'un d'intéressé peut avoir raison.
La différence ne tient pas aux intentions mais à trois éléments observables. Qui peut entrer : un organisme ouvert à tout acteur, y compris petit, n'est pas une entente. Qui écrit les règles : si seuls les trois plus gros décident, la gouvernance est captée quelle que soit l'ouverture formelle. Qui peut contester : une décision de refus doit pouvoir être portée devant quelqu'un d'extérieur. Aucun de ces trois points n'est établi à ce stade, et c'est ce qu'il faudra regarder.
L'argument inverse, qui tient aussi
Il serait malhonnête de ne présenter qu'un côté.
Sans standard commun, chaque laboratoire teste ce qu'il veut, comme il veut, et publie ce qu'il décide. Nous avons passé l'été à documenter cette situation : des retours d'expérience volontaires, des chiffres publiés par ceux qui les produisent, aucune comparabilité.
Un organisme qui définirait des tests partagés rendrait les évaluations comparables entre laboratoires. C'est exactement ce qui manque, et personne d'autre n'est en train de le construire.
Et un standard partagé permet aux correctifs et aux bonnes pratiques de circuler, comme nous l'écrivions à propos de la normalisation des protocoles.
Ce qui manquerait pour trancher
Deux éléments rendraient ce projet défendable, et ils ne coûtent rien à accorder.
Une gouvernance ouverte. Une participation accessible aux acteurs plus petits, aux laboratoires publics et aux chercheurs indépendants, avec un poids qui ne soit pas proportionnel au chiffre d'affaires.
Une tutelle publique. C'est ce qui fait fonctionner le modèle invoqué. Sans autorité capable de réviser une décision, on n'a pas une délégation de régulation : on a un club.
Notons que l'installation d'évaluateurs indépendants annoncée hier va dans la bonne direction sur un point voisin. Les deux dispositifs pourraient se compléter — des tests communs, vérifiés par des tiers — ou se substituer l'un à l'autre, auquel cas le second aurait servi à éviter le premier.
Ce qu'il faut retenir
Ce projet est probablement nécessaire et potentiellement problématique, et ces deux choses sont vraies simultanément.
Le test sera celui que nous proposions mercredi : un organisme accepte-t-il qu'un tiers indépendant contrôle son application ? C'est ce qui distingue une norme d'une charte, et une délégation d'une captation.
Et il faudra regarder qui siège. Un organisme de normalisation où les trois plus grands décident et où les autres assistent porte un nom, et ce n'est pas celui de norme.