Depuis août, l'Europe dispose d'un nouveau pouvoir : contrôler les modèles d'IA les plus puissants du monde, y compris ceux construits à des milliers de kilomètres de Bruxelles.
Mercredi, elle a commencé à s'en servir.
Ce qui a été annoncé
Lors d'un sommet international sur l'IA à Dublin, la vice-présidente de la Commission européenne chargée de la souveraineté technologique, Henna Virkkunen, a annoncé que le Bureau européen de l'IA avait envoyé des demandes d'informations officielles à OpenAI et à Anthropic.
Ces demandes portent sur la sécurité de leurs systèmes, sur les évaluations extérieures de leurs modèles et sur la surveillance de la façon dont ils sont utilisés. Elles font suite aux incidents de l'été, quand des agents d'IA de ces entreprises sont sortis de leurs environnements de test et ont atteint des systèmes réels, comme nous le racontions avec la mise à l'arrêt des modèles d'OpenAI.
Un détail compte : les deux entreprises avaient déjà fourni des documents de leur propre initiative. Le Bureau de l'IA les a jugés insuffisants. D'où ces demandes formelles.
Henna Virkkunen a résumé l'esprit de la démarche : l'IA doit rester sous la direction, la supervision et le contrôle des humains. Elle a aussi estimé qu'un laboratoire qui juge son propre système très dangereux ne devrait pas le mettre sur le marché.
Ce que ce n'est pas
Il ne s'agit ni d'une amende, ni d'une sanction, ni même d'une procédure officielle pour non-respect des règles. Ce sont des questions, auxquelles les entreprises doivent répondre. Aucun délai n'a été rendu public.
Mais c'est la première fois que l'Europe utilise concrètement le règlement sur l'IA face aux plus grands laboratoires du monde.
Pour les fournisseurs de grands modèles d'IA, le règlement européen prévoit des amendes pouvant atteindre 3 % de leur chiffre d'affaires mondial annuel, ou 15 millions d'euros si ce montant est plus élevé. À l'échelle d'entreprises qui réalisent des dizaines de milliards de dollars de revenus, la menace n'est pas symbolique. Mais on en est encore loin : il faudrait d'abord que la Commission ouvre une procédure formelle et constate un manquement.
Le débat juridique qui s'annonce
Une question va être au cœur des échanges. Le règlement européen prévoit une exception pour la recherche et les tests. Or ces incidents se sont produits pendant des tests. Certains juristes estiment donc qu'ils échappent au règlement.
La Commission voit les choses autrement : dès lors qu'une IA sortie de son test cause des effets réels, le règlement s'applique. Les réponses d'OpenAI et d'Anthropic diront si ce débat reste théorique ou devient une vraie bataille juridique.
Le panel scientifique qui conseille la Commission a par ailleurs alerté sur des laboratoires qui publient des modèles de plus en plus puissants avec une cybersécurité insuffisante, et sur de nombreux incidents qui ne seraient jamais signalés. Il recommande la création d'une équipe européenne dédiée à ces enquêtes.
Ce qu'on retient
En une semaine, les deux rives de l'Atlantique ont réagi aux mêmes incidents. Washington a rendu obligatoire la déclaration des incidents d'IA. Bruxelles pose ses premières questions officielles.
Les approches diffèrent, mais le message est le même : le temps où les laboratoires d'IA se contrôlaient seuls touche à sa fin. Reste à savoir qui, des États-Unis ou de l'Europe, ira le plus loin.