Un serrurier sait ouvrir n'importe quelle porte. C'est pour ça qu'on l'appelle quand on a perdu ses clés. C'est aussi exactement ce qu'un cambrioleur rêverait de savoir faire.
On ne confie pas un passe-partout à n'importe qui. Mais on ne l'interdit pas non plus : sans serruriers, on resterait tous à la porte.
Cette semaine, Google a fait face au même dilemme, à une tout autre échelle. Son modèle le plus puissant, Gemini 4 Argon, est confié sans garde-fous en cybersécurité à des défenseurs jugés « de confiance » : des gouvernements, des hôpitaux, des opérateurs de télécommunications. Une question s'impose : qui décide de cette confiance ?
Un outil qui protège et qui attaque
Le problème vient d'une particularité de ces outils. La même capacité sert dans les deux sens. Trouver une faille dans un logiciel permet de la corriger, ou de l'exploiter. Comprendre comment fonctionne une attaque permet de la bloquer, ou de la lancer.
C'est un dilemme ancien. La chimie qui soigne peut empoisonner. La connaissance des virus qui permet de fabriquer un vaccin peut aussi servir à nuire. On ne peut pas fabriquer un bon bouclier sans comprendre l'épée.
Qui décide, aujourd'hui ?
Aujourd'hui, c'est l'entreprise elle-même. Google choisit qui entre dans son programme, selon des critères qu'il ne détaille pas. Cela pose trois problèmes.
Le pouvoir. Une entreprise privée décide quels gouvernements, quels hôpitaux, quels opérateurs méritent l'outil le plus puissant du moment. C'est un pouvoir considérable, exercé sans que personne d'autre ne puisse le contrôler.
Les personnes. La confiance est accordée à des institutions, mais l'outil est utilisé par des individus. Un employé mécontent, un compte volé, et la confiance accordée à l'organisation ne protège plus rien. Le rapport de Microsoft le rappelait cette semaine : les comptes légitimes volés sont l'une des principales portes d'entrée des pirates.
Le nombre. Plus la liste des « personnes de confiance » s'allonge, plus le risque qu'une copie s'échappe augmente. Un secret partagé par mille personnes n'est plus tout à fait un secret.
En France, jusqu'à la fin des années 1990, les outils de chiffrement les plus puissants étaient classés parmi les matériels de guerre. Leur usage était strictement contrôlé par l'État, réservé à ceux qu'il jugeait dignes de confiance. Puis la règle a sauté, pour une raison simple : avec internet, tout le monde avait besoin de se protéger, des banques aux simples particuliers. Le chiffrement qu'on réservait à quelques-uns est devenu ce qui protège aujourd'hui chacun de vos paiements en ligne. L'histoire des outils de défense est souvent celle-là : réservés d'abord, partagés ensuite.
Ne rien faire, c'est aussi choisir
Il serait facile de conclure qu'il faudrait tout bloquer. Ce serait une erreur.
Les pirates, eux, n'attendent l'autorisation de personne. Ils utilisent déjà l'IA pour aller plus vite, et refuser aux défenseurs les outils pour leur répondre reviendrait à laisser la porte ouverte. Garder l'outil sous clé a aussi des victimes : les hôpitaux dont la faille ne sera pas corrigée à temps.
La vraie question n'est donc pas « faut-il donner l'outil ? », mais « à quelles conditions ? ».
Ce qui rendrait cette confiance légitime
Quelques principes simples feraient une grande différence. Des critères publics, pour savoir qui peut entrer et pourquoi. Un contrôle extérieur, qui ne dépende pas seulement de l'entreprise. Une trace de chaque utilisation, pour pouvoir remonter le fil en cas de problème. Et la possibilité de retirer l'accès, rapidement, quand quelque chose tourne mal.
Rien de tout ça n'est impossible. C'est ce qu'on attend déjà de ceux qui manipulent d'autres outils dangereux, des médicaments puissants aux explosifs de chantier.
Ce qu'on retient
Un passe-partout n'est ni bon ni mauvais. Tout dépend de la main qui le tient, et de la façon dont on a choisi cette main.
Ce n'est pas la confiance qui rend un outil sûr. Ce sont les moyens de vérifier qu'on avait raison de l'accorder.