Ulysse veut entendre le chant des sirènes. Il sait aussi que quiconque l'entend se jette à l'eau et meurt.
Alors il fait quelque chose d'étrange. Il demande à son équipage de l'attacher au mât, et leur ordonne à l'avance de ne pas le détacher, quoi qu'il dise ensuite. Il sait qu'il suppliera. Il sait aussi que l'homme qui suppliera ne sera pas tout à fait celui qui donne l'ordre maintenant.
Cette semaine, deux dirigeants de l'IA sont allés demander à l'ONU qu'on les encadre. La question mérite d'être posée : est-ce le même geste ?
Ce que demander une contrainte suppose
Le geste d'Ulysse n'a de sens que si trois choses sont vraies en même temps.
Il veut quelque chose maintenant qu'il ne voudra plus après. C'est ce qui rend la contrainte nécessaire : il sait que sa volonté va changer.
Il ne se fait pas confiance. C'est l'aveu central, et il est rare. La plupart du temps, nous croyons que notre volonté future ressemblera à celle d'aujourd'hui.
Il donne le pouvoir à d'autres. Les marins ont des ordres, et ces ordres priment sur ce qu'il dira. Sans cela, l'engagement ne vaut rien.
Ce troisième point est le seul qui compte vraiment. Un engagement qu'on peut défaire soi-même n'est pas un engagement. C'est une intention.
Le test
Appliquons-le à ce qui s'est passé cette semaine.
Les deux premières conditions semblent réunies. Ces dirigeants disent qu'ils voudront aller vite, et qu'ils savent que la vitesse est dangereuse. Ils décrivent exactement le piège d'Ulysse : je vais vouloir me détacher.
La troisième, non. Ils demandent à quelqu'un de les attacher, mais personne n'a encore pris la corde. Il n'existe aujourd'hui aucune autorité capable de dire à l'un de ces laboratoires : ce modèle ne sortira pas.
Tant que c'est le cas, on est devant un homme qui explique très bien pourquoi il faudrait l'attacher, sur un bateau où personne n'a de corde.
On peut lire tout cela autrement : réclamer des règles qu'on sait ne pas venir coûte zéro et rapporte de la crédibilité. C'est un soupçon légitime, et il est invérifiable — on ne peut pas ouvrir la tête des gens. Mais il existe un moyen de trancher sans connaître les intentions : regarder si l'engagement est coûteux. Accepter des évaluateurs extérieurs avec un accès complet à ses systèmes coûte quelque chose. Parler à l'ONU, non. On peut donc juger les actes sans juger les âmes, et c'est plus honnête.
Le problème que même Ulysse n'avait pas
Il y a une différence, et elle est de taille.
Ulysse était seul sur son bateau. S'il s'attachait, l'affaire était réglée.
Ici, il y a plusieurs bateaux. Un armateur qui s'attache pendant que les autres continuent ne protège personne : il perd la course et les sirènes chantent quand même. C'est pour ça que les appels individuels à la prudence ne marchent jamais dans une industrie concurrentielle — et c'est exactement pourquoi ces dirigeants demandent une règle qui s'applique à tous.
Leur demande est donc cohérente. Elle ne devient efficace que si quelqu'un d'extérieur l'impose.
Ce que ça nous apprend sur nous
Ce geste n'a rien d'exotique. Nous le faisons tout le temps.
On confie ses clés à un ami avant de boire. On met le réveil à l'autre bout de la chambre. On met de l'argent sur un compte qu'on ne peut pas toucher. On s'inscrit à un cours pour être obligé d'y aller.
Chaque fois, on organise à l'avance un monde où l'on aura moins de liberté, parce qu'on sait que la liberté du moment nous ferait faire une bêtise.
C'est probablement la chose la plus adulte qu'on puisse faire : reconnaître qu'on sera plus faible plus tard, et s'arranger maintenant pour que ça ne compte pas.
Ce qui manque, en une phrase
Ulysse ne s'est pas attaché lui-même.
Il ne pouvait pas : un noeud qu'on serre soi-même se dénoue soi-même. Il lui fallait des mains qui n'étaient pas les siennes, et des ordres qu'il ne pourrait pas révoquer.
Tout ce qui s'est joué cette semaine tient dans cette phrase. Le discours était le bon. Il manque les marins.