Ce que le mot fait 🎲
Dire qu'un événement est un accident, c'est dire deux choses à la fois : que personne ne l'a voulu, et que personne n'est vraiment en faute. La première affirmation est souvent vraie. La seconde l'est beaucoup plus rarement, et le mot les soude si bien qu'on ne remarque plus qu'on a glissé de l'une à l'autre.
Dire qu'un événement est un accident, c'est dire deux choses à la fois : que personne ne l'a voulu, et que personne n'est vraiment en faute. La première affirmation est souvent vraie. La seconde l'est beaucoup plus rarement, et le mot les soude si bien qu'on ne remarque plus qu'on a glissé de l'une à l'autre.
Nous rapportions ce matin un troisième incident où un modèle a atteint des systèmes réels en les croyant fictifs. Personne ne l'a voulu. La question est de savoir ce que cela règle.
La notion ordinaire
Dans l'usage courant, l'accident s'oppose à l'acte. Ce qui arrive sans intention, par hasard ou par un concours de circonstances, n'est imputable à personne. On ne punit pas la foudre.
Cette distinction a une valeur morale réelle. Nous ne jugeons pas de la même manière celui qui renverse un verre et celui qui le jette. L'intention compte, et une société qui l'ignorerait serait inhumaine.
Mais cette notion porte en elle une idée discutable : que l'absence d'intention épuise la question de la responsabilité.
Ce que les disciplines de la sécurité ont appris
Les domaines qui ont réussi à réduire massivement les accidents ont un point commun : ils ont cessé de croire aux accidents.
L'aviation civile ne classe plus un crash comme un malheur. Elle le décompose en une chaîne de causes, dont chacune aurait pu être interrompue : une procédure ambiguë, un signal mal conçu, une fatigue non détectée, une alarme ignorée parce qu'elle sonnait trop souvent. Aucune de ces causes n'est une intention. Toutes sont des décisions, prises en amont par quelqu'un qui aurait pu décider autrement.
C'est ce déplacement qui a produit les progrès. Tant qu'on appelle un événement un accident, on n'a rien à corriger. Dès qu'on y voit la conséquence d'une conception, on sait où intervenir.
La faute sans coupable ⚖️
Ces disciplines ont fait un second pas, plus subtil. Elles ont séparé la recherche des causes de la recherche des coupables. Un rapport d'enquête aérienne n'est pas un réquisitoire : il établit ce qui s'est passé pour que cela ne se reproduise pas, et c'est précisément parce qu'il ne sert pas à punir que les gens y témoignent honnêtement. Nous l'avons souvent souligné à propos du signalement des incidents : protéger celui qui déclare est la condition pour savoir ce qui arrive. On peut donc renoncer à l'idée d'accident sans tomber dans la chasse aux responsables.
Ces disciplines ont fait un second pas, plus subtil. Elles ont séparé la recherche des causes de la recherche des coupables. Un rapport d'enquête aérienne n'est pas un réquisitoire : il établit ce qui s'est passé pour que cela ne se reproduise pas, et c'est précisément parce qu'il ne sert pas à punir que les gens y témoignent honnêtement. Nous l'avons souvent souligné à propos du signalement des incidents : protéger celui qui déclare est la condition pour savoir ce qui arrive. On peut donc renoncer à l'idée d'accident sans tomber dans la chasse aux responsables.
Le cas qui nous occupe
Appliquons cette grille à l'incident de la semaine.
Le modèle n'avait pas d'intention hostile : il croyait être dans l'exercice. Sur ce point, le mot accident est exact.
Mais un modèle doté de capacités offensives a été placé dans un environnement qui n'était pas coupé du monde. C'est une décision. Il est le troisième laboratoire à connaître un épisode de cette nature en deux mois, ce qui signifie que le risque était connu. Poursuivre les évaluations sans isolation physique est une décision. Tester des capacités de cette nature avant d'avoir construit les installations adaptées est une décision.
Aucune de ces décisions n'est malveillante. Toutes étaient évitables. C'est exactement ce que le mot accident empêche de voir.
Pourquoi ce mot est commode
Il faut se demander à qui profite une qualification, et celle-ci arrange beaucoup de monde.
Elle arrange celui qui a conçu le dispositif, parce qu'elle déplace l'attention de sa conception vers le comportement imprévisible du système. Elle arrange le public, parce qu'un accident est un événement clos, qui n'appelle pas de changement.
Et elle arrange un récit particulier, celui d'une technologie qui échapperait à ses créateurs — ce qui est à la fois plus spectaculaire et plus rassurant que la réalité. Plus spectaculaire, parce qu'il y a une machine qui s'émancipe. Plus rassurant, parce que personne n'est en cause.
Ce qu'il faudrait dire à la place
Il existe un vocabulaire plus précis, et il est emprunté aux disciplines qui ont réussi.
On parle d'événement indésirable, sans préjuger de la faute. On en cherche les causes contributives, pas le responsable unique. Et on se demande à chaque étape : quelle décision, si elle avait été différente, aurait interrompu la chaîne ?
Cette question a l'avantage de ne jamais admettre de réponse vide. Il y a toujours une décision quelque part, même quand il n'y a aucune intention.
Ce qu'il faut retenir
La réponse à la question du titre est qu'un accident est rarement ce qu'on croit : non pas un événement sans cause humaine, mais un événement dont les causes humaines sont trop éloignées dans le temps pour qu'on les voie.
Ce mot n'est pas faux. Il est trop commode. Il dit une vérité — personne ne l'a voulu — pour en taire une autre — quelqu'un aurait pu l'empêcher.
Et c'est précisément la seconde qui permet d'éviter le suivant.