Les gens qui fabriquent l'IA, et qu'on ne voit jamais

Une IA apprend à partir d'exemples annotés. Quelqu'un a fait ces annotations. C'est un travail humain, massif, et c'est la partie de la chaîne dont on parle le moins.

Ce que ces personnes font réellement

• Annoter : dire ce qu'il y a sur une image, si une réponse est bonne, laquelle de deux réponses est la meilleure. C'est cette dernière tâche qui rend un modèle agréable à utiliser.
• Modérer : décider ce qu'une IA doit refuser. Pour lui apprendre à refuser l'horreur, il faut lui montrer l'horreur, et donc que des personnes la regardent, en quantité, toute la journée.

Ce second travail a des conséquences documentées sur la santé mentale de ceux qui le font. Des procès sont en cours à ce sujet.

Où et dans quelles conditions

Ce travail est largement sous-traité vers des pays où la main-d'œuvre coûte moins cher, le Kenya et les Philippines notamment. Des États commencent à imposer un salaire plancher pour ces métiers, ce qui est le signe qu'ils existent en nombre et que leurs conditions posent problème.

Pourquoi cette leçon est ici

Pas pour culpabiliser qui que ce soit. Pour une raison plus simple : « l'IA fait ça toute seule » est faux, et cette phrase est répétée partout. Il y a des gens derrière, à chaque étape, et ne pas le savoir fausse la compréhension de ce qu'est réellement cette technologie.

Ça change aussi la lecture d'une actualité. Quand un modèle devient soudain plus poli, plus prudent, meilleur pour refuser une demande douteuse, ce n'est pas une percée scientifique : c'est très souvent le résultat de milliers d'heures de jugement humain.

Ce qu'on peut en faire

Rien d'héroïque. Savoir que ça existe, et le mentionner quand quelqu'un affirme devant vous qu'une IA « apprend toute seule ». C'est déjà remettre la chose à sa place.