Vous envoyez à Copilot une photo de vous à la plage, avec une demande simple : effacer le passant à l'arrière-plan.
Quelque part, quelqu'un que vous ne connaîtrez jamais voit votre photo, votre visage et votre demande. Devant lui, deux retouches proposées par l'IA. Son travail : dire laquelle est la meilleure.
Ce n'est pas une hypothèse. C'est ce que décrit une enquête publiée le 28 septembre par le média américain 404 Media.
Ce qu'a révélé l'enquête
404 Media a eu accès à des documents internes : des consignes de travail, des exemples réels de demandes et de photos, et le forum où échangent les personnes chargées de ce travail. Ils sont « au moins des centaines », selon le média, recrutés notamment via la plateforme Prolific, qui n'a pas souhaité répondre.
Leur mission n'est pas de surveiller. Elle consiste à noter la qualité des retouches de Copilot, pour aider l'IA à s'améliorer. Mais pour noter une retouche, il faut voir la photo d'origine.
« Les visages ne sont jamais floutés », témoigne l'un d'eux. Et beaucoup de demandes sont sexuelles, parfois visant des personnes réelles qui n'ont rien demandé.
Le détail le plus troublant se trouve dans la propre documentation de Microsoft. Sa page de questions sur la confidentialité de Copilot assure que, pour les images envoyées, l'entreprise prend des mesures comme « flouter les visages ». Or depuis le 18 août, une nouvelle application Copilot est en service, et ses pages d'aide ne parlent plus ni de floutage, ni de relecture humaine.
Pourquoi des humains lisent
Ce n'est pas une particularité de Microsoft. C'est ainsi que les IA apprennent ce qu'est une bonne réponse : on en montre deux à une personne, elle choisit la meilleure, et le modèle s'ajuste. Des millions de fois.
Le 14 septembre, le même média racontait qu'OpenAI emploie, elle aussi, des centaines de sous-traitants qui lisent de vraies demandes envoyées à ChatGPT, parfois des conversations entières, sans voir le nom des utilisateurs. OpenAI dit retirer les données personnelles avant la relecture, tout en reconnaissant que des détails sensibles peuvent passer. Anthropic a confirmé au média utiliser aussi la relecture humaine.
Autrement dit, la question n'est pas de savoir si un humain peut lire ce que vous écrivez à une IA. C'est de savoir dans quelles conditions, et si vous pouvez l'éviter.
Le réglage à vérifier ce soir
Chaque grand assistant propose une option pour que vos conversations ne servent pas à améliorer ses modèles. C'est le premier geste à faire.
ChatGPT. Dans les paramètres, rubrique « Contrôles des données », l'option « Améliorer le modèle pour tous ». Désactivée, vos conversations ne servent plus à l'entraînement. Pour une question ponctuelle, la « Discussion temporaire » n'apparaît pas dans l'historique et ne sert pas à l'entraînement, mais OpenAI peut en garder une copie jusqu'à 30 jours pour des raisons de sécurité.
Gemini. Dans « Activité dans les applications Gemini », l'option « Conserver l'activité ». Désactivée, vos futures conversations ne servent plus à l'entraînement, mais Google les garde 72 heures. Attention : une conversation déjà relue par un humain n'est pas effacée quand vous supprimez votre activité. Elle peut être conservée jusqu'à trois ans.
Claude. Dans les paramètres de confidentialité, l'option qui autorise ou non l'utilisation de vos conversations pour améliorer Claude. Si vous l'acceptez, vos données peuvent être gardées cinq ans ; sinon, trente jours. Les « chats incognito » ne servent jamais à l'entraînement.
Copilot. Dans votre profil, rubrique confidentialité, deux options d'entraînement : sur les conversations écrites et sur les conversations vocales. Vos échanges sont conservés 18 mois par défaut.
Couper l'entraînement ne coupe pas tout. Chez OpenAI, Anthropic et Microsoft, une conversation signalée par les systèmes de sécurité (soupçon d'abus, contenu interdit) peut être examinée par des humains, quel que soit votre réglage. Chez Microsoft, c'est écrit noir sur blanc : en cas de suspicion de violation des règles, il n'est pas possible de refuser la relecture humaine. Et OpenAI donne ce conseil sur sa propre page : ne saisissez pas d'informations sensibles que vous ne voudriez pas voir relues.
La règle simple
Les réglages réduisent le risque. Ils ne le suppriment pas. La protection la plus sûre reste ce que vous choisissez de ne pas envoyer.
Avant de partager une photo ou un document avec une IA, posez-vous une seule question : est-ce que j'accepterais qu'un inconnu le voie ? Si la réponse est non, abstenez-vous. Cela vaut en particulier pour les photos d'autres personnes, et surtout d'enfants, pour les papiers d'identité, et pour tout ce qui touche à la santé.
Et si un service vous prévient un jour que vos données ont fuité, voici les bons réflexes.
Une lettre, pas un journal intime
On parle à un assistant comme on écrirait dans un carnet : seul, le soir, sans témoin. C'est ce qui le rend si utile, et ce qui rend cette enquête si dérangeante.
Mais une conversation avec une IA ressemble moins à un journal fermé à clé qu'à une lettre. Elle part, elle est lue par une machine, et parfois, quelque part, par quelqu'un d'autre.
Écrivez en sachant que l'enveloppe peut s'ouvrir.