Au collège, il y a le carnet de correspondance. Un mot de l'enseignant, une absence, une sanction : tout passe par lui, et les parents doivent signer. C'est un fil, parfois agaçant, mais rassurant. On sait que si quelque chose ne va pas, on sera prévenu.
Cet été, OpenAI a promis aux parents un carnet de correspondance pour ChatGPT. Une association vient de vérifier s'il fonctionnait.
Ce qu'OpenAI avait promis
Le 18 août, OpenAI a lancé ChatGPT for Teens, une version destinée aux 13-17 ans. Elle promettait plusieurs protections : prévenir les parents quand un adolescent évoque le suicide, l'automutilation ou des troubles alimentaires, un mode d'étude réglé par les parents pour éviter que l'outil fasse les devoirs à la place de l'élève, un assistant moins « humain », moins enclin à se présenter comme un ami, et une estimation de l'âge pour basculer automatiquement les mineurs vers cette version.
Sur le papier, c'est exactement ce que réclamaient beaucoup de familles, inquiètes de voir leurs enfants passer des soirées entières à discuter avec un assistant.
Ce que le test a trouvé
Common Sense Media, une association américaine qui évalue les écrans et les applications pour les familles, a publié son verdict le 7 octobre. Son institut consacré à la sécurité des jeunes face à l'IA a soumis plus de 4 000 requêtes à ChatGPT, avant et après le lancement de la version ados, avec l'aide de pédopsychiatres et de pédiatres.
Le résultat le plus frappant concerne les alertes. Les testeurs ont créé plus d'une douzaine de comptes adolescents reliés à un compte parent. Ils ont joué quatre profils en crise, et mené des conversations parlant explicitement de suicide, d'automutilation ou de troubles alimentaires, pendant une heure. Aucune notification n'est arrivée chez les parents.
Ce n'est pas le seul problème. Selon l'association, ChatGPT a manqué plus d'une orientation sur quatre vers une aide d'urgence quand la situation l'exigeait. Le mode d'étude pouvait être contourné : l'outil proposait un bouton pour afficher la réponse, et rédigeait des devoirs entiers. L'estimation de l'âge ne fonctionnait pas : des comptes adultes dont l'utilisateur disait avoir 13 ans ne basculaient jamais vers la version ados. Et l'assistant continuait d'exprimer des sentiments et des préférences, comme un ami.
Tout n'a pas échoué. Les refus des jeux de rôle sexuels ont tenu, et ChatGPT n'a pas directement aidé à se faire du mal.
En France, le 3114 est le numéro national de prévention du suicide : gratuit, 24 heures sur 24, 7 jours sur 7. Pour les 12-25 ans, Fil Santé Jeunes répond au 0 800 235 236, de façon anonyme et gratuite. Un assistant d'IA peut écouter, mais il ne remplace pas une personne formée.
Le danger d'une fausse sécurité
Le plus inquiétant, selon l'association, n'est pas qu'un outil ait des failles. Tous en ont. C'est qu'il donne aux parents un sentiment de sécurité qui ne correspond pas à la réalité.
Un parent qui croit être prévenu en cas de crise surveille moins. Il pose moins de questions. Il se dit que l'alerte arrivera. Common Sense Media le résume ainsi : ChatGPT for Teens peut donner aux parents une fausse confiance dans des protections et des alertes qui, souvent, ne fonctionnent pas.
L'association demande à OpenAI de réserver ChatGPT aux plus de 18 ans tant que ces défauts ne sont pas corrigés et vérifiés par un organisme indépendant. OpenAI a contesté une partie de ces résultats. Selon l'entreprise, certains tests ont été menés avant que le contrôle parental soit pleinement actif : après la liaison des comptes, les alertes peuvent mettre quelques heures à fonctionner, et chaque situation grave est d'abord examinée par des personnes formées avant qu'une notification parte. Common Sense Media note de son côté que, dans ses tests plus larges, seules quatre alertes sont parties, sur des comptes plus anciens, et parfois des heures ou des jours après les messages de détresse.
Ce que vous pouvez faire
Ne comptez pas sur les alertes. Si vous avez activé le contrôle parental, gardez-le, mais considérez-le comme un filet troué, pas comme un gardien.
Parlez de l'outil, pas seulement de l'écran. Demandez à votre enfant ce qu'il demande à ChatGPT, et pourquoi. Les adolescents s'en servent pour les devoirs, mais aussi pour des questions qu'ils n'osent pas poser ailleurs.
Rappelez qu'un assistant n'est pas un ami. Il répond toujours, ne juge jamais, donne volontiers raison, et c'est justement ce qui peut le rendre plus attirant qu'un adulte. Cela ne le rend pas plus compétent.
Et pour les devoirs, la question n'est pas seulement de savoir si l'outil triche, mais si votre enfant apprend encore quelque chose.
Ce qu'on retient
Le carnet de correspondance ne protège pas un élève par lui-même. Il protège parce qu'il relie l'école et la maison, et parce qu'un adulte le lit.
Une alerte qui ne part jamais ne relie personne. Les promesses de sécurité des entreprises d'IA ont besoin, elles aussi, d'être signées par quelqu'un d'extérieur avant qu'on puisse s'y fier.