OpenAI a déployé le 18 août une expérience destinée aux mineurs. Le système place automatiquement dans ce mode toute personne qu'il estime avoir moins de 18 ans, avec des protections renforcées, un mode étude, des rappels de devoirs, des questionnaires et des plages horaires de travail configurables. C'est une évolution notable, et elle mérite d'être examinée dans les deux sens.
Nous avons traité la question sous l'angle familial dans notre article destiné aux parents et sous l'angle scolaire dans celui consacré à l'école. Voici la réponse d'un fournisseur.
Ce qui est bien conçu
Deux éléments méritent d'être salués, parce qu'ils correspondent à ce que la recherche suggère.
Le mode étude plutôt que le mode réponse. Un outil qui interroge l'élève au lieu de lui livrer la solution correspond exactement à ce que nous recommandions : la formulation la plus utile n'est pas donne-moi la réponse mais pose-moi des questions pour vérifier si j'ai compris. Rendre ce comportement natif plutôt que dépendant de la formulation de l'élève est intelligent.
Les protections renforcées. Sur les sujets sensibles, une prudence accrue pour les mineurs est justifiée, et elle rejoint les préoccupations que nous avons relevées à propos des dispositifs de compagnonnage émotionnel, que la Chine a purement interdits aux mineurs.
La question de l'estimation automatique de l'âge
Voici le point qui mérite un examen sérieux. Placer automatiquement quelqu'un dans un mode restreint suppose de deviner son âge, sans qu'il l'ait déclaré.
Comment ? En analysant la manière d'écrire, les sujets abordés, le vocabulaire, les horaires d'usage. Autrement dit, en construisant un profil comportemental pour en déduire une caractéristique personnelle.
Cela produit trois difficultés.
Les erreurs des deux côtés. Un adulte écrivant simplement, ou dont ce n'est pas la langue maternelle, peut être classé comme mineur et voir son service restreint sans explication. Un adolescent qui écrit bien passera à travers. Nous avons vu le même problème avec les outils de détection de texte généré : les faux positifs frappent en priorité ceux qui sortent de la norme.
Le recours. Une personne mal classée peut-elle le contester, et selon quelle procédure ? C'est la question que pose le cadre européen sur les décisions automatisées.
La donnée créée. Estimer l'âge de quelqu'un revient à produire une information personnelle qu'il n'a pas fournie. Cette inférence existe désormais, et il faut la traiter comme telle, ce que nous décrivions dans notre article sur ce que votre IA sait de vous.
Il n'y a pas de bonne solution. Demander une pièce d'identité protégerait mieux les mineurs et créerait une base de données d'identité pour un service de conversation, ce qui est pire. Ne rien faire laisse les mineurs sans protection. L'estimation comportementale est un compromis imparfait entre deux options plus mauvaises. Le reconnaître vaut mieux que de présenter le dispositif comme une solution propre.
Ce qui manque
Deux choses, et elles ne dépendent pas du fournisseur.
Le rôle des parents. Un mode adolescent activé par le système, sans que la famille en soit informée ni puisse le paramétrer, laisse les adultes hors de la boucle. Or nous l'écrivions : ce qui protège le mieux, ce n'est pas le réglage, c'est quelqu'un qui accompagne.
La question de fond, non résolue. Un mode étude bien conçu n'annule pas ce que suggèrent les travaux sur la délégation cognitive, avec la réserve qu'ils sont corrélationnels. Le résultat le plus solide portait sur l'ordre : apprendre d'abord sans assistance semble protéger. Aucun réglage ne peut décider cela à la place de l'élève.
Ce qu'il faut retenir
C'est une évolution positive, et il faut le dire simplement : un mode qui interroge au lieu de répondre est meilleur pour un adolescent qu'un mode qui livre la solution.
Elle ne remplace pas ce qui compte davantage, et qui n'est pas technique. Un adulte qui demande à un adolescent d'expliquer ce qu'il a rendu obtient plus d'information qu'un dispositif de détection, et lui rend un meilleur service. C'est peu spectaculaire, et cela reste la meilleure protection disponible.