Ce que « servir à l'entraînement » veut dire

C'est la phrase qui inquiète le plus, et souvent pour de mauvaises raisons. Voyons ce qu'elle recouvre vraiment.

Ce que ce n'est pas

Ce n'est pas un stockage : le modèle ne garde pas votre conversation dans un tiroir pour la ressortir à quelqu'un d'autre. L'entraînement ajuste des réglages internes, par milliards, à partir d'énormes quantités de textes. Votre message y pèse une poussière.

Et personne ne peut lui demander « qu'est-ce que Philippe t'a écrit hier ». Ce n'est pas ainsi que ça fonctionne.

Ce que c'est quand même

Un modèle peut mémoriser par accident un passage vu de nombreuses fois ou très singulier. C'est documenté : des chercheurs ont fait ressortir des fragments de textes d'entraînement. Le risque est faible pour une conversation ordinaire, réel pour quelque chose de très identifiable, comme une clé ou un numéro rare.

Et une partie des conversations est relue par des humains pour évaluer la qualité des réponses. C'est le point le plus concret.

La bonne façon de trancher

Ne raisonnez pas en « est-ce que ça craint », mais en « est-ce que ce texte pourrait apparaître ailleurs sans me gêner ». Une recette : aucun problème. Le dossier médical d'un proche : non.

La bonne nouvelle

C'est presque toujours désactivable, en une case à cocher, et le service continue de fonctionner exactement pareil. La leçon suivante montre où la trouver.