Comment une machine apprend : l'entraînement

Comment un programme peut-il « apprendre » ? Pas de magie : des maths, des données, et beaucoup de répétition.

Le réseau de neurones

Au cœur de l'IA moderne, il y a le réseau de neurones artificiels : des millions de petites unités de calcul connectées entre elles, très librement inspirées du cerveau. Chaque connexion a un « poids », un simple nombre qui dit à quel point elle compte. Ces nombres s'appellent les paramètres, quand on dit qu'un modèle a 70 milliards de paramètres, on parle de 70 milliards de petits réglages.

L'entraînement, en trois temps

• 1. Deviner. On montre un exemple au réseau (une photo, une phrase à compléter). Il produit une réponse, au début, n'importe quoi.
• 2. Mesurer l'erreur. On compare sa réponse à la bonne réponse. L'écart entre les deux est calculé précisément.
• 3. Corriger. Chaque paramètre est très légèrement ajusté dans la direction qui aurait réduit l'erreur. Puis on recommence, des milliards de fois.

Répété à l'échelle d'internet entier, ce cycle transforme un réseau qui répond au hasard en un système qui capte la grammaire, les faits, les styles, les raisonnements présents dans ses données.

La qualité des données fait tout

Une IA n'apprend que ce qu'on lui montre. Données biaisées → IA biaisée. Données fausses → IA qui répète des erreurs avec assurance. C'est pour ça que la sélection des données d'entraînement est devenue un enjeu stratégique majeur, autant que la puissance de calcul.