Aller au contenu

SociétéGlossaire de l'IA

Biais

Les préjugés hérités des données d'entraînement : si Internet penche, le modèle penche. Un enjeu majeur pour les décisions automatisées (embauche, crédit…).

Autrement dit

Un élève qui n'aurait révisé que dans un seul journal : sa vision du monde penche du même côté.

Nos articles qui en parlent

  • Ils demandent à ChatGPT pour qui voter · Société

    Des électeurs américains préparent leur vote avec ChatGPT. À six mois de la présidentielle française, ce que ça apprend, et les réflexes à avoir.

  • Les médecins freinent l'IA médicale au-delà du diagnostic · Société

    Des cliniciens contestent l'extension de l'IA médicale au-delà du diagnostic, en invoquant la faiblesse des données de performance. On explique pourquoi cette frontière n'est pas arbitraire.

  • L'IA dans le recrutement : des candidatures générées, des CV triés par machine · Société

    L'IA a transformé le recrutement des deux côtés : les candidats produisent plus de candidatures, les entreprises filtrent davantage automatiquement. On analyse cette escalade et ce qu'elle produit.

  • Une IA peut-elle être neutre ? · Vision

    On reproche régulièrement aux IA d'être biaisées politiquement ou culturellement. Mais la neutralité parfaite est-elle même possible pour un système entraîné sur des textes humains et façonné par des choix humains ? On examine où naissent les biais, et pourquoi la transparence vaut peut-être mieux que la neutralité promise.

  • Comment "apprend" une IA ? Le voyage d'un modèle, du chaos brut jusqu'à l'assistant poli · Décryptage

    Comment un modèle passe-t-il d'un tas de données brutes à un assistant capable de vous répondre poliment ? On décrit les trois grandes étapes de l'entraînement d'une IA (pré-entraînement, fine-tuning, RLHF) avec une analogie simple, pour comprendre d'où viennent ses forces et ses biais.

  • Pourquoi la même œuvre est géniale si elle est humaine et nulle si elle est IA · Vision

    Une expérience scientifique simple. Vous montrez deux fois la même image à 565 personnes. Une fois en disant "fait par un humain". Une fois en disant "fait par une IA". Résultats : -62% de valeur monétaire, -77% sur le temps de production estimé, moins de créativité perçue, moins de beauté ressentie. La même image. C'est la définition exacte du mot biais.

Pour aller plus loin à l'Académie

Voir aussi

Dans la même famille : Société

Retrouver ce terme dans le glossaire complet →Tous les termes