Aller au contenu

TechniqueGlossaire de l'IA

Interprétabilité

Le champ de recherche qui tente de comprendre ce qui se passe à l'intérieur d'un modèle d'IA, dont les milliards de paramètres forment une « boîte noire ». Sa branche « mécaniste » dissèque les circuits internes du modèle pour expliquer pourquoi il répond comme il le fait.

Autrement dit

Passer le cerveau de l'IA à l'IRM plutôt que se contenter d'observer son comportement de l'extérieur.

Nos articles qui en parlent

  • Microsoft : Nadella veut un frein d'urgence pour l'IA · Société

    Satya Nadella veut que les IA puissent être stoppées en pleine tâche par un humain, et qu'on les traite comme compromises dès le départ. Ce que ça change.

  • Un seul modèle pour le texte, l'image, le son et la vidéo · Modèles

    Alibaba a publié Qwen3.8-Omni-Flash, un modèle traitant nativement plusieurs modalités avec un million de tokens de contexte. On explique ce que l'omnimodalité change réellement.

  • Qu'est-ce qu'une bonne décision ? · Vision

    Une machine peut optimiser un résultat sans pouvoir justifier sa démarche. On examine ce que nous attendons vraiment d'une décision, et pourquoi le processus compte parfois plus que l'issue.

  • Un avion de chasse piloté entièrement par IA : le débat sort du domaine militaire · Société

    L'agence américaine DARPA a mené un vol d'essai d'un F-16 entièrement contrôlé par IA. On analyse ce que cet essai signifie pour le débat public sur la délégation de décisions.

  • Pourquoi personne ne sait vraiment ce qui se passe dans une IA · Vision

    L'opacité des modèles d'IA n'est pas un choix commercial mais une propriété de leur construction. On explique pourquoi l'interprétabilité est si difficile, ce que les chercheurs parviennent tout de même à observer, et ce que cette limite implique.

  • Sommes-nous encore aux commandes ? Le vrai problème du contrôle de l'IA · Société

    Dans notre précédent article sur l'accélération de l'IA, nous avons posé une question vertigineuse : si la technologie évolue plus vite que notre capacité à la comprendre, est-on encore aux commandes ? Six mois plus tard, les premiers cas concrets de "perte de contrôle" sortent au grand jour. Voici ce qu'ils nous apprennent.

Voir aussi

Dans la même famille : Technique

Retrouver ce terme dans le glossaire complet →Tous les termes