La logique par niveau de risque

Le règlement ne classe pas les technologies mais les usages. Le même modèle peut relever de trois catégories différentes selon ce qu'on lui fait faire. C'est la clé de lecture du texte.

Les usages interdits

Une courte liste, sans dérogation possible : notation sociale généralisée, exploitation de la vulnérabilité de personnes, certaines formes d'identification biométrique à distance, et, le point qui surprend les employeurs, la reconnaissance des émotions sur le lieu de travail et dans l'enseignement.

Si un outil vous propose d'analyser l'état émotionnel de vos salariés, la réponse est non, quel que soit l'argumentaire commercial.

Le haut risque

C'est là que se joue l'essentiel pour une entreprise ordinaire, parce que la liste touche des usages banals : recrutement et gestion des ressources humaines, accès à l'éducation, accès au crédit et à l'assurance, certains usages en infrastructures critiques.

Trier des candidatures avec une IA, c'est du haut risque. Ce n'est pas interdit, mais cela impose des obligations réelles : supervision humaine effective, information des personnes, tenue de journaux, documentation.

Le risque limité : la transparence

Un agent conversationnel doit laisser comprendre qu'on parle à une machine. Les contenus générés doivent être identifiables comme tels. C'est le niveau qui concerne le plus grand nombre.

Le risque minimal

Tout le reste, c'est-à-dire l'immense majorité : rédiger, résumer, traduire, trier des courriels, préparer des brouillons. Aucune obligation particulière.

Le tri à faire chez vous

Listez vos usages, pas vos outils. Pour chacun : est-ce que cela décide de quelque chose au sujet d'une personne ? Si oui, regardez de près. Si non, vous êtes presque certainement en risque minimal.