Lexique · IA technique en contexte juridique
Biais algorithmique
Distorsion systématique d'un système IA qui produit, en moyenne, des résultats défavorables ou avantageux pour certains groupes, indépendamment de toute intention de discriminer.
Définition
Les biais peuvent venir des données d'entraînement (sous-représentation de certaines populations, étiquetage subjectif), de la conception du modèle (choix d'objectif, de variables proxy), ou du contexte d'usage (interaction avec des biais humains existants).
L'EU AI Act exige, pour les systèmes haut risque, une analyse de la qualité et de la représentativité des données d'entraînement, ainsi qu'un test des biais avant mise en service. Le RGPD, de son côté, impose la prise en compte des biais via le principe d'exactitude.
En droit belge, un biais discriminatoire (au sens des lois anti-discrimination de 2007) engage la responsabilité du déployeur, même quand il a été involontaire et hérité du modèle.
Ce que ça change concrètement
Pour un juriste ou un DRH belge.
- 01
Pour la fonction RH, tester un outil de présélection sur un échantillon contrôlé (parité H/F, origines, âges) avant déploiement n'est plus une option.
- 02
Pour les directions juridiques, conserver les rapports de test de biais devient un élément clé de défense en cas de réclamation.
Voir aussi
Secteurs concernés
Un cas concret derrière le terme ?
Si ce terme correspond à une question opérationnelle dans votre organisation, on peut en discuter directement.
Me contacter