Lexique · Gouvernance & conformité
Explicabilité
Capacité à rendre compréhensible, pour les opérateurs comme pour les personnes concernées, la manière dont un système d'IA ou un algorithme aboutit à un résultat. L'AI Act et le RGPD en déclinent l'exigence par des obligations de transparence et par un droit à explication des décisions individuelles.
- Rubrique
- Gouvernance
- Mise à jour
- Articles
- 0
Notions liées
Sources · 5
- [1] Article 13 : Transparence et fourniture d'informations aux déployeurs (AI Act Service Desk, Commission européenne)
- [2] Article 86 : Droit à l'explication des décisions individuelles (AI Act Service Desk, Commission européenne)
- [3] Le règlement général sur la protection des données, chapitre III : droits de la personne concernée (CNIL)
- [4] Communiqué de presse n° 22/25, arrêt de la Cour dans l'affaire C-203/22, Dun & Bradstreet Austria (Cour de justice de l'Union européenne)
- [5] Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (NIST)
Ce que ça change pour une organisation
L’AI Act ne définit pas l’explicabilité à l’article 3, mais il en décline l’exigence. Les systèmes à haut risque doivent être assez transparents pour que les déployeurs puissent interpréter leurs sorties et les utiliser de manière appropriée (article 13). Une personne visée par une décision d’un déployeur fondée sur les sorties d’un système à haut risque de l’annexe III (hors infrastructures critiques), lorsqu’elle produit des effets juridiques ou l’affecte significativement, peut obtenir des explications claires et pertinentes sur le rôle du système et sur les principaux éléments de la décision (article 86).
Le RGPD complète ce dispositif : la personne concernée peut obtenir des informations utiles sur la logique sous-jacente d’une décision automatisée (article 15, paragraphe 1, point h) et a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui l’affecte de manière significative (article 22). Dans l’arrêt C-203/22 du 27 février 2025, la Cour de justice a jugé que le responsable doit décrire la procédure et les principes concrètement appliqués, de façon que la personne comprenne quelles données ont été utilisées et comment ; communiquer l’algorithme ne suffit pas.
En pratique, cela suppose de documenter les variables, la version du modèle et la logique de décision.
Exemple
Dans l’affaire C-203/22, un opérateur de téléphonie mobile autrichien a refusé un contrat de 10 euros par mois à une cliente jugée insuffisamment solvable, sur la base d’une évaluation de crédit automatisée de Dun & Bradstreet Austria. La Cour de justice a jugé que la personne a droit à une explication lui permettant de comprendre et de contester la décision.
À ne pas confondre avec
- La transparence : informer qu’un système d’IA est utilisé ou qu’un contenu a été généré par une IA (article 50), alors que l’explicabilité porte sur la manière dont un résultat a été obtenu.
- L’interprétabilité : pour le NIST, l’explicabilité décrit les mécanismes sous-jacents du système, et l’interprétabilité la signification de ses sorties au regard de sa finalité.