Glossaire AI Act : comprendre les termes clés de la réglementation IA

L’AI Act européen introduit un vocabulaire technique précis qui peut dérouter les professionnels découvrant cette réglementation. Ce glossaire détaille les définitions officielles et leur application pratique pour vous aider à naviguer dans le texte réglementaire.

Comprendre ces termes est essentiel pour évaluer correctement vos obligations et communiquer efficacement avec les autorités de contrôle.

Définitions fondamentales

Système d’intelligence artificielle

Selon l’article 3 de l’AI Act, un système d’IA est défini comme un système basé sur une machine qui peut, pour un ensemble donné d’objectifs définis par l’homme, générer des sorties telles que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit.

Application pratique : Cette définition large englobe les chatbots, systèmes de recommandation, outils d’aide à la décision, systèmes de reconnaissance vocale, algorithmes de trading, etc.

Intelligence artificielle générale (AGI)

Système d’IA hypothétique capable d’égaler ou de surpasser l’intelligence humaine dans tous les domaines cognitifs. L’AI Act ne réglemente pas spécifiquement l’AGI mais pose les bases pour son encadrement futur.

Modèle d’IA à usage général (GPAI)

Un modèle d’IA à usage général est un modèle d’IA, y compris lorsqu’il est entraîné au moyen d’un apprentissage auto-supervisé ou non supervisé, qui présente une généralité significative et qui est capable d’effectuer de manière compétente un large éventail de tâches distinctes, indépendamment de la façon dont le modèle est mis sur le marché.

Exemples concrets : GPT-4, Claude, Gemini, LLaMA, Mistral AI.

Modèle d’IA à usage général systémique

Modèle GPAI présentant des capacités particulièrement élevées qui peuvent avoir un impact significatif sur le marché de l’Union en raison de leur portée, ou avoir une incidence sur la sécurité, la santé, les droits fondamentaux ou la société dans son ensemble.

Seuil de qualification : Modèles nécessitant plus de 10²⁵ FLOP pour leur entraînement.

Acteurs de la chaîne de valeur IA

Fournisseur (Provider)

Personne physique ou morale qui développe un système d’IA ou fait développer un système d’IA en vue de le mettre sur le marché ou de le mettre en service sous son nom ou sa marque.

Obligations principales : Conformité technique, documentation, marquage CE, surveillance post-commercialisation.

Déployeur (Deployer)

Personne physique ou morale utilisant un système d’IA sous son autorité, sauf lorsque le système d’IA est utilisé dans le cadre d’une activité personnelle non professionnelle.

Responsabilités : Utilisation conforme, surveillance humaine, formation des utilisateurs.

Distributeur

Personne physique ou morale dans la chaîne d’approvisionnement, autre que le fournisseur ou l’importateur, qui met un système d’IA à disposition sur le marché de l’Union.

Importateur

Personne physique ou morale établie dans l’Union qui met un système d’IA provenant d’un pays tiers à disposition sur le marché de l’Union.

Représentant autorisé

Personne physique ou morale établie dans l’Union qui a reçu un mandat écrit d’un fournisseur situé hors UE pour agir en son nom aux fins du présent règlement.

Classifications des risques

Pratiques d’IA interdites

Systèmes d’IA présentant un risque inacceptable pour la société et les droits fondamentaux. Ces pratiques sont totalement prohibées.

Exemples :

Systèmes de notation sociale gouvernementaux
Manipulation cognitive exploitant les vulnérabilités
Reconnaissance des émotions sur le lieu de travail
Catégorisation biométrique sensible

Systèmes d’IA à haut risque

Systèmes d’IA susceptibles d’avoir un impact négatif significatif sur la santé, la sécurité ou les droits fondamentaux des personnes.

Domaines d’application :

Infrastructures critiques
Éducation et formation
Emploi et gestion des travailleurs
Services publics et privés essentiels
Application de la loi
Migration, asile et gestion des frontières
Administration de la justice et processus démocratiques

Systèmes d’IA à risque limité

Systèmes présentant des risques de manipulation spécifiques qui nécessitent des obligations de transparence pour permettre aux utilisateurs de prendre des décisions éclairées.

Exemples : Chatbots, deepfakes, systèmes de recommandation de contenu.

Systèmes d’IA à risque minimal

Systèmes d’IA qui présentent un risque minimal ou nul et ne sont soumis à aucune obligation spécifique sous l’AI Act.

Exemples : Filtres anti-spam, jeux vidéo avec IA, calculatrices.

Concepts techniques et de conformité

FLOP (Floating Point Operations)

Unité de mesure des opérations en virgule flottante utilisée pour quantifier la puissance de calcul nécessaire à l’entraînement d’un modèle d’IA.

Seuil critique : 10²⁵ FLOP détermine si un modèle GPAI est considéré comme “systémique”.

Surveillance humaine appropriée

Mesures techniques et organisationnelles garantissant qu’un système d’IA est effectivement supervisé par des personnes physiques durant la période de son utilisation.

Composantes :

Capacité d’intervention immédiate
Possibilité d’interrompre le système
Surveillance continue des performances
Formation adéquate des superviseurs

Robustesse

Capacité d’un système d’IA à fonctionner de manière fiable dans des conditions variables et à résister aux tentatives d’altération malveillante.

Exactitude

Capacité d’un système d’IA à produire des résultats corrects, précis et reproductibles de manière cohérente.

Biais algorithmique

Discrimination systématique dans les sorties d’un système d’IA résultant de préjugés dans les données d’entraînement, la conception de l’algorithme ou son déploiement.

Explicabilité

Capacité à comprendre et à interpréter les décisions prises par un système d’IA, permettant aux humains de comprendre les facteurs qui influencent les résultats.

Conformité et gouvernance

Évaluation de la conformité

Processus démontrant qu’un système d’IA à haut risque satisfait aux exigences énoncées dans l’AI Act avant sa mise sur le marché.

Marquage CE

Marquage de conformité attestant qu’un système d’IA à haut risque est conforme aux exigences applicables de l’AI Act et d’autres réglementations européennes.

Déclaration UE de conformité

Document dans lequel le fournisseur atteste que le système d’IA à haut risque satisfait aux exigences énoncées dans l’AI Act.

Surveillance post-commercialisation

Processus systématique de collecte et d’analyse des données relatives aux performances d’un système d’IA après sa mise sur le marché.

Notification d’incident grave

Obligation de signaler aux autorités compétentes tout dysfonctionnement d’un système d’IA causant un décès, des blessures graves ou des dommages importants.

Autorité de surveillance du marché

Autorité nationale désignée pour contrôler le respect des obligations prévues par l’AI Act sur le territoire de l’État membre.

Code de bonnes pratiques

Code de bonnes pratiques pour les GPAI

Document élaboré conjointement par la Commission européenne et les fournisseurs de modèles GPAI définissant les mesures volontaires pour respecter les obligations réglementaires.

Statut : En cours d’élaboration avec près de 1000 participants, finalisation prévue en avril 2025.

Codes de conduite

Règles volontaires adoptées par les fournisseurs de systèmes d’IA à risque minimal pour promouvoir le développement d’une IA digne de confiance.

Données et apprentissage

Gouvernance des données

Ensemble de politiques, processus et contrôles appliqués aux données utilisées pour l’entraînement, la validation et les tests des systèmes d’IA.

Exigences : Qualité, représentativité, pertinence, complétude, cohérence des données.

Jeu de données d’entraînement

Ensemble de données utilisées pour entraîner un modèle d’IA par l’apprentissage automatique, y compris les données étiquetées et non étiquetées.

Jeu de données de validation

Ensemble de données utilisées pour évaluer et ajuster les hyperparamètres d’un modèle d’IA durant le processus de développement.

Jeu de données de test

Ensemble de données utilisées pour évaluer les performances finales d’un modèle d’IA après l’entraînement et la validation.

Données d’entraînement biaisées

Données qui contiennent des préjugés systématiques pouvant conduire à des résultats discriminatoires ou inexacts du système d’IA.

Secteurs d’application spécialisés

IA dans le domaine médical

Systèmes d’IA utilisés pour le diagnostic, traitement ou prédiction d’états de santé, généralement classés à haut risque.

IA biométrique

Système d’IA utilisant des caractéristiques biologiques ou comportementales pour identifier, authentifier ou catégoriser des personnes.

Identification biométrique à distance

Système d’IA permettant l’identification de personnes sans leur coopération active en comparant des données biométriques.

Catégorisation biométrique

Système d’IA qui attribue des personnes à des catégories spécifiques sur la base de leurs données biométriques.

Système de reconnaissance des émotions

Système d’IA qui identifie ou infère les émotions ou les intentions de personnes physiques sur la base de leurs données biométriques.

Application pratique de ce glossaire

Ce vocabulaire technique constitue la base de votre communication avec les autorités de contrôle et vos partenaires. Maîtriser ces définitions vous permet de :

Classer correctement vos systèmes d’IA
Identifier vos obligations réglementaires précises
Communiquer efficacement avec les consultants et auditeurs
Rédiger une documentation conforme aux attentes réglementaires

Pour aller plus loin dans votre compréhension de l’AI Act, consultez notre guide complet sur l’AI Act européen qui détaille les obligations pratiques pour les entreprises.

Questions sur l’application de ces concepts à votre contexte ? Contactez nos experts en gouvernance IA pour un accompagnement personnalisé.