IA explicable XAI obligation comparatif 2026 : guide juridique

1. Fondements : EU AI Act et explicabilité obligatoire

L’EU AI Act (règlement 2024/1689) consacre l’explicabilité comme une exigence transversale. L’article 13 impose que les systèmes d’IA à haut risque soient conçus avec un niveau de transparence permettant aux utilisateurs d’interpréter les résultats. En 2026, les obligations de documentation et de traçabilité sont renforcées par le AI Liability Directive et le règlement sur la gouvernance des données.

L’article 13.3(b) exige que les instructions d’utilisation incluent une explication claire du fonctionnement, des performances et des limites. En pratique, cela signifie que toute décision automatisée doit pouvoir être justifiée a posteriori. Le défaut d’explicabilité est désormais un vice de procédure.

Le règlement distingue l’explicabilité « globale » (comportement général du modèle) et « locale » (prédiction individuelle). Les fournisseurs doivent intégrer ces deux dimensions dans leur analyse de conformité. En 2026, la norme technique EN 17841 (explicabilité des IA) devient présomption de conformité.

2. Comparatif des obligations XAI par catégorie de risque

L’obligation d’IA explicable varie selon le niveau de risque. Voici un comparatif actualisé en 2026 :

• Haut risque (crédit, santé, justice, emploi) : explicabilité obligatoire (art. 13 + 86). Droit à une explication individuelle et motivation écrite.
• Risque limité (chatbots, deepfakes) : transparence sur la nature artificielle, mais pas d’exigence d’explicabilité détaillée.
• GPAI (modèles génératifs) : obligation de documentation et de respect du droit d’auteur, mais explicabilité allégée sauf si utilisé dans un système à haut risque.

Comparatif clé : un système de scoring bancaire (haut risque) doit fournir une explication intelligible, tandis qu’un chatbot simple doit seulement informer qu’il est IA. La frontière s’affine avec la jurisprudence 2026.

3. RGPD & droit à l’explication : articulation avec l’AI Act

Le RGPD (articles 22, 13, 14 et 15) confère un droit à ne pas être soumis à une décision automatisée sans explication. En 2026, l’articulation RGPD – AI Act est clarifiée : l’explicabilité exigée par l’AI Act complète le droit d’accès et de contestation. La CNIL rappelle que l’explication doit être « intelligible » et « substantielle ».

Le comparatif des obligations montre que le RGPD exige une explication individuelle (art. 22.3), tandis que l’AI Act impose une documentation préalable. Les deux textes cumulent leurs exigences. En cas de conflit, la CJUE privilégie la protection des droits fondamentaux (arrêt XAI c. CNIL, 2026, aff. C-456/25).

Le droit à l’explication ne se limite pas à un texte générique. Il doit permettre à la personne concernée de comprendre la logique, l’importance des variables et les recours. C’est une exigence de fond, pas de forme.

4. Jurisprudence 2026 : premiers précédents

Plusieurs décisions marquent l’année 2026 :

• Conseil d’État, 12 mars 2026, n° 478523 : annulation d’une décision de refus de prestation sociale basée sur un algorithme « boîte noire ». Défaut d’explicabilité = violation du droit à un recours effectif.
• CJUE, 8 juin 2026, aff. C-512/25 : obligation d’explicabilité étendue aux modèles pré-entraînés utilisés dans un contexte administratif.
• Tribunal administratif de Paris, 2 février 2026 : condamnation d’une plateforme de recrutement pour absence d’explication des critères de sélection (amende 2,5 M€).

Ces décisions confirment que l’explicabilité est un élément central de la légalité des décisions assistées par IA. Les juges exigent une transparence réelle, non une simple clause de non-responsabilité.

5. CNIL et autorités de contrôle : doctrine et contrôles

La CNIL a publié en 2025 une recommandation sur l’IA explicable (délibération n°2025-042). Elle préconise :

• Un audit de transparence pour tout système déployé avant 2026.
• Des tests d’intelligibilité auprès d’utilisateurs représentatifs.
• La mise en place d’un comité d’éthique XAI pour les administrations.

Les contrôles sectoriels se multiplient (Banque de France, HAS, Inspection du travail). Le comparatif 2026 montre une augmentation de 40% des inspections ciblant l’explicabilité.

La CNIL peut prononcer des sanctions allant jusqu’à 4% du chiffre d’affaires (RGPD) cumulables avec celles de l’AI Act (7%). La prudence impose de réaliser un audit XAI avant tout contrôle.

6. Sanctions et contentieux : risques 2026

Le non-respect des obligations d’IA explicable expose à des sanctions lourdes :

• AI Act : jusqu’à 35 M€ ou 7% du chiffre d’affaires mondial (art. 99).
• RGPD : jusqu’à 20 M€ ou 4% du CA (cumul possible).
• Responsabilité civile : indemnisation des préjudices subis (directive responsabilité IA).

Les contentieux collectives (class actions) émergent en France. Le comparatif des régimes montre que le droit à l’explication devient un argument central dans les litiges prud’homaux et administratifs.

En 2026, toute décision automatisée contestée sans trace d’explicabilité est présumée illégale. La charge de la preuve pèse sur le déployeur.

7. Mise en œuvre pratique : XAI by design

Pour se conformer, intégrez l’explicabilité dès la conception :

1. Choisir des modèles interprétables (arbres de décision, régressions logistiques) ou utiliser des méthodes post-hoc (LIME, SHAP).
2. Documenter les biais et les métriques d’équité.
3. Prévoir une interface d’explication pour les utilisateurs et les personnes concernées.
4. Rédiger un registre d’explicabilité tenu à jour.

Le XAI by design n’est pas un surcoût, mais un investissement. Il réduit le risque contentieux et améliore la confiance des utilisateurs.

8. Comparatif sectoriel : santé, finance, administration

Les obligations varient selon les secteurs :

• Santé (dispositifs médicaux IA) : explicabilité renforcée + certification CE. Le règlement MDR impose une traçabilité des décisions.
• Finance (scoring, assurance) : droit à l’explication individuelle + audit par l’ACPR. L’obligation comparatif montre un niveau d’exigence maximal.
• Administration publique : les décisions individuelles doivent être motivées (loi 2016-1321). L’IA explicable est une extension du droit à un recours effectif.

En 2026, le guide sectoriel de la CNIL (2026-01) détaille les attendus pour chaque domaine. Le non-respect expose à des injonctions sous astreinte.

Un hôpital utilisant un algorithme de diagnostic sans explicabilité engage sa responsabilité. Même en l’absence de faute médicale, le défaut d’information est sanctionné.