Ressource gratuite · Kit Word + Excel

Kit IA responsable : biais, transparence, explicabilité et supervision humaine

Ce que la personne qui commande un projet IA doit décider, exiger et vérifier pour que le système ne discrimine pas, que les personnes concernées sachent qu’elles ont affaire à une IA, que chaque résultat puisse être expliqué et qu’un humain garde réellement la main. À jour du règlement omnibus IA entré en vigueur le 27 juillet 2026, avec sept outils prêts à remplir.

📄 Word, 18 pages📊 Classeur Excel, 7 outils⚖️ À jour d’octobre 2026🆓 Gratuit

Télécharger le kitVoir les trois niveaux de vigilance

Une IA responsable ne se décrète pas dans une charte : elle se construit par des décisions de commanditaire. Les biais, la transparence, l’explicabilité et la supervision humaine sont les quatre points où un projet IA peut causer un tort réel à des personnes, et ceux sur lesquels un régulateur, un juge ou un candidat écarté vous demandera des comptes. En octobre 2024, des chercheurs de l’Université de Washington ont soumis à trois modèles de langage plus de 3 millions de comparaisons de CV : les prénoms associés aux personnes blanches ont été préférés dans 85 % des cas, les prénoms féminins dans 11 % seulement. Amazon avait déjà abandonné en 2018 un outil de tri de CV biaisé contre les femmes.

Ce kit traduit l’IA responsable en réflexes concrets pour la personne qui commande, achète ou déploie un système d’IA dans une grande organisation : qualifier le cas d’usage et le niveau de vigilance, mesurer les biais avec des métriques compréhensibles, assurer la transparence envers les personnes concernées, garantir l’explicabilité des résultats, organiser une supervision humaine qui ne soit pas une simple signature, et inscrire ces exigences dans les contrats. Il s’appuie sur le droit applicable en octobre 2026 et sur les référentiels reconnus, sans jargon et sans promesse de conformité automatique.

1. Ce que dit la règle en octobre 2026

Le règlement européen sur l’intelligence artificielle a été modifié par le règlement (UE) 2026/1744, dit omnibus IA, entré en vigueur le 27 juillet 2026. Le calendrier a bougé, mais l’essentiel s’applique déjà : les pratiques interdites, les obligations de transparence et, depuis bien plus longtemps, le droit des personnes face aux décisions automatisées. Les sanctions prévues par l’AI Act vont jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial. Le kit distingue ce qui vous oblige aujourd’hui, ce qui arrive et ce qui relève de la bonne pratique.

Texte	Ce qui s’applique	Depuis ou à partir de
AI Act, article 5	Interdiction de certaines pratiques d’IA : à vérifier pour chaque cas d’usage avant tout déploiement.	2 février 2025
AI Act, article 50	Obligations de transparence : informer les personnes qu’elles interagissent avec un système d’IA, marquer et étiqueter certains contenus générés.	2 août 2026
AI Act, annexe III	Obligations des systèmes à haut risque (emploi, accès aux services essentiels, éducation et autres domaines listés), reportées par l’omnibus IA.	2 décembre 2027
RGPD, article 22	Droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou significatifs.	En vigueur
CJUE, SCHUFA (2023)	Un score calculé par un tiers relève de l’article 22 lorsqu’il joue un rôle déterminant dans la décision.	Arrêt du 7 décembre 2023
CJUE, Dun & Bradstreet (2025)	La personne concernée a droit à une explication de la procédure et des principes effectivement appliqués pour aboutir au résultat.	Arrêt du 27 février 2025
Code des relations entre le public et l’administration	Pour le secteur public : information sur les traitements algorithmiques fondant une décision individuelle et communication de leurs règles à la personne qui le demande.	En vigueur

2. Qualifier le cas d’usage : trois niveaux de vigilance

Tous les projets IA n’appellent pas le même effort. Le kit propose de qualifier chaque cas d’usage en quatre questions, dont le test de la « sortie directement applicable » issu des travaux du Défenseur des droits : le résultat produit par le système s’applique-t-il à une personne sans qu’un humain l’examine réellement ? Les réponses placent le cas d’usage dans l’un des trois niveaux de vigilance ci-dessous. Dans le classeur Excel, l’outil de qualification automatique pose huit questions et calcule le niveau.

Niveau	Situation type	Ce que le kit demande
Standard	Usage interne sans effet sur une personne identifiée, par exemple la synthèse de documents ou l’aide à la rédaction.	Les réflexes de base : information des utilisateurs, règles d’usage, vérification des résultats.
Renforcé	Le système influence une décision qui concerne des personnes, avec un examen humain réel.	Tests de biais, capacité d’explication, supervision humaine suivie dans la durée.
Haut risque	Domaine de l’annexe III de l’AI Act ou décision automatisée au sens de l’article 22 du RGPD.	Fiche d’impact, documentation complète du fournisseur, supervision formalisée, information des personnes.

3. Détecter et réduire les biais

Un biais d’IA ne vient presque jamais d’une intention : il vient des données historiques qui reproduisent des inégalités passées, d’un échantillon qui sous-représente certains groupes, de variables qui en remplacent d’autres, ou de la façon dont le système est utilisé. Le kit décrit ces sources de biais et explique simplement les métriques d’équité qui permettent de les repérer. Elles ne se contredisent pas, mais elles ne mesurent pas la même chose : le choix de la métrique est une décision de commanditaire, à documenter.

Métrique ou test	La question posée	Dans le classeur
Parité de sélection	Les différents groupes sont-ils retenus dans les mêmes proportions ?	Calculateur de biais : taux de sélection par groupe et ratio entre groupes.
Égalité des chances	Parmi les personnes qui remplissent réellement les critères, chaque groupe a-t-il la même chance d’être retenu ?	Calculateur de biais : taux de vrais positifs par groupe.
Égalité des erreurs	Le système se trompe-t-il plus souvent pour un groupe que pour un autre ?	Calculateur de biais : fausses alertes par groupe.
Règle des 4/5	Le taux de sélection d’un groupe est-il inférieur à 80 % de celui du groupe le plus favorisé ? C’est un signal d’alerte, pas un seuil légal en France.	Calculateur de biais : ratio comparé au repère de 80 %.
Tests de prompts appariés	Un assistant d’IA générative répond-il différemment quand seul un prénom, un genre ou un âge change dans la demande ?	Outil de tests de prompts appariés.

4. Transparence et explicabilité

La transparence s’adresse à deux publics. Aux équipes qui utilisent le système, d’abord : pour un système à haut risque, la notice que le fournisseur doit remettre au titre de l’article 13 de l’AI Act décrit ses capacités, ses limites et les conditions de sa supervision. Aux personnes concernées, ensuite : elles doivent savoir qu’une IA intervient et, pour certains contenus générés, que ces contenus le sont. Le kit fournit un modèle de mention d’information et les règles d’étiquetage des contenus.

L’explicabilité répond à une autre question : pourquoi ce résultat ? Depuis l’arrêt Dun & Bradstreet, une personne concernée par une décision automatisée peut exiger une explication intelligible. Le kit distingue trois niveaux d’explication et propose un modèle de réponse en cinq points à adresser à une personne qui demande pourquoi elle a été écartée, notée ou orientée.

Type d’explication	La question à laquelle elle répond	Pour qui
Globale	Comment le système fonctionne-t-il en général, quels facteurs pèsent le plus ?	Commanditaire, conformité, comité de pilotage.
Locale	Pourquoi ce résultat-là, pour cette personne-là ?	Personne concernée, utilisateur qui supervise.
Contrefactuelle	Qu’aurait-il fallu changer pour obtenir un autre résultat ?	Personne concernée qui conteste ou veut agir.

5. Une supervision humaine qui ne soit pas une signature

Mettre un humain dans la boucle ne suffit pas s’il valide tout. Le biais d’automatisation, cette tendance à suivre la recommandation d’un système plutôt que son propre jugement, transforme vite la supervision en formalité. Le kit propose cinq indicateurs mensuels pour vérifier que la supervision est réelle, dont le taux d’acceptation sans modification : au-delà de 95 %, l’outil de suivi du classeur déclenche une alerte. Il décrit aussi l’organisation qui rend cette supervision possible.

6. Le cas des assistants d’IA générative

La plupart des grandes organisations déploient des assistants généralistes comme Copilot, ChatGPT, Claude ou Gemini. Ils posent trois questions propres. La confabulation : l’assistant peut produire une réponse fausse présentée avec assurance. Les biais : l’étude de l’Université de Washington montre qu’ils se retrouvent dans les modèles de langage. La responsabilité : dans l’affaire Moffatt c. Air Canada (2024), la compagnie a été tenue pour responsable des informations erronées données par son agent conversationnel à un client. Le kit en tire des règles d’usage claires, dont l’interdiction de confier le tri de CV à un assistant généraliste.

7. Acheter et suivre dans la durée

La plupart des systèmes sont achetés : c’est votre contrat qui obligera votre fournisseur. Le kit liste les exigences à inscrire dans les achats et fournit une check-list fournisseur de 14 pièces avec un taux de complétude calculé. Une fois le système déployé, il propose une gouvernance proportionnée : suivi de la dérive des performances et des biais, répartition claire de qui fait quoi, comité léger, et un modèle de fiche d’impact en six rubriques inspiré de l’article 27 de l’AI Act. Il situe enfin les référentiels utiles : ISO/IEC 42001 pour le système de management, ISO/IEC 42005 pour l’analyse d’impact, ISO/IEC TR 24027 pour les biais, le NIST AI RMF et son profil IA générative AI 600-1, la liste ALTAI, et les labels Positive AI et Labelia.

8. Ce que contient le kit

Le document Word compte 18 pages en 13 chapitres : pourquoi ce kit ; les 10 réflexes du commanditaire ; ce que dit la règle en octobre 2026 ; qualifier le cas d’usage ; détecter et réduire les biais ; être transparent ; pouvoir expliquer ; la supervision humaine ; le suivi dans la durée et la gouvernance ; le cas des assistants d’IA générative ; les exigences à inscrire dans les achats ; le modèle de fiche d’impact ; les ressources.

Le classeur Excel « Outils du kit IA responsable » reprend la démarche en sept outils : la qualification automatique du cas d’usage (8 questions, niveau calculé) ; l’auto-évaluation sur les 7 exigences d’une IA de confiance (28 questions inspirées de la liste ALTAI) ; le registre des risques éthiques avec criticité calculée ; le calculateur de biais (taux de sélection, ratio, taux de vrais positifs, fausses alertes par groupe) ; les tests de prompts appariés ; le suivi mensuel de la supervision humaine, avec alerte au-delà de 95 % d’acceptation sans modification ; la check-list fournisseur en 14 pièces avec taux de complétude.

Le kit, chapitre par chapitre : ce que chaque chapitre contient et à quoi il sert. Les modèles à remplir sont dans le document Word et le classeur Excel.

Chapitre 1. Pourquoi ce kit

Ce que recouvre une IA responsable pour un commanditaire, et pourquoi les biais, la transparence, l’explicabilité et la supervision humaine se décident au cadrage et à l’achat.

Chapitre 2. Les 10 réflexes du commanditaire

Les dix réflexes du commanditaire, qui résument la démarche du kit.

Chapitre 3. Ce que dit la règle en octobre 2026

L’AI Act modifié par l’omnibus IA (interdictions de l’article 5, transparence de l’article 50, haut risque de l’annexe III reporté au 2 décembre 2027), l’article 22 du RGPD, les arrêts SCHUFA et Dun & Bradstreet, et le Code des relations entre le public et l’administration pour le secteur public.

Chapitre 4. Qualifier le cas d’usage

Quatre questions, dont le test de la « sortie directement applicable », et trois niveaux de vigilance : standard, renforcé, haut risque.

Chapitre 5. Détecter et réduire les biais

Les sources de biais, les métriques d’équité expliquées simplement (parité de sélection, égalité des chances, égalité des erreurs), la règle des 4/5 et ses limites, les tests de prompts appariés pour l’IA générative.

Chapitre 6. Être transparent

La notice prévue par l’article 13, l’information des personnes concernées, un modèle de mention d’information et l’étiquetage des contenus générés.

Chapitre 7. Pouvoir expliquer

Explication globale, locale et contrefactuelle, et un modèle de réponse en cinq points à une personne qui demande pourquoi.

Chapitre 8. La supervision humaine

Le biais d’automatisation, cinq indicateurs mensuels et l’organisation qui rend la supervision réelle.

Chapitre 9. Suivi dans la durée et gouvernance

La dérive, qui fait quoi, un comité léger, et les référentiels ISO/IEC 42001, 42005, TR 24027, NIST AI RMF et AI 600-1, ALTAI, Positive AI et Labelia.

Chapitre 10. Le cas des assistants d’IA générative

Copilot, ChatGPT, Claude et Gemini : confabulation, biais, interdiction du tri de CV par un assistant généraliste, et les leçons de l’affaire Moffatt c. Air Canada.

Chapitre 11. Les exigences à inscrire dans les achats

Ce qu’il faut demander au fournisseur avant de signer, et ce qu’il faut écrire dans le contrat.

Chapitre 12. Le modèle de fiche d’impact

Une fiche en six rubriques inspirée de l’article 27 de l’AI Act, à remplir pour chaque cas d’usage renforcé ou à haut risque.

Chapitre 13. Ressources

Les textes, normes, guides et outils cités, pour aller plus loin.

9. Questions fréquentes

Qu’est-ce qu’une IA responsable, concrètement ?

C’est un système d’IA dont on peut montrer qu’il ne discrimine pas, que les personnes concernées savent qu’il intervient, que ses résultats peuvent être expliqués et qu’un humain en garde réellement le contrôle. Pour un commanditaire, cela se traduit par des décisions précises : qualifier le cas d’usage, choisir et mesurer des métriques de biais, informer les personnes, exiger des pièces du fournisseur et suivre la supervision dans la durée. Le kit transforme chacun de ces points en outil.

Notre projet est-il déjà concerné par l’AI Act ?

Probablement, au moins en partie. Les interdictions de l’article 5 s’appliquent depuis le 2 février 2025 et les obligations de transparence de l’article 50 depuis le 2 août 2026. L’omnibus IA a reporté au 2 décembre 2027 les obligations des systèmes à haut risque de l’annexe III, ce qui laisse le temps de s’y préparer, pas de l’ignorer. L’article 22 du RGPD, lui, s’applique déjà à toute décision fondée exclusivement sur un traitement automatisé.

Comment savoir si notre système est biaisé ?

En le mesurant. Le calculateur de biais du kit compare les taux de sélection, les taux de vrais positifs et les fausses alertes entre groupes, et calcule le ratio entre groupes. La règle des 4/5 sert de signal d’alerte, mais ce n’est pas un seuil légal en France. Pour un assistant d’IA générative, les tests de prompts appariés consistent à poser la même demande en ne changeant qu’un prénom, un genre ou un âge, puis à comparer les réponses.

Faut-il pouvoir expliquer chaque résultat produit par l’IA ?

Dès qu’un résultat produit des effets sur une personne, oui. Depuis l’arrêt Dun & Bradstreet de la CJUE (2025), la personne concernée par une décision automatisée peut obtenir une explication de la procédure et des principes effectivement appliqués. Dans le secteur public, le Code des relations entre le public et l’administration impose déjà une information sur les traitements algorithmiques. Le kit distingue explication globale, locale et contrefactuelle et propose un modèle de réponse en cinq points.

Un humain qui valide chaque résultat, est-ce suffisant ?

Pas forcément. Si la personne accepte presque tout sans rien modifier, la supervision devient une formalité : c’est le biais d’automatisation. Le kit propose cinq indicateurs mensuels pour vérifier que la supervision est réelle ; l’outil de suivi déclenche une alerte quand plus de 95 % des résultats sont acceptés sans modification.

Peut-on utiliser Copilot ou ChatGPT pour trier des CV ?

Le kit recommande de l’interdire avec un assistant généraliste. Une étude de l’Université de Washington (octobre 2024) portant sur plus de 3 millions de comparaisons de CV a montré que trois modèles de langage préféraient les prénoms associés aux personnes blanches dans 85 % des cas, et les prénoms féminins dans 11 % seulement. Le recrutement fait en outre partie des domaines à haut risque de l’annexe III de l’AI Act.

Par quoi commencer ?

Par la qualification de vos cas d’usage : l’outil de qualification automatique pose huit questions et donne le niveau de vigilance de chacun. Ensuite, pour les cas d’usage renforcés ou à haut risque, l’auto-évaluation en 28 questions inspirées de la liste ALTAI et le registre des risques éthiques vous disent où porter l’effort. La check-list fournisseur sert dès le prochain achat ou renouvellement.

10. Aller plus loin

Ce kit complète les autres kits du commanditaire : le kit IA Act couvre ce qui s’applique à un déployeur et le programme de littératie IA, le kit RGPD couvre la qualification des projets et le dossier que le DPO attend, le kit IA et dialogue social prépare la consultation du CSE, le kit Sécurité et données traite les risques de sécurité du projet, le kit IA frugale son empreinte environnementale et le kit Souveraineté IA ses dépendances. Le kit Gouvernance des systèmes d’IA fournit le registre et la grille de qualification, le modèle de charte IA fixe les règles d’usage. Les organisations qui veulent qualifier leurs cas d’usage et former leurs équipes à une utilisation responsable de l’IA le font dans le cadre de la formation IA en entreprise et de la mission Gouverner vos agents.

À lire aussi : Kit IA Act du commanditaire : la feuille de route 2026-2027, Kit RGPD du commanditaire de projet IA, Kit Sécurité et données du commanditaire de projet IA, Gouvernance des systèmes d’IA : le kit 2026 et Charte IA en entreprise : le modèle 2026 à télécharger.

Toute la série des kits gratuits. Pour piloter l’adoption : modèle de charte IA, kit Ambassadeurs IA, kit du manager face à l’IA, kit Feuille de route d’adoption, grille de maturité IA, kit Mesure et ROI de l’IA et kit Gouvernance des IA. Pour le commanditaire de projet IA : kit IA Act, kit RGPD, kit Sécurité et données, kit IA et dialogue social, kit IA frugale et kit Souveraineté IA. Par métier : kit IA RH, kit IA marketing, kit IA finance, kit IA juristes, kit IA du commercial, kit IA du chef de projet, kit IA de l’innovateur et kit IA du communicant.

11. Sources

Les règles et chiffres cités sur cette page et dans le kit s’appuient notamment sur les sources suivantes. Le kit en donne la liste complète dans son chapitre Ressources.

• Parlement européen et Conseil, règlement (UE) 2024/1689 sur l’intelligence artificielle (AI Act), 13 juin 2024, modifié par le règlement (UE) 2026/1744 dit omnibus IA, entré en vigueur le 27 juillet 2026.
• Parlement européen et Conseil, règlement (UE) 2016/679 (RGPD), article 22.
• Cour de justice de l’Union européenne, affaire C-634/21, SCHUFA Holding (Scoring), 7 décembre 2023 ; affaire C-203/22, Dun & Bradstreet Austria, 27 février 2025.
• K. Wilson, A. Caliskan, Université de Washington, AI overwhelmingly prefers white and male job candidates in new test of resume-screening bias, 31 octobre 2024 ; article scientifique Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval, AAAI/ACM AIES 2024.
• Commission européenne, groupe d’experts de haut niveau sur l’IA, Assessment List for Trustworthy Artificial Intelligence (ALTAI), juillet 2020.
• NIST, AI Risk Management Framework, janvier 2023, et profil IA générative NIST AI 600-1, juillet 2024.
• ISO, ISO/IEC 42001, système de management de l’intelligence artificielle, 2023 ; ISO/IEC 42005, évaluation d’impact des systèmes d’IA ; ISO/IEC TR 24027, biais dans les systèmes d’IA.
• Civil Resolution Tribunal de Colombie-Britannique, Moffatt v. Air Canada, 2024 BCCRT 149, 14 février 2024.