Ressource gratuite en français · Kit Word + Excel
Kit Sécurité des données face à l’IA
Votre projet IA est-il prêt pour le go ? En 2 heures, identifiez ses risques, réduisez-les et décidez en connaissance de cause : go, go sous conditions, ou no go. Quatorze risques expliqués en langage de commanditaire, huit lignes rouges, une décision qui se signe. Sans jargon et sans le discours de la peur.
Le kit Sécurité et données du commanditaire de projet IA, en bref
- Ce que c’est
- Une méthode de décision pour la personne qui porte un projet d’IA : prendre conscience des quatorze risques de sécurité et de données propres aux projets IA, y compris ceux de l’IA qui agit, évaluer l’exposition de son projet, choisir les mesures qui les réduisent, puis décider go, go sous conditions ou no go, avec une fiche de décision à signer et un plan pour être prêt le jour d’un incident.
- Pour qui
- Le commanditaire d’un projet IA, pas le RSSI : directeurs métier, sponsors, chefs de projet IA, directeurs de la transformation, dans les groupes, les banques, les assureurs, les établissements publics et les industriels ; et leurs interlocuteurs RSSI, DPO, DSI et achats, qui y retrouveront les questions qu’on va leur poser.
- Format
- Document Word de 65 pages (le parcours en quatre étapes, l’après go et six annexes) et classeur Excel en 10 onglets : mode d’emploi, profil, risques, cotation, mitigation, lignes rouges, décision, incidents, fournisseur, agents.
- Ce qu’il contient
- Les quatorze fiches risques (fuite par les prompts, sur-partage, shadow AI, injection de prompt, agent qui dépasse son mandat, code et applications générés, chaîne d’approvisionnement IA, fournisseur et données, hallucination à impact, fraude et deepfake, incident invisible, non-conformité, identités et prolifération des agents, mémoire et sources empoisonnées) ; ce qui change quand l’IA agit (triade létale, règle de deux, niveaux d’autonomie A0 à A4) ; le profil du projet en douze questions et quatre niveaux d’exposition ; la cotation gravité × vraisemblance et sa carte de chaleur ; 85 mesures par risque, les dix règles du code généré, les cinq règles du vibe coding, la préparation des données avant Microsoft 365 Copilot (souvent appelé « Copilot Premium ») ; dix questions au RSSI, dix au DPO, trente au fournisseur ; les huit lignes rouges, la grille de décision, la fiche à signer ; sept fiches réflexes d’incident, l’arbre de notification (RGPD, NIS2, DORA, AI Act, Cyber Resilience Act) et l’exercice sur table. En annexes : la note au comité de direction, la checklist en trente-six points, quatorze questions fréquentes, le glossaire de trente-sept termes et les sources datées.
- Sur quoi il s’appuie
- Les publications de l’ANSSI sur la sécurité de l’IA (recommandations pour un système d’IA générative d’avril 2024, synthèse de la menace du CERT-FR de février 2026, principes zero trust publiés avec le BSI en août 2025) ; l’alerte du CERT-FR sur les agents de bureau (13 avril 2026) et le guide des agences Five Eyes sur l’adoption de l’IA agentique (1er mai 2026) ; les référentiels de l’OWASP GenAI Security Project (Top 10 LLM 2026, Top 10 des applications agentiques, MCP Top 10), MITRE ATLAS et l’initiative du NIST sur les agents ; le cadre de réponse à incident de la CoSAI ; le rapport IBM Cost of a Data Breach 2026 et le rapport Veracode 2026 sur la sécurité du code généré ; les recommandations de la CNIL sur le déploiement d’une IA générative et le blueprint de Microsoft sur le sur-partage.
- Prix
- Gratuit, contre une adresse email professionnelle. Aucun email non sollicité.
- Mise à jour
- Version 2, mise à jour le 26 octobre 2026 : l’IA qui agit au centre (triade létale, niveaux d’autonomie, deux nouveaux risques R13 et R14, deux nouvelles lignes rouges L7 et L8, onglet « 9 Agents »), cinq incidents réels de plus, DORA et le Cyber Resilience Act dans l’arbre de notification, questionnaire fournisseur porté à trente questions. Revue tous les six mois, et à chaque jalon : loi française de transposition de NIS2 (dite loi « Résilience », retirée de l’ordre du jour de l’Assemblée nationale le 6 octobre 2026 et non promulguée à notre connaissance au 26 octobre 2026), 2 décembre 2027 (obligations haut risque de l’annexe III du règlement IA).
- Ce que ça ne remplace pas
- L’analyse de risques de votre RSSI (de type EBIOS RM), l’avis de votre DPO ni un avis juridique : le kit éclaire la décision du commanditaire, il ne la délègue pas et ne s’y substitue pas.
- Aller plus loin
- kit RGPD du commanditaire, kit IA Act du commanditaire, kit IA et dialogue social, kit IA frugale, kit IA responsable, kit Gouvernance des systèmes d’IA.
La scène se répète dans toutes les grandes organisations. Le pilote a convaincu, les utilisateurs en redemandent, le comité veut une date de déploiement. Puis le RSSI pose trois questions : quelles données l’outil pourra-t-il lire, que fera l’agent tout seul, et que se passera-t-il si quelqu’un le détourne. Personne autour de la table n’a la réponse, et le projet repart pour un trimestre d’analyses dont le commanditaire ne comprend ni l’objet ni l’issue. À l’inverse, d’autres projets passent sans que personne ne pose ces questions, et c’est souvent là que naissent les incidents.
Ce kit donne au commanditaire de quoi tenir son rôle sans devenir expert en cybersécurité : un parcours en quatre étapes, prendre conscience, évaluer, mitiger, décider, qui se fait en deux heures avec le chef de projet et se termine par une décision écrite. Il ne remplace pas le travail du RSSI ; il permet d’arriver devant lui avec un projet déjà qualifié, les bonnes questions, et une responsabilité clairement placée là où elle doit être : chez celui qui porte le projet.
1. L’IA a changé la menace, et votre projet est dans le périmètre
Les attaquants utilisent l’IA, et les systèmes d’IA sont eux-mêmes devenus des cibles, puis des cibles qui agissent. En février 2026, le CERT-FR constate que l’IA générative est intégrée à toutes les étapes de la chaîne d’attaque (ingénierie sociale et deepfakes, code malveillant, analyse des données volées) et que les systèmes d’IA subissent des attaques qui leur sont propres : empoisonnement des données d’entraînement, portes dérobées dans les modèles, injection de prompt. Les faits ci-dessous sont ceux sur lesquels le kit s’appuie, avec leur source et leur date.
| Date | Fait ou chiffre | Ce que cela change pour un commanditaire |
|---|---|---|
| Avril 2023 | Samsung : des ingénieurs collent du code source et des comptes rendus de réunion internes dans ChatGPT ; l’entreprise restreint ensuite l’usage des IA génératives publiques. | Le shadow AI naît d’un besoin légitime non couvert : interdire ne suffit pas, il faut offrir une alternative validée. |
| Juin 2025 | EchoLeak (CVE-2025-32711), découverte par Aim Security : un email contenant une consigne cachée suffisait pour que Microsoft 365 Copilot exfiltre des données internes, sans aucune action de l’utilisateur. Microsoft l’a corrigée côté serveur avant la publication. | Tout contenu que lit l’IA (email, document, page web) est une entrée potentiellement hostile. |
| 2025 | USENIX Security, Spracklen et al. : sur 576 000 extraits de code générés, environ 19,7 % des paquets logiciels recommandés n’existaient pas ; des attaquants publient ensuite des paquets malveillants sous ces noms (slopsquatting). | Chaque composant que l’IA propose d’installer doit être vérifié avant usage. |
| Juillet à septembre 2025 | Agents et outils d’agents piégés : l’agent de Replit supprime une base de production malgré une consigne de gel (juillet) ; un commentaire caché fait agir le navigateur agentique Comet avec la session de l’utilisateur (Brave, août) ; ForcedLeak détourne un agent Salesforce Agentforce par un formulaire web public (Noma Security, septembre) ; premier serveur MCP malveillant découvert (Koi Security, septembre). | Une consigne écrite dans un prompt n’est pas un contrôle : seuls les droits techniques et la validation humaine en sont. |
| Novembre 2025 | Anthropic décrit la campagne d’espionnage GTG-1002 : un assistant de code détourné, relié à des outils par MCP, exécute 80 à 90 % des opérations tactiques contre une trentaine d’organisations. | L’IA n’est plus seulement l’outil de l’attaquant : c’est une cible qui agit. |
| 4 février 2026 | ANSSI et CERT-FR, synthèse de la menace 2025 sur l’IA générative : recommandation centrale de cloisonner strictement les systèmes d’IA et les environnements sensibles. | Le cloisonnement se décide au cadrage du projet, pas après le déploiement. |
| Février 2026 | Snyk, ToxicSkills : sur 3 984 « skills » d’agents publiées sur deux places de marché, 13,4 % présentaient une faille critique et 76 contenaient un code malveillant confirmé. | Une extension d’agent hérite de tous ses droits : elle s’installe comme un logiciel, avec revue et catalogue. |
| 13 avril et 1er mai 2026 | Le CERT-FR déconseille de déployer sur les postes de travail les agents de bureau qui pilotent le poste et le navigateur, hors environnement de test isolé ; les agences du réseau Five Eyes publient leur premier guide commun sur l’adoption prudente de l’IA agentique. | Inventaire des agents, identités propres, droits au plus juste, validation humaine des actions à fort impact, déploiement progressif. |
| Été 2026 | IBM, Cost of a Data Breach Report 2026 : coût moyen mondial d’une violation de 4,99 M$ (+12 %) ; plus d’une organisation sur quatre a subi une attaque utilisant l’IA ; 43 % des incidents impliquent du shadow AI, pour un coût moyen de 5,39 M$ contre 4,63 M$ ; 92 % des organisations touchées par un incident lié à l’IA n’avaient pas de contrôle d’accès sur leurs outils IA. | Les incidents coûteux viennent d’abord de l’absence de règles et de droits d’accès, pas d’attaques exotiques. |
| 28 juillet 2026 | Veracode, 2026 GenAI Code Security Report : le code généré par IA ne passe les tests de sécurité que dans 56 % des cas, 44 % des tâches introduisent une vulnérabilité, et le taux de réussite tombe à 15 % sur le cross-site scripting. « La syntaxe est résolue, la sécurité ne l’est pas. » | Aucun code généré ne part en production sans revue humaine ni analyse automatique. |
| Août et septembre 2026 | OWASP GenAI Security Project : Top 10 for LLM Applications 2026 (publié le 3 août 2026), Top 10 for Agentic Applications 2026 (publié en décembre 2025), MCP Top 10 (bêta), Agent Control Standard (version 0.1, septembre 2026). | Les agents et les connecteurs ont désormais leurs propres listes de risques : ce sont les vôtres dès que le projet agit. |
Le kit précise aussi les délais qui s’imposent le jour d’un incident (72 heures pour notifier la CNIL d’une violation de données personnelles, 24 heures pour l’alerte précoce d’une entité soumise à NIS2 une fois la loi française promulguée, 4 heures après classification pour un incident majeur d’une entité financière soumise à DORA, 24 heures pour signaler une vulnérabilité activement exploitée au titre du Cyber Resilience Act depuis le 11 septembre 2026, 15 jours pour un incident grave sur un système à haut risque au sens du règlement IA, à partir du 2 décembre 2027) et le calendrier du règlement « Omnibus IA » (règlement (UE) 2026/1744), qui a décalé les obligations haut risque au 2 décembre 2027 pour l’annexe III et au 2 août 2028 pour l’annexe I, a reformulé l’article 4 (maîtrise de l’IA par le personnel) en obligation de moyens, sans en différer l’application, et a seulement accordé un délai jusqu’au 2 décembre 2026 pour le marquage des contenus prévu par l’article 50 (transparence).
2. Le parcours en quatre étapes, de la prise de conscience à la décision
Le kit suit un seul fil, du constat à la signature. Chaque étape a son chapitre dans le document Word et ses onglets dans le classeur Excel, qui calcule le niveau d’exposition, la pertinence des risques, les scores et la décision. Les cellules jaunes sont à remplir, les grises sont calculées.
| Étape | Ce qu’on fait | Ce qui en sort |
|---|---|---|
| 1. Prendre conscience | Lire les quatorze fiches risques : le risque en une phrase, comment il arrive, le cas qui fait réfléchir, les signaux dans votre projet, la question à vous poser, qui doit répondre | Un vocabulaire commun avec le RSSI et le DPO (onglet « 2 Risques ») |
| 2. Évaluer | Répondre aux douze questions du profil du projet, filtrer les risques pertinents, coter chacun en gravité × vraisemblance | Un niveau d’exposition de 1 à 4 et une carte de chaleur (onglets « 1 Profil » et « 3 Cotation ») |
| 3. Mitiger | Choisir les mesures par risque avec un responsable, un effort et une échéance ; poser les questions au RSSI, au DPO et au fournisseur | Un plan de mesures et les risques résiduels (onglets « 4 Mitigation », « 8 Fournisseur » et « 9 Agents ») |
| 4. Décider | Vérifier les huit lignes rouges, appliquer la grille de décision, s’assurer d’être prêt à l’incident | Go, go sous conditions ou no go, et une fiche de décision à signer (onglets « 5 Lignes rouges », « 6 Décision » et « 7 Incidents ») |
3. Les quatorze risques qu’un commanditaire doit connaître
Chaque risque fait l’objet d’une fiche d’une page, écrite pour un décideur et non pour un spécialiste. Tous ne concernent pas tous les projets : le profil du projet indique lesquels sont pertinents pour le vôtre. Voici les quatorze, avec la question que le kit vous demande de vous poser ; R13 et R14, nouveaux en version 2, couvrent l’IA qui agit.
| Risque | En une phrase | La question à vous poser |
|---|---|---|
| R1. Fuite de données par les prompts | Des salariés collent des données confidentielles (contrats, code, données clients, données personnelles) dans un outil IA qui les conserve ou les réutilise. | Quelles données vont entrer dans l’outil, et où vont-elles ? |
| R2. Sur-partage | L’IA retrouve et résume des documents auxquels l’utilisateur a techniquement accès mais qu’il ne devrait pas voir : dossiers RH mal protégés, salaires, plans de réorganisation, sites ouverts à « tout le monde ». | Nos droits d’accès sont-ils propres avant de brancher une IA qui lit tout ? |
| R3. Shadow AI autour du projet | Des outils ou agents IA non validés sont utilisés en parallèle, ou le projet lui-même échappe à la DSI. | Qu’utilisent déjà mes équipes, et pourquoi ? |
| R4. Injection de prompt | Une consigne cachée dans un email, un document, une page web ou un ticket détourne l’IA : exfiltration, actions non voulues, désinformation. | Quels contenus que l’IA va lire ne sont pas sous notre contrôle ? |
| R5. Agent qui dépasse son mandat | Un agent exécute des actions irréversibles (envoyer, supprimer, payer, modifier) sans validation, ou enchaîne des outils au-delà du périmètre prévu. | Qu’est-ce que l’agent a le droit de faire, et qui appuie sur le bouton ? |
| R6. Code et applications générés | Du code produit par un assistant, ou une application entière créée en langage naturel par un métier (« vibe coding »), passe en production sans revue ni analyse. | Qui relit, qui teste, et comment sait-on qu’un code vient de l’IA ? |
| R7. Chaîne d’approvisionnement IA | Paquets logiciels hallucinés, serveurs MCP et connecteurs tiers, « skills » et plugins d’agents, modèles téléchargés, extensions de navigateur IA entrent dans le projet sans contrôle. | Quels composants tiers entrent dans le projet, et qui les a vérifiés ? |
| R8. Fournisseur et données | Réutilisation des données pour entraîner les modèles, localisation hors UE, conservation des prompts, sous-traitants, réversibilité, dépendance. | Ai-je le contrat et les réponses écrites du fournisseur sur ces cinq points ? |
| R9. Hallucination à impact | Une réponse fausse mais plausible est utilisée pour une décision client, juridique, financière, médicale ou RH sans vérification humaine. | Où une erreur de l’IA ferait-elle vraiment mal, et qui vérifie avant d’agir ? |
| R10. Fraude et deepfake | Usurpation d’identité d’un dirigeant, d’un fournisseur ou d’un client par une voix ou une vidéo générée, hameçonnage personnalisé. | Nos procédures de validation (paiement, changement de RIB, accès) résistent-elles à une voix ou une vidéo parfaites ? |
| R11. Incident invisible | Aucune journalisation des prompts, des réponses et des actions : personne ne saurait qu’une fuite ou un détournement a eu lieu, ni ne pourrait le prouver. | Si un incident arrivait demain, que verrait-on, et qui serait prévenu ? |
| R12. Non-conformité | Données personnelles sans base légale ni information, obligations du règlement IA, secteurs régulés, dialogue social oublié. | Mon DPO et mon juriste ont-ils vu le projet ? |
| R13. Identités et prolifération des agents | Des agents se multiplient sans inventaire, sans propriétaire et sans identité propre : ils agissent avec le compte d’un salarié ou un compte partagé, conservent des jetons pendant des mois et tournent encore après le départ de leur créateur. | Qui sont nos agents, qui en répond, et avec quels droits agissent-ils ? |
| R14. Mémoire et sources empoisonnées | Un document piégé dans la base documentaire, une page modifiée sur l’intranet ou une fausse information inscrite dans la mémoire d’un agent oriente durablement les réponses et les actions de l’IA, pour tous les utilisateurs. | Qui peut écrire dans ce que l’IA lit et retient ? |
4. Évaluer et réduire : profil, cotation, mesures et questions à poser
L’évaluation part du projet, pas d’une liste de menaces. Douze questions décrivent son profil : les données traitées, les utilisateurs, ce que fait l’IA (lire, rédiger, recommander, agir seule), l’hébergement, les contenus qu’elle lit, le code, les composants tiers, l’impact d’une erreur, la journalisation, la gouvernance, la « triade létale » (un même agent qui accède à des données privées, lit des contenus non maîtrisés et peut communiquer vers l’extérieur) et qui crée les agents et les applications. Chaque réponse vaut de 0 à 3 points ; le total, sur 36, donne un niveau d’exposition de 1 (faible) à 4 (critique) et indique quels risques sont pertinents. Chacun est ensuite coté en gravité et en vraisemblance sur une échelle de 1 à 4, à partir de valeurs par défaut que vous ajustez, et le classeur place les quatorze sur une carte de chaleur.
Pour réduire les risques, le kit propose 85 mesures prêtes à affecter, avec un responsable, un effort et une échéance. Pour un agent, par exemple : un niveau d’autonomie (de A0, lire, à A4, agir seule) fixé dans son mandat, une identité propre et un propriétaire nommé, moindre privilège, validation humaine avant toute action irréversible, liste blanche d’outils et d’actions, bac à sable pour les tests, journal de chaque action avec arrêt d’urgence. Trois fiches thématiques vont plus loin : les dix règles du code généré par IA, les cinq règles du vibe coding pour les applications créées par les métiers, et la préparation des données avant Microsoft 365 Copilot (souvent appelé « Copilot Premium »), qui interroge tout le graphe de l’entreprise à la différence de Copilot Chat, en huit points (inventaire du sur-partage, Restricted Content Discovery sur les sites sensibles, étiquettes de sensibilité, règles DLP, nettoyage des liens ouverts à « tout le monde », Purview DSPM for AI, pilote de 50 personnes sur un périmètre propre, revue des rapports avant extension).
Le commanditaire n’a pas à trouver seul les réponses : il doit poser les bonnes questions aux bonnes personnes. Le kit en fournit dix pour le RSSI, dix pour le DPO, et trente pour le fournisseur (dont les identités d’agents, les domaines de sortie, les skills et connecteurs, la nomenclature des composants, NIS2, DORA et le Cyber Resilience Act), notées sur 60 dans l’onglet « 8 Fournisseur » : de 48 à 60, le fournisseur est solide ; de 30 à 47, des clauses sont à négocier avant signature ; en dessous de 30, c’est une ligne rouge à discuter avec le RSSI.
5. Décider : huit lignes rouges et une grille go, go sous conditions, no go
La décision n’est pas une moyenne de scores. Huit lignes rouges s’appliquent à tous les projets, quelle que soit leur taille : une seule non levée suffit à rendre la décision « no go ». Si le projet ne comporte aucun agent, L7 et L8 sont levées d’office.
| Ligne rouge | Ce qui doit être vrai avant le go |
|---|---|
| L1. Données | Aucune donnée secrète, classifiée ou sensible au sens du RGPD n’est envoyée vers un service qui n’a pas été qualifié par le RSSI et le DPO. |
| L2. Agents | Aucun agent ne peut exécuter une action irréversible (envoi externe, suppression, paiement, modification de données de référence) sans validation humaine. |
| L3. Fournisseur | Le fournisseur s’est engagé par écrit à ne pas réutiliser nos données pour entraîner ses modèles, ou l’option de refus est activée et vérifiée. |
| L4. Journalisation | Les prompts, réponses et actions sont journalisés, et quelqu’un est désigné pour les regarder. |
| L5. Incident | Un plan de réponse à incident existe pour ce projet : fiches réflexes, contacts, arbre de notification. |
| L6. Risques critiques | Tout risque coté critique après mitigation a un responsable nommé qui l’accepte par écrit. |
| L7. Triade létale | Aucun agent ne réunit, sans validation humaine de ses sorties, les trois capacités de la triade létale : accès à des données privées, lecture de contenus non maîtrisés, communication vers l’extérieur ou action sur les systèmes. |
| L8. Registre des agents | Chaque agent en production est inscrit au registre, a une identité propre (ni compte personnel ni compte partagé), un propriétaire nommé et un arrêt d’urgence testé. |
| Décision | Quand | Ce qui suit |
|---|---|---|
| No go | Au moins une ligne rouge n’est pas levée, ou un risque résiduel critique n’est pas accepté. | Réduire le périmètre (moins de données, moins d’utilisateurs, lecture seule au lieu d’action) ou changer de solution (version entreprise, hébergement UE, autre fournisseur), puis refaire le parcours. |
| Go sous conditions | Toutes les lignes rouges sont levées, mais il reste au moins un risque résiduel élevé ou critique accepté, ou le projet comporte un agent qui agit seul et passe le kit pour la première fois. | Les conditions sont les mesures datées restantes, avec un jalon de revue à 90 jours au plus (30 jours pour un agent qui agit seul). |
| Go | Toutes les lignes rouges sont levées, aucun risque résiduel ne dépasse le niveau modéré et aucun agent n’agit seul sans avoir déjà franchi une revue. | Revue à 90 jours, six indicateurs à suivre, réévaluation à chaque extension du périmètre. |
La décision se formalise sur une fiche d’une page : niveau d’exposition, nombre de risques par niveau avant et après mitigation, état des lignes rouges, décision, conditions et échéances, risques résiduels acceptés et par qui, date de revue. Le commanditaire la signe ; le RSSI et le DPO y portent leur avis.
6. Être prêt à l’incident : la condition du go
Un projet IA n’est pas prêt s’il ne sait pas quoi faire le jour où quelque chose tourne mal. Le kit fournit sept fiches réflexes d’une demi-page, construites sur le cycle de réponse à incident adapté à l’IA par la CoSAI (détecter, contenir, qui prévenir, notifier, tirer les leçons) : fuite de données par un prompt, injection de prompt ou détournement de l’IA, agent qui a agi hors mandat, code vulnérable généré par IA découvert en production, hallucination ayant conduit à une décision dommageable, fraude par deepfake ou usurpation, agent ou composant d’agent compromis. Il propose aussi un exercice sur table d’une heure avant le go, avec six participants (commanditaire, RSSI, DPO, DSI, métier, communication), cinq questions à dérouler et un compte rendu d’une page.
| Situation | Qui notifie qui | Délai |
|---|---|---|
| Violation de données personnelles | Le DPO notifie la CNIL (RGPD, article 33), et les personnes concernées si le risque est élevé | 72 heures après en avoir eu connaissance |
| Incident important dans une entité soumise à NIS2 (une fois la loi française promulguée) | L’entité informe l’ANSSI | Alerte précoce sous 24 heures, notification sous 72 heures, rapport final sous un mois |
| Incident majeur lié aux TIC dans une entité financière (DORA) | L’entité informe l’ACPR ou l’AMF | 4 heures après la classification comme majeur et au plus tard 24 heures après la détection ; rapport intermédiaire sous 72 heures ; rapport final sous un mois |
| Vulnérabilité activement exploitée dans un produit numérique que vous éditez (Cyber Resilience Act, depuis le 11 septembre 2026) | Le responsable produit informe le CSIRT désigné et l’ENISA | Alerte sous 24 heures, notification sous 72 heures, rapport final sous 14 jours après le correctif |
| Incident grave sur un système à haut risque (règlement IA, article 73, applicable à partir du 2 décembre 2027) | Le fournisseur du système informe l’autorité de surveillance du marché | 15 jours ; 10 jours en cas de décès ; 2 jours pour une perturbation d’infrastructure critique ou une violation à grande échelle |
| Dans tous les cas | Fournisseur, assureur cyber, direction, communication ; dépôt de plainte en cas de fraude | Selon les fiches réflexes |
7. Ce que contient le kit
Le document Word compte 65 pages : le mode d’emploi, avec ce que le kit ne remplace pas ; pourquoi ce kit, neuf cas réels et ce qui change quand l’IA agit (triade létale, règle de deux, niveaux d’autonomie A0 à A4) ; l’étape 1, les quatorze fiches risques ; l’étape 2, le profil du projet en douze questions, le filtre des risques pertinents et la cotation gravité × vraisemblance ; l’étape 3, les mesures par risque, les dix règles du code généré, les cinq règles du vibe coding, les agents, serveurs MCP, skills et navigateurs agentiques, la préparation des données avant Microsoft 365 Copilot, les dix questions au RSSI, les dix questions au DPO et les trente questions au fournisseur ; l’étape 4, les huit lignes rouges, la grille de décision, la fiche de décision à signer et la condition « prêt à l’incident » (sept fiches réflexes, arbre de notification, exercice sur table) ; l’après go (revue à 90 jours, six indicateurs, déclencheurs de réévaluation). Six annexes complètent le guide : la note au comité de direction prête à adapter, la checklist en trente-six points, quatorze questions fréquentes, le glossaire de trente-sept termes, les sources datées et une page pour aller plus loin.
Le classeur Excel « Outils du kit » compte dix onglets, dans l’ordre du parcours : « 0 Mode d’emploi » (le parcours, la légende des couleurs, l’avertissement, ce qui change dans la version 2) ; « 1 Profil » (les douze questions en listes déroulantes et le niveau d’exposition calculé) ; « 2 Risques » (les quatorze risques et leur pertinence calculée) ; « 3 Cotation » (gravité, vraisemblance, score, niveau et carte de chaleur 4 × 4) ; « 4 Mitigation » (85 mesures préremplies avec responsable, effort, échéance, statut, et le résiduel par risque) ; « 5 Lignes rouges » (les huit, avec des contrôles croisés avec l’onglet des agents) ; « 6 Décision » (la décision calculée avec son motif, puis la fiche à compléter) ; « 7 Incidents » (le registre des incidents et des notifications, DORA et Cyber Resilience Act compris) ; « 8 Fournisseur » (les trente questions notées sur 60 et leur interprétation) ; « 9 Agents » (le registre de vingt agents avec niveau d’autonomie, triade létale, identité, propriétaire et arrêt d’urgence, qui calcule L2, L7 et L8 pour chaque agent).
Le kit, partie par partie : ce que chaque partie contient et à quoi elle sert. Les modèles à remplir sont dans le document Word et le classeur Excel.
Pourquoi ce kit
Pourquoi c’est l’affaire du commanditaire
Le RSSI analyse les menaces, choisit les protections et surveille, mais trois décisions lui échappent. Le périmètre : quelles données l’IA pourra lire, pour quels utilisateurs, et si elle pourra agir. L’acceptation écrite du risque résiduel, car aucune mesure ne ramène un risque à zéro. La coordination : selon IBM, seules 19 % des organisations déclarent une coordination entre gouvernance et sécurité.
Étape 2 : évaluer
Du score au niveau d’exposition
Le score du profil, de 0 à 36, donne quatre niveaux : de 0 à 8, faible, les huit lignes rouges restant à vérifier ; de 9 à 17, modéré, le RSSI et le DPO étant au minimum informés ; de 18 à 26, élevé, la vraisemblance de chaque risque pertinent étant relevée d’un point et un pilote restreint prévu avant extension ; de 27 à 36, critique, avec une analyse de risques formelle du RSSI avant toute décision.
Quatre conseils pour bien coter
Coter ce qui peut raisonnablement arriver, pas le pire imaginable ; coter la situation actuelle, sans les mesures prévues, qui comptent à l’étape 3 dans le risque résiduel ; justifier en une ligne chaque écart avec la valeur par défaut ; faire relire la cotation par le RSSI, qui connaît les incidents passés et l’état réel des protections.
Lire la carte de chaleur
La carte place chaque risque dans une grille de 4 × 4 cases, gravité en lignes et vraisemblance en colonnes, du vert au rouge. On la lit en partant du coin supérieur droit, où se trouvent les risques critiques à traiter en premier. L’objectif de l’étape 3 est de faire glisser les risques vers le bas et vers la gauche : les mesures réduisent surtout la vraisemblance, parfois la gravité.
Étape 3 : mitiger
Pour chacun des quatorze risques, le kit propose des mesures avec un responsable et un effort (faible, moyen ou élevé) ; on retient d’abord celles qui portent sur les risques élevés et critiques. Un risque qui reste critique après mitigation exige qu’un responsable nommé l’accepte par écrit.
Fuite de données par les prompts
Fournir une version entreprise de l’outil, publier une règle écrite « ce qui ne se colle jamais », poser des étiquettes de sensibilité et des règles DLP, sensibiliser tous les utilisateurs 30 minutes avant l’ouverture de l’accès, revoir les usages chaque trimestre. La règle compte six catégories : données personnelles, identifiants et secrets, code source, données financières non publiées, documents de stratégie, informations sous secret légal ou accord de confidentialité.
Sur-partage
On ne branche pas une IA qui lit tout sur des droits d’accès que personne n’a revus : inventaire des sites et dossiers trop ouverts, restriction provisoire des sites sensibles (Restricted Content Discovery dans Microsoft 365), correction des droits par les propriétaires de sites avec une échéance, étiquettes de sensibilité sur les contenus RH, finance et direction, pilote sur un périmètre propre avant toute extension.
Shadow AI autour du projet
Encadrer plutôt qu’interdire, en cinq temps : recenser les usages sans sanction par une déclaration ouverte pendant 15 jours, offrir une alternative validée au moins aussi bonne, publier un catalogue d’outils autorisés avec une réponse à toute demande en 10 jours ouvrés, détecter les usages résiduels par le réseau et le navigateur (CASB, filtrage), puis communiquer la règle et mesurer.
Injection de prompt
On ne peut pas empêcher un attaquant d’écrire un email ; on peut limiter ce que l’IA en fait. Traiter tout contenu lu par l’IA comme non fiable, limiter les sources au strict nécessaire, interdire les actions automatiques déclenchées par un contenu lu, filtrer les sorties avant qu’elles atteignent un autre système, exiger du fournisseur la description de ses défenses et son délai de correction.
Agents et serveurs MCP
Le commanditaire formalise le mandat de l’agent : action par action, ce qu’il peut faire seul, après validation humaine, ou jamais. Par défaut, toute action irréversible est soumise à validation ou interdite. S’y ajoutent un compte dédié aux seuls droits de la tâche, une liste blanche d’outils et de serveurs MCP inscrits au registre de la DSI, un bac à sable, un journal avec arrêt d’urgence et une revue à chaque extension.
Les 10 règles du code généré
Relecture humaine compétente avant fusion, analyse automatique de sécurité (SAST) et des dépendances (SCA), aucun secret dans les prompts ni dans le code, vérification de chaque dépendance contre le slopsquatting, fichier d’instructions sécurité fourni à l’assistant (OpenSSF), traçage du code IA, tests ciblés sur le cross-site scripting et l’injection de logs, pas d’accès aux données de production, version entreprise, formation des développeurs.
Chaîne d’approvisionnement IA
Rien n’entre dans le projet sans être inventorié et vérifié : inventaire des serveurs MCP, extensions, modèles et paquets ; registre des connecteurs approuvés, les autres étant bloqués ; vérification des paquets avant installation ; suivi des vulnérabilités des composants ; modèles et serveurs MCP uniquement de sources signées ou validées par la DSI.
Fournisseur et données
Ce qui n’est pas écrit n’est pas garanti : le questionnaire de 25 questions est renvoyé par écrit avant signature ; le contrat prévoit la non-réutilisation des données, la localisation UE, la durée de conservation des prompts, la notification d’incident sous 48 h, l’audit, la réversibilité et la suppression en fin de contrat ; le fournisseur est revu chaque année.
Hallucination à impact
L’IA informe ou recommande ; au-delà d’un seuil, un humain décide. Cartographier les décisions où l’IA intervient (information, recommandation, décision), imposer une validation humaine au-delà d’un seuil de montant ou d’impact, afficher les sources et le niveau de confiance, tester la qualité sur un échantillon avant le déploiement puis chaque mois, former les utilisateurs à vérifier.
Fraude et deepfake
Aucune voix, aucune vidéo, aucun email ne suffit seul à déclencher un paiement ou un accès : double validation hors canal par rappel sur un numéro connu, mot de passe oral ou code pour les demandes urgentes du dirigeant, sensibilisation aux deepfakes avec des exemples concrets, signalement en un clic, exercice semestriel de tentative de fraude.
Incident invisible
Voir, alerter, savoir qui appeler : journaliser prompts, réponses, actions d’agents et accès aux données pour une durée définie avec le DPO, poser des alertes sur les volumes anormaux, les exfiltrations et les actions hors périmètre, identifier un contact d’astreinte pour l’outil, préparer les fiches réflexes et tenir un exercice sur table avant le go.
Les 10 questions à poser au RSSI
Dix questions pour un premier rendez-vous d’une heure, avec ce que contient une réponse solide : l’analyse selon la méthode de risques de l’organisation (par exemple EBIOS RM), les données atteignables et les droits, la protection contre l’injection, la journalisation, le plan en cas de fuite, le cloisonnement de l’agent, l’évaluation du fournisseur, la détection du shadow AI, les tests avant production, et ce dont le RSSI a besoin du commanditaire.
Les 10 questions à poser au DPO
La base légale, la nécessité d’une analyse d’impact, le rôle du fournisseur (sous-traitant ou responsable conjoint), l’hébergement et la conservation des données, prompts compris, l’information des personnes, les demandes d’accès ou d’effacement, la durée de conservation des journaux, les décisions automatisées, la notification de la CNIL sous 72 h et les points de blocage, à connaître au cadrage plutôt qu’à la veille du go.
Les 25 questions à poser au fournisseur
Des questions sur les données, la sécurité, la sécurité IA, la traçabilité, les incidents, la continuité, la réversibilité, la conformité, les agents et la gouvernance, à renvoyer par écrit avec des preuves avant signature : une réponse orale ne compte pas. Une note ne remplace pas le jugement : un « Non » à la question 1, sur la réutilisation des données pour l’entraînement, pèse plus que plusieurs « Partiel » sur la gouvernance.
Étape 4 : décider
L’exercice sur table
Une heure, six participants et un scénario fictif (fuite par un prompt ou agent hors mandat), avant le go : il conditionne la levée de la ligne rouge L5. Cinq questions à dérouler : comment l’apprend-on et en combien de temps, qui décide de couper et comment, quelles données sont touchées, qui prévenir et sous quel délai, que dit-on et à qui. Le livrable est un compte rendu d’une page avec trois actions.
Après le go
La revue à 90 jours
Au plus tard 90 jours après le go, une heure avec le commanditaire, le RSSI, le DPO et un représentant des utilisateurs : conditions du go remplies ou non, lecture des cinq indicateurs, incidents et leçons, évolution du périmètre, puis décision confirmée, ajustée ou suspendue et date de la revue suivante.
Six indicateurs à suivre
Le taux d’utilisateurs formés, le nombre d’incidents et de signalements, la part des actions d’agent validées par un humain, les outils shadow détectés et régularisés, le délai de traitement d’une demande d’outil (engagement de 10 jours ouvrés), la part des agents inscrits au registre avec une identité et un propriétaire. Un projet qui ne remonte aucun signalement en trois mois est rarement un projet sans incident : c’est plus souvent un projet où personne ne sait à qui signaler.
Quand refaire le parcours
Les étapes 2 à 4 se refont à chaque extension du périmètre (surtout le passage de la lecture à l’action), à chaque changement de fournisseur ou de modèle, après tout incident significatif ou incident public sur un outil comparable, à chaque nouvelle réglementation (obligations haut risque de l’AI Act, loi française de transposition de NIS2), et tous les six mois.
Annexes : Des modèles prêts à adapter
Note au comité de direction
Une page pour obtenir trois décisions qui relèvent du comité : le périmètre, les moyens des mesures de sécurité et l’acceptation des risques qui resteront. Elle présente trois chiffres IBM 2026, l’évaluation du projet avec le kit, ce que le comité doit arbitrer et ce que coûte de ne rien faire : un shadow AI qui progresse, des données qui sortent sans trace, une réponse à incident improvisée.
Checklist en 36 points
Les trente-six mesures les plus importantes du kit, réparties par étape. Un point non coché à la veille du go doit être soit une condition datée du go, soit un risque résiduel accepté.
Téléchargez le kit Sécurité et données du commanditaire de projet IA (Word + Excel, gratuit)
65 pages, le parcours en quatre étapes et six annexes, plus le classeur d’outils en 10 onglets. Rédigé par NextStart.AI à partir des publications de l’ANSSI et du CERT-FR, des référentiels de l’OWASP et de la CoSAI, des rapports IBM et Veracode 2026, et des projets IA que nous accompagnons dans de grandes organisations.
- Les quatorze risques de sécurité et de données d’un projet IA, dont ceux des agents, expliqués en langage de commanditaire
- Le profil du projet en douze questions, la cotation et la carte de chaleur des risques
- 85 mesures, les questions au RSSI, au DPO et au fournisseur, le registre des agents
- Les huit lignes rouges, la grille go, go sous conditions, no go, la fiche de décision et les fiches réflexes d’incident
8. Questions fréquentes
Interdire les IA grand public suffit-il ?
Non. Selon le rapport IBM 2026, la part des incidents impliquant du shadow AI a doublé pour atteindre 43 %, avec un coût moyen de 5,39 M$ contre 4,63 M$ pour les autres. Le shadow AI naît d’un besoin légitime non couvert : la réponse est d’offrir une alternative validée, un catalogue d’outils autorisés et un circuit de demande rapide, selon la règle « encadrer plutôt qu’interdire ».
Microsoft 365 Copilot en version entreprise est-il sûr par défaut ?
Il est sûr côté Microsoft, mais il hérite de vos droits d’accès : tout ce qu’un utilisateur peut techniquement ouvrir, Copilot peut le retrouver et le résumer. D’où l’importance de traiter le sur-partage avant le déploiement. La faille EchoLeak de 2025, corrigée par Microsoft, a aussi montré que les contenus lus par l’assistant peuvent être hostiles. Copilot Chat, inclus dans Microsoft 365, n’interroge que le web et les documents que l’utilisateur lui confie, alors que Microsoft 365 Copilot (souvent appelé « Copilot Premium ») interroge tout le graphe de l’entreprise ; et dès que vos équipes créent des agents (Agent Builder, Copilot Studio), les risques liés aux agents s’ajoutent.
Un no go est-il un échec ?
Non, c’est une décision documentée. Le kit propose deux alternatives : réduire le périmètre (moins de données, moins d’utilisateurs, lecture seule au lieu d’action) ou changer de solution (version entreprise, hébergement UE, autre fournisseur), puis refaire le parcours. Un no go au cadrage coûte beaucoup moins cher qu’un incident après le déploiement.
Faut-il un RSSI pour utiliser ce kit ?
Non : il est écrit pour le commanditaire. Mais il ne remplace pas l’analyse de risques du RSSI ; il prépare l’échange avec lui, grâce aux dix questions à lui poser, et la fiche de décision prévoit son avis à côté de celui du DPO.
Quelle différence avec le kit RGPD ?
Le kit RGPD du commanditaire traite la conformité des traitements de données personnelles : base légale, analyse d’impact, information des personnes. Ce kit traite la sécurité du projet et de toutes ses données : fuites, injection de prompt, agents, code, fournisseur, incidents. Le risque de non-conformité (R12) renvoie explicitement au kit RGPD, au kit IA Act et au kit IA et dialogue social.
Et pour un agent qui agit tout seul ?
C’est le cas où les lignes rouges L2, L7 et L8 comptent le plus : aucune action irréversible sans validation humaine, aucun agent qui réunit la triade létale sans validation, et chaque agent inscrit au registre avec une identité propre, un propriétaire et un arrêt d’urgence testé. Le kit y ajoute un niveau d’autonomie fixé dans le mandat, le moindre privilège, une liste blanche d’outils et d’actions, un bac à sable pour les tests et un journal de chaque action. Un agent qui agit seul n’obtient jamais un go plein au premier passage : il démarre en go sous conditions, avec une revue à 30 jours.
Peut-on autoriser un agent de bureau ou un navigateur agentique ?
Pas en production pour l’instant, sauf analyse spécifique. Ces outils pilotent le poste, les fichiers et le navigateur avec la session de l’utilisateur : ils réunissent presque toujours la triade létale. Le CERT-FR de l’ANSSI a recommandé le 13 avril 2026 de ne pas les déployer sur les postes de travail tant qu’ils ne sont pas éprouvés, et de limiter leur usage à des environnements de test isolés, sans données sensibles, avec l’accord de la DSI et du RSSI.
Nos métiers font du vibe coding : faut-il l’interdire ?
Non, il faut l’encadrer, comme le shadow AI. Le risque naît quand un outil créé en quelques heures reçoit de vraies données et d’autres utilisateurs sans revue. Le kit fixe cinq règles : déclarer, héberger sur une plateforme validée, contrôler les accès, aucune vraie donnée avant revue, un propriétaire et une date de fin.
Qui signe la fiche de décision ?
Le commanditaire, parce que la décision lui appartient. Le RSSI et le DPO y portent leur avis, et chaque risque coté critique après mitigation doit être accepté par écrit par un responsable nommé.
Que faire si le fournisseur ne répond pas au questionnaire ?
Une absence de réponse vaut zéro point dans l’onglet « 8 Fournisseur ». En dessous de 30 sur 60, c’est une ligne rouge à discuter avec le RSSI, et sans engagement écrit de non-réutilisation des données pour l’entraînement, la ligne rouge L3 n’est pas levée.
9. Aller plus loin
Ce kit est le pendant « sécurité » des autres kits du commanditaire : le kit RGPD du commanditaire pour la conformité des données personnelles, le kit IA Act du commanditaire pour la maîtrise de l’IA, la transparence et le haut risque, le kit IA et dialogue social pour l’information et la consultation des représentants du personnel, le kit IA frugale pour l’empreinte environnementale du projet et le kit IA responsable pour les biais, la transparence et la supervision humaine. Pour repérer et résorber les usages d’IA non autorisés, le kit Shadow IA propose une enquête anonyme, un diagnostic technique agrégé et un plan de sortie sur 90 jours. Le kit Gouvernance des systèmes d’IA fournit le registre des systèmes et agents sur lequel s’appuient la revue à 90 jours et les réévaluations. Les organisations qui veulent préparer la décision avec leur RSSI, leur DPO et le métier en une demi-journée peuvent s’appuyer sur la mission Gouverner vos agents et sur la formation IA en entreprise.
À lire aussi : Kit RGPD du commanditaire de projet IA, Kit IA Act du commanditaire : la feuille de route 2026-2027, Kit IA et dialogue social du commanditaire de projet IA et Gouvernance des systèmes d’IA : le kit 2026.
Toute la série des kits gratuits. Pour piloter l’adoption : modèle de charte IA, modèle de plan de formation IA, kit Ambassadeurs IA, kit du manager face à l’IA, kit Temps gagné par l’IA, kit Soft Skills pour l’IA, kit Feuille de route d’adoption, grille de maturité IA, kit Mesure et ROI de l’IA, kit Gouvernance des IA, kit Cowork, 50 prompts Copilot M365, kit Copilot Studio, kit Déployer Microsoft 365 Copilot, kit Copilot Chat, kit Copilot Excel, kit Copilot Teams et Outlook, kit Copilot Word et PowerPoint, kit Configurer Claude, kit Déployer Claude en entreprise, kit Agents Claude, kit Claude Skills, Skills Claude marketing, Skills Claude RH, kit Plugins Claude, kit Claude Code, kit Claude Design et kit Vibe coding. Pour le commanditaire de projet IA : kit IA Act, kit RGPD, kit Shadow IA, kit IA et dialogue social, kit IA frugale, kit Souveraineté IA et kit IA responsable. Par métier : kit IA RH, kit IA marketing, kit IA finance, kit IA juristes, kit IA du commercial, kit IA du chef de projet, kit IA de l’innovateur, kit IA du communicant, kit IA Achats, kit IA Chercheurs et kit IA Service client.
10. Sources
Les chiffres et positions cités sur cette page et dans le kit s’appuient sur les sources suivantes, datées. Informations à jour en octobre 2026.
- IBM, Cost of a Data Breach Report 2026, été 2026 (602 violations analysées dans 17 secteurs, de mars 2025 à février 2026).
- Veracode, 2026 GenAI Code Security Report, 28 juillet 2026.
- ANSSI et CERT-FR, L’IA générative face aux attaques informatiques : synthèse de la menace en 2025 (CERTFR-2026-CTI-001), 4 février 2026.
- ANSSI, Recommandations de sécurité pour un système d’IA générative, 29 avril 2024 ; ANSSI et BSI, AI Coding Assistants, 4 octobre 2024 ; ANSSI, Développer la confiance dans l’IA par une approche par les risques cyber, 7 février 2025 ; ANSSI et BSI, Design Principles for LLM-based Systems with Zero Trust, 11 août 2025 ; ANSSI, Evaluation methods for products integrating AI (MEPIA), 15 juillet 2026.
- NIST, CVE-2025-32711 (EchoLeak), Microsoft 365 Copilot, juin 2025, découverte par Aim Security.
- Samsung, restriction de l’usage des IA génératives publiques après que des ingénieurs y ont collé du code source et des comptes rendus de réunion internes, avril 2023.
- J. Spracklen et al. (université du Texas à San Antonio), We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs, USENIX Security 2025.
- OWASP GenAI Security Project : Top 10 for LLM Applications 2026 (publié le 3 août 2026, présenté les 1er et 2 septembre 2026), Top 10 for Agentic Applications 2026 (9 décembre 2025), OWASP MCP Top 10 (bêta), Agent Control Standard (version 0.1, septembre 2026) ; MITRE ATLAS, mise à jour de janvier 2026.
- Coalition for Secure AI (CoSAI), AI Incident Response Framework v1.0, 30 octobre 2025 ; OpenSSF, Security-Focused Guide for AI Code Assistant Instructions, 1er août 2025.
- Microsoft, Microsoft 365 Copilot blueprint for oversharing (Microsoft Learn) ; CNIL, Comment déployer une IA générative ?, 18 juillet 2024.
- ETSI EN 304 223, Securing Artificial Intelligence : Baseline Cyber Security Requirements for AI Models and Systems, 2025 ; Cloud Security Alliance, AI Controls Matrix v1.1, juillet 2026 ; NIST, Cyber AI Profile (IR 8596, projet), décembre 2025 ; normes ISO/IEC 42001 et ISO/IEC 27001.
- Union européenne, Règlement (UE) 2016/679 (RGPD), article 33 ; directive NIS2 (loi française de transposition non promulguée à notre connaissance au 26 octobre 2026) ; règlement (UE) 2022/2554 (DORA) ; règlement (UE) 2024/2847 (Cyber Resilience Act), signalement des vulnérabilités exploitées depuis le 11 septembre 2026 ; règlement (UE) 2024/1689 sur l’intelligence artificielle, articles 4, 50 et 73, modifié par le règlement (UE) 2026/1744 (« Omnibus IA »), en vigueur le 27 juillet 2026.
- Anthropic, Disrupting the first reported AI-orchestrated cyber espionage campaign (GTG-1002), novembre 2025 ; Snyk, ToxicSkills, février 2026 ; Brave, injection de prompt dans le navigateur Comet, août 2025 ; The Register, ForcedLeak, septembre 2025.
- CERT-FR, CERTFR-2026-ACT-016 sur les agents de bureau, 13 avril 2026 ; agences du réseau Five Eyes, Careful Adoption of Agentic AI Services, 1er mai 2026 ; S. Willison, The lethal trifecta, juin 2025.
