L’IA n’est plus un projet de laboratoire : elle innerve désormais nos services publics, nos chaînes de production et même nos interactions quotidiennes. Sa diffusion rapide oblige à penser dès maintenant la gouvernance qui l’accompagnera, faute de quoi la société risque de subir une mosaïque de règles inefficaces ou, pire, une course vers le moins-disant éthique.

Face à cette responsabilité, les pouvoirs publics sont appelés à travailler avec la société civile et les praticiens pour clarifier cinq chantiers prioritaires : l’explicabilité, l’équité, la sûreté, la collaboration humain-IA et la responsabilité juridique. Ces axes structurent une stratégie capable de soutenir l’innovation tout en protégeant les citoyens.

L’explicabilité constitue le premier pilier. Comprendre pourquoi un système propose un diagnostic médical ou refuse un prêt renforce la confiance et permet de contester l’algorithme au besoin. Toutefois, la « bonne » explication varie selon le public, le contexte et les contraintes techniques ; il n’existe pas de modèle unique.

Un équilibre s’impose : l’explication doit être intelligible, suffisante et proportionnée. Elle doit donner des motifs concrets sans noyer l’utilisateur sous les détails ni freiner l’adoption de solutions pourtant salutaires. Des collections d’exemples de “bonnes explications” et des barèmes gradués aideraient les équipes à calibrer leurs obligations d’explicabilité selon les secteurs et le risque encouru.

Lorsque l’explication détaillée est impossible ou inutile, d’autres mécanismes d’accountability prennent le relais : canaux de signalement, voies de recours humaines, tests adverses ou audits indépendants. Ces filets de sécurité permettent de corriger les modèles et rassurent les usagers sans exiger l’ouverture du « boîte noire » à chaque requête.

L’équité, second chantier, confronte les organisations à des définitions parfois contradictoires : égalité de traitement, égalité de résultat, compensation d’injustices historiques… Un modèle « juste » selon un critère peut être discriminant selon un autre. Il faut donc décider, en conscience, quelle notion de justice on privilégie pour chaque usage.

Les régulateurs peuvent contribuer en indiquant comment arbitrer ces tensions et en identifiant les effets pervers des règles existantes : interdire toute inférence de l’appartenance ethnique, par exemple, empêche parfois de vérifier l’absence de biais raciaux et produit l’inverse du but recherché.

La sûreté forme le troisième pilier. Aucun système n’est infaillible ; le risque doit être évalué au regard des dommages potentiels et du coût des mesures préventives. Des référentiels communs de tests, de documentation et, le cas échéant, des labels de certification pourraient standardiser la démonstration de la diligence raisonnable dans les domaines critiques.

Sur le terrain, la collaboration public-privé pourrait aboutir à des marques de conformité semblables au marquage CE : par exemple un verrou intelligent à reconnaissance biométrique ne serait commercialisé qu’après validation sur un jeu d’essai représentatif attestant d’un taux d’erreur maximum prédéfini.

La question du « human in the loop » dépasse la simple surveillance. Hommes et machines possèdent des atouts distincts ; choisir leur rôle respectif exige d’évaluer la tâche, les enjeux éthiques et la psychologie des opérateurs. Dans certains cas, le duo dépasse chaque partie isolée ; dans d’autres, introduire l’humain accroît les erreurs ou dilue la responsabilité.

Il faut également se garder d’une illusion de sécurité : confier à un agent humain le contrôle final d’un flot d’alertes conduit souvent, par fatigue décisionnelle ou automatisation biais, à valider sans réelle vérification les recommandations du système. Concevoir des seuils d’escalade, des quotas d’audit et des incitations à la vigilance devient alors indispensable.

Sur le plan juridique enfin, l’idée d’accorder une personnalité légale aux machines est écartée : de l’avis général, la responsabilité morale et financière doit demeurer humaine. Néanmoins, l’enchaînement complexe de fournisseurs et d’intégrateurs peut compliquer l’attribution de la faute. Des régimes sectoriels – plafonds de responsabilité, “safe harbors”, assurances obligatoires – pourraient couvrir les applications à haut risque sans paralyser l’innovation.

En définitive, le cadre le plus prometteur conjugue auto-régulation responsable et intervention ciblée de l’État. Les normes doivent rester évolutives, fondées sur l’évaluation empirique des risques et sur un dialogue permanent entre chercheurs, industriels et citoyens. Cette approche souple, déjà plébiscitée dans d’autres technologies émergentes, offre la meilleure garantie d’un progrès numérique inclusif et sûr pour tous.