La gouvernance d'entreprise a été bâtie pour encadrer des décisions humaines, des logiciels déterministes et un risque financier quantifiable. On l'applique aujourd'hui, pratiquement inchangée, à des systèmes d'IA qui se comportent de façon probabiliste, dérivent silencieusement avec le temps et défaillent d'une manière que les anciens référentiels de contrôle n'ont jamais anticipée. Ce n'est pas un problème de traduction. C'est un vide structurel, et la plupart des organisations ne le découvrent qu'en tombant dedans.
Le problème vient rarement d'un manque d'ambition. La plupart des grandes entreprises ont mis quelque chose en place : une politique de risque de modèle, un comité d'éthique de l'IA, un nouveau paragraphe dans le rapport annuel sur les risques. Ce qui leur manque, c'est un examen lucide du nombre d'hypothèses inscrites dans ces dispositifs qui ne sont pas seulement incomplètes, mais inadaptées dès qu'on les applique à l'IA contemporaine.
Cet essai en nomme quatre. Chaque angle mort découle d'une hypothèse précise, vraie pour des systèmes déterministes et des acteurs humains, fausse pour une IA probabiliste. Pour le panorama réglementaire qui pousse les organisations vers ce travail, voir Naviguer la vague : la GRC d'entreprise tient-elle le rythme ?
Les incidents d'IA signalés augmentent. L'AI Incident Database, qui recense les défaillances vérifiées en déploiement commercial et public, enregistre une hausse marquée d'une année sur l'autre, et la tendance est constante plutôt que concentrée sur un mauvais trimestre. Les décomptes exacts sont mouvants, puisque les incidents sont ajoutés rétroactivement à mesure qu'ils émergent : c'est donc la direction qui constitue le signal fiable, pas tel ou tel chiffre.
La composition compte plus que le décompte. Les incidents couvrent la fabrication de faits, les résultats discriminatoires, l'action autonome aux conséquences imprévues, l'échec de la détection de fraude et la violation réglementaire pure et simple. Dans chaque catégorie, une caractéristique structurelle revient : les organisations concernées n'étaient pas dépourvues de gouvernance. La plupart disposaient d'une fonction de gestion des risques, d'un audit interne, d'une supervision par le conseil et de référentiels de contrôle formels. Ce qu'elles ont appliqué, ce sont des référentiels conçus pour une autre classe de systèmes : le vocabulaire de contrôle du logiciel déterministe et des processus humains, braqué sur des modèles probabilistes. Elles n'ont découvert l'écart qu'après coup.
La réglementation rattrape son retard de façon inégale. Le règlement européen sur l'IA reste la réponse législative la plus complète, mais son calendrier a bougé. Les principales obligations relatives aux systèmes à haut risque devaient s'appliquer à partir du 2 août 2026. En vertu du paquet Omnibus numérique, adopté sous la forme du règlement (UE) 2026/1744 et en vigueur depuis le 27 juillet 2026, les obligations visant les systèmes à haut risque autonomes de l'annexe III s'appliquent désormais à compter du 2 décembre 2027, et celles visant l'IA intégrée à des produits réglementés au titre de l'annexe I à compter du 2 août 2028. Tout n'a pas été reporté : les règles de transparence de l'article 50 sont entrées en application le 2 août 2026 comme prévu. La direction ne change pas, même si les dates glissent. La législation crée des obligations ; elle ne crée pas la compréhension. Les organisations qui traverseront bien la phase d'application seront celles qui auront diagnostiqué à l'avance pourquoi leurs dispositifs existants sont insuffisants.
En 2025, une équipe de Deloitte a remis au ministère australien de l'Emploi et des Relations du travail un rapport contenant des références à des travaux universitaires inexistants, ainsi qu'une citation fabriquée d'un arrêt de la Cour fédérale. Les fabrications étaient disséminées dans un livrable adossé à un contrat d'environ 439 000 dollars australiens. Des universitaires australiens ont identifié les erreurs après publication, Deloitte a publié une version corrigée et remboursé une partie des honoraires, chiffrée à environ 97 000 dollars australiens. L'affaire a été largement couverte par la presse australienne.
Le contrôle qualité traditionnel suppose que la défaillance provient d'un manque de diligence humaine ; le remède est donc davantage de supervision, de relecture, de validation. Cette hypothèse convient à l'erreur humaine. Elle ne convient pas à l'hallucination, qui est une propriété architecturalement prévisible des systèmes fondés sur l'inférence, et non un relâchement de l'attention.
La réponse à l'erreur humaine est la relecture. La réponse à l'hallucination est architecturale : ancrage et récupération de sources, chaînes de vérification des résultats, seuils de confiance et validation spécifique au domaine avant toute livraison. Ajoutez une couche de relecture humaine à un résultat d'IA et vous obtenez un relecteur incapable de repérer une citation fabriquée enfouie dans un document de quarante pages sans vérifier indépendamment chaque référence, ce que personne ne fait. Pire, la mauvaise qualification masque la refonte qui fonctionnerait vraiment : traiter le résultat d'IA comme une classe d'objet à part entière, appelant une vérification propre, et non une relecture renforcée de la même page.
Adoptez des taxonomies de défaillance qui séparent la défaillance du modèle, celle du processus et celle de l'opérateur humain, en rattachant un contrôle distinct à chacune. Cela touche aussi vos contrats. Les organisations qui qualifient les erreurs de résultat d'IA d'erreurs de prestation intellectuelle cherchent à tenir leur fournisseur à un standard de négligence, alors que la plupart des contrats d'entreprise excluent explicitement toute responsabilité sur l'exactitude des résultats et ne garantissent que la disponibilité et la sécurité. Cet écart a sa place dans la cartographie des risques, pas dans le rapport d'incident. Sur le problème de vocabulaire qui sous-tend tout cela, voir le lexique GRC-IA 2026.
Le modèle de détection de fraude d'une banque européenne est validé au déploiement : précision et rappel se situent dans les seuils, les prédictions sont testées sur trois ans d'historique, et l'équipe de risque de modèle valide selon un protocole standard. Dix-huit mois après la mise en production, la performance s'est discrètement dégradée. De nouvelles catégories de commerçants, un changement de comportement des clients après un lancement de produit et l'évolution des techniques de fraude ont déplacé les données réelles, et le modèle s'est détérioré sans déclencher la moindre alerte.
Une précision sur cet exemple. Il s'agit d'un cas composite représentatif, tiré d'un schéma qui revient régulièrement dans la pratique du risque de modèle en services financiers, et non du récit d'un établissement identifié. Il figure ici parce que le mécanisme est bien documenté et instructif, et il est signalé comme tel pour que personne ne le prenne pour un cas précis.
La gouvernance suppose qu'un contrôle validé reste valide. C'est vrai d'une politique de séparation des tâches ou d'une matrice d'habilitations, qui ne changent pas de comportement toutes seules. Les modèles d'IA, si. Ce n'est pas un défaut, c'est une propriété. Les modèles déployés vivent dans des environnements qui bougent, et les données qu'ils rencontrent en production s'écartent de celles sur lesquelles ils ont été entraînés.
Deux mécanismes font les dégâts. La dérive de concept, lorsque la relation entre les entrées et la bonne réponse change, comme quand les techniques de fraude évoluent et que les anciens signaux cessent de prédire. La dérive des données, lorsque la distribution des entrées se déplace alors même que la relation tient, comme quand une expansion commerciale modifie la répartition géographique. Un dispositif qui ne contrôle les résultats qu'au moment de la validation initiale ne voit ni l'une ni l'autre avant que le dommage n'apparaisse. Et une revue de modèle ponctuelle qui certifie la conformité sans surveillance continue commence à se périmer dès la signature.
On ne peut pas rendre lisibles, à l'échelle de la production, les rouages internes d'un grand modèle ; la recherche en interprétabilité n'y est pas. Il faut donc compenser au niveau du contrôle, et donner à ce contrôle de vraies dents :
Traitez chaque validation comme horodatée : elle certifie un comportement à une date donnée, dans des conditions données, et elle expire. Les comités d'audit devraient lire une attestation de modèle comme un rapport de visite de sécurité, pas comme un titre de propriété.
Le dispositif australien Robodebt a fonctionné de 2016 à 2019 et a émis pour environ 1,8 milliard de dollars australiens d'avis de dette à des allocataires sociaux, par calcul automatisé d'un revenu moyen. Une commission royale d'enquête a jugé le dispositif illégal en 2023, documenté le préjudice subi par des centaines de milliers de personnes et donné lieu à des saisines pénales ; indemnisations et transactions se sont chiffrées en centaines de millions. Robodebt n'était pas un grand modèle de langage. C'était un calcul automatisé. C'est précisément pour cela qu'il a sa place ici.
Les dispositifs d'appétence au risque définissent le risque résiduel acceptable comme le produit d'une probabilité et d'un impact, généralement sur une matrice. Ce qu'ils ne portent presque jamais, c'est un facteur d'échelle. Un taux d'erreur jugé acceptable lorsque des agents formés examinent les dossiers un par un devient tout autre chose lorsque le même taux s'applique à des millions de dossiers sans intervention humaine.
Le libellé de la déclaration de risque reste identique pendant que la conséquence change d'ordre de grandeur. Approuvez un modèle antifraude affichant un taux de faux positifs documenté de 3 % : sur dix mille transactions examinées par an, cela fait 300 erreurs, vraisemblablement dans la tolérance. Braquez le même modèle sur cinquante millions de transactions annuelles et cela fait 1,5 million de comptes signalés à tort. La déclaration se lit à l'identique. Le préjudice diffère de quatre ordres de grandeur. Les systèmes automatisés sont en outre généralement dépourvus du traitement des cas particuliers qu'assure la revue humaine à la marge, si bien que le dommage peut être pire que linéaire.
Reconstruisez les déclarations d'appétence au risque des systèmes de décision automatisés pour y intégrer, par défaut, un impact ajusté au volume, et non le seul impact unitaire. Ce n'est pas une préoccupation propre au secteur public. Les modèles en contact avec le public qui déterminent l'accès au crédit, à l'assurance, à l'emploi ou au logement fonctionnent à des échelles où un biais ou une erreur devient un problème collectif de droits fondamentaux, et non un défaut produit. Le classement par niveaux du règlement européen va dans le même sens, en plaçant les décisions conséquentes et massives dans les catégories les plus élevées, mais le texte crée l'obligation sans construire votre mécanisme interne à votre place. Sur les erreurs à grande échelle et leurs suites, voir La bataille des remboursements en IA.
Le 16 janvier 2026, le procureur général de Californie Rob Bonta a adressé à xAI une mise en demeure visant les outils de génération d'images de Grok, exigeant que l'entreprise cesse la création et la diffusion d'images intimes non consenties et de matériel pédocriminel. L'action faisait suite à une enquête ouverte quelques jours plus tôt sur des contenus sexuellement explicites produits avec le modèle, y compris des signalements d'images d'enfants. La lettre exigeait une confirmation écrite, au 20 janvier 2026, que les faits avaient cessé. (Source : bureau du procureur général de Californie.)
Le conseil qui a approuvé le déploiement de la génération d'images de Grok n'a pas approuvé, et ne pouvait pas approuver, les résultats précis qui ont déclenché l'action. Le comportement était émergent : non programmé, non testé, né du modèle, de ses données d'entraînement et de ce que les utilisateurs ont saisi en production. La supervision par le conseil suppose que les décisions conséquentes surviennent à un rythme que le conseil peut observer. L'IA casse cette hypothèse.
Les conseils fonctionnent sur une horloge calée sur le changement financier et stratégique : résultats trimestriels, stratégie annuelle, revues périodiques des risques et de l'audit. Cette cadence convenait aux risques qu'on leur demandait historiquement de porter. Elle ne convient pas à un système capable de modifier son profil comportemental, d'une manière qui crée une exposition juridique, entre deux séances. Ajouter un administrateur doté d'un profil technique ne règle rien. Un administrateur averti ne peut pas davantage observer une distribution de résultats se déplacer à deux heures du matin un mardi. La correction est structurelle, non biographique : le conseil a besoin d'une information différente, pas seulement de personnes formées différemment.
C'est aussi là que s'ouvre un vide de responsabilité. Quand un modèle produit un résultat qui déclenche un contentieux ou l'intervention d'un régulateur, la question de savoir qui a autorisé ce comportement n'a pas de réponse dans la gouvernance ordinaire. Aucune délibération ne l'a approuvé. Aucune politique ne l'interdisait, parce que personne ne l'avait anticipé. Les nouveaux rôles apparus en 2026, responsables du risque de modèle et référents IA responsable, créent bien une responsabilité nommée, mais un titre n'est pas un système. Le responsable désigné a besoin d'une surveillance continue, de seuils d'escalade définis et d'un vrai rattachement hiérarchique pour que cette responsabilité signifie quelque chose.
Rien de tout cela ne signifie que la machinerie existante ne vaut rien, et un raisonnement honnête doit le dire. Plusieurs contrôles traditionnels se transposent et restent porteurs sous l'IA. Les pistes d'audit établissent toujours qui a fait quoi et quand. La cartographie des risques reste le bon endroit pour loger l'écart de responsabilité fournisseur et le facteur d'échelle, une fois qu'on les y a inscrits. La diligence sur les fournisseurs compte toujours, sans doute davantage, vu la part des capacités d'IA qui est achetée plutôt que construite. La séparation des tâches limite toujours qui peut mettre un modèle en production ou passer outre son résultat. L'argument n'est pas de jeter tout cela. Il est de cesser de supposer que cela suffit, à soi seul, pour une classe de systèmes que ces contrôles n'ont jamais été conçus pour gouverner.
Les quatre angles morts partagent une racine : une hypothèse de gouvernance valable pour des systèmes déterministes conduits par des humains, appliquée sans modification à une IA probabiliste au comportement autonome. Dans chaque cas, le remède n'est pas de rapiécer le dispositif, mais de remplacer l'hypothèse sous-jacente.
Pour la mauvaise qualification : adoptez des taxonomies de défaillance propres à l'IA et rattachez des contrôles distincts aux défaillances du modèle, du processus et de l'opérateur.
Pour l'opacité et la dérive : faites de la surveillance continue une obligation de premier rang, et traitez chaque validation comme une certification horodatée assortie d'une périodicité de revalidation définie.
Pour le paradoxe de l'appétence au risque : ajoutez une composante d'échelle aux déclarations d'appétence pour tous les systèmes de décision automatisés, afin qu'un risque acceptable à l'échelle d'une revue soit réexaminé à l'échelle de l'automatisation.
Pour la supervision par le conseil : construisez une couche permanente de supervision opérationnelle — surveillance continue, détection d'anomalies, escalade définie — qui s'intercale entre le modèle et le conseil et comble l'écart entre la vitesse à laquelle l'IA se comporte et la fréquence à laquelle les conseils se réunissent.
Ce ne sont pas des ajustements modestes. Ils demandent aux fonctions de gouvernance de repenser une logique tenue pour acquise depuis des décennies, et la pression extérieure — application du règlement européen, actions au niveau des États américains, lignes directrices de la FTC et du CFPB — ne fait que croître. Traitez la question comme une liste de conformité et vous resterez en retard d'un incident. Traitez-la comme une vraie modernisation et elle devient un avantage.
Cet essai fait partie d'une série sur la gouvernance de l'IA à l'intérieur des dispositifs de responsabilité des entreprises. Voir aussi le lexique GRC-IA 2026 sur le vocabulaire qu'exige ce travail, et Le plagiat intelligent sur les questions de propriété intellectuelle que soulèvent les systèmes d'IA.
Un risque ou un mode de défaillance que les dispositifs GRC classiques ne peuvent pas détecter, parce qu'ils ont été conçus pour des systèmes déterministes et des acteurs humains. Quatre sont structurels : qualifier les défaillances de l'IA d'erreurs humaines, ignorer la dérive des modèles dans la validation continue des contrôles, appliquer des seuils de risque statiques à une automatisation massive, et s'en remettre à des cycles de conseil trop lents pour un comportement émergent.
En 2025, une équipe de Deloitte a remis au ministère australien de l'Emploi et des Relations du travail un rapport contenant des références à des travaux universitaires inexistants et une citation fabriquée d'un arrêt de la Cour fédérale. Le contrat valait environ 439 000 dollars australiens. Des universitaires ont identifié les erreurs après publication ; Deloitte a publié un rapport corrigé et remboursé une partie des honoraires, chiffrée à environ 97 000 dollars australiens. La leçon : des contrôles qualité conçus pour l'erreur humaine n'attrapent pas la fabrication par l'IA, qui appelle une vérification architecturale.
Le contrôle qualité traditionnel suppose que la défaillance vient d'un manque de diligence humaine ; le remède est donc plus de supervision et de validation. Cela convient à l'erreur humaine, pas à l'hallucination, qui est une propriété architecturalement prévisible des systèmes fondés sur l'inférence. Un relecteur ne peut pas repérer une citation fabriquée enfouie dans un document de quarante pages sans vérifier indépendamment chaque référence, ce que personne ne fait. La réponse doit être architecturale : ancrage et récupération de sources, chaînes de vérification des résultats, validation spécifique au domaine avant livraison.
La dérive est la dégradation de la performance d'un modèle à mesure que les données de production s'écartent de celles sur lesquelles il a été entraîné. La dérive de concept survient quand la relation entre les entrées et la bonne réponse change. La dérive des données survient quand la distribution des entrées se déplace alors que la relation tient. Les contrôles classiques ne dérivent pas une fois établis : une matrice d'habilitations se comportera de la même façon l'an prochain. Les modèles, si — de sorte qu'une validation ponctuelle certifie un comportement qui commence à se périmer dès la signature.
Il désigne un propriétaire, un déclencheur, une mesure et une voie d'escalade. Par exemple : propriétaire, le responsable du risque de modèle de la plateforme antifraude ; déclencheur, un indice de stabilité de population supérieur à 0,2 sur l'une des dix principales variables, ou une chute de la précision glissante sur 30 jours de plus de trois points sous la référence de validation ; mesure, précision et rappel hebdomadaires hors échantillon et scores de dérive par variable ; escalade, un ticket de revalidation sous 48 heures porté au comité des risques, deux dépassements consécutifs suspendant l'action automatisée dans l'attente d'une revue humaine.
Les dispositifs d'appétence définissent le risque résiduel acceptable comme le produit d'une probabilité et d'un impact, mais portent rarement un facteur d'échelle. Un taux d'erreur acceptable quand des agents formés examinent les dossiers un par un devient tout autre chose appliqué à des millions de dossiers sans intervention humaine. Un modèle affichant 3 % de faux positifs produit 300 erreurs sur dix mille transactions examinées et 1,5 million sur cinquante millions. La déclaration de risque se lit à l'identique tandis que le préjudice change de quatre ordres de grandeur.
Le dispositif australien Robodebt a fonctionné de 2016 à 2019 et émis environ 1,8 milliard de dollars australiens d'avis de dette à des allocataires sociaux, par calcul automatisé d'un revenu moyen. Une commission royale d'enquête l'a jugé illégal en 2023 et a documenté le préjudice subi par des centaines de milliers de personnes. Robodebt n'était pas un grand modèle de langage mais un calcul automatisé, et c'est exactement pour cela qu'il relève d'une discussion sur la gouvernance de l'IA : la défaillance tenait à l'échelle sans appétence au risque ajustée à l'échelle, pas à la sophistication du modèle.
Les conseils fonctionnent à une cadence calée sur le changement financier et stratégique : résultats trimestriels, stratégie annuelle, revues périodiques des risques et de l'audit. Cela convenait aux risques qu'on leur demandait historiquement de porter. Cela ne convient pas à un système capable de modifier son profil comportemental entre deux séances. Ajouter un administrateur au profil technique ne règle rien, car un administrateur averti ne peut pas davantage observer une distribution de résultats se déplacer à deux heures du matin. La correction est structurelle plutôt que biographique : le conseil a besoin d'une information différente, pas de personnes formées différemment.
Le règlement reste la législation la plus complète en matière d'IA, mais ses échéances à haut risque ont bougé. En vertu du paquet Omnibus numérique, adopté sous la forme du règlement (UE) 2026/1744 et en vigueur depuis le 27 juillet 2026, les obligations visant les systèmes à haut risque autonomes de l'annexe III passent du 2 août 2026 au 2 décembre 2027, et celles visant l'IA intégrée à des produits réglementés au titre de l'annexe I au 2 août 2028. Tout n'a pas été reporté : les règles de transparence de l'article 50 sont entrées en application le 2 août 2026. Vérifiez la position en vigueur pour vos obligations propres avant de vous fier à une date.
Quatre changements, un par angle mort. Adopter des taxonomies de défaillance propres à l'IA, rattachant des contrôles distincts aux défaillances du modèle, du processus et de l'opérateur. Faire de la surveillance continue une obligation de premier rang et traiter chaque validation comme une certification horodatée assortie d'une périodicité de revalidation définie. Ajouter une composante d'échelle aux déclarations d'appétence au risque de tous les systèmes de décision automatisés. Construire une couche permanente de supervision opérationnelle qui s'intercale entre le modèle et le conseil et comble l'écart entre la vitesse de l'IA et la fréquence des séances.
Suivez GRC Careers sur LinkedIn
Nos essais, les référentiels qui bougent vraiment, et les postes de gouvernance qui méritent votre attention. Écrit par des praticiens, publié au fil de l'eau.
Suivre sur LinkedIn →