Toute discipline qui avale une technologie nouvelle heurte d'abord le même mur, et ce mur est le vocabulaire. Quand les produits dérivés sont arrivés dans les trésoreries d'entreprise, les gestionnaires de risques ont dû apprendre ce qu'était un delta. Quand le cloud est arrivé, les équipes d'audit ont dû comprendre ce que recouvrait un modèle de responsabilité partagée. Les deux fois, les mots nouveaux ont fini par être domestiqués, intégrés au catalogue de contrôles existant moyennant quelques ajustements et pas mal de ronchonnements.
L'IA pose un problème de vocabulaire d'une autre nature. Il ne s'agit pas seulement d'apprendre des mots nouveaux pour des objets nouveaux. Certains concepts de l'IA n'entrent tout simplement pas dans la structure sémantique du langage de la gouvernance. Ils décrivent des comportements que notre vocabulaire actuel n'a aucun moyen de représenter honnêtement. Et quand le vocabulaire ne peut pas contenir le concept, le dispositif de contrôle bâti sur ce vocabulaire ne le peut pas davantage.
Cet essai fait donc deux choses. D'abord, un lexique de travail pour quiconque doit parler d'IA avec précision dans un cadre de gouvernance. Ensuite, l'argument plus difficile : même une maîtrise parfaite de ces termes ne suffit pas sans quelques concepts hybrides nouveaux, qui relient ce que l'IA fait réellement à la façon dont la gouvernance fonctionne réellement.
L'écart a des dents. Qui ne comprend pas la dérive des modèles ne peut pas juger si un programme de validation est adéquat. Un comité des risques qui n'a jamais vraiment saisi ce qu'est un comportement émergent ne peut pas apprécier si sa propre structure de supervision serait capable de le détecter. Un auditeur interne incapable de distinguer un modèle affiné d'un modèle de fondation ne peut pas concevoir un audit de gouvernance des modèles digne de ce nom.
La difficulté augmente parce que le vocabulaire ne tient pas en place. Des termes entrent en usage quelques mois après un article de recherche. D'autres sont détournés, redéfinis ou discrètement abandonnés. Courir après chaque évolution est le travail de l'équipe IA, pas le vôtre. Le vôtre consiste à maîtriser le sous-ensemble devenu porteur pour la gouvernance : les termes qui décident des contrôles nécessaires, des risques acceptés et de qui répond quand cela tourne mal.
Ce qui suit couvre les termes qui apparaissent effectivement dans les conversations de gouvernance, de réglementation et de conformité en 2026.
| Sigle | Terme complet | Pourquoi cela compte pour la GRC |
|---|---|---|
| AGI | Intelligence artificielle générale | Un système hypothétique doté de capacités cognitives de niveau humain dans tous les domaines. Les cadres réglementaires font de plus en plus référence à des seuils d'AGI comme déclencheurs d'une supervision renforcée. |
| AIaaS | IA en tant que service | Capacité d'IA délivrée dans le cloud. Savoir qui porte quel risque dans le modèle de responsabilité partagée est la question centrale de gouvernance dans les achats d'IA en entreprise. |
| GPAI | IA à usage général | La classification du règlement européen pour les modèles de fondation largement applicables. Les modèles GPAI présentant un risque systémique sont soumis à des obligations renforcées, dont les tests adverses et la notification d'incidents. |
| GRC-IA | Gouvernance, risque et conformité appliqués à l'intelligence artificielle | La sous-discipline émergente où les deux se rencontrent : gouvernance des modèles, gestion du risque IA, conformité de l'IA responsable et conformité réglementaire de l'IA. |
| LLM | Grand modèle de langage | Des modèles de fondation entraînés principalement sur du texte à grande échelle. Hallucination, injection d'invite et dérive sont les risques propres aux LLM autour desquels se construisent la plupart des dispositifs de risque de modèle. |
| MCP | Model Context Protocol | Un protocole développé par Anthropic pour structurer la communication entre les modèles et des outils externes. Pertinent pour évaluer les architectures agentiques et la sécurité de l'usage d'outils. |
| MLOps | Opérations d'apprentissage automatique | Les pratiques et l'outillage permettant d'exploiter des modèles en production. La gouvernance des modèles devrait être câblée dans la chaîne MLOps, car c'est là que la surveillance et la revalidation se produisent réellement. |
| RAG | Génération augmentée par récupération | Voir l'entrée du lexique ci-dessus. La principale parade architecturale à l'hallucination dans les applications à forte intensité de connaissances. |
| RLHF | Apprentissage par renforcement à partir de retours humains | Voir l'entrée du lexique ci-dessus. La technique d'entraînement qui façonne les garde-fous comportementaux. |
| SLA | Accord de niveau de service | Dans les contrats d'IA, ils couvrent encore surtout la disponibilité de la plateforme. Les étendre à la qualité des résultats et à la dérive est la frontière vive de la gouvernance des fournisseurs d'IA. |
| FLOP | Opération en virgule flottante | L'unité de calcul servant à mesurer l'échelle d'entraînement. Le règlement européen fixe son seuil de risque systémique GPAI à 1025 FLOPs, utilisant le calcul comme indicateur réglementaire de capacité. |
Tout ce qui précède décrit des concepts d'IA. La question plus difficile est de savoir si le vocabulaire de gouvernance que nous emploierions pour les encadrer — la langue des référentiels de contrôle, des cartographies de risques, des normes d'audit et de la supervision par le conseil — est à la hauteur. La réponse tient en trois parties.
Le vocabulaire de l'audit repose sur une hypothèse : qu'une décision peut être reconstituée à partir de ses entrées, des règles appliquées et du résultat produit. Traçabilité, cheminement, inspection du processus. L'auditabilité au sens classique exige une piste lisible.
Les modèles en boîte noire n'en laissent pas. Une passe avant à travers des milliards de paramètres n'est pas une piste ; c'est une transformation mathématique qu'on ne peut pas remonter jusqu'à une explication humaine de la raison pour laquelle ce résultat précis est apparu.
La gouvernance a répondu par l'explicabilité et l'interprétabilité, et c'est là qu'une erreur discrète s'installe. Ce ne sont pas des synonymes d'auditabilité. Un outil comme LIME ou SHAP donne une approximation locale du comportement autour d'une prédiction. C'est utile, mais ce n'est pas une piste d'audit, et un dispositif qui range des résultats d'explicabilité au rang de preuve d'audit s'appuie sur un substitut que la méthode sous-jacente n'a jamais été conçue pour porter.
Les cartographies de risques énumèrent des risques connus. Elles n'ont aucune case pour un risque qui ne pouvait pas être connu à l'avance, né d'une propriété que personne ne pouvait prédire à partir du cahier des charges. Tout le vocabulaire de la gestion des risques — probabilité, impact, risque résiduel, appétence — suppose un univers d'événements énumérables. Le comportement émergent ne respecte pas cette hypothèse.
On voit le système réglementaire tendre vers cette idée. L'obligation de surveillance continue après mise sur le marché prévue par le règlement européen, l'insistance de la FTC sur les tests comportementaux permanents, les appels à une évaluation du risque IA au niveau systémique émanant des autorités de stabilité financière : tout cela traduit la reconnaissance qu'une cartographie des risques appliquée à l'IA sans modification produit une analyse incomplète par construction. Les modes de défaillance qui se matérialisent sont justement, en général, ceux qu'elle ne contient pas.
La langue de la supervision suppose une échelle de temps où la revue humaine signifie quelque chose. Revue, approbation, escalade, double regard, validation. Les systèmes agentiques fonctionnant à grande échelle effacent cette échelle de temps.
Le problème n'est pas que les gens seraient trop lents à s'en soucier. Il est architectural. Le système ne présente pas ses résultats à la revue. Il exécute une séquence d'actions de façon autonome, et au moment où un humain pourrait peser, l'action est faite.
Ce dont la gouvernance a besoin ici, c'est d'un vocabulaire qui ne présuppose pas la revue : des garde-fous programmatiques, contraintes encodées dans l'environnement et qui opèrent à la vitesse de l'agent ; des limites de capacité, bornes strictes de ce qu'un agent peut faire sans autorisation ; et des pistes d'audit des actions, reconstitutions de ce que l'agent a fait, qui rendent la reddition de comptes possible après coup, même lorsqu'elle était impossible sur l'instant. Aucune de ces notions ne se superpose proprement à quoi que ce soit du vocabulaire existant de la supervision.
Combler l'écart ne consiste pas à agrafer des mots d'IA à un dictionnaire de GRC. Cela demande un petit nombre de concepts hybrides réellement nouveaux, qui relient la façon dont l'IA se comporte à la façon dont les institutions de gouvernance fonctionnent. Trois portent aujourd'hui l'essentiel de la charge.
Le devoir fiduciaire s'est toujours attaché à des personnes placées en position de confiance : administrateurs, mandataires, conseils, tenus d'agir dans l'intérêt de ceux qu'ils servent. Or des systèmes d'IA prennent désormais des décisions dans des contextes fiduciaires : gestion de portefeuille, éligibilité à des prestations, tri médical, octroi de crédit. D'où une question vive : l'organisation qui déploie assume-t-elle une forme de devoir fiduciaire algorithmique, une obligation de soin renforcée, calibrée sur ce que le système peut et ne peut pas faire ? Plusieurs dispositions du règlement européen en supposent une version pour les déployeurs de systèmes à haut risque.
Non pas un audit de la logique interne du modèle, indisponible pour les systèmes en boîte noire, mais un relevé documenté du comportement dans la durée : provenance des données d'entraînement, résultats d'évaluation au déploiement, indicateurs de surveillance pendant toute la période de production, incidents et quasi-incidents, mises à jour du modèle et leur effet sur la performance évaluée, et décisions humaines prises en réponse aux résultats. C'est l'artefact qui rend la reddition de comptes possible après coup, là où l'auditabilité classique du processus n'était de toute façon pas envisageable. Plusieurs cadres, dont le règlement européen et les orientations de la FDA pour les dispositifs médicaux intégrant de l'IA, convergent vers des exigences qui reviennent à en imposer une pour les déploiements à haut risque.
À distinguer de l'humain dans la boucle (revue de chaque résultat) et de l'humain sur la boucle (surveillance avec intervention). L'humain aux commandes est le principe selon lequel les personnes conservent l'autorité ultime sur les conséquences du comportement du système, même lorsqu'il est impossible d'en examiner chaque résultat en temps réel. En pratique, cela suppose trois choses : que l'environnement encode les bornes de l'action acceptable, que des seuils d'escalade se déclenchent à l'approche de ces bornes, et que les humains reçoivent une information exploitable sur une échelle de temps où répondre a encore un sens. C'est la topologie de contrôle qu'exige réellement la gouvernance des systèmes agentiques.
Cet essai fait partie d'une série sur la gouvernance de l'IA à l'intérieur des dispositifs de responsabilité des entreprises. Voir aussi Les quatre angles morts de la gouvernance traditionnelle appliquée à l'IA, et Les 5 compétences clés de la gouvernance sur ce que ce travail exige d'une carrière.
Le même mode de défaillance, un registre différent. « Hallucination » est le terme courant ; « confabulation » le terme plus précis, emprunté à la neuropsychologie. Dans les deux cas l'implication de gouvernance tient : les résultats d'IA dans les domaines à fort enjeu appellent des chaînes de vérification, pas davantage de relecture humaine, car un relecteur ne peut pas repérer de façon fiable un énoncé faux bien formé sans vérifier lui-même chaque affirmation.
La génération augmentée par récupération ancre les résultats dans des documents récupérés avant que le modèle ne produise sa réponse, ce qui réduit nettement le risque d'hallucination sans l'éliminer. Elle ajoute aussi de nouvelles dimensions de risque : fiabilité de la source, actualité des documents indexés, exactitude de l'attribution. Si vous déployez du RAG en conformité ou en juridique, la gouvernance des sources de récupération a sa place dans votre dispositif.
Les systèmes agentiques accomplissent des tâches en plusieurs étapes de façon autonome, décidant au fil de l'eau sans revue à chaque étape. Cela exige une tout autre topologie de contrôle : garde-fous programmatiques, limites de capacité, pistes d'audit des actions et coupe-circuits, plutôt que des files d'approbation.
L'injection d'invite dissimule des instructions malveillantes dans des données traitées par un agent d'IA — un document, une page web, un courriel — l'amenant à suivre l'attaquant plutôt que l'utilisateur. C'est une surface d'attaque réellement nouvelle. Les référentiels classiques de sécurité applicative supposent que les instructions et les données circulent sur des canaux séparés, et pour les systèmes agentiques cette hypothèse ne tient pas. Tout agent disposant d'un accès à des outils ou à des données externes doit l'intégrer à son modèle de menace.
Parce qu'ils répondent à une autre question. Un outil comme LIME ou SHAP donne une approximation locale du comportement du modèle autour d'une prédiction unique. C'est utile, mais c'est une reconstitution après coup, pas un relevé de ce qui s'est passé. Le vocabulaire de l'audit suppose qu'une décision peut être remontée à travers ses entrées et les règles appliquées. Une passe avant à travers des milliards de paramètres ne laisse pas une telle piste. Ranger de l'explicabilité au rang de preuve d'audit revient à s'appuyer sur un substitut que la méthode n'a jamais été conçue pour porter.
Non pas un audit de la logique interne du modèle, indisponible pour les systèmes en boîte noire, mais un relevé documenté du comportement dans la durée : provenance des données d'entraînement, résultats d'évaluation au déploiement, indicateurs de surveillance pendant la production, incidents et quasi-incidents, mises à jour du modèle et leur effet sur la performance évaluée, et décisions humaines prises en réponse aux résultats. C'est ce qui rend la reddition de comptes possible après coup, là où l'auditabilité du processus n'était pas envisageable.
L'humain dans la boucle signifie qu'une personne examine chaque résultat avant qu'il produise effet. L'humain sur la boucle signifie une surveillance avec possibilité d'intervenir. L'humain aux commandes est le principe selon lequel les personnes conservent l'autorité ultime sur les conséquences du comportement du système, même lorsqu'il est impossible d'examiner chaque résultat en temps réel. En pratique, cela exige trois choses : que l'environnement encode les bornes de l'action acceptable, que des seuils d'escalade se déclenchent à l'approche de ces bornes, et que les humains reçoivent une information exploitable sur une échelle de temps où répondre a encore un sens.
La sûreté de l'IA est la discipline de recherche qui se demande si les systèmes sont fondamentalement alignés sur les valeurs humaines. La gouvernance de l'IA est la discipline organisationnelle qui gère le risque IA par la politique, les contrôles, la supervision et la reddition de comptes. Elles se nourrissent l'une l'autre mais opèrent à des niveaux différents. Les professionnels de la GRC pratiquent la gouvernance et suivent la recherche en sûreté pour comprendre le paysage qu'ils encadrent.
C'est une méthode d'alignement, développée par Anthropic, qui entraîne les modèles à confronter leurs propres résultats à des principes énoncés. Du point de vue de la conformité, cela se traduit par une question de diligence : l'approche d'alignement conditionne la stabilité des garde-fous comportementaux au fil des mises à jour. Si vous avez des exigences comportementales précises en matière de restrictions de contenu, de refus ou de format de sortie, vous devez comprendre l'approche de votre fournisseur dans le cadre de votre évaluation du risque de modèle.
GRCcareers.ai publie une analyse continue du paysage des carrières GRC-IA, et nos guides couvrent les rôles qui émergent, de l'analyste au directeur de l'IA. Nos essais en français reprennent les mêmes sujets pour les praticiens francophones.
Suivez GRC Careers sur LinkedIn
Nos essais, les référentiels qui bougent vraiment, et les postes de gouvernance qui méritent votre attention. Écrit par des praticiens, publié au fil de l'eau.
Suivre sur LinkedIn →