Solutions / 04
Gouvernance et observabilité de l'IA
Rendre les systèmes d'IA redevables : ce qui s'exécute, sur quelles données, sous quelle autorité — et ce que l'organisation peut prouver ensuite.
Le problème
La gouvernance de l'IA échoue dans deux directions opposées. Documentée comme une politique seule, elle produit des registres exacts le jour de leur rédaction et fictifs six semaines plus tard. Déléguée à l'outillage seul, elle produit des tableaux de bord de métriques que personne n'a reliés à une obligation réellement portée par quelqu'un.
La version qui fonctionne est ennuyeuse : un petit nombre de faits, émis par les systèmes eux-mêmes, qui répondent aux questions que poseront un auditeur, un régulateur ou une revue d'incident. Quels modèles et quels agents sont en usage. Sur quelles données. Sous quelle autorité. Ce qui a changé, quand, et qui l'a approuvé.
Architecture
À quoi ressemble le système.
Inventaire
Modèles, agents, outils et jeux de données en usage — dérivés de la télémétrie d'exécution.
Gouvernance des données
Quels jeux de données alimentent quels systèmes, avec la classification et le lignage hérités de la plateforme de données.
Politique
Des règles par classe de système : données permises, actions permises, approbations requises, cadence de revue.
Télémétrie
Usage, récupération, invocation d'outils, décisions de politique et approbations — la couche de preuve.
Assurance
Preuve périodique : ce qui s'est exécuté, sur quoi, sous quelle politique, avec quelles dérogations.
La gouvernance est ici un problème d'observabilité surmonté d'une couche de politique. L'inventaire est dérivé de la télémétrie plutôt que tenu à la main, car un inventaire manuel d'un patrimoine mouvant est faux par construction.
- Inventaire
- Modèles, agents, outils et jeux de données en usage, dérivés de la télémétrie d'exécution plutôt que d'un formulaire déclaratif.
- Gouvernance des données
- Quels jeux de données alimentent quels systèmes, avec la classification et le lignage hérités de la plateforme de données plutôt que redéclarés.
- Politique
- Les règles applicables par classe de système : données permises, actions permises, approbations requises, cadence de revue requise.
- Télémétrie
- Usage, récupération, invocation d'outils, décisions de politique et approbations — la couche de preuve dont tout le reste est dérivé.
- Assurance
- Production périodique de preuve : ce qui s'est exécuté, sur quoi, sous quelle politique, avec quelles dérogations et quelles approbations.
Compétences
- Inventaire des modèles, agents, outils et jeux de données dérivé de l'exécution
- Lignage des données de la source jusqu'à la consommation par les modèles et les agents
- Définition de politique par classe de système, avec dérogations enregistrées
- Circuits d'approbation liés à des actions et à des identités précises
- Télémétrie d'usage et de comportement conservée pour revue
- Dossiers de preuve assemblés depuis la télémétrie plutôt que depuis des questionnaires
Contrôles de sécurité
- La complétude de l'inventaire est surveillée — un système non enregistré présent dans la télémétrie déclenche une alerte
- La classification des données d'entraînement et de récupération est appliquée en amont, dans la plateforme de données
- Les dérogations de politique sont limitées dans le temps et expirent par défaut
- Les approbations sont non répudiables : identité nommée, périmètre précis, justification enregistrée
- La télémétrie de gouvernance est conservée sous sa propre politique de rétention
Approche d'intégration
Cette solution est volontairement couplée aux deux qui la portent. Son inventaire provient de la télémétrie des agents et des modèles ; son lignage provient de la plateforme de données de sécurité. La tenter indépendamment des deux est précisément ce qui produit le registre qui se périme.
- Instrumenter l'usage des modèles et des agents pour rendre le patrimoine observable.
- Relier le lignage des jeux de données de la plateforme de données à leur consommation par les modèles et les agents.
- Définir la politique par classe de système, avec un défaut restrictif plutôt qu'absent.
- Câbler les approbations dans le runtime, pour qu'une décision produise automatiquement une trace.
- Générer la preuve depuis la télémétrie à cadence fixe et examiner les dérogations.
Résultats attendus
- Un inventaire dérivé plutôt que déclaré, et donc à jour
- Un lignage du jeu de données jusqu'à sa consommation par les modèles et les agents
- Des dérogations de politique qui expirent au lieu de s'accumuler
- Une preuve assemblée depuis les systèmes plutôt que depuis les souvenirs