Services / 03
Sécurité de l'IA et des agents
Les systèmes agentiques se comportent moins comme des applications à scanner que comme des patrimoines opérationnels à instrumenter, gouverner et surveiller. Nous en construisons le modèle de menace, concevons les frontières d'exécution où le privilège s'exerce réellement, et rendons leur comportement observable par ceux qui en sont tenus responsables.
Le problème
Un agent doté d'une mémoire persistante, d'un accès à des outils et de sa propre identité n'est pas une application. C'est un principal qui raisonne sur du contenu non fiable, puis agit avec des identifiants légitimes. La sécurité applicative classique suppose que le chemin de code est la surface d'attaque ; ici, la surface d'attaque est le contenu que le système lit, et l'exploitation est une décision plutôt qu'une corruption mémoire.
Cela casse les hypothèses du SOC d'une manière précise et reproductible. L'action malveillante est effectuée par une identité autorisée, via un outil autorisé, dans une session banale. Lorsqu'une mémoire persistante est en jeu, l'écriture qui l'a causée peut se situer des jours ou des semaines en dehors de toute fenêtre de corrélation. Rien dans la séquence n'est anormal isolément ; l'anomalie est une relation entre des événements qu'aucun pipeline ne joint aujourd'hui.
Compétences
Ce que couvre ce pilier.
Regroupées par partie du système sur laquelle elles agissent.
Architecture et évaluation
- Architecture de sécurité de l'IA
- Modélisation de menace IA
- Évaluation de sécurité IA
- Architecture de systèmes agentiques
Exécution
- Sécurité des agents
- Politique d'exécution
- Sécurité de la mémoire
- Sécurité des outils et de MCP
- Identité des agents
Observabilité
- Observabilité de l'IA
- Observabilité des agents
- Détection comportementale
- Intégration SIEM
Gouvernance
- Gouvernance de l'IA
- Gouvernance des modèles et des données
- Conception des approbations humaines
Approche
Comment se déroule une mission.
La séquence compte davantage que l'outillage. Sauter une étape en reporte le coût, cela ne le supprime pas.
- 01
Inventorier
Établir quels agents existent, ce qu'ils peuvent atteindre et sous quelle identité. Dans la plupart des patrimoines, cette liste est plus longue qu'attendu et plus courte que celle du schéma d'architecture.
- 02
Modéliser la menace
Travailler le système réel : chemins d'injection de prompt et de mémoire, privilèges des outils, effondrement de l'identité, voies d'exfiltration, et ce qu'un attaquant gagne à chaque frontière.
- 03
Concevoir les contrôles
Placer la politique là où le privilège s'exerce — à la frontière des outils, au rappel mémoire, sur l'identité utilisée en aval — et définir quelles actions s'arrêtent devant un humain.
- 04
Instrumenter
Émettre la télémétrie dont un SOC aurait besoin pour reconstituer un incident après coup, et écrire le contenu de détection qui s'exécute dessus.
Ce que vous recevez
Des livrables concrets, dans vos dépôts et sur vos plateformes.
- Un modèle de menace du système agentique concerné, pas une liste générique de risques LLM
- Un inventaire : agents, outils, serveurs MCP, magasins de mémoire, identités et privilèges associés
- Une conception de politique d'exécution — ce qui est autorisé, ce qui exige une revue, ce qui est mis en quarantaine, et où se situe la porte
- Une gouvernance de la mémoire : provenance à l'écriture, politique évaluée au rappel, et trace enregistrée des deux
- Une conception de télémétrie qui fait du raisonnement, de la récupération et des appels d'outils des événements de sécurité de premier ordre
- Du contenu de détection du comportement des agents, livré dans le SIEM que votre SOC exploite déjà
Résultats attendus
Des propriétés du système obtenu — pas des chiffres de performance, qui dépendent de votre patrimoine et non de nous.
- Un inventaire concret des agents, outils, magasins de mémoire et des privilèges associés
- Une politique appliquée aux frontières où le privilège s'exerce, et non seulement au prompt
- Une mémoire traitée comme une donnée gouvernée — provenance à l'écriture, politique au rappel
- Une activité des agents visible dans le SIEM que le SOC exploite déjà
- Une position explicite sur les actions d'agent qui exigent un humain, et pourquoi