Architecture de sécurité
La sécurité des agents IA réside dans le système, pas dans le prompt.
L'IA dans l'industrie est un problème de système. Brancher un modèle est simple. Le difficile, c'est tout ce qui l'entoure : pour qui un agent agit, ce qu'il a le droit de voir, ce qui peut quitter votre entreprise et où se trouvent vos données. demi règle cela dans l'architecture, en dehors du modèle. Voici comment, avec les sources.
01 · APERÇU
En un coup d'œil
L'essentiel en six phrases. Les sections ci-dessous montrent comment demi le met en œuvre.
Jamais plus que la personne
Un agent agit toujours pour une personne précise et n'a jamais le droit de faire plus qu'elle.
Le système vérifie les droits
C'est la plateforme qui décide, en dehors du modèle, si un accès est autorisé, à la lecture et à chaque action.
Vers l'extérieur, seulement avec un clic
Si un agent a lu des contenus pouvant contenir des instructions de tiers, tout envoi, toute publication ou tout partage vers l'extérieur exige le clic d'une personne.
Séparation dans la base de données
La base de données elle-même sépare les données des entreprises, et l'application ne peut pas contourner cette séparation.
Données dans l'UE
Vos données se trouvent dans des centres de données de l'UE, site principal en Allemagne.
Chaque appel journalisé
Chaque appel de fonction d'un agent figure dans le journal, avec la personne, l'agent et l'horodatage, y compris les appels refusés.
02 · DÉLÉGATION
Un agent n'a jamais plus de droits que la personne pour qui il travaille
Le risque
Un service aux droits étendus peut faire ce que son donneur d'ordre lui-même n'aurait pas le droit de faire
Un agent travaille pour le compte d'une personne, souvent à travers plusieurs systèmes et seulement des minutes ou des heures après la demande. S'il tourne alors sous un compte de service qui a tous les droits, chaque requête peut aller au-delà de ce que la personne elle-même a le droit de faire.
Ce que montre la recherche
L'informatique connaît ce schéma depuis 1988 sous le nom de « Confused Deputy » : un programme agit avec une autorité qui lui a été donnée à une autre fin [1]. Les règles d'autorisation du Model Context Protocol (MCP), par lequel les clients IA appellent des fonctions d'autres systèmes, nomment précisément cette attaque [2]. C'est un principe de conception connu : les autorisations ne doivent jamais s'élargir lorsqu'elles sont transmises [3].
Ce que fait demi
Le jeton nomme la personne, jamais un service
Fig. 1 · De la personne à la fonction
De la personne à la fonction en passant par l'agent : aucune étape ne reçoit plus de droits que la précédente.
01 Personne
Se connecte
Ses droits sont la limite supérieure de tout ce qui suit.
02 Agent
Travaille pour elle
Avec ses propres jetons de courte durée pour cette tâche, émis au nom de la personne.
03 Vérification
En dehors du modèle
Chaque appel est vérifié par rapport aux droits de la personne.
04 Fonction
Agit pour la personne
Jamais sous un compte de service. Chaque appel figure dans le journal.
Les droits de la personne sont la limite supérieure de chaque étape
- La personne, pas le service. Chaque appel d'un agent nomme la personne pour qui il travaille. Aucun service ne met sa propre identité à la place de celle de la personne.
- Des jetons propres à chaque tâche. Chaque tâche s'exécute avec ses propres jetons signés : de courte durée, valables uniquement au sein de demi et émis au nom de la personne.
- Transmettre ne veut jamais dire plus. Quand un agent transmet du travail, l'étape suivante reçoit au plus les mêmes droits et jamais une durée de validité plus longue, et elle travaille toujours pour la même personne.
- Pas d'auto-validation. Si une action exige une confirmation, l'agent ne peut pas la donner lui-même.
- La révocation s'applique même en cas de panne. Un jeton révoqué est refusé, même si une partie de la plateforme tombe en panne.
03 · DROITS
Ce n'est pas le modèle qui décide des droits
Le risque
Tout ce qui est dans le prompt est une demande, pas une autorisation
Un modèle de langage se laisse convaincre. Une vérification en dehors du modèle doit donc décider si une personne a le droit de voir un document ou de déclencher une action, à la lecture comme à l'action. Sinon, une recherche répond à des questions à partir de documents que la personne qui pose la question n'a jamais eu le droit de voir.
Ce que montre la recherche
Les réponses d'IA qui s'appuient sur des documents trouvés lisent dans un index de recherche externe [4]. Si cet index ne connaît pas les droits, il transmet ce qu'il trouve. La manière de vérifier rapidement et de façon cohérente des droits exprimés comme des relations entre personnes, groupes et objets est bien étudiée [5].
Ce que fait demi
Chaque vérification en dehors du modèle, à la lecture et à l'action
- Les droits comme relations. demi gère les droits comme des relations entre personnes, groupes et objets (ReBAC) et les vérifie sur le serveur, en dehors du modèle.
- À la lecture. Ce qu'une personne n'a pas le droit de voir ne lui est pas renvoyé, pas même par un agent.
- À l'action. Chaque action est elle aussi vérifiée avant d'être exécutée.
- Chaque vérification de document vérifie aussi l'entreprise. Une vérification sur un document s'assure de deux choses : que la personne a le droit d'y accéder et qu'il se trouve dans sa propre entreprise.
04 · MCP
Clients IA via MCP : jamais plus que ce que la personne a le droit de faire
Le risque
Chaque client IA connecté est un accès de plus à vos données
Par le Model Context Protocol (MCP), un standard ouvert, des clients IA comme des assistants conversationnels ou des agents appellent des fonctions d'autres systèmes : lire des données, créer des documents, lancer des tâches. Un tel accès doit être soumis aux mêmes limites que la personne pour qui le client IA travaille.
Ce que montre la recherche
La spécification MCP elle-même indique que de telles fonctions peuvent exécuter du code arbitraire et nécessitent un consentement explicite [6].
Ce que fait demi
Chaque appel vérifié, chaque fonction avec un niveau de confirmation
- Par l'interface de programmation. Chaque fonction pour les clients IA passe par l'interface de programmation de la plateforme, avec les mêmes vérifications que l'application.
- Chaque appel vérifié. Chaque appel de fonction est vérifié en dehors du modèle par rapport aux droits de la personne.
- Confirmation selon le niveau. Un niveau de confirmation définit pour chaque fonction si une personne doit la confirmer avant son exécution. Si aucun niveau n'est défini, le plus strict s'applique.
- Connexion via OAuth 2.1. Les clients IA externes se connectent via OAuth 2.1 ; la redirection ne se fait que vers des adresses préalablement autorisées par demi.
05 · INJECTION
Ce qu'une injection de prompt peut déclencher, demi le limite en dehors du modèle
Le risque
Tout ce qu'un agent lit peut être une instruction
Dans une injection de prompt, des instructions sont cachées dans un e-mail, un document ou une page web pour amener un modèle d'IA à faire autre chose que ce que la personne voulait. Aucun filtre ne les détecte de façon fiable. Ce qui compte, c'est donc ce qu'une telle instruction peut déclencher.
Ce que montre la recherche
Les attaquants n'ont pas besoin d'accéder au modèle : lors d'expériences, des instructions placées dans des données ont amené des modèles à exfiltrer des données et à piloter des appels vers des systèmes réels [7]. Douze défenses récentes n'ont pas résisté à des attaquants adaptatifs ; contre la plupart d'entre elles, plus de 90 % des attaques ont réussi [8]. Des conceptions à sécurité prouvable existent, mais elles restreignent ce qu'un agent peut faire [9] [10]. L'office fédéral allemand de la sécurité informatique (BSI) décrit les risques des agents IA [11], et l'OWASP les recense dans son Top 10 pour les applications agentiques [12].
Ce que fait demi
Le clic d'une personne, que le modèle ne peut pas falsifier
- C'est le système qui marque, pas le modèle. Si un agent lit des contenus pouvant contenir des instructions de tiers, le système marque cette tâche.
- Vers l'extérieur, seulement avec un clic. Ensuite, tout envoi, toute publication ou tout partage vers l'extérieur exige le clic d'une personne : une fois, exactement pour cette action. Ce clic, le modèle ne peut pas le falsifier.
- Les sorties ne sont pas des droits. Ce que produit le modèle ne lui donne aucun droit : chaque appel qu'il déclenche est vérifié comme toute autre requête.
- Pas de shell, pas de système de fichiers. L'agent n'a ni ligne de commande ni système de fichiers.
- Vérifié automatiquement. Des tests automatiques vérifient ces verrous dès que le code qui les sous-tend change.
06 · TENANTS
Une séparation des tenants imposée par la base de données elle-même
Le risque
La séparation doit être une propriété du système, pas une discipline de chaque requête
Quand de nombreuses entreprises travaillent comme tenants séparés sur une même plateforme, une seule condition oubliée dans le code ne doit faire apparaître aucune donnée d'une autre entreprise.
Ce que montre la recherche
Les bases de données peuvent pour cela protéger des lignes (sécurité au niveau des lignes, Row-Level Security) : la base de données ne renvoie que les lignes qu'une règle autorise [13]. Ce n'est efficace que si l'application ne peut pas contourner cette règle.
Ce que fait demi
La base de données sépare, l'application ne peut pas s'y soustraire
- Séparation dans la base de données. La base de données elle-même sépare les données des entreprises (Row-Level Security). Chaque accès aux données d'une entreprise se fait dans le contexte d'une seule entreprise.
- L'application ne peut pas s'y soustraire. L'application se connecte avec un rôle qui ne peut pas contourner cette séparation. Elle le vérifie à chaque démarrage ; si la vérification est impossible, c'est considéré comme une erreur.
07 · CHIFFREMENT
Chiffré, sauvegardé, restaurable
Le risque
La protection doit valoir en transit, au repos et dans chaque sauvegarde
Les données sont vulnérables à trois endroits : en transit entre les systèmes, là où elles sont stockées, et dans leurs sauvegardes. Et une sauvegarde ne vaut que ce que vaut sa restauration.
Ce que fait demi
Connexions chiffrées, stockage chiffré, sauvegardes séparées
- En transit. Les connexions depuis Internet passent uniquement par TLS 1.2 ou plus récent ; le chemin vers la base de données et le cache est lui aussi chiffré.
- Au repos. Les disques et le stockage objet sont chiffrés en AES-256.
- Accès à vos systèmes. demi stocke les identifiants d'accès aux systèmes connectés avec un chiffrement supplémentaire, sous une clé dédiée.
- Sauvegardes. Les sauvegardes de la base de données ont lieu au moins une fois par jour, sont chiffrées avant d'être stockées et se trouvent sur un site physiquement séparé ; les clés correspondantes se trouvent en dehors de l'environnement d'exploitation. La restauration est documentée et fait l'objet d'exercices.
08 · EUROPE
Données et modèles en Europe
Le risque
C'est la plateforme qui décide où a lieu le traitement, pas le fournisseur du modèle
Les modèles d'IA de pointe viennent pour la plupart de l'extérieur de l'Europe. C'est donc à la plateforme de fixer où se trouvent vos données et où un modèle les traite.
Ce que fait demi
Centres de données dans l'UE, agents sur des modèles dans l'UE, chaque prestataire nommé
- Données dans l'UE. Vos données se trouvent dans des centres de données de l'UE, site principal en Allemagne ; les sauvegardes de la base de données se trouvent, physiquement séparées, dans un second centre de données de l'UE.
- Agents sur des modèles dans l'UE. Les agents et la génération d'images fonctionnent avec des modèles dans des centres de données de l'UE ; d'autres régions seulement avec l'autorisation de votre entreprise.
- Chaque prestataire nommé. La liste des sous-traitants nomme chaque prestataire et sa localisation. En cas de changements importants, vous pouvez vous y opposer (accord de traitement, § 9).
- Modèles interchangeables. Les modèles peuvent être remplacés sans que rien ne change de votre côté.
09 · EXPLOITATION
Une exploitation que votre service informatique peut retracer
Le risque
Un agent travaille longtemps, et chaque étape doit pouvoir être prouvée
Un agent travaille sur de nombreuses étapes, doit survivre aux redémarrages et pouvoir attendre les réponses de personnes. Et votre service informatique doit pouvoir voir ensuite qui a déclenché quoi.
Ce que fait demi
Étape par étape, journalisé, surveillé
- Étape par étape. Les agents travaillent étape par étape et survivent aux redémarrages. Si un agent pose une question, il se met en pause et reprend après la réponse là où il en était.
- Budget de dépenses par tâche. Chaque tâche dispose d'un budget de dépenses. Si une requête est annulée, l'appel au modèle en cours est lui aussi interrompu, au lieu de continuer à générer des coûts en arrière-plan.
- Journal. Chaque appel de fonction d'un agent figure dans le journal, avec la personne, l'agent et l'horodatage, y compris les appels refusés. Vous obtenez un extrait pour votre entreprise sur demande motivée.
- Pendant le fonctionnement. demi déploie les nouvelles versions pendant que la plateforme continue de fonctionner.
- Un seul code, des interrupteurs par entreprise. Toutes les entreprises tournent sur le même code ; demi active les nouvelles fonctionnalités entreprise par entreprise.
- Vérifié et traçable. Les tests et contrôles de sécurité s'exécutent automatiquement à chaque modification ; la version en production est versionnée et traçable.
- Surveillé. L'exploitation est surveillée de manière automatisée, y compris depuis l'extérieur de l'environnement d'exploitation ; les alertes vont automatiquement à l'équipe d'exploitation.
Bibliographie
Bibliographie
Toutes les sources ont été vérifiées le 10 novembre 2026. Chaque numéro dans le texte mène à la source originale.
- [1]Norm Hardy (1988). The Confused Deputy (or why capabilities might have been invented). ACM SIGOPS Operating Systems Review 22(4), 36-38. doi:10.1145/54289.871709
- [2]Model Context Protocol project (2026). Authorization (Model Context Protocol Specification, version 2026-07-28). modelcontextprotocol.io. https://modelcontextprotocol.io/specification/2026-07-28/basic/authorization
- [3]Arnar Birgisson, Joe Gibbs Politz, Ulfar Erlingsson et al. (2014). Macaroons: Cookies with Contextual Caveats for Decentralized Authorization in the Cloud. NDSS 2014. https://www.ndss-symposium.org/ndss2014/ndss-2014-programme/macaroons-cookies-contextual-caveats-decentralized-authorization-cloud/
- [4]Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020 (per the arXiv record), arXiv:2005.11401. https://arxiv.org/abs/2005.11401
- [5]Ruoming Pang, Ramon Caceres, Mike Burrows, Zhifeng Chen, Pratik Dave et al. (2019). Zanzibar: Google's Consistent, Global Authorization System. USENIX ATC 2019. https://www.usenix.org/conference/atc19/presentation/pang
- [6]Model Context Protocol project (2026). Model Context Protocol Specification, version 2026-07-28. modelcontextprotocol.io (latest version when read on 2026-11-10). https://modelcontextprotocol.io/specification/2026-07-28
- [7]Kai Greshake, Sahar Abdelnabi, Shailesh Mishra et al. (2023). Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. AISec 2023 (16th ACM Workshop on Artificial Intelligence and Security), 79-90. doi:10.1145/3605764.3623985
- [8]Milad Nasr, Nicholas Carlini, Chawin Sitawarin, Sander V. Schulhoff, Jamie Hayes et al. (2025). The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections. arXiv:2510.09023. https://arxiv.org/abs/2510.09023
- [9]Edoardo Debenedetti, Ilia Shumailov, Tianqi Fan et al. (2025). Defeating Prompt Injections by Design. arXiv:2503.18813. https://arxiv.org/abs/2503.18813
- [10]Luca Beurer-Kellner, Beat Buesser, Ana-Maria Creţu, Edoardo Debenedetti, Daniel Dobos et al. (2025). Design Patterns for Securing LLM Agents against Prompt Injections. arXiv:2506.08837. https://arxiv.org/abs/2506.08837
- [11]Bundesamt für Sicherheit in der Informationstechnik (BSI) (living document (read 2026-11-10)). KI-Agenten: Wenn Künstliche Intelligenz selbstständig handelt. bsi.bund.de. bsi.bund.de › KI-Agenten
- [12]OWASP GenAI Security Project (2025). OWASP Top 10 for Agentic Applications for 2026. genai.owasp.org, December 2025. https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
- [13]The PostgreSQL Global Development Group (living document (read 2026-11-10)). Row Security Policies (PostgreSQL Documentation, section 5.9). postgresql.org. https://www.postgresql.org/docs/current/ddl-rowsecurity.html
Parlez-nous de votre cas
demi est le système d'exploitation IA de l'industrie européenne. Lors de la démo, nous vous montrons, à vous et à votre service informatique, comment il fonctionne avec vos droits. Les documents nécessaires à votre évaluation se trouvent dans le Trust Center.
