Arquitectura de seguridad
La seguridad de los agentes de IA está en el sistema, no en el prompt.
La IA en la industria es un problema de sistema. Conectar un modelo es fácil. Lo difícil es todo lo que lo rodea: en nombre de quién actúa un agente, qué puede ver, qué puede salir de tu empresa y dónde están tus datos. demi lo resuelve en la arquitectura, fuera del modelo. Aquí explicamos cómo, con las fuentes.
01 · RESUMEN
De un vistazo
Lo esencial en seis frases. Las secciones siguientes muestran cómo lo pone en práctica demi.
Nunca más que la persona
Un agente siempre actúa para una persona concreta y nunca puede hacer más que ella.
Los permisos los comprueba el sistema
Si un acceso está permitido lo decide la plataforma fuera del modelo, al leer y en cada acción.
Hacia el exterior, solo con un clic
Si un agente ha leído contenido que puede incluir instrucciones de terceros, cada envío, publicación o acción de compartir hacia el exterior necesita el clic de una persona.
Separados en la base de datos
La propia base de datos separa los datos de las empresas, y la aplicación no puede eludir esa separación.
Ubicación de los datos en el contrato
Tus datos están en centros de datos de la UE, con Alemania como sede principal.
Cada llamada en el registro
Cada llamada a una función de un agente queda en el registro, con persona, agente y momento, incluidas las rechazadas.
02 · DELEGACIÓN
Un agente nunca puede hacer más que la persona para la que trabaja
El riesgo
Un servicio con permisos amplios puede hacer lo que la persona que se lo encarga no podría
Un agente trabaja por encargo de una persona, a menudo en varios sistemas y minutos u horas después del encargo. Si funciona con una cuenta de servicio que lo puede todo, cualquier petición puede llegar más lejos de lo que la propia persona podría.
Lo que muestra la investigación
La informática conoce este patrón desde 1988 como «confused deputy»: un programa actúa con una autoridad que se le dio para otro fin [1]. Las reglas de autorización del Model Context Protocol (MCP), a través del cual los clientes de IA llaman a funciones de otros sistemas, mencionan precisamente este ataque [2]. Que los permisos nunca se amplíen al transmitirse es un principio de diseño conocido [3].
Lo que hace demi
El token nombra a la persona, nunca a un servicio
Fig. 1 · De la persona a la función
De la persona, pasando por el agente, a la función: ningún paso recibe más permisos que el anterior.
01 Persona
Inicia sesión
Sus permisos son el límite superior de todo lo que sigue.
02 Agente
Trabaja para ella
Con sus propios tokens de corta duración para esta tarea, emitidos a nombre de la persona.
03 Comprobación
Fuera del modelo
Cada llamada se comprueba frente a los permisos de la persona.
04 Función
Actúa en nombre de la persona
Nunca con una cuenta de servicio. Cada llamada queda en el registro.
Los permisos de la persona son el límite superior de cada paso
- La persona, no el servicio. Cada llamada de un agente nombra a la persona para la que trabaja. Ningún servicio pone su propia identidad en su lugar.
- Tokens propios para cada tarea. Cada tarea se ejecuta con sus propios tokens firmados: de corta duración, válidos solo dentro de demi y emitidos a nombre de la persona.
- Delegar nunca significa más. Si un agente pasa trabajo a otro, el siguiente paso recibe como mucho los mismos permisos y nunca una duración mayor, y siempre trabaja para la misma persona.
- Sin autoaprobación. Si una acción necesita una confirmación, el agente no puede darla él mismo.
- La revocación se mantiene también ante fallos. Un token revocado se rechaza aunque falle una parte de la plataforma.
03 · PERMISOS
Los permisos no los decide el modelo
El riesgo
Todo lo que está en el prompt es una petición, no un permiso
A un modelo de lenguaje se le puede convencer. Por eso, si una persona puede ver un documento o desencadenar una acción tiene que decidirlo una comprobación fuera del modelo, tanto al leer como al actuar. De lo contrario, una búsqueda responde preguntas a partir de documentos que la persona que pregunta nunca tuvo permiso para ver.
Lo que muestra la investigación
Las respuestas de IA que se apoyan en documentos encontrados leen de un índice de búsqueda externo [4]. Si ese índice no conoce los permisos, entrega lo que encuentra. Cómo comprobar permisos como relaciones entre personas, grupos y objetos de forma rápida y coherente está bien investigado [5].
Lo que hace demi
Cada comprobación fuera del modelo, al leer y al actuar
- Permisos como relaciones. demi gestiona los permisos como relaciones entre personas, grupos y objetos (ReBAC) y los comprueba en el servidor, fuera del modelo.
- Al leer. Lo que una persona no puede ver no se devuelve, tampoco a través de un agente.
- Al actuar. También cada acción se comprueba antes de ejecutarse.
- Cada comprobación de documento comprueba también la empresa. Una comprobación sobre un documento asegura dos cosas: que la persona puede acceder a él y que está en su propia empresa.
04 · MCP
Clientes de IA vía MCP: nunca más de lo que puede la persona
El riesgo
Cada cliente de IA conectado es un camino más hacia tus datos
A través del Model Context Protocol (MCP), un estándar abierto, los clientes de IA como asistentes de chat o agentes llaman a funciones de otros sistemas: leer datos, crear documentos, iniciar tareas. Un acceso así necesita los mismos límites que la persona para la que trabaja el cliente de IA.
Lo que muestra la investigación
La propia especificación de MCP deja claro que estas funciones pueden ejecutar código arbitrario y necesitan un consentimiento explícito [6].
Lo que hace demi
Cada llamada comprobada, cada función con un nivel de confirmación
- A través de la interfaz de programación. Cada función para clientes de IA pasa por la interfaz de programación de la plataforma, con las mismas comprobaciones que la aplicación.
- Cada llamada comprobada. Cada llamada a una función se comprueba fuera del modelo frente a los permisos de la persona.
- Confirmación según nivel. Un nivel de confirmación define para cada función si una persona tiene que confirmarla antes de ejecutarla. Si no hay ningún nivel definido, se aplica el más estricto.
- Inicio de sesión con OAuth 2.1. Los clientes de IA externos inician sesión con OAuth 2.1; solo se redirige a direcciones que demi ha autorizado de antemano.
05 · INJECTION
Lo que puede desencadenar una prompt injection, demi lo limita fuera del modelo
El riesgo
Todo lo que lee un agente puede ser una instrucción
En una prompt injection, un correo, un documento o una página web contienen instrucciones que buscan que un modelo de IA haga algo distinto de lo que quería la persona. Ningún filtro las detecta de forma fiable. Por eso lo decisivo es qué puede desencadenar una instrucción así.
Lo que muestra la investigación
Los atacantes no necesitan acceso al modelo: en experimentos, instrucciones colocadas en los datos llevaron a los modelos a filtrar datos y a dirigir llamadas a sistemas reales [7]. Doce defensas recientes no resistieron a atacantes adaptativos; frente a la mayoría tuvieron éxito más del 90% de los ataques [8]. Existen diseños con seguridad demostrable, pero limitan lo que puede hacer un agente [9] [10]. La oficina federal alemana de seguridad de la información (BSI) describe los riesgos de los agentes de IA [11], y OWASP los recoge en su Top 10 para aplicaciones agénticas [12].
Lo que hace demi
El clic de una persona, que el modelo no puede falsificar
- Marca el sistema, no el modelo. Si un agente lee contenido que puede incluir instrucciones de terceros, el sistema marca esa tarea.
- Hacia el exterior, solo con un clic. A partir de ahí, cada envío, publicación o acción de compartir hacia el exterior necesita el clic de una persona: una vez, exactamente para esa acción. El modelo no puede falsificar ese clic.
- Lo que genera no son permisos. Lo que el modelo genera no le da permisos: cada llamada que desencadena se comprueba como cualquier otra petición.
- Sin shell, sin sistema de archivos. El agente no tiene ni línea de comandos ni sistema de archivos.
- Comprobado automáticamente. Las pruebas automáticas comprueban estos bloqueos en cuanto cambia el código que hay detrás.
06 · TENANTS
Separación de tenants que impone la propia base de datos
El riesgo
La separación tiene que ser una propiedad del sistema, no una disciplina de cada consulta
Si muchas empresas trabajan como tenants separados en una plataforma, una sola condición olvidada en el código no puede mostrar datos ajenos.
Lo que muestra la investigación
Para eso, las bases de datos pueden proteger filas (seguridad a nivel de fila, Row-Level Security): la base de datos solo devuelve las filas que permite una regla [13]. Solo es eficaz si la aplicación no puede eludir esa regla.
Lo que hace demi
La base de datos separa, la aplicación no puede esquivarlo
- Separados en la base de datos. La propia base de datos separa los datos de las empresas (Row-Level Security). Cada acceso a datos de empresa se ejecuta en el contexto de exactamente una empresa.
- La aplicación no puede esquivarlo. La aplicación se conecta con un rol que no puede eludir esta separación. Lo comprueba en cada arranque; si no se puede comprobar, se trata como un error.
07 · CIFRADO
Cifrado, con copias de seguridad y recuperable
El riesgo
La protección tiene que aplicarse en tránsito, en reposo y en cada copia de seguridad
Los datos se pueden atacar en tres puntos: en tránsito entre sistemas, donde están almacenados y en sus copias de seguridad. Y una copia de seguridad vale lo que vale su restauración.
Lo que hace demi
Conexiones cifradas, almacenamiento cifrado, copias de seguridad separadas
- En tránsito. Las conexiones desde internet usan solo TLS 1.2 o superior; también el camino hacia la base de datos y la caché está cifrado.
- Almacenado. Los discos y el almacenamiento de objetos están cifrados con AES-256.
- Accesos a tus sistemas. demi guarda además cifradas las credenciales de los sistemas conectados, con una clave propia.
- Copias de seguridad. Las copias de seguridad de la base de datos se hacen al menos a diario, se cifran antes de guardarse y se almacenan en un lugar físicamente separado; sus claves están fuera del entorno operativo. La restauración está documentada y ensayada.
08 · UBICACIÓN
Dónde están los datos y los modelos
El riesgo
Dónde se procesa lo decide la plataforma, no el proveedor del modelo
Los modelos de IA líderes vienen de unos pocos proveedores. Por eso, dónde están tus datos y dónde los procesa un modelo tiene que fijarlo la plataforma, no cada proveedor de modelos.
Lo que hace demi
Centros de datos en la UE, agentes con modelos en la UE, cada proveedor nombrado
- Datos en la UE. Tus datos están en centros de datos de la UE, con Alemania como sede principal; las copias de seguridad de la base de datos están físicamente separadas, en un segundo centro de datos de la UE.
- Agentes con modelos en la UE. Los agentes y la generación de imágenes trabajan con modelos en centros de datos de la UE; otras regiones, solo con la autorización de tu empresa.
- Cada proveedor nombrado. La lista de subencargados nombra cada proveedor con su ubicación. Ante cambios relevantes puedes oponerte (contrato de encargo, § 9).
- Modelos intercambiables. Los modelos se pueden cambiar sin que cambie nada por tu parte.
09 · OPERACIONES
Operaciones trazables para tu TI
El riesgo
Un agente trabaja durante mucho tiempo, y cada paso tiene que quedar documentado
Un agente trabaja a lo largo de muchos pasos, tiene que sobrevivir a reinicios y poder esperar respuestas de personas. Y tu TI tiene que poder ver después quién desencadenó qué.
Lo que hace demi
Paso a paso, registrado, supervisado
- Paso a paso. Los agentes trabajan paso a paso y sobreviven a los reinicios. Si un agente hace una pregunta, se detiene y, tras la respuesta, continúa donde lo dejó.
- Presupuesto de costos por tarea. Cada tarea tiene un presupuesto de costos. Si se cancela una petición, también se cancela la llamada al modelo en curso, en lugar de seguir generando costos en segundo plano.
- Registro. Cada llamada a una función de un agente queda en el registro, con persona, agente y momento, incluidas las rechazadas. Previa solicitud justificada, recibes un extracto para tu empresa.
- Con la plataforma en marcha. demi despliega las nuevas versiones con la plataforma en marcha.
- Un código, interruptores por empresa. Todas las empresas funcionan con el mismo código; demi activa las nuevas capacidades por empresa.
- Comprobado y trazable. Las pruebas y comprobaciones de seguridad se ejecutan automáticamente en cada cambio; qué versión funciona en producción está versionado y es trazable.
- Supervisado. El funcionamiento se supervisa de forma automatizada, también desde fuera del entorno operativo; las alertas llegan automáticamente al equipo de operaciones.
Bibliografía
Bibliografía
Todas las fuentes comprobadas el 10 de noviembre de 2026. Cada número del texto lleva a la fuente original.
- [1]Norm Hardy (1988). The Confused Deputy (or why capabilities might have been invented). ACM SIGOPS Operating Systems Review 22(4), 36-38. doi:10.1145/54289.871709
- [2]Model Context Protocol project (2026). Authorization (Model Context Protocol Specification, version 2026-07-28). modelcontextprotocol.io. https://modelcontextprotocol.io/specification/2026-07-28/basic/authorization
- [3]Arnar Birgisson, Joe Gibbs Politz, Ulfar Erlingsson et al. (2014). Macaroons: Cookies with Contextual Caveats for Decentralized Authorization in the Cloud. NDSS 2014. https://www.ndss-symposium.org/ndss2014/ndss-2014-programme/macaroons-cookies-contextual-caveats-decentralized-authorization-cloud/
- [4]Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020 (per the arXiv record), arXiv:2005.11401. https://arxiv.org/abs/2005.11401
- [5]Ruoming Pang, Ramon Caceres, Mike Burrows, Zhifeng Chen, Pratik Dave et al. (2019). Zanzibar: Google's Consistent, Global Authorization System. USENIX ATC 2019. https://www.usenix.org/conference/atc19/presentation/pang
- [6]Model Context Protocol project (2026). Model Context Protocol Specification, version 2026-07-28. modelcontextprotocol.io (latest version when read on 2026-11-10). https://modelcontextprotocol.io/specification/2026-07-28
- [7]Kai Greshake, Sahar Abdelnabi, Shailesh Mishra et al. (2023). Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. AISec 2023 (16th ACM Workshop on Artificial Intelligence and Security), 79-90. doi:10.1145/3605764.3623985
- [8]Milad Nasr, Nicholas Carlini, Chawin Sitawarin, Sander V. Schulhoff, Jamie Hayes et al. (2025). The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections. arXiv:2510.09023. https://arxiv.org/abs/2510.09023
- [9]Edoardo Debenedetti, Ilia Shumailov, Tianqi Fan et al. (2025). Defeating Prompt Injections by Design. arXiv:2503.18813. https://arxiv.org/abs/2503.18813
- [10]Luca Beurer-Kellner, Beat Buesser, Ana-Maria Creţu, Edoardo Debenedetti, Daniel Dobos et al. (2025). Design Patterns for Securing LLM Agents against Prompt Injections. arXiv:2506.08837. https://arxiv.org/abs/2506.08837
- [11]Bundesamt für Sicherheit in der Informationstechnik (BSI) (living document (read 2026-11-10)). KI-Agenten: Wenn Künstliche Intelligenz selbstständig handelt. bsi.bund.de. bsi.bund.de › KI-Agenten
- [12]OWASP GenAI Security Project (2025). OWASP Top 10 for Agentic Applications for 2026. genai.owasp.org, December 2025. https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
- [13]The PostgreSQL Global Development Group (living document (read 2026-11-10)). Row Security Policies (PostgreSQL Documentation, section 5.9). postgresql.org. https://www.postgresql.org/docs/current/ddl-rowsecurity.html
Habla con nosotros sobre tu caso
demi es el sistema operativo de IA para la industria. En la demo te mostramos a ti y a tu equipo de TI cómo trabaja con tus permisos. Los documentos para tu revisión están en el Trust Center.
