Saltar al contenido

Arquitectura de seguridad

La seguridad de los agentes de IA está en el sistema, no en el prompt.

La IA en la industria es un problema de sistema. Conectar un modelo es fácil. Lo difícil es todo lo que lo rodea: en nombre de quién actúa un agente, qué puede ver, qué puede salir de tu empresa y dónde están tus datos. demi lo resuelve en la arquitectura, fuera del modelo. Aquí explicamos cómo, con las fuentes.

01 · RESUMEN

De un vistazo

Lo esencial en seis frases. Las secciones siguientes muestran cómo lo pone en práctica demi.

  • Nunca más que la persona

    Un agente siempre actúa para una persona concreta y nunca puede hacer más que ella.

  • Los permisos los comprueba el sistema

    Si un acceso está permitido lo decide la plataforma fuera del modelo, al leer y en cada acción.

  • Hacia el exterior, solo con un clic

    Si un agente ha leído contenido que puede incluir instrucciones de terceros, cada envío, publicación o acción de compartir hacia el exterior necesita el clic de una persona.

  • Separados en la base de datos

    La propia base de datos separa los datos de las empresas, y la aplicación no puede eludir esa separación.

  • Datos en la UE

    Tus datos están en centros de datos de la UE, con Alemania como sede principal.

  • Cada llamada en el registro

    Cada llamada a una función de un agente queda en el registro, con persona, agente y momento, incluidas las rechazadas.

02 · DELEGACIÓN

Un agente nunca puede hacer más que la persona para la que trabaja

El riesgo

Un servicio con permisos amplios puede hacer lo que la persona que se lo encarga no podría

Un agente trabaja por encargo de una persona, a menudo en varios sistemas y minutos u horas después del encargo. Si funciona con una cuenta de servicio que lo puede todo, cualquier petición puede llegar más lejos de lo que la propia persona podría.

Lo que muestra la investigación

La informática conoce este patrón desde 1988 como «confused deputy»: un programa actúa con una autoridad que se le dio para otro fin [1]. Las reglas de autorización del Model Context Protocol (MCP), a través del cual los clientes de IA llaman a funciones de otros sistemas, mencionan precisamente este ataque [2]. Que los permisos nunca se amplíen al transmitirse es un principio de diseño conocido [3].

Lo que hace demi

El token nombra a la persona, nunca a un servicio

Fig. 1 · De la persona a la función

De la persona, pasando por el agente, a la función: ningún paso recibe más permisos que el anterior.

  1. 01 Persona

    Inicia sesión

    Sus permisos son el límite superior de todo lo que sigue.

  2. 02 Agente

    Trabaja para ella

    Con sus propios tokens de corta duración para esta tarea, emitidos a nombre de la persona.

  3. 03 Comprobación

    Fuera del modelo

    Cada llamada se comprueba frente a los permisos de la persona.

  4. 04 Función

    Actúa en nombre de la persona

    Nunca con una cuenta de servicio. Cada llamada queda en el registro.

Los permisos de la persona son el límite superior de cada paso

  • La persona, no el servicio. Cada llamada de un agente nombra a la persona para la que trabaja. Ningún servicio pone su propia identidad en su lugar.
  • Tokens propios para cada tarea. Cada tarea se ejecuta con sus propios tokens firmados: de corta duración, válidos solo dentro de demi y emitidos a nombre de la persona.
  • Delegar nunca significa más. Si un agente pasa trabajo a otro, el siguiente paso recibe como mucho los mismos permisos y nunca una duración mayor, y siempre trabaja para la misma persona.
  • Sin autoaprobación. Si una acción necesita una confirmación, el agente no puede darla él mismo.
  • La revocación se mantiene también ante fallos. Un token revocado se rechaza aunque falle una parte de la plataforma.

03 · PERMISOS

Los permisos no los decide el modelo

El riesgo

Todo lo que está en el prompt es una petición, no un permiso

A un modelo de lenguaje se le puede convencer. Por eso, si una persona puede ver un documento o desencadenar una acción tiene que decidirlo una comprobación fuera del modelo, tanto al leer como al actuar. De lo contrario, una búsqueda responde preguntas a partir de documentos que la persona que pregunta nunca tuvo permiso para ver.

Lo que muestra la investigación

Las respuestas de IA que se apoyan en documentos encontrados leen de un índice de búsqueda externo [4]. Si ese índice no conoce los permisos, entrega lo que encuentra. Cómo comprobar permisos como relaciones entre personas, grupos y objetos de forma rápida y coherente está bien investigado [5].

Lo que hace demi

Cada comprobación fuera del modelo, al leer y al actuar

  • Permisos como relaciones. demi gestiona los permisos como relaciones entre personas, grupos y objetos (ReBAC) y los comprueba en el servidor, fuera del modelo.
  • Al leer. Lo que una persona no puede ver no se devuelve, tampoco a través de un agente.
  • Al actuar. También cada acción se comprueba antes de ejecutarse.
  • Cada comprobación de documento comprueba también la empresa. Una comprobación sobre un documento asegura dos cosas: que la persona puede acceder a él y que está en su propia empresa.

04 · MCP

Clientes de IA vía MCP: nunca más de lo que puede la persona

El riesgo

Cada cliente de IA conectado es un camino más hacia tus datos

A través del Model Context Protocol (MCP), un estándar abierto, los clientes de IA como asistentes de chat o agentes llaman a funciones de otros sistemas: leer datos, crear documentos, iniciar tareas. Un acceso así necesita los mismos límites que la persona para la que trabaja el cliente de IA.

Lo que muestra la investigación

La propia especificación de MCP deja claro que estas funciones pueden ejecutar código arbitrario y necesitan un consentimiento explícito [6].

Lo que hace demi

Cada llamada comprobada, cada función con un nivel de confirmación

  • A través de la interfaz de programación. Cada función para clientes de IA pasa por la interfaz de programación de la plataforma, con las mismas comprobaciones que la aplicación.
  • Cada llamada comprobada. Cada llamada a una función se comprueba fuera del modelo frente a los permisos de la persona.
  • Confirmación según nivel. Un nivel de confirmación define para cada función si una persona tiene que confirmarla antes de ejecutarla. Si no hay ningún nivel definido, se aplica el más estricto.
  • Inicio de sesión con OAuth 2.1. Los clientes de IA externos inician sesión con OAuth 2.1; solo se redirige a direcciones que demi ha autorizado de antemano.

05 · INJECTION

Lo que puede desencadenar una prompt injection, demi lo limita fuera del modelo

El riesgo

Todo lo que lee un agente puede ser una instrucción

En una prompt injection, un correo, un documento o una página web contienen instrucciones que buscan que un modelo de IA haga algo distinto de lo que quería la persona. Ningún filtro las detecta de forma fiable. Por eso lo decisivo es qué puede desencadenar una instrucción así.

Lo que muestra la investigación

Los atacantes no necesitan acceso al modelo: en experimentos, instrucciones colocadas en los datos llevaron a los modelos a filtrar datos y a dirigir llamadas a sistemas reales [7]. Doce defensas recientes no resistieron a atacantes adaptativos; frente a la mayoría tuvieron éxito más del 90 % de los ataques [8]. Existen diseños con seguridad demostrable, pero limitan lo que puede hacer un agente [9] [10]. La oficina federal alemana de seguridad de la información (BSI) describe los riesgos de los agentes de IA [11], y OWASP los recoge en su Top 10 para aplicaciones agénticas [12].

Lo que hace demi

El clic de una persona, que el modelo no puede falsificar

  • Marca el sistema, no el modelo. Si un agente lee contenido que puede incluir instrucciones de terceros, el sistema marca esa tarea.
  • Hacia el exterior, solo con un clic. A partir de ahí, cada envío, publicación o acción de compartir hacia el exterior necesita el clic de una persona: una vez, exactamente para esa acción. El modelo no puede falsificar ese clic.
  • Lo que genera no son permisos. Lo que el modelo genera no le da permisos: cada llamada que desencadena se comprueba como cualquier otra petición.
  • Sin shell, sin sistema de archivos. El agente no tiene ni línea de comandos ni sistema de archivos.
  • Comprobado automáticamente. Las pruebas automáticas comprueban estos bloqueos en cuanto cambia el código que hay detrás.

06 · TENANTS

Separación de tenants que impone la propia base de datos

El riesgo

La separación tiene que ser una propiedad del sistema, no una disciplina de cada consulta

Si muchas empresas trabajan como tenants separados en una plataforma, una sola condición olvidada en el código no puede mostrar datos ajenos.

Lo que muestra la investigación

Para eso, las bases de datos pueden proteger filas (seguridad a nivel de fila, Row-Level Security): la base de datos solo devuelve las filas que permite una regla [13]. Solo es eficaz si la aplicación no puede eludir esa regla.

Lo que hace demi

La base de datos separa, la aplicación no puede esquivarlo

  • Separados en la base de datos. La propia base de datos separa los datos de las empresas (Row-Level Security). Cada acceso a datos de empresa se ejecuta en el contexto de exactamente una empresa.
  • La aplicación no puede esquivarlo. La aplicación se conecta con un rol que no puede eludir esta separación. Lo comprueba en cada arranque; si no se puede comprobar, se trata como un error.

07 · CIFRADO

Cifrado, con copias de seguridad y recuperable

El riesgo

La protección tiene que aplicarse en tránsito, en reposo y en cada copia de seguridad

Los datos se pueden atacar en tres puntos: en tránsito entre sistemas, donde están almacenados y en sus copias de seguridad. Y una copia de seguridad vale lo que vale su restauración.

Lo que hace demi

Conexiones cifradas, almacenamiento cifrado, copias de seguridad separadas

  • En tránsito. Las conexiones desde internet usan solo TLS 1.2 o superior; también el camino hacia la base de datos y la caché está cifrado.
  • Almacenado. Los discos y el almacenamiento de objetos están cifrados con AES-256.
  • Accesos a tus sistemas. demi guarda además cifradas las credenciales de los sistemas conectados, con una clave propia.
  • Copias de seguridad. Las copias de seguridad de la base de datos se hacen al menos a diario, se cifran antes de guardarse y se almacenan en un lugar físicamente separado; sus claves están fuera del entorno operativo. La restauración está documentada y ensayada.

08 · EUROPA

Datos y modelos en Europa

El riesgo

Dónde se procesa lo decide la plataforma, no el proveedor del modelo

Los modelos de IA líderes proceden en su mayoría de fuera de Europa. Por eso, dónde están tus datos y dónde los procesa un modelo tiene que fijarlo la plataforma.

Lo que hace demi

Centros de datos en la UE, agentes con modelos en la UE, cada proveedor nombrado

  • Datos en la UE. Tus datos están en centros de datos de la UE, con Alemania como sede principal; las copias de seguridad de la base de datos están físicamente separadas, en un segundo centro de datos de la UE.
  • Agentes con modelos en la UE. Los agentes y la generación de imágenes trabajan con modelos en centros de datos de la UE; otras regiones, solo con la autorización de tu empresa.
  • Cada proveedor nombrado. La lista de subencargados nombra cada proveedor con su ubicación. Ante cambios relevantes puedes oponerte (contrato de encargo, § 9).
  • Modelos intercambiables. Los modelos se pueden cambiar sin que cambie nada por tu parte.

09 · OPERACIONES

Operaciones trazables para tu TI

El riesgo

Un agente trabaja durante mucho tiempo, y cada paso tiene que quedar documentado

Un agente trabaja a lo largo de muchos pasos, tiene que sobrevivir a reinicios y poder esperar respuestas de personas. Y tu TI tiene que poder ver después quién desencadenó qué.

Lo que hace demi

Paso a paso, registrado, supervisado

  • Paso a paso. Los agentes trabajan paso a paso y sobreviven a los reinicios. Si un agente hace una pregunta, se detiene y, tras la respuesta, continúa donde lo dejó.
  • Presupuesto de costes por tarea. Cada tarea tiene un presupuesto de costes. Si se cancela una petición, también se cancela la llamada al modelo en curso, en lugar de seguir generando costes en segundo plano.
  • Registro. Cada llamada a una función de un agente queda en el registro, con persona, agente y momento, incluidas las rechazadas. Previa solicitud justificada, recibes un extracto para tu empresa.
  • Con la plataforma en marcha. demi despliega las nuevas versiones con la plataforma en marcha.
  • Un código, interruptores por empresa. Todas las empresas funcionan con el mismo código; demi activa las nuevas capacidades por empresa.
  • Comprobado y trazable. Las pruebas y comprobaciones de seguridad se ejecutan automáticamente en cada cambio; qué versión funciona en producción está versionado y es trazable.
  • Supervisado. El funcionamiento se supervisa de forma automatizada, también desde fuera del entorno operativo; las alertas llegan automáticamente al equipo de operaciones.

Bibliografía

Bibliografía

Todas las fuentes comprobadas el 10 de noviembre de 2026. Cada número del texto lleva a la fuente original.

  1. [1]Norm Hardy (1988). The Confused Deputy (or why capabilities might have been invented). ACM SIGOPS Operating Systems Review 22(4), 36-38. doi:10.1145/54289.871709
  2. [2]Model Context Protocol project (2026). Authorization (Model Context Protocol Specification, version 2026-07-28). modelcontextprotocol.io. https://modelcontextprotocol.io/specification/2026-07-28/basic/authorization
  3. [3]Arnar Birgisson, Joe Gibbs Politz, Ulfar Erlingsson et al. (2014). Macaroons: Cookies with Contextual Caveats for Decentralized Authorization in the Cloud. NDSS 2014. https://www.ndss-symposium.org/ndss2014/ndss-2014-programme/macaroons-cookies-contextual-caveats-decentralized-authorization-cloud/
  4. [4]Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020 (per the arXiv record), arXiv:2005.11401. https://arxiv.org/abs/2005.11401
  5. [5]Ruoming Pang, Ramon Caceres, Mike Burrows, Zhifeng Chen, Pratik Dave et al. (2019). Zanzibar: Google's Consistent, Global Authorization System. USENIX ATC 2019. https://www.usenix.org/conference/atc19/presentation/pang
  6. [6]Model Context Protocol project (2026). Model Context Protocol Specification, version 2026-07-28. modelcontextprotocol.io (latest version when read on 2026-11-10). https://modelcontextprotocol.io/specification/2026-07-28
  7. [7]Kai Greshake, Sahar Abdelnabi, Shailesh Mishra et al. (2023). Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. AISec 2023 (16th ACM Workshop on Artificial Intelligence and Security), 79-90. doi:10.1145/3605764.3623985
  8. [8]Milad Nasr, Nicholas Carlini, Chawin Sitawarin, Sander V. Schulhoff, Jamie Hayes et al. (2025). The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections. arXiv:2510.09023. https://arxiv.org/abs/2510.09023
  9. [9]Edoardo Debenedetti, Ilia Shumailov, Tianqi Fan et al. (2025). Defeating Prompt Injections by Design. arXiv:2503.18813. https://arxiv.org/abs/2503.18813
  10. [10]Luca Beurer-Kellner, Beat Buesser, Ana-Maria Creţu, Edoardo Debenedetti, Daniel Dobos et al. (2025). Design Patterns for Securing LLM Agents against Prompt Injections. arXiv:2506.08837. https://arxiv.org/abs/2506.08837
  11. [11]Bundesamt für Sicherheit in der Informationstechnik (BSI) (living document (read 2026-11-10)). KI-Agenten: Wenn Künstliche Intelligenz selbstständig handelt. bsi.bund.de. bsi.bund.de › KI-Agenten
  12. [12]OWASP GenAI Security Project (2025). OWASP Top 10 for Agentic Applications for 2026. genai.owasp.org, December 2025. https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
  13. [13]The PostgreSQL Global Development Group (living document (read 2026-11-10)). Row Security Policies (PostgreSQL Documentation, section 5.9). postgresql.org. https://www.postgresql.org/docs/current/ddl-rowsecurity.html

Habla con nosotros sobre tu caso

demi es el sistema operativo de IA de la industria europea. En la demo te mostramos a ti y a tu TI cómo trabaja con tus permisos. Los documentos para tu revisión están en el Trust Center.

Tu configurador

Aún no hay casos de uso

Tu configurador todavía está vacío

Añade un caso de uso desde cualquier tarjeta o página de caso y mira lo que aporta al año, con el cálculo. Gratis, sin registro, sin compromiso: pruébalo y cambia cada cifra.

Ver casos de uso