Architettura di sicurezza
La sicurezza degli agenti di IA sta nel sistema, non nel prompt.
L'IA nell'industria è un problema di sistema. Collegare un modello è facile. Difficile è tutto il resto: per chi agisce un agente, cosa può vedere, cosa può uscire dalla tua azienda e dove si trovano i tuoi dati. demi lo regola nell'architettura, fuori dal modello. Qui trovi come, con le fonti.
01 · PANORAMICA
In sintesi
L'essenziale in sei frasi. Le sezioni qui sotto mostrano come lo realizza demi.
Mai più della persona
Un agente agisce sempre per una persona precisa e non può mai fare più di lei.
I permessi li verifica il sistema
Se un accesso è consentito lo decide la piattaforma, fuori dal modello, in lettura e a ogni azione.
Verso l'esterno solo con un clic
Se un agente ha letto contenuti che possono contenere istruzioni di terzi, ogni invio, pubblicazione o condivisione verso l'esterno richiede il clic di una persona.
Separati nel database
È il database stesso a separare i dati delle aziende, e l'applicazione non può aggirare questa separazione.
Dati nell'UE
I tuoi dati si trovano in data center nell'UE, con sede principale in Germania.
Ogni chiamata nel registro
Ogni chiamata di funzione di un agente è nel registro, con persona, agente e ora, comprese quelle rifiutate.
02 · DELEGA
Un agente non può mai fare più della persona per cui lavora
Il rischio
Un servizio con ampi permessi può fare ciò che il suo committente non potrebbe
Un agente lavora per conto di una persona, spesso su più sistemi e solo minuti o ore dopo l'incarico. Se lo fa con un account di servizio che può tutto, ogni richiesta può ottenere più di quanto la persona stessa potrebbe.
Cosa mostra la ricerca
L'informatica conosce questo schema dal 1988 come «Confused Deputy»: un programma agisce con un'autorità che gli è stata data per un altro scopo [1]. Le regole di autorizzazione del Model Context Protocol (MCP), con cui i client di IA chiamano funzioni di altri sistemi, citano proprio questo attacco [2]. Che i permessi non debbano mai allargarsi a ogni passaggio è un principio di progettazione noto [3].
Cosa fa demi
Il token indica la persona, mai un servizio
Fig. 1 · Dalla persona alla funzione
Dalla persona, attraverso l'agente, alla funzione: nessun passo riceve più permessi del precedente.
01 Persona
Accede
I suoi permessi sono il limite massimo per tutto ciò che segue.
02 Agente
Lavora per lei
Con token propri e di breve durata per questo compito, emessi a nome della persona.
03 Verifica
Fuori dal modello
Ogni chiamata viene verificata rispetto ai permessi della persona.
04 Funzione
Agisce per la persona
Mai con un account di servizio. Ogni chiamata è nel registro.
I permessi della persona sono il limite massimo per ogni passo
- La persona, non il servizio. Ogni chiamata di un agente indica la persona per cui lavora. Nessun servizio mette la propria identità al suo posto.
- Token propri per ogni compito. Ogni compito viene eseguito con token propri e firmati: di breve durata, validi solo all'interno di demi ed emessi a nome della persona.
- Passare il lavoro non dà mai di più. Se un agente passa il lavoro, il passo successivo riceve al massimo gli stessi permessi e mai una durata più lunga, e lavora sempre per la stessa persona.
- Nessuna autoapprovazione. Se un'azione richiede una conferma, l'agente non può darla da sé.
- La revoca vale anche in caso di guasti. Un token revocato viene rifiutato, anche quando una parte della piattaforma è fuori servizio.
03 · PERMESSI
I permessi non li decide il modello
Il rischio
Tutto ciò che sta nel prompt è una richiesta, non un permesso
Un modello linguistico si lascia convincere. Se una persona può vedere un documento o avviare un'azione deve quindi deciderlo una verifica fuori dal modello, in lettura come nell'azione. Altrimenti una ricerca risponde a domande con documenti che chi chiede non era autorizzato a vedere.
Cosa mostra la ricerca
Le risposte di IA che si basano su documenti trovati leggono da un indice di ricerca esterno [4]. Se questo indice non conosce i permessi, restituisce ciò che trova. Come verificare i permessi in modo rapido e coerente, come relazioni tra persone, gruppi e oggetti, è ben studiato [5].
Cosa fa demi
Ogni verifica fuori dal modello, in lettura e nell'azione
- Permessi come relazioni. demi gestisce i permessi come relazioni tra persone, gruppi e oggetti (ReBAC) e li verifica sul server, fuori dal modello.
- In lettura. Ciò che una persona non può vedere non viene restituito, nemmeno tramite un agente.
- Nell'azione. Anche ogni azione viene verificata prima di essere eseguita.
- Ogni controllo su un documento verifica anche l'azienda. Un controllo su un documento garantisce due cose: che la persona possa accedervi e che si trovi nella sua stessa azienda.
04 · MCP
Client di IA tramite MCP: mai più di quanto possa fare la persona
Il rischio
Ogni client di IA collegato è un'altra via verso i tuoi dati
Con il Model Context Protocol (MCP), uno standard aperto, i client di IA come gli assistenti di chat o gli agenti chiamano funzioni di altri sistemi: leggono dati, creano documenti, avviano attività. Un accesso di questo tipo ha bisogno degli stessi limiti della persona per cui il client di IA lavora.
Cosa mostra la ricerca
La specifica MCP stessa afferma che queste funzioni possono eseguire codice arbitrario e richiedono un consenso esplicito [6].
Cosa fa demi
Ogni chiamata verificata, ogni funzione con un livello di conferma
- Tramite l'interfaccia di programmazione. Ogni funzione per i client di IA passa dall'interfaccia di programmazione della piattaforma, con le stesse verifiche dell'applicazione.
- Ogni chiamata verificata. Ogni chiamata di funzione viene verificata fuori dal modello rispetto ai permessi della persona.
- Conferma per livello. Un livello di conferma stabilisce per ogni funzione se una persona deve confermarla prima dell'esecuzione. Se non è stabilito alcun livello, vale il più severo.
- Accesso tramite OAuth 2.1. I client di IA esterni accedono tramite OAuth 2.1; il reindirizzamento avviene solo verso indirizzi fissi approvati da demi.
05 · INJECTION
Cosa può avviare una prompt injection, demi lo limita fuori dal modello
Il rischio
Tutto ciò che un agente legge può essere un'istruzione
In una prompt injection, una mail, un documento o una pagina web contengono istruzioni pensate per spingere un modello di IA a fare qualcosa di diverso da ciò che la persona voleva. Nessun filtro le riconosce in modo affidabile. Conta quindi cosa può avviare un'istruzione del genere.
Cosa mostra la ricerca
Gli aggressori non hanno bisogno di accedere al modello: negli esperimenti, istruzioni inserite nei dati hanno spinto i modelli a esfiltrare dati e a pilotare chiamate a sistemi reali [7]. Dodici difese recenti non hanno resistito ad aggressori adattivi; contro la maggior parte è andato a segno oltre il 90% degli attacchi [8]. Esistono approcci con sicurezza dimostrabile, ma limitano ciò che un agente può fare [9] [10]. L'Ufficio federale tedesco per la sicurezza informatica (BSI) descrive i rischi degli agenti di IA [11], OWASP li elenca nella sua Top 10 per le applicazioni agentiche [12].
Cosa fa demi
Il clic di una persona, che il modello non può falsificare
- A contrassegnare è il sistema, non il modello. Se un agente legge contenuti che possono contenere istruzioni di terzi, il sistema contrassegna quel compito.
- Verso l'esterno solo con un clic. Da quel momento ogni invio, pubblicazione o condivisione verso l'esterno richiede il clic di una persona: una volta, proprio per quell'azione. Questo clic il modello non può falsificarlo.
- Gli output non sono permessi. Ciò che il modello produce non gli dà permessi: ogni chiamata che avvia viene verificata come qualsiasi altra richiesta.
- Nessuna shell, nessun file system. L'agente non ha né una riga di comando né un file system.
- Verificato automaticamente. Test automatici verificano questi blocchi non appena cambia il codice che li realizza.
06 · TENANT
Separazione dei tenant imposta dal database stesso
Il rischio
La separazione deve essere una proprietà del sistema, non una disciplina da rispettare in ogni query
Se molte aziende lavorano su una piattaforma come tenant separati, una sola condizione dimenticata nel codice non deve mostrare dati altrui.
Cosa mostra la ricerca
Per questo i database possono proteggere le righe (Row-Level Security): il database restituisce solo le righe che una regola consente [13]. Funziona solo se l'applicazione non può aggirare questa regola.
Cosa fa demi
Il database separa, l'applicazione non può sottrarsi
- Separati nel database. È il database stesso a separare i dati delle aziende (Row-Level Security). Ogni accesso ai dati aziendali avviene nel contesto di una sola azienda.
- L'applicazione non può sottrarsi. L'applicazione si connette con un ruolo che non può aggirare questa separazione. Lo verifica a ogni avvio; se non è possibile verificarlo, viene trattato come un errore.
07 · CIFRATURA
Cifrati, salvati in backup, ripristinabili
Il rischio
La protezione deve valere in transito, nell'archiviazione e in ogni backup
I dati sono attaccabili in tre punti: in transito tra i sistemi, dove sono archiviati e nei loro backup. E un backup vale solo quanto il suo ripristino.
Cosa fa demi
Connessioni cifrate, archivi cifrati, backup separati
- In transito. Le connessioni da Internet passano solo tramite TLS 1.2 o superiore; anche il percorso verso database e cache è cifrato.
- Archiviati. Dischi e object storage sono cifrati con AES-256.
- Accessi ai tuoi sistemi. demi archivia le credenziali di accesso ai sistemi collegati con un'ulteriore cifratura, con una chiave propria.
- Backup. I backup del database vengono eseguiti almeno una volta al giorno, sono cifrati prima dell'archiviazione e si trovano in un luogo fisicamente separato; le relative chiavi si trovano fuori dall'ambiente operativo. Il ripristino è documentato e provato.
08 · EUROPA
Dati e modelli in Europa
Il rischio
Dove avviene l'elaborazione lo stabilisce la piattaforma, non il fornitore del modello
I principali modelli di IA provengono per lo più da fuori Europa. Dove si trovano i tuoi dati e dove un modello li elabora deve quindi stabilirlo la piattaforma.
Cosa fa demi
Data center nell'UE, agenti su modelli nell'UE, ogni fornitore indicato
- Dati nell'UE. I tuoi dati si trovano in data center nell'UE, con sede principale in Germania; i backup del database sono conservati in un luogo separato, in un secondo data center nell'UE.
- Agenti su modelli nell'UE. Agenti e generazione di immagini lavorano con modelli in data center dell'UE; altre regioni solo con l'autorizzazione della tua azienda.
- Ogni fornitore indicato. L'elenco dei sub-responsabili indica ogni fornitore con la sua sede. In caso di modifiche sostanziali puoi opporti (accordo sul trattamento, § 9).
- Modelli sostituibili. I modelli si possono sostituire senza che cambi nulla dalla tua parte.
09 · ESERCIZIO
Un esercizio tracciabile per il tuo reparto IT
Il rischio
Un agente lavora a lungo, e ogni passo deve essere documentabile
Un agente lavora attraverso molti passi, deve superare i riavvii e poter attendere le risposte delle persone. E il tuo reparto IT deve poter vedere a posteriori chi ha avviato cosa.
Cosa fa demi
Passo dopo passo, registrato, monitorato
- Passo dopo passo. Gli agenti lavorano passo dopo passo e superano i riavvii. Se un agente fa una domanda, si ferma e dopo la risposta riprende da dove era rimasto.
- Budget di costo per compito. Ogni compito ha un budget di costo. Se una richiesta viene interrotta, si interrompe anche la chiamata al modello in corso, invece di continuare a generare costi in background.
- Registro. Ogni chiamata di funzione di un agente è nel registro, con persona, agente e ora, comprese quelle rifiutate. Un estratto per la tua azienda lo ricevi su richiesta motivata.
- A sistema attivo. demi installa le nuove versioni durante l'esercizio.
- Un solo codice, interruttori per azienda. Tutte le aziende girano sullo stesso codice; demi abilita le nuove funzionalità per singola azienda.
- Verificato e tracciabile. Test e controlli di sicurezza partono automaticamente a ogni modifica; quale versione gira in produzione è versionato e tracciabile.
- Monitorato. L'esercizio è monitorato in modo automatizzato, anche dall'esterno dell'ambiente operativo; gli allarmi arrivano automaticamente al team operativo.
Bibliografia
Bibliografia
Tutte le fonti verificate il 10 novembre 2026. Ogni numero nel testo porta alla fonte originale.
- [1]Norm Hardy (1988). The Confused Deputy (or why capabilities might have been invented). ACM SIGOPS Operating Systems Review 22(4), 36-38. doi:10.1145/54289.871709
- [2]Model Context Protocol project (2026). Authorization (Model Context Protocol Specification, version 2026-07-28). modelcontextprotocol.io. https://modelcontextprotocol.io/specification/2026-07-28/basic/authorization
- [3]Arnar Birgisson, Joe Gibbs Politz, Ulfar Erlingsson et al. (2014). Macaroons: Cookies with Contextual Caveats for Decentralized Authorization in the Cloud. NDSS 2014. https://www.ndss-symposium.org/ndss2014/ndss-2014-programme/macaroons-cookies-contextual-caveats-decentralized-authorization-cloud/
- [4]Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020 (per the arXiv record), arXiv:2005.11401. https://arxiv.org/abs/2005.11401
- [5]Ruoming Pang, Ramon Caceres, Mike Burrows, Zhifeng Chen, Pratik Dave et al. (2019). Zanzibar: Google's Consistent, Global Authorization System. USENIX ATC 2019. https://www.usenix.org/conference/atc19/presentation/pang
- [6]Model Context Protocol project (2026). Model Context Protocol Specification, version 2026-07-28. modelcontextprotocol.io (latest version when read on 2026-11-10). https://modelcontextprotocol.io/specification/2026-07-28
- [7]Kai Greshake, Sahar Abdelnabi, Shailesh Mishra et al. (2023). Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. AISec 2023 (16th ACM Workshop on Artificial Intelligence and Security), 79-90. doi:10.1145/3605764.3623985
- [8]Milad Nasr, Nicholas Carlini, Chawin Sitawarin, Sander V. Schulhoff, Jamie Hayes et al. (2025). The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections. arXiv:2510.09023. https://arxiv.org/abs/2510.09023
- [9]Edoardo Debenedetti, Ilia Shumailov, Tianqi Fan et al. (2025). Defeating Prompt Injections by Design. arXiv:2503.18813. https://arxiv.org/abs/2503.18813
- [10]Luca Beurer-Kellner, Beat Buesser, Ana-Maria Creţu, Edoardo Debenedetti, Daniel Dobos et al. (2025). Design Patterns for Securing LLM Agents against Prompt Injections. arXiv:2506.08837. https://arxiv.org/abs/2506.08837
- [11]Bundesamt für Sicherheit in der Informationstechnik (BSI) (living document (read 2026-11-10)). KI-Agenten: Wenn Künstliche Intelligenz selbstständig handelt. bsi.bund.de. bsi.bund.de › KI-Agenten
- [12]OWASP GenAI Security Project (2025). OWASP Top 10 for Agentic Applications for 2026. genai.owasp.org, December 2025. https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
- [13]The PostgreSQL Global Development Group (living document (read 2026-11-10)). Row Security Policies (PostgreSQL Documentation, section 5.9). postgresql.org. https://www.postgresql.org/docs/current/ddl-rowsecurity.html
Parlaci del tuo caso
demi è il sistema operativo IA dell'industria europea. Nella demo mostriamo a te e al tuo reparto IT come lavora con i tuoi permessi. I documenti per la tua verifica si trovano nel Trust Center.
