Vai al contenuto

Architettura di sicurezza

La sicurezza degli agenti di IA sta nel sistema, non nel prompt.

L'IA nell'industria è un problema di sistema. Collegare un modello è facile. Difficile è tutto il resto: per chi agisce un agente, cosa può vedere, cosa può uscire dalla tua azienda e dove si trovano i tuoi dati. demi lo regola nell'architettura, fuori dal modello. Qui trovi come, con le fonti.

01 · PANORAMICA

In sintesi

L'essenziale in sei frasi. Le sezioni qui sotto mostrano come lo realizza demi.

  • Mai più della persona

    Un agente agisce sempre per una persona precisa e non può mai fare più di lei.

  • I permessi li verifica il sistema

    Se un accesso è consentito lo decide la piattaforma, fuori dal modello, in lettura e a ogni azione.

  • Verso l'esterno solo con un clic

    Se un agente ha letto contenuti che possono contenere istruzioni di terzi, ogni invio, pubblicazione o condivisione verso l'esterno richiede il clic di una persona.

  • Separati nel database

    È il database stesso a separare i dati delle aziende, e l'applicazione non può aggirare questa separazione.

  • Dati nell'UE

    I tuoi dati si trovano in data center nell'UE, con sede principale in Germania.

  • Ogni chiamata nel registro

    Ogni chiamata di funzione di un agente è nel registro, con persona, agente e ora, comprese quelle rifiutate.

02 · DELEGA

Un agente non può mai fare più della persona per cui lavora

Il rischio

Un servizio con ampi permessi può fare ciò che il suo committente non potrebbe

Un agente lavora per conto di una persona, spesso su più sistemi e solo minuti o ore dopo l'incarico. Se lo fa con un account di servizio che può tutto, ogni richiesta può ottenere più di quanto la persona stessa potrebbe.

Cosa mostra la ricerca

L'informatica conosce questo schema dal 1988 come «Confused Deputy»: un programma agisce con un'autorità che gli è stata data per un altro scopo [1]. Le regole di autorizzazione del Model Context Protocol (MCP), con cui i client di IA chiamano funzioni di altri sistemi, citano proprio questo attacco [2]. Che i permessi non debbano mai allargarsi a ogni passaggio è un principio di progettazione noto [3].

Cosa fa demi

Il token indica la persona, mai un servizio

Fig. 1 · Dalla persona alla funzione

Dalla persona, attraverso l'agente, alla funzione: nessun passo riceve più permessi del precedente.

  1. 01 Persona

    Accede

    I suoi permessi sono il limite massimo per tutto ciò che segue.

  2. 02 Agente

    Lavora per lei

    Con token propri e di breve durata per questo compito, emessi a nome della persona.

  3. 03 Verifica

    Fuori dal modello

    Ogni chiamata viene verificata rispetto ai permessi della persona.

  4. 04 Funzione

    Agisce per la persona

    Mai con un account di servizio. Ogni chiamata è nel registro.

I permessi della persona sono il limite massimo per ogni passo

  • La persona, non il servizio. Ogni chiamata di un agente indica la persona per cui lavora. Nessun servizio mette la propria identità al suo posto.
  • Token propri per ogni compito. Ogni compito viene eseguito con token propri e firmati: di breve durata, validi solo all'interno di demi ed emessi a nome della persona.
  • Passare il lavoro non dà mai di più. Se un agente passa il lavoro, il passo successivo riceve al massimo gli stessi permessi e mai una durata più lunga, e lavora sempre per la stessa persona.
  • Nessuna autoapprovazione. Se un'azione richiede una conferma, l'agente non può darla da sé.
  • La revoca vale anche in caso di guasti. Un token revocato viene rifiutato, anche quando una parte della piattaforma è fuori servizio.

03 · PERMESSI

I permessi non li decide il modello

Il rischio

Tutto ciò che sta nel prompt è una richiesta, non un permesso

Un modello linguistico si lascia convincere. Se una persona può vedere un documento o avviare un'azione deve quindi deciderlo una verifica fuori dal modello, in lettura come nell'azione. Altrimenti una ricerca risponde a domande con documenti che chi chiede non era autorizzato a vedere.

Cosa mostra la ricerca

Le risposte di IA che si basano su documenti trovati leggono da un indice di ricerca esterno [4]. Se questo indice non conosce i permessi, restituisce ciò che trova. Come verificare i permessi in modo rapido e coerente, come relazioni tra persone, gruppi e oggetti, è ben studiato [5].

Cosa fa demi

Ogni verifica fuori dal modello, in lettura e nell'azione

  • Permessi come relazioni. demi gestisce i permessi come relazioni tra persone, gruppi e oggetti (ReBAC) e li verifica sul server, fuori dal modello.
  • In lettura. Ciò che una persona non può vedere non viene restituito, nemmeno tramite un agente.
  • Nell'azione. Anche ogni azione viene verificata prima di essere eseguita.
  • Ogni controllo su un documento verifica anche l'azienda. Un controllo su un documento garantisce due cose: che la persona possa accedervi e che si trovi nella sua stessa azienda.

04 · MCP

Client di IA tramite MCP: mai più di quanto possa fare la persona

Il rischio

Ogni client di IA collegato è un'altra via verso i tuoi dati

Con il Model Context Protocol (MCP), uno standard aperto, i client di IA come gli assistenti di chat o gli agenti chiamano funzioni di altri sistemi: leggono dati, creano documenti, avviano attività. Un accesso di questo tipo ha bisogno degli stessi limiti della persona per cui il client di IA lavora.

Cosa mostra la ricerca

La specifica MCP stessa afferma che queste funzioni possono eseguire codice arbitrario e richiedono un consenso esplicito [6].

Cosa fa demi

Ogni chiamata verificata, ogni funzione con un livello di conferma

  • Tramite l'interfaccia di programmazione. Ogni funzione per i client di IA passa dall'interfaccia di programmazione della piattaforma, con le stesse verifiche dell'applicazione.
  • Ogni chiamata verificata. Ogni chiamata di funzione viene verificata fuori dal modello rispetto ai permessi della persona.
  • Conferma per livello. Un livello di conferma stabilisce per ogni funzione se una persona deve confermarla prima dell'esecuzione. Se non è stabilito alcun livello, vale il più severo.
  • Accesso tramite OAuth 2.1. I client di IA esterni accedono tramite OAuth 2.1; il reindirizzamento avviene solo verso indirizzi fissi approvati da demi.

05 · INJECTION

Cosa può avviare una prompt injection, demi lo limita fuori dal modello

Il rischio

Tutto ciò che un agente legge può essere un'istruzione

In una prompt injection, una mail, un documento o una pagina web contengono istruzioni pensate per spingere un modello di IA a fare qualcosa di diverso da ciò che la persona voleva. Nessun filtro le riconosce in modo affidabile. Conta quindi cosa può avviare un'istruzione del genere.

Cosa mostra la ricerca

Gli aggressori non hanno bisogno di accedere al modello: negli esperimenti, istruzioni inserite nei dati hanno spinto i modelli a esfiltrare dati e a pilotare chiamate a sistemi reali [7]. Dodici difese recenti non hanno resistito ad aggressori adattivi; contro la maggior parte è andato a segno oltre il 90% degli attacchi [8]. Esistono approcci con sicurezza dimostrabile, ma limitano ciò che un agente può fare [9] [10]. L'Ufficio federale tedesco per la sicurezza informatica (BSI) descrive i rischi degli agenti di IA [11], OWASP li elenca nella sua Top 10 per le applicazioni agentiche [12].

Cosa fa demi

Il clic di una persona, che il modello non può falsificare

  • A contrassegnare è il sistema, non il modello. Se un agente legge contenuti che possono contenere istruzioni di terzi, il sistema contrassegna quel compito.
  • Verso l'esterno solo con un clic. Da quel momento ogni invio, pubblicazione o condivisione verso l'esterno richiede il clic di una persona: una volta, proprio per quell'azione. Questo clic il modello non può falsificarlo.
  • Gli output non sono permessi. Ciò che il modello produce non gli dà permessi: ogni chiamata che avvia viene verificata come qualsiasi altra richiesta.
  • Nessuna shell, nessun file system. L'agente non ha né una riga di comando né un file system.
  • Verificato automaticamente. Test automatici verificano questi blocchi non appena cambia il codice che li realizza.

06 · TENANT

Separazione dei tenant imposta dal database stesso

Il rischio

La separazione deve essere una proprietà del sistema, non una disciplina da rispettare in ogni query

Se molte aziende lavorano su una piattaforma come tenant separati, una sola condizione dimenticata nel codice non deve mostrare dati altrui.

Cosa mostra la ricerca

Per questo i database possono proteggere le righe (Row-Level Security): il database restituisce solo le righe che una regola consente [13]. Funziona solo se l'applicazione non può aggirare questa regola.

Cosa fa demi

Il database separa, l'applicazione non può sottrarsi

  • Separati nel database. È il database stesso a separare i dati delle aziende (Row-Level Security). Ogni accesso ai dati aziendali avviene nel contesto di una sola azienda.
  • L'applicazione non può sottrarsi. L'applicazione si connette con un ruolo che non può aggirare questa separazione. Lo verifica a ogni avvio; se non è possibile verificarlo, viene trattato come un errore.

07 · CIFRATURA

Cifrati, salvati in backup, ripristinabili

Il rischio

La protezione deve valere in transito, nell'archiviazione e in ogni backup

I dati sono attaccabili in tre punti: in transito tra i sistemi, dove sono archiviati e nei loro backup. E un backup vale solo quanto il suo ripristino.

Cosa fa demi

Connessioni cifrate, archivi cifrati, backup separati

  • In transito. Le connessioni da Internet passano solo tramite TLS 1.2 o superiore; anche il percorso verso database e cache è cifrato.
  • Archiviati. Dischi e object storage sono cifrati con AES-256.
  • Accessi ai tuoi sistemi. demi archivia le credenziali di accesso ai sistemi collegati con un'ulteriore cifratura, con una chiave propria.
  • Backup. I backup del database vengono eseguiti almeno una volta al giorno, sono cifrati prima dell'archiviazione e si trovano in un luogo fisicamente separato; le relative chiavi si trovano fuori dall'ambiente operativo. Il ripristino è documentato e provato.

08 · EUROPA

Dati e modelli in Europa

Il rischio

Dove avviene l'elaborazione lo stabilisce la piattaforma, non il fornitore del modello

I principali modelli di IA provengono per lo più da fuori Europa. Dove si trovano i tuoi dati e dove un modello li elabora deve quindi stabilirlo la piattaforma.

Cosa fa demi

Data center nell'UE, agenti su modelli nell'UE, ogni fornitore indicato

  • Dati nell'UE. I tuoi dati si trovano in data center nell'UE, con sede principale in Germania; i backup del database sono conservati in un luogo separato, in un secondo data center nell'UE.
  • Agenti su modelli nell'UE. Agenti e generazione di immagini lavorano con modelli in data center dell'UE; altre regioni solo con l'autorizzazione della tua azienda.
  • Ogni fornitore indicato. L'elenco dei sub-responsabili indica ogni fornitore con la sua sede. In caso di modifiche sostanziali puoi opporti (accordo sul trattamento, § 9).
  • Modelli sostituibili. I modelli si possono sostituire senza che cambi nulla dalla tua parte.

09 · ESERCIZIO

Un esercizio tracciabile per il tuo reparto IT

Il rischio

Un agente lavora a lungo, e ogni passo deve essere documentabile

Un agente lavora attraverso molti passi, deve superare i riavvii e poter attendere le risposte delle persone. E il tuo reparto IT deve poter vedere a posteriori chi ha avviato cosa.

Cosa fa demi

Passo dopo passo, registrato, monitorato

  • Passo dopo passo. Gli agenti lavorano passo dopo passo e superano i riavvii. Se un agente fa una domanda, si ferma e dopo la risposta riprende da dove era rimasto.
  • Budget di costo per compito. Ogni compito ha un budget di costo. Se una richiesta viene interrotta, si interrompe anche la chiamata al modello in corso, invece di continuare a generare costi in background.
  • Registro. Ogni chiamata di funzione di un agente è nel registro, con persona, agente e ora, comprese quelle rifiutate. Un estratto per la tua azienda lo ricevi su richiesta motivata.
  • A sistema attivo. demi installa le nuove versioni durante l'esercizio.
  • Un solo codice, interruttori per azienda. Tutte le aziende girano sullo stesso codice; demi abilita le nuove funzionalità per singola azienda.
  • Verificato e tracciabile. Test e controlli di sicurezza partono automaticamente a ogni modifica; quale versione gira in produzione è versionato e tracciabile.
  • Monitorato. L'esercizio è monitorato in modo automatizzato, anche dall'esterno dell'ambiente operativo; gli allarmi arrivano automaticamente al team operativo.

Bibliografia

Bibliografia

Tutte le fonti verificate il 10 novembre 2026. Ogni numero nel testo porta alla fonte originale.

  1. [1]Norm Hardy (1988). The Confused Deputy (or why capabilities might have been invented). ACM SIGOPS Operating Systems Review 22(4), 36-38. doi:10.1145/54289.871709
  2. [2]Model Context Protocol project (2026). Authorization (Model Context Protocol Specification, version 2026-07-28). modelcontextprotocol.io. https://modelcontextprotocol.io/specification/2026-07-28/basic/authorization
  3. [3]Arnar Birgisson, Joe Gibbs Politz, Ulfar Erlingsson et al. (2014). Macaroons: Cookies with Contextual Caveats for Decentralized Authorization in the Cloud. NDSS 2014. https://www.ndss-symposium.org/ndss2014/ndss-2014-programme/macaroons-cookies-contextual-caveats-decentralized-authorization-cloud/
  4. [4]Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020 (per the arXiv record), arXiv:2005.11401. https://arxiv.org/abs/2005.11401
  5. [5]Ruoming Pang, Ramon Caceres, Mike Burrows, Zhifeng Chen, Pratik Dave et al. (2019). Zanzibar: Google's Consistent, Global Authorization System. USENIX ATC 2019. https://www.usenix.org/conference/atc19/presentation/pang
  6. [6]Model Context Protocol project (2026). Model Context Protocol Specification, version 2026-07-28. modelcontextprotocol.io (latest version when read on 2026-11-10). https://modelcontextprotocol.io/specification/2026-07-28
  7. [7]Kai Greshake, Sahar Abdelnabi, Shailesh Mishra et al. (2023). Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. AISec 2023 (16th ACM Workshop on Artificial Intelligence and Security), 79-90. doi:10.1145/3605764.3623985
  8. [8]Milad Nasr, Nicholas Carlini, Chawin Sitawarin, Sander V. Schulhoff, Jamie Hayes et al. (2025). The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections. arXiv:2510.09023. https://arxiv.org/abs/2510.09023
  9. [9]Edoardo Debenedetti, Ilia Shumailov, Tianqi Fan et al. (2025). Defeating Prompt Injections by Design. arXiv:2503.18813. https://arxiv.org/abs/2503.18813
  10. [10]Luca Beurer-Kellner, Beat Buesser, Ana-Maria Creţu, Edoardo Debenedetti, Daniel Dobos et al. (2025). Design Patterns for Securing LLM Agents against Prompt Injections. arXiv:2506.08837. https://arxiv.org/abs/2506.08837
  11. [11]Bundesamt für Sicherheit in der Informationstechnik (BSI) (living document (read 2026-11-10)). KI-Agenten: Wenn Künstliche Intelligenz selbstständig handelt. bsi.bund.de. bsi.bund.de › KI-Agenten
  12. [12]OWASP GenAI Security Project (2025). OWASP Top 10 for Agentic Applications for 2026. genai.owasp.org, December 2025. https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
  13. [13]The PostgreSQL Global Development Group (living document (read 2026-11-10)). Row Security Policies (PostgreSQL Documentation, section 5.9). postgresql.org. https://www.postgresql.org/docs/current/ddl-rowsecurity.html

Parlaci del tuo caso

demi è il sistema operativo IA dell'industria europea. Nella demo mostriamo a te e al tuo reparto IT come lavora con i tuoi permessi. I documenti per la tua verifica si trovano nel Trust Center.

Il tuo configuratore

Ancora nessun caso d'uso

Il tuo configuratore è ancora vuoto

Aggiungi un caso d'uso da qualsiasi scheda o pagina del caso e guarda quanto vale all'anno, con il calcolo. Gratis, senza registrazione, senza impegno: provalo e cambia ogni numero.

Vedi i casi d'uso