Controlli di accesso agli agenti di intelligenza artificiale: ciò che i team IT devono sapere

Gli agenti basati sull'intelligenza artificiale sono ora in grado di leggere file, richiamare API, trasferire dati tra sistemi e agire in modo sostanzialmente autonomo. È proprio questo che li rende utili, ed è proprio questo che li rende rischiosi. In assenza di un adeguato sistema di controllo degli accessi, un agente progettato per svolgere un determinato compito può finire per intervenire in ambiti ben più ampi di quanto dovrebbe. Ciò comporta rischi di accesso non autorizzato e di escalation dei privilegi che i controlli tradizionali dei sistemi di intelligenza artificiale non sono stati progettati per individuare.

Che cos’è il controllo degli accessi degli agenti IA?

Il controllo degli accessi degli agenti di intelligenza artificiale è l'insieme delle politiche e dei controlli tecnici che regolano ciò che un agente di intelligenza artificiale può utilizzare, modificare o inviare. Si applica ovunque un agente possa operare: fonti di dati, applicazioni, API, strumenti, file, piattaforme di collaborazione e flussi di lavoro collegati.

In pratica, è questo livello a decidere se la richiesta di un agente venga approvata o respinta. Il documento illustra inoltre la portata di tale autorizzazione, sia che si tratti di bloccare un caricamento effettuato in buona fede, sia di individuare un account compromesso che sta sotterraneamente sottraendo dati o proprietà intellettuale in background.

In che modo l’accesso tramite agenti differisce dall’accesso umano

Gli utenti umani agiscono solitamente in modo diretto. Effettuano l'accesso, navigano nell'interfaccia e prendono decisioni sul momento. Gli agenti operano in modo diverso. Un agente autonomo agisce spesso per conto di un utente umano, di un team, di un flusso di lavoro o di un’identità macchina, talvolta senza che una persona verifichi ogni singolo passaggio.

Tale differenza solleva concrete questioni relative all’attribuzione: chi ha autorizzato tale azione, quali credenziali o identità ha utilizzato l’agente e l’azione corrispondeva effettivamente all’incarico per cui era stata approvata? È proprio nel rispondere a tali domande che il controllo degli accessi degli agenti inizia a distinguersi dalla tradizionale gestione degli accessi degli utenti.

Perché gli agenti di intelligenza artificiale necessitano di un controllo degli accessi?

L'intelligenza artificiale agentica comporta rischi per la sicurezza che le applicazioni tradizionali non presentano; per questo motivo, la sicurezza degli agenti di IA e il controllo degli accessi sono diventati una priorità, anziché un aspetto secondario, per i team che gestiscono sistemi autonomi. Le ragioni si possono ricondurre a una serie di problematiche pratiche che si presentano in quasi tutte le implementazioni.

• Protegge i dati sensibili. Limitare l'accesso di un agente impedisce che le informazioni sensibili vengano esposte inutilmente, anche quando l'attività dell'agente riguarda solo una piccola parte del sistema.
• Impedisce azioni non autorizzate da parte degli agenti. La definizione di limiti chiari impedisce a un agente di compiere azioni che esulano da quanto effettivamente autorizzato, bloccando così una via d’accesso non autorizzata molto diffusa.
• Riduce il rischio di iniezione accidentale. Un accesso più rigoroso riduce la probabilità che input manipolati possano indurre un agente ad adottare comportamenti pericolosi o indesiderati. Limitare ciò a cui un agente può accedere limita l'entità del danno che un prompt manipolato può effettivamente causare.
• Garantisce la conformità alle normative. Le politiche di accesso vincolanti aiutano le organizzazioni ad allinearsi a normative quali il GDPR, l’HIPAA e lo SOC 2, oltre che a requisiti più generali in materia legale, di governance e di revisione contabile. La disponibilità di registri di accesso chiari rende inoltre le verifiche più rapide e meno complesse.
• Consente un'automazione sicura su larga scala. Grazie a rigorosi controlli, le organizzazioni possono ampliare l’utilizzo degli agenti senza che il rischio aumenti allo stesso ritmo. È proprio tale equilibrio a rendere sostenibile nel lungo periodo una più ampia diffusione degli agenti.
• Gestisce i rischi legati al fattore umano. Il controllo degli accessi impedisce agli agenti di ereditare autorizzazioni di ampia portata senza esercitare quel giudizio che una persona normalmente applicherebbe. Questa distinzione risulta particolarmente utile quando un agente eredita un diritto di accesso di cui in realtà non ha bisogno.

Il controllo degli accessi consente alle organizzazioni di ampliare l’utilizzo degli agenti in tutta sicurezza, anziché limitarsi a sperare che non si verifichino problemi.

Principi fondamentali per il controllo degli accessi degli agenti di intelligenza artificiale

Nei programmi consolidati di sicurezza degli agenti e di governance dell’intelligenza artificiale ricorrono costantemente alcuni principi fondamentali, che si integrano a vicenda anziché essere considerati isolatamente. Comprendere ciascuno di essi singolarmente rende più facile capire come si integrino tra loro in un approccio completo al controllo degli accessi.

Identità e autenticazione dell'agente

Ogni agente necessita di un'identità verificabile, distinta da quella degli esseri umani e dei servizi con cui interagisce, autenticata con lo stesso rigore applicato alle credenziali umane, anziché essere integrata in una chiave API condivisa. Tale separazione consente ai team di sicurezza di distinguere un agente dall’altro e di revocare l’accesso a un single agente senza compromettere il funzionamento di tutti i sistemi ad esso collegati.

Attribuzione tra persona e agente

Le azioni di un agente sono comunque riconducibili a una persona, a un team o a un processo che ne sta alla base, anche quando l’agente opera con un certo grado di autonomia. L'attribuzione mette in relazione le azioni compiute da un agente con l'utente che lo ha implementato, trasformando un'anomalia in un elemento che il team di sicurezza può effettivamente indagare.

Modelli di autorizzazione: RBAC e ABAC

Il controllo degli accessi basato sui ruoli assegna le autorizzazioni in base alla funzione svolta da un agente, mentre il controllo degli accessi basato sugli attributi valuta condizioni quali il contesto e il livello di sensibilità dei dati prima di accogliere una richiesta. Gli agenti traggono spesso vantaggio da entrambi: i ruoli definiscono una linea di base, mentre gli attributi la perfezionano in base a ciascuna richiesta specifica.

Principio del privilegio minimo fin dalla progettazione

Un agente dovrebbe disporre solo dei diritti di accesso necessari per l'attività che sta svolgendo, e non di quelli di cui potrebbe aver bisogno per attività che potrebbe svolgere in seguito. Ciò limita i danni che un agente compromesso o malfunzionante può causare e deve essere integrato fin dall’inizio, anziché aggiunto una volta che l’agente è già in esecuzione.

Accesso e autorizzazioni limitati

La definizione dell’ambito limita l’accesso di un agente ai sistemi, alle funzioni e ai dati specifici richiesti da un’attività, anziché concedere l’accesso a un ambiente più ampio in cui i diritti di accesso in eccesso rimangono inutilizzati. Un agente che dispone di ampi poteri comporta un rischio elevato, indipendentemente dal fatto che eserciti o meno tali poteri.

Privilegi limitati nel tempo e legati a determinate attività

L'accesso concesso a un agente dovrebbe scadere una volta completato il suo lavoro. Legare i privilegi sia a una durata definita sia a uno scopo approvato impedisce che gli accessi permanenti si trasformino in autorizzazioni "orfane" che nessuno si ricorda di revocare.

Controllo basato su criteri

Politiche coerenti e gestite a livello centrale stabiliscono le modalità con cui gli agenti accedono ai dati e agli strumenti all’interno di un’organizzazione, anziché lasciare tali decisioni ai singoli team o a configurazioni ad hoc. Ciò offre ai team di sicurezza un unico punto di riferimento per definire e applicare le regole, consentendo inoltre di verificare la conformità delle autorizzazioni degli agenti rispetto a uno standard ben definito.

Convalida in fase di esecuzione e meccanismi di protezione

Le decisioni relative all'accesso prese in fase di implementazione non sono di per sé sufficienti, poiché le richieste di un agente possono variare una volta che questo è operativo. La convalida in fase di esecuzione verifica ogni richiesta nel momento stesso in cui viene effettuata e blocca le azioni che non rientrano nella politica approvata, individuando ciò che un insieme di autorizzazioni statico avrebbe invece consentito.

Verificabilità e monitoraggio continuo

Ogni azione intrapresa da un agente dovrebbe rimanere visibile e verificabile anche a distanza di tempo. Il monitoraggio continuo fornisce ai team di sicurezza una documentazione a cui fare riferimento quando indagano su un incidente o verificano che un agente continui a operare entro i limiti previsti.

Contesto comportamentale

Le azioni di un agente assumono significato se valutate rispetto a un riferimento di comportamento normale. Confrontando una richiesta con i modelli tipici relativi a un determinato utente, flusso di lavoro o set di dati, si individuano attività che, pur rientrando tecnicamente nelle autorizzazioni di un agente, appaiono comunque fuori luogo.

Le principali sfide relative alla sicurezza degli agenti di intelligenza artificiale

Anche le organizzazioni che comprendono questi principi incontrano notevoli difficoltà quando cercano di metterli in pratica. Le sfide riportate di seguito tendono a presentarsi indipendentemente dalle dimensioni dell’azienda o dal settore di appartenenza.

• Comportamento dinamico e non deterministico. Lo stesso agente può agire in modo diverso in situazioni simili, il che rende più difficile prevedere in anticipo le decisioni relative all’accesso. Tale imprevedibilità rende le verifiche statiche e una tantum dell’accesso molto meno utili.
• Agenti con autorizzazioni eccessive. Spesso agli agenti viene concesso un livello di accesso superiore a quello effettivamente necessario per lo svolgimento delle loro mansioni, e tale accesso inutilizzato rappresenta un rischio di escalation dei privilegi in attesa di essere sfruttato. Spesso passa inosservato finché un audit o un incidente non costringe a esaminare la questione più da vicino.
• Dipendenze complesse all’interno della catena di approvvigionamento. Gli strumenti, i modelli e le API interconnessi che estraggono dati da sistemi collegati possono ampliare l’esposizione della catena di approvvigionamento in modi che i team non sono in grado di controllare appieno. Ogni integrazione aggiunta rappresenta un ulteriore potenziale punto di accesso ai sistemi sensibili.
• Visibilità limitata sulle azioni degli agenti. Spesso è difficile individuare con esattezza quali dati un agente abbia consultato, modificato o inviato, soprattutto in presenza di un numero sempre crescente di strumenti. Questo punto cieco rende più difficile indagare o spiegare un incidente a posteriori.
• Scalabilità della gestione degli accessi. La gestione delle autorizzazioni diventa più complessa man mano che l'utilizzo degli agenti si estende a un numero sempre maggiore di sistemi e flussi di lavoro. Ciò che funziona per un numero limitato di agenti può rapidamente rivelarsi inefficace su scala aziendale.
• Rischio legato alla velocità della macchina. Gli agenti possono accedere ai dati, spostarli o modificarli più rapidamente di quanto un team di sicurezza riesca a reagire manualmente. Quando una persona se ne accorge, l’azione potrebbe essere già terminata.
• Lacune nell’attribuzione. I team possono avere difficoltà a ricondurre a posteriori l'azione di un agente all'utente, all'account di servizio o al flusso di lavoro corretto, soprattutto quando più account di servizio condividono autorizzazioni che si sovrappongono. In assenza di una chiara attribuzione, la risposta agli incidenti subisce un rallentamento proprio nel momento in cui la rapidità è fondamentale.

Nessuna di queste difficoltà esclude il ricorso ad agenti. Significano semplicemente che il controllo degli accessi deve essere integrato fin dall’inizio, non aggiunto in un secondo momento.

Migliori pratiche per il controllo degli accessi degli agenti di intelligenza artificiale

La traduzione dei principi sopra esposti in un programma operativo si concretizza in una serie di azioni concrete. Ciascuno di essi colma una lacuna specifica che tende a manifestarsi quando gli agenti passano dalla fase di test all’utilizzo effettivo in produzione.

Assegnare ogni agente a un titolare dell'accesso

Ogni agente necessita di un proprietario designato responsabile delle relative autorizzazioni. Tale responsabile identifica il flusso di lavoro gestito dall’agente e approva eventuali modifiche relative al suo accesso.

Distinguere l’identità dell’agente dall’identità umana

Ogni agente dovrebbe disporre di un'identità propria, anziché ereditare i diritti di accesso tramite un account umano. È comunque necessario garantire che l'attribuzione all'utente, al team o al processo che sta dietro all'agente venga mantenuta.

Definire l'accesso in base all'attività

Le autorizzazioni devono corrispondere al flusso di lavoro approvato di un agente, non all’accesso più ampio dell’utente o dell’applicazione a cui è collegato. Definire l'ambito di accesso in questo modo impedisce a un agente di ereditare privilegi di cui non ha bisogno.

Utilizzi un accesso temporaneo e revocabile

Le operazioni delicate richiedono credenziali di breve durata, rilasciate al momento opportuno, piuttosto che autorizzazioni permanenti. L'accesso che scade automaticamente limita le informazioni che rimangono esposte nel caso in cui un agente venga compromesso.

Applicare i controlli di autorizzazione in fase di esecuzione

Le autorizzazioni concesse all’inizio non dovrebbero costituire l’unico punto di controllo. La verifica dell’accesso, effettuata quando un agente tenta di eseguire un’azione sensibile o insolita, consente di individuare le modifiche intervenute rispetto all’autorizzazione originaria.

Conservare i registri delle decisioni relative agli accessi

Ogni decisione relativa all'accesso deve essere registrata, indicando il motivo per cui è stata concessa e il nome della persona che l'ha approvata. I registri dovrebbero inoltre indicare se l'azione risultante fosse conforme alla politica.

Monitorare le relazioni tra persone, agenti e dati

La mappatura di queste relazioni mostra quali agenti interagiscono con quali fonti di dati e quali utenti e processi si trovano dietro ciascun agente. Tale visibilità consente di risalire all’origine di un’azione lungo l’intera catena che essa ha interessato.

Realizzate controlli in grado di reagire alla velocità degli agenti

Gli agenti possono agire più rapidamente di quanto la revisione manuale riesca a stare al passo. I controlli devono operare in tempo reale attraverso meccanismi di blocco automatizzati e limiti imposti dalle politiche, non tramite revisioni periodiche degli accessi.

5 passaggi per l'accesso degli agenti di intelligenza artificiale in ambiente di produzione

Passare dalla fase di pianificazione a quella di produzione non deve necessariamente essere complicato, ma è utile seguire una sequenza coerente. I passaggi riportati di seguito illustrano tutte le fasi, dalla configurazione iniziale alla manutenzione ordinaria.

1. Assegnate a ciascun agente un'identità univoca. Si crei un’identità univoca per ogni agente, in modo che sia effettivamente possibile monitorarne l’accesso, l’attività e la titolarità.
2. Definire le autorizzazioni in base al principio del privilegio minimo. Limiti l’accesso di ciascun agente ai sistemi, ai dati e alle azioni specifici richiesti dal suo incarico approvato, senza andare oltre.
3. Applicare controlli di accesso basati su criteri. Si ricorra a politiche di sicurezza chiare per stabilire a quali risorse gli agenti possano accedere, quando possano intervenire e a quali condizioni.
4. Monitorare l'attività degli agenti in tempo reale. Monitorate il comportamento degli agenti, le richieste di accesso e le azioni insolite man mano che si verificano in ambiente di produzione, non a posteriori.
5. Verifichi e aggiorni regolarmente le autorizzazioni. Rivalutate l’accesso degli agenti man mano che i flussi di lavoro, gli strumenti, le fonti di dati e le esigenze aziendali cambiano nel tempo.

Considerate queste fasi come un ciclo piuttosto che come un'implementazione una tantum. L'accesso degli agenti tende a subire variazioni man mano che gli strumenti e i flussi di lavoro cambiano; pertanto, la fase di verifica è importante tanto quanto quella di configurazione.

In che modo Mimecast può supportare il controllo degli accessi tramite agenti basati sull’intelligenza artificiale?

Mimecast Agentic AI Security aiuta le organizzazioni a individuare, gestire e proteggere gli agenti di intelligenza artificiale in tutti gli ambienti aziendali. Fornisce ai team di sicurezza una visione d’insieme degli agenti stessi, delle relazioni tra agenti e persone che ne stanno dietro, dei flussi di lavoro di governance, delle violazioni delle politiche e della valutazione del rischio, il tutto in un unico punto anziché disperso tra strumenti non integrati tra loro.

Tale visibilità è importante perché il controllo degli accessi degli agenti dipende, in ultima analisi, dalla comprensione di quali utenti, agenti, strumenti e fonti di dati siano coinvolti in un determinato flusso di lavoro. Mimecast aiuta i team a individuare le attività rischiose degli agenti prima che queste possano comportare la divulgazione dei dati, violazioni delle politiche o azioni non sicure, colmando il divario tra la definizione di una politica di accesso e la verifica effettiva del suo rispetto.

Realizzazione di un sistema di controllo degli accessi più sicuro per gli agenti di intelligenza artificiale

Gli agenti basati sull’intelligenza artificiale possono accedere ai dati aziendali, utilizzare strumenti di comunicazione e intervenire nei flussi di lavoro con estrema facilità; proprio per questo motivo è necessario definire fin dal primo giorno chiari limiti alle autorizzazioni. Garantire la sicurezza dell’IA agentica inizia con un semplice cambiamento di mentalità: trattare gli agenti di IA come qualsiasi altra identità, in modo che i team di sicurezza dispongano di un approccio coerente per gestire le decisioni relative agli accessi, anziché dover improvvisare ogni volta che compare un nuovo agente.

Le organizzazioni che stanno affrontando la questione nel modo giusto non aspettano che si verifichi un esito negativo per essere costrette ad agire. Stanno integrando fin dall’inizio nei programmi degli agenti le funzionalità di governance delle identità, di applicazione delle politiche e di monitoraggio.

Se la vostra organizzazione sta ampliando l’utilizzo degli agenti e necessita di un quadro più chiaro delle loro effettive capacità, Mimecast Agentic AI Security è stato progettato per aiutarvi a individuare, gestire e proteggere gli agenti di intelligenza artificiale prima che il loro accesso diventi un rischio.