- La governance dell’IA agentica aiuta le organizzazioni a gestire agenti di intelligenza artificiale in grado di prendere decisioni, utilizzare strumenti e agire all’interno dei sistemi aziendali.
- La governance tradizionale dell’IA non è sufficiente per l’IA agentica, poiché gli agenti autonomi generano rischi attraverso le loro azioni, non solo attraverso i risultati prodotti.
- Le principali lacune in materia di governance riguardano spesso una responsabilità non ben definita, autorizzazioni eccessive, l’intelligenza artificiale “nell’ombra” e una visibilità limitata sul comportamento degli agenti.
- Una solida governance offre ai team la possibilità di autorizzare gli agenti, monitorarne l’attività, controllarne l’accesso e intervenire qualora il loro comportamento diventi rischioso.
- Mimecast Agentic AI Security aiuta le organizzazioni a individuare gli agenti, valutare i rischi, individuare i responsabili e ridurre l’esposizione derivante da attività di intelligenza artificiale non autorizzate.
L'intelligenza artificiale agenziale sta passando rapidamente dalla fase sperimentale all'utilizzo quotidiano nel mondo degli affari. Questi sistemi non si limitano più a rispondere alle domande o a riassumere i documenti. Possono connettersi a strumenti, recuperare informazioni, avviare flussi di lavoro e agire per conto degli utenti.
Tale cambiamento pone una nuova sfida in materia di governance. Quando un agente di intelligenza artificiale intraprende un’azione, le organizzazioni devono sapere chi ne è responsabile, quali azioni è autorizzato a compiere e come interromperne l’operatività qualora il rischio dovesse mutare. La governance dell’IA agentica fornisce la struttura necessaria per rispondere a tali domande prima che l’autonomia si trasformi in un rischio.
Che cos’è la governance dell’IA agentica?
La governance dell’IA agentica è il quadro di riferimento che le organizzazioni utilizzano per gestire gli agenti di intelligenza artificiale in grado di agire con un certo grado di indipendenza. Esso definisce le modalità di approvazione degli agenti, le modalità di controllo del loro accesso e le modalità di verifica della loro attività una volta che sono stati implementati.
L'intelligenza artificiale agentica aggiunge un ulteriore livello di rischio, poiché il sistema è in grado di fare molto di più che generare una risposta. È in grado di interagire con i sistemi aziendali e di influire sui flussi di lavoro reali.
Ciò significa che la governance deve avvicinarsi maggiormente alle attività operative. I team addetti alla sicurezza e alla conformità devono comprendere a quali risorse possa accedere ciascun agente, quali azioni possa intraprendere e se tali azioni rientrino nell’ambito delle finalità aziendali approvate.
In che cosa si differenzia l’IA agentica dall’IA tradizionale?
L'IA generativa tradizionale di solito si affida a un essere umano per decidere quale sarà il passo successivo. Un utente inserisce un prompt, esamina la risposta e intraprende un'azione al di fuori del modello.
L'intelligenza artificiale agentica modifica tale rapporto. Un agente può perseguire un obiettivo, decidere quale sia il passo successivo, ricorrere a strumenti specifici e continuare a lavorare su più sistemi. L'essere umano può ancora fissare l'obiettivo, ma l'agente potrebbe occuparsi in misura maggiore della sua realizzazione.
Caratteristiche principali dell'IA agentica
I sistemi agenti comportano solitamente dei rischi poiché combinano autonomia e accesso. Tra le caratteristiche comuni figurano:
- Pianificazione in più fasi: l’agente può suddividere una richiesta più ampia in azioni più piccole.
- Esecuzione persistente: l’agente può continuare a operare oltre il limite di un singolo prompt o di una singola sessione.
- Accesso agli strumenti: l’agente può connettersi ad applicazioni, API, file o flussi di lavoro.
- Comportamento adattivo: l’agente è in grado di cambiare direzione sulla base di nuove informazioni.
- Azione autonoma: l’agente può portare a termine le attività senza bisogno dell’approvazione umana in ogni fase.
Queste funzionalità generano valore aziendale, ma rendono anche più complessa la governance. Un chatbot che fornisce una risposta inadeguata comporta un certo tipo di rischio. Un agente che accede a dati sensibili, invia un messaggio o aggiorna un sistema ne crea uno molto diverso.
Perché i modelli tradizionali di governance dell’IA risultano insufficienti
I tradizionali quadri di riferimento per la governance dell'IA sono stati concepiti per un modello di utilizzo dell'IA più prevedibile. Spesso partono da alcune ipotesi:
- Le decisioni importanti vengono approvate dagli esseri umani.
- L'attività dell'intelligenza artificiale si svolge in un ambiente ben definito.
- I risultati del modello costituiscono la principale fonte di rischio.
- Le revisioni possono avvenire periodicamente.
- L'accesso viene gestito tramite i controlli utente esistenti.
L'intelligenza artificiale agentica mette in discussione tali presupposti. Una volta che un agente è in grado di utilizzare strumenti o intraprendere azioni su più sistemi, la governance deve tenere conto di ciò che l’agente fa dopo il comando iniziale. Un documento programmatico non può, da solo, controllare pienamente tale comportamento.
Perché gli agenti autonomi necessitano di controlli più rigorosi
Gli agenti autonomi necessitano di una governance che segua l’azione, non solo il modello. I team devono sapere quando un agente accede ai dati, quali strumenti utilizza e se il suo comportamento è conforme al caso d’uso approvato.
Questo tipo di governance richiede ben più di una semplice lista di controllo per il lancio. Ciò richiede una visibilità costante, una chiara attribuzione delle responsabilità, controlli sull’identità e la possibilità di sospendere o limitare le attività di un agente qualora il suo comportamento comporti un rischio.
Perché è importante una governance dell’IA di tipo agentico?
La governance dell’IA agentica è importante perché l’autonomia può amplificare rapidamente gli errori. Se un agente dispone di un accesso eccessivo o se la finalità non è chiara, una singola istruzione errata può avere ripercussioni su più di un file, flusso di lavoro o utente.
Ciò è particolarmente importante negli ambienti aziendali in cui gli agenti interagiscono con dati sensibili, sistemi dei clienti, documenti interni o flussi di lavoro soggetti a normative. In assenza di una governance adeguata, i team di sicurezza potrebbero non sapere quali agenti siano presenti fino a quando non si verifica un problema.
Rendere conto del proprio operato diventa più difficile
La responsabilità risulta inoltre più complessa quando gli agenti operano utilizzando più strumenti. Se un agente condivide un file, aggiorna un record o avvia un flusso di lavoro esterno, i team devono capire chi abbia autorizzato tale agente e perché questi avesse il permesso di agire.
Senza tale contesto, le indagini risultano più lente e meno attendibili. I team possono visualizzare il risultato, ma non la sequenza di decisioni che lo ha determinato.
La tracciabilità diventa fondamentale
Una governance efficace consente di documentare l'attività degli agenti. Dovrebbe indicare quale agente abbia agito, quale identità abbia utilizzato, a quale sistema abbia avuto accesso e a quale processo umano o aziendale fosse collegato.
Tale tracciabilità favorisce le indagini in materia di sicurezza, le verifiche di conformità e la responsabilità interna. Inoltre, aiuta le organizzazioni a migliorare la governance nel tempo, poiché i team possono individuare dove si stanno effettivamente manifestando i rischi.
Governance dell’IA agentica contro governance tradizionale dell’IA
La governance tradizionale dell’IA e quella dell’IA agente sono correlate, ma non sono intercambiabili. La governance tradizionale si chiede se l’intelligenza artificiale venga utilizzata in modo responsabile. La governance agentica si interroga sul fatto che l’IA autonoma agisca in modo sicuro all’interno dell’azienda.
| Governance tradizionale dell'intelligenza artificiale |
Governance dell'IA agentica |
| Si concentra sul comportamento del modello e sulla qualità dei risultati |
Si concentra su ciò che gli agenti possono fare in tutti i sistemi |
| Si presuppone che gli esseri umani rimangano vicini all’azione finale |
Conti per agenti che operano con supervisione limitata |
| Esamina rischi quali la parzialità, l’accuratezza e la spiegabilità |
Aggiunge rischi legati all'accesso, agli strumenti, all'identità e all'esecuzione dei flussi di lavoro |
| Si basa spesso su politiche e revisioni periodiche |
Richiede un monitoraggio continuo e misure di intervento |
| Organizza la governance attorno al modello |
Estende la governance all’agente, al suo proprietario e alle relative autorizzazioni |
| Valuta i contenuti generati |
Valuta il comportamento, l'accesso e le azioni successive |
| È particolarmente indicato per casi d'uso basati su prompt e risposta |
Si adatta a flussi di lavoro dinamici, basati sull’uso di strumenti e autonomi |
Quali rischi dovrebbe affrontare la governance dell’IA agentica?
La governance dell’IA agentica dovrebbe concentrarsi sui rischi che sorgono quando gli agenti combinano accesso, autonomia e responsabilità non chiaramente definita. I problemi più gravi derivano spesso da agenti che operano al di fuori dei limiti autorizzati.
Tra i rischi più comuni figurano:
- Autorizzazioni eccessive: a un agente possono essere concessi diritti di accesso superiori a quelli richiesti dal suo incarico.
- Agenti AI “ombra”: i dipendenti installano o collegano agenti al di fuori dei canali autorizzati.
- Divulgazione di dati sensibili: gli agenti recuperano, sintetizzano o condividono informazioni riservate in modo non sicuro.
- Responsabilità poco chiara: è possibile che i team non sappiano chi sia il responsabile di un agente dopo la sua implementazione.
- Diffusione incontrollata di token e identità: le chiavi API, gli account di servizio e i token possono moltiplicarsi in assenza di un adeguato controllo.
- Rischio a cascata: un’azione rischiosa da parte di un agente può innescare effetti a cascata su tutti i sistemi collegati.
- Scarsa tracciabilità: in assenza di registri chiari, i team hanno spesso difficoltà a ricostruire l’accaduto.
Tali rischi dimostrano perché la governance basata sugli agenti non possa limitarsi all’approvazione del modello. Le organizzazioni necessitano di uno strumento per gestire l'intero ambiente operativo che circonda l'agente, compresi l'identità, il controllo degli accessi, il comportamento e la responsabilità.
Componenti fondamentali di un quadro di governance dell'IA agentica
Un solido quadro di governance garantisce ai team un controllo concreto sui sistemi di IA agentica senza ostacolarne l'adozione responsabile. L'obiettivo non è quello di rallentare ogni caso d'uso. Lo scopo è garantire che gli agenti siano identificabili, attribuibili, monitorati e allineati al rischio aziendale.
Visibilità su ogni agente
La governance inizia con l'individuazione degli agenti esistenti. I team di sicurezza devono poter disporre di una visione d'insieme degli agenti approvati, di quelli non autorizzati e di quelli collegati tramite strumenti o piattaforme esterne.
Questo elenco dovrebbe riportare più di un semplice nome. I team devono disporre di informazioni sufficienti per comprendere a cosa serve l’agente, chi ne è il responsabile e se si collega a sistemi sensibili.
Controlli del ciclo di vita: dall’approvazione alla dismissione
Gli agenti dovrebbero seguire un ciclo di vita ben definito. Dovrebbero essere sottoposti a revisione prima della messa in servizio, monitorati durante il periodo di attività e dismessi quando non sono più necessari.
Ciò impedisce agli agenti di rimanere attivi a lungo dopo che il loro scopo originario è cambiato. Inoltre, offre ai team un metodo standardizzato per rivalutare i rischi man mano che l’utilizzo aziendale si espande.
Controlli relativi all’identità e alla responsabilità
Ogni agente dovrebbe avere un'identità ben definita e un titolare ben identificato. Le credenziali condivise o gli account di servizio non ben definiti rendono difficile comprendere cosa sia accaduto durante un incidente.
Un approccio più efficace collega l'agente a uno scopo aziendale, a un team responsabile e a un insieme definito di autorizzazioni. Ciò rende più agevole dimostrare la responsabilità e facilitare la verifica dei dati.
Registro di controllo delle azioni degli agenti
Una traccia di controllo dovrebbe consentire di comprendere il comportamento degli agenti. I team devono poter verificare a quali risorse l'agente abbia avuto accesso, quali azioni abbia intrapreso e se tale attività sia stata conforme al caso d'uso approvato.
Tali prove sono rilevanti nel corso delle indagini, ma contribuiscono anche a dimostrare la maturità della governance. Nel corso del tempo, i dati di audit aiutano i team a individuare modelli ricorrenti e ad adeguare i controlli.
Governance dell'IA incentrata sull'identità
L'identità rappresenta uno dei punti di controllo più importanti per un sistema di intelligenza artificiale agentica. Se un agente è in grado di agire su più sistemi, la sua identità determina ciò a cui può accedere e l’entità del danno che può causare.
Ciò rende la governance dell’identità un elemento centrale per la sicurezza dell’IA agentica. Gli agenti non dovrebbero beneficiare di un accesso illimitato semplicemente perché un utente o un sistema di intelligenza artificiale è considerato affidabile. Il loro accesso deve essere specifico, giustificato e sottoposto a revisione periodica.
Controlli fondamentali dell’identità per gli agenti di intelligenza artificiale
Una governance incentrata sull'identità dovrebbe garantire che l'attività degli agenti sia tracciabile e controllata. Tra le pratiche chiave figurano:
- Assegnate a ciascun agente un’identità univoca.
- Collegare ogni agente a un responsabile o a un processo aziendale.
- Limitare l'accesso in base al caso d'uso approvato.
- Si prega di verificare le autorizzazioni man mano che il ruolo dell’agente cambia.
- Monitorare gli account di servizio, i token e le chiavi API associati all’attività degli agenti.
- Si applichino controlli più rigorosi quando l’agente entra in contatto con dati sensibili o flussi di lavoro critici.
Questo approccio è strettamente in linea con il modello Zero Trust. Gli agenti dovrebbero essere verificati costantemente in base alle loro azioni, alle connessioni che stabiliscono e alla verifica che il loro comportamento sia ancora coerente con il loro scopo.
In che modo le organizzazioni possono gestire in modo sicuro l’IA agentica?
Le organizzazioni possono gestire in modo sicuro l'IA agentica adeguando i controlli al livello di rischio del caso d'uso. Non tutti gli agenti necessitano dello stesso livello di supervisione, ma ciascuno di essi necessita di un certo grado di trasparenza e responsabilità.
Iniziate con un’approvazione basata sul rischio
L'approvazione dovrebbe dipendere da ciò che l'agente è in grado di fare. Un agente a basso rischio che sintetizza contenuti pubblici potrebbe richiedere una revisione meno approfondita. Un agente in grado di accedere ai dati dei clienti, inviare messaggi esterni o attivare flussi di lavoro aziendali necessita di controlli più rigorosi.
L'approvazione basata sul rischio aiuta i team a concentrare i propri sforzi dove è più importante. Inoltre, offre agli utenti aziendali un percorso più chiaro per adottare in modo responsabile l’IA agentica.
Monitoraggio degli agenti dopo l'implementazione
La gestione degli agenti non termina con l'approvazione di un agente. I team dovrebbero monitorare il comportamento degli agenti nei flussi di lavoro reali e individuare eventuali segnali che indichino che l’agente si sta allontanando dallo scopo previsto.
Ciò potrebbe includere un utilizzo insolito degli strumenti, un accesso inatteso ai dati o attività provenienti da una destinazione mai utilizzata in precedenza. Quando il rischio aumenta, i team necessitano di opzioni quali la sospensione dell’agente, la limitazione dell’accesso, la richiesta di approvazione o l’inoltro a un livello superiore per la revisione.
Quali sono le migliori pratiche in materia di governance dell’IA agentica?
La governance dell'IA agenziale funziona al meglio quando è concreta e ripetibile. I team hanno bisogno di regole che possano essere applicate in modo coerente senza creare attriti tali da indurre gli utenti a ricorrere all’intelligenza artificiale non ufficiale.
Tra le pratiche raccomandate figurano:
- Monitoraggio continuo degli agenti di inventario: tenere traccia dell’utilizzo degli agenti, sia approvati che non approvati, in tutta l’organizzazione.
- Assegnare la responsabilità: attribuire la responsabilità di ciascun agente a un team o a una persona specifica.
- Limitare le autorizzazioni: concedere agli agenti solo l'accesso necessario per lo scopo loro assegnato.
- Verifichi regolarmente gli accessi: rivaluti le autorizzazioni man mano che i flussi di lavoro, gli strumenti e le esigenze aziendali cambiano.
- Monitorare il comportamento: prestare attenzione a chiamate a strumenti, accessi ai dati o attività del flusso di lavoro insoliti.
- Proteggere i dati in ingresso agli agenti: controllare i contenuti a cui gli agenti hanno accesso, in particolare file, e-mail, link e messaggi di collaborazione.
- Creare registrazioni pronte per la revisione: conservare le prove relative alle approvazioni, alle attività, alle violazioni delle politiche e alle misure correttive.
- Disattivare gli agenti inutilizzati: revocare l'accesso quando un agente non è più necessario.
Queste pratiche aiutano le organizzazioni a promuovere l'innovazione senza perdere il controllo sulle attività autonome.
In che modo Mimecast può contribuire a sostenere la governance dell’IA agentica?
Mimecast Agentic AI Security aiuta le organizzazioni a individuare, valutare e gestire gli agenti di intelligenza artificiale a livello aziendale. Fornisce ai team di sicurezza la visibilità sulle attività degli agenti autorizzate e non autorizzate, comprese le connessioni “shadow AI” e MCP.
Inoltre, ricollega l’attività dell’agente al contesto umano. Questo è importante perché il rischio legato agli agenti non è solo una questione tecnica. I team devono sapere chi ha creato l’agente, quale processo aziendale esso supporti e se il suo comportamento sia conforme al caso d’uso approvato.
Mimecast supporta la governance attraverso funzionalità quali l’individuazione degli agenti, i flussi di lavoro relativi alle sanzioni, la valutazione del rischio, l’applicazione delle politiche di utilizzo accettabile, le schede di valutazione della governance e la visibilità sulle connessioni degli agenti. Questi controlli aiutano i team a passare dall'intento normativo alla supervisione operativa.
Creare un quadro di governance per un’adozione sicura dell’IA agentica
La governance dell’IA agentica offre alle organizzazioni la possibilità di adottare l’IA autonoma senza perdere visibilità né controllo. Aiuta i team a comprendere quali agenti siano presenti, quali siano le loro funzionalità, a chi siano assegnati e quando sia necessario un intervento.
Man mano che gli agenti diventano più capaci, la governance deve andare oltre le politiche statiche. Le organizzazioni necessitano di controlli in grado di monitorare il comportamento degli agenti in relazione all’identità, all’accesso, al trasferimento dei dati e all’utilizzo degli strumenti.
Mimecast Agentic AI Security aiuta le organizzazioni a individuare e gestire gli agenti di intelligenza artificiale prima che attività non autorizzate possano comportare rischi per la sicurezza, la conformità o l’esposizione dei dati.
