Che cos’è un agente di intelligenza artificiale aziendale? Vantaggi, casi d’uso e rischi per la sicurezza

Gli agenti di intelligenza artificiale aziendali stanno facendo evolvere l’intelligenza artificiale dal semplice «rispondere a questa domanda» al «portare a termine questo compito». Tale cambiamento genera un reale valore aziendale, ma modifica anche il modello di sicurezza. Quando un sistema di intelligenza artificiale è in grado di accedere ai dati aziendali, utilizzare strumenti, avviare flussi di lavoro e intervenire su tutti i sistemi aziendali, i team hanno bisogno di qualcosa di più che semplici indicazioni. È necessario definire chiaramente le responsabilità, il controllo degli accessi, il monitoraggio e la governance in merito alle azioni che ciascun agente può compiere.

Che cos’è un agente di intelligenza artificiale aziendale?

Un agente di intelligenza artificiale aziendale è un sistema software basato sull'intelligenza artificiale in grado di perseguire un obiettivo aziendale e di portare a termine attività con un certo grado di autonomia. A differenza di uno strumento che si limita a generare una risposta, un agente è in grado di stabilire di quali informazioni ha bisogno, acquisire il contesto appropriato, utilizzare strumenti approvati e agire nell’ambito di un flusso di lavoro.

È proprio questo che distingue un agente di intelligenza artificiale da un semplice chatbot o da un assistente basato sull’intelligenza artificiale. Un chatbot di solito risponde a una richiesta e attende la successiva istruzione. D'altra parte, un agente di intelligenza artificiale aziendale è in grado di gestire processi articolati in più fasi in diversi ambienti, quali Microsoft 365, Google Workspace e le piattaforme CRM. È inoltre in grado di integrarsi con strumenti di gestione dei ticket, database, applicazioni cloud e archivi di conoscenze interni.

Poiché opera all’interno dell’ambiente aziendale, un agente di intelligenza artificiale aziendale interagisce con i dati, le autorizzazioni, le politiche e i flussi di lavoro dell’azienda. Ciò ne fa uno strumento potente in termini di produttività, ma comporta anche un profilo di rischio diverso rispetto all’uso generico dell’IA generativa.

Come funzionano gli agenti di intelligenza artificiale aziendali?

Gli agenti di intelligenza artificiale aziendali operano trasformando un obiettivo in una serie di passaggi correlati. Raccolgono informazioni di contesto da sistemi approvati, decidono quale azione intraprendere successivamente, utilizzano strumenti per portare a termine il lavoro, quindi verificano il risultato e apportano le modifiche necessarie. Ciò li rende utili per l’assistenza clienti, il supporto IT, la reportistica e altri flussi di lavoro aziendali, ma implica anche la necessità di stabilire limiti chiari, poiché possono interferire con dati, sistemi e decisioni che incidono sull’attività aziendale.

• Definizione dell’obiettivo: il lavoro ha inizio con una richiesta da parte dell’utente o con un obiettivo aziendale, come ad esempio la sintesi di un documento o la preparazione di un riepilogo relativo al rinnovo di un contratto con un cliente.
• Raccolta del contesto: l’operatore ricava informazioni da fonti approvate, tra cui documenti, conversazioni via e-mail, record del CRM, sistemi di gestione dei ticket, wiki interni, database o interazioni precedenti.
• Pianificare le fasi: l’agente suddivide l’obiettivo in azioni più piccole, quali il recupero dei dati, il confronto dei record, la stesura di un documento, la richiesta di approvazione o l’aggiornamento di un sistema.
• Utilizzare strumenti approvati: l’accesso agli strumenti consente all’agente di connettersi alle applicazioni aziendali, alle API, ai database o ai sistemi necessari per portare a termine l’attività.
• Eseguire azioni: una volta definito il piano, l’agente può aggiornare i record, inoltrare i ticket, preparare report, avviare flussi di lavoro o inviare bozze per la revisione.
• Verificare il risultato: l’agente esamina le risposte del sistema, lo stato di avanzamento delle attività, gli errori o la qualità dei risultati per verificare se l’azione ha avuto esito positivo.
• Adattare il flusso di lavoro: quando si verifica un cambiamento, l’agente può ripetere un passaggio, passare a uno strumento diverso, chiedere chiarimenti o inoltrare l’attività a un revisore umano.

È proprio questo processo graduale a rendere gli agenti di intelligenza artificiale aziendali più utili dei semplici assistenti basati sull’intelligenza artificiale. È anche per questo che le organizzazioni necessitano di una solida governance, di un controllo degli accessi e di un monitoraggio accurato in relazione a ogni implementazione di agenti.

Quali sono le principali tipologie di agenti di intelligenza artificiale aziendali?

Gli agenti di intelligenza artificiale aziendali possono essere raggruppati in base al livello di autonomia. Maggiore è l’autonomia di cui dispone un agente, maggiore è solitamente la necessità di autorizzazioni, monitoraggio e controllo. Un assistente a basso rischio che riassume contenuti pubblici richiede controlli diversi rispetto a un agente autonomo in grado di aggiornare i registri finanziari o inviare messaggi esterni.

Agenti reattivi

Un nuovo ticket, messaggio o avviso relativo a una politica può attivare questo tipo di agente. Classifica i contenuti, instrada le richieste, segnala eventuali problemi o suggerisce la procedura da seguire in base a regole definite o a modelli appresi.

Agenti basati su attività

Nel caso di attività ripetitive, gli agenti basati su attività portano a termine un processo definito dall’inizio alla fine. Tra gli esempi più comuni figurano la generazione di un rapporto, la sintesi di un contratto, l’aggiornamento di un documento o la preparazione di una risposta da sottoporre a revisione umana.

Agenti di pianificazione

Gli obiettivi più ambiziosi richiedono spesso una serie di piccoli passi. Gli agenti di pianificazione decidono quali informazioni recuperare, quali strumenti utilizzare e quale sequenza di azioni consentirà di completare il flusso di lavoro.

Agenti collaborativi

Nei flussi di lavoro articolati in più fasi, gli agenti collaborativi operano insieme ad altri agenti, sistemi o persone. Possono suddividere i compiti, condividere il contesto, verificare i risultati o trasferire il lavoro a un altro sistema o a un revisore.

Agenti autonomi

Al massimo livello di autonomia, gli agenti possono perseguire obiettivi più ampi con un intervento umano limitato. Sono in grado di pianificare, utilizzare strumenti, mettere in atto azioni, adattarsi a nuove informazioni e proseguire il lavoro attraverso diverse fasi.

Casi d'uso degli agenti di intelligenza artificiale aziendali

Gli agenti di intelligenza artificiale aziendali risultano utili quando il lavoro si basa su passaggi ripetitivi, informazioni disperse e passaggi di consegne tra persone o sistemi. Sono in grado di raccogliere informazioni di contesto, preparare i risultati e svolgere attività di routine, consentendo così ai team di dedicare meno tempo alle attività ripetitive.

Assistenza clienti

Nell’ambito dell’assistenza clienti, gli operatori possono sintetizzare i problemi dei clienti, recuperare la cronologia dell’account, suggerire risposte, classificare il grado di urgenza ed eseguire operazioni di assistenza di routine. Ciò può migliorare l'esperienza del cliente, consentendo ai team di assistenza di accedere più rapidamente alle informazioni di contesto rilevanti durante ogni interazione con il cliente.

Gestione dei servizi IT

Per i team IT, gli agenti di intelligenza artificiale aziendali possono effettuare una valutazione preliminare dei ticket, individuare le possibili cause, suggerire soluzioni o avviare flussi di lavoro di risoluzione approvati. Ciò consente di ottenere tempi di risposta più rapidi senza che ogni segnalazione debba essere sottoposta inizialmente a una revisione manuale.

Servizi di assistenza per i dipendenti

Gli operatori possono rispondere a domande interne, inoltrare le richieste, recuperare informazioni sulle politiche aziendali e guidare i dipendenti nelle procedure più comuni. Questo sistema si rivela particolarmente efficace per i team delle risorse umane, dell’IT, della finanza e delle operazioni che gestiscono richieste interne ricorrenti.

Generazione di report

Un agente è in grado di raccogliere dati da più sistemi, sintetizzare i risultati, redigere relazioni e formattare i documenti per la revisione. Ciò aiuta i team a trasformare informazioni sparse in approfondimenti utili senza dover partire da zero.

Appalti

I team addetti agli acquisti possono avvalersi di agenti per confrontare i fornitori, esaminare le richieste di acquisto, verificare i dettagli contrattuali e supportare i flussi di lavoro relativi alle approvazioni. L'agente può preparare il lavoro, mentre gli esseri umani continuano ad approvare le decisioni di grande rilevanza.

Flussi di lavoro amministrativi

Gli addetti amministrativi possono programmare riunioni, aggiornare i registri, redigere sintesi, coordinare le attività e gestire la documentazione di routine. Questi casi d'uso sono spesso di portata limitata se considerati singolarmente, ma possono consentire un notevole risparmio di tempo su scala aziendale.

Quali sono i vantaggi degli agenti di intelligenza artificiale aziendali?

Gli agenti di intelligenza artificiale aziendali possono migliorare la produttività riducendo il lavoro manuale e velocizzando l'esecuzione delle attività di routine attraverso i flussi di lavoro. Anziché chiedere ai dipendenti di raccogliere le stesse informazioni, copiare dati da un sistema all’altro o preparare risultati ripetitivi, gli agenti possono gestire molte di queste operazioni in background.

Il valore maggiore deriva dalla coerenza e dalla portata. Gli agenti di intelligenza artificiale aziendali possono aiutare i team a gestire un maggior numero di richieste, sintetizzare più informazioni e supportare un maggior numero di flussi di lavoro senza aumentare l'organico in misura proporzionale. Possono inoltre migliorare l’accesso alle conoscenze mettendo in evidenza il contesto pertinente tratto da documenti, sistemi e interazioni precedenti.

Ciononostante, gli agenti dovrebbero favorire il processo decisionale anziché sottrarre la responsabilità delle decisioni di grande impatto. Nei settori soggetti a regolamentazione o nelle funzioni aziendali sensibili, l’approccio corretto non consiste nel «lasciare che sia l’agente a decidere tutto». Si tratta di «consentire all’agente di preparare, indirizzare, raccomandare e portare a termine le procedure approvate, mentre le persone continuano ad assumersi la responsabilità dei risultati importanti».

Quali rischi per la sicurezza comportano gli agenti di intelligenza artificiale aziendali?

Gli agenti di intelligenza artificiale aziendali comportano dei rischi poiché combinano le capacità dell’intelligenza artificiale con l’accesso, gli strumenti, i dati e l’azione. Un'applicazione di intelligenza artificiale di base che redige testi ha una portata limitata. Un agente di intelligenza artificiale aziendale in grado di recuperare dati, richiamare API, elaborare e-mail o attivare flussi di lavoro necessita di controlli più rigorosi.

• Autorizzazioni eccessive: un agente dovrebbe accedere solo ai sistemi, ai dati e agli strumenti necessari per lo svolgimento delle mansioni che gli sono state assegnate. Un addetto all’assistenza clienti non necessita di accesso ai dati relativi alle buste paga, ai fascicoli legali, ai sistemi finanziari o alle e-mail dei dirigenti.
• Esposizione di dati sensibili: gli agenti possono recuperare, sintetizzare, archiviare o condividere dati riservati, schede dei clienti, informazioni sui dipendenti, dati finanziari e informazioni soggette a normative. I team devono poter sapere dove vengono trasferiti tali dati e chi può accedervi.
• Responsabilità non chiara: ogni agente deve avere un responsabile ben definito, incaricato dell’approvazione, del monitoraggio, degli aggiornamenti, delle autorizzazioni, delle prestazioni e della dismissione. In assenza di un senso di responsabilità, i comportamenti rischiosi possono rimanere irrisolti.
• Controllo degli accessi inadeguato: un’autenticazione carente, un’autorizzazione poco rigorosa o l’assenza di regole relative al principio del privilegio minimo possono consentire agli agenti di accedere a sistemi o dati a cui non dovrebbero avere accesso. I controlli dovrebbero riguardare l’agente, l’utente umano e gli strumenti coinvolti.
• Uso improprio delle identità dei sistemi: gli agenti basati sull’intelligenza artificiale si avvalgono spesso di account di servizio, chiavi API, token e altre identità dei sistemi. Se tali credenziali sono dotate di privilegi eccessivi o non vengono monitorate adeguatamente, gli autori degli attacchi possono sfruttarle in tutti i sistemi aziendali.
• Iniezione di comandi: le istruzioni dannose possono manipolare il comportamento di un agente durante l’elaborazione di e-mail, documenti, pagine web, ticket o altri contenuti non attendibili. La situazione diventa più grave quando l’agente è in grado di agire in base a tali istruzioni.
• Agenti Shadow AI: i dipendenti possono creare o collegare agenti non approvati al di fuori dei meccanismi di governance formali. Questi agenti AI “ombra” possono accedere ai dati, utilizzare strumenti e compiere azioni senza un’adeguata visibilità, verifica o controllo.

Tali rischi non implicano che si debba evitare l'utilizzo di agenti di intelligenza artificiale aziendali. Ciò significa che le organizzazioni devono gestire l’implementazione degli agenti come qualsiasi altra tecnologia aziendale ad alto impatto: con una chiara attribuzione delle responsabilità, un accesso limitato, attività monitorate e controlli adeguati alle effettive funzionalità dell’agente.

In che modo le organizzazioni possono gestire gli agenti di intelligenza artificiale aziendali?

Una buona governance inizia con il senso di appartenenza. Le organizzazioni devono sapere quali agenti sono approvati, chi ne è responsabile, quali casi d’uso supportano, a quali dati possono accedere, quali strumenti possono utilizzare e quando devono essere dismessi.

Un modello pratico di governance dell’IA dovrebbe inoltre definire chi approva gli agenti, chi ne monitora l’utilizzo, chi ne esamina i risultati e chi interviene in caso di malfunzionamento. Senza tale chiarezza, l’adozione dell’IA nelle aziende diventa difficile da gestire, man mano che un numero crescente di team integra agenti di IA nelle proprie attività quotidiane.

Impostare le regole del ciclo di vita

Ogni agente dovrebbe disporre di una documentazione che ne descriva lo scopo, l’accesso ai dati, l’accesso agli strumenti, il responsabile dell’implementazione, lo stato di approvazione e i criteri di disattivazione. L'implementazione degli agenti non dovrebbe essere un'operazione una tantum. È opportuno riesaminare periodicamente le autorizzazioni, i modelli di utilizzo, i risultati e le esigenze aziendali.

Analisi della corrispondenza rispetto al rischio

Un agente a basso rischio che si limita a sintetizzare documenti pubblici non necessita dello stesso processo previsto per un agente in grado di accedere a dati sensibili o di attivare flussi di lavoro. Gli agenti a rischio più elevato dovrebbero essere soggetti a una verifica più rigorosa, a tracciati di controllo più chiari e all’approvazione da parte di un operatore umano per le azioni di rilievo.

In che modo le organizzazioni possono garantire la sicurezza degli agenti di intelligenza artificiale aziendali?

I controlli di sicurezza devono coprire l'intero flusso di lavoro dell'agente, non solo il modello di intelligenza artificiale. L'obiettivo è quello di controllare ciò che l'agente può vedere, ciò che può fare, chi ha autorizzato l'azione e in che modo i team possano individuare comportamenti insoliti.

• Applicare il principio del privilegio minimo: limitare l’accesso di ciascun agente ai sistemi, ai dati e agli strumenti necessari per lo svolgimento delle mansioni che gli sono state assegnate. Un accesso esteso può sembrare utile a prima vista, ma comporta un’esposizione evitabile.
• Verifica dell'identità: confermare che dietro ogni azione dell'agente vi sia un utente umano, un'identità di macchina, un account di servizio o credenziali API. L'identità collega l'attività dell'agente alla responsabilità.
• Limitare l'uso degli strumenti: definire quali strumenti un agente può utilizzare, quali azioni può intraprendere e quando è necessaria l'approvazione da parte di un operatore umano. Ciò riduce la probabilità che un agente agisca al di fuori del flusso di lavoro previsto.
• Convalidare gli input: verificare le richieste, i file, le e-mail, i contenuti web e altri input prima che influenzino il ragionamento o l’esecuzione degli agenti, in particolare quando questi ultimi elaborano contenuti non attendibili.
• Gestione della memoria degli agenti: monitorare ciò che gli agenti possono memorizzare, recuperare e riutilizzare. Le informazioni sensibili o i contesti compromessi non dovrebbero passare inosservati nei flussi di lavoro futuri.
• Rilevamento dell’iniezione di comandi: esaminare e-mail, documenti, pagine web e contenuti di collaborazione alla ricerca di istruzioni dannose volte a influenzare il comportamento degli agenti.
• Monitoraggio dei flussi di lavoro: tracciamento delle azioni degli agenti, delle chiamate agli strumenti, dell’accesso ai dati, dei risultati, degli escalation e delle eccezioni. Il monitoraggio aiuta i team a individuare comportamenti anomali prima che si trasformino in un problema più grave.

Questi controlli funzionano al meglio se utilizzati in combinazione tra loro. Un agente di intelligenza artificiale aziendale è più sicuro quando la sua identità, le sue autorizzazioni, i suoi strumenti, i suoi input, la sua memoria e le sue azioni sono tutti visibili e gestiti sin dall’inizio.

In che modo Mimecast può contribuire a proteggere gli agenti di intelligenza artificiale aziendali?

Mimecast Agentic AI Security aiuta le organizzazioni a gestire i rischi legati all’intelligenza artificiale agentica negli ambienti aziendali, fornendo ai team una maggiore visibilità sull’attività degli agenti, sull’identità umana, sui rischi comportamentali e sulla governance relativa alle azioni degli agenti. 

Questo è importante perché la sicurezza degli agenti di intelligenza artificiale aziendali non riguarda solo il modello. Si tratta inoltre di stabilire chi abbia autorizzato l’agente, a quali dati abbia avuto accesso, quali strumenti abbia utilizzato e se la persona che lo controlla presenti segnali di rischio.

Mimecast adotta un approccio a più livelli per garantire la sicurezza degli agenti di intelligenza artificiale in ambito di comunicazione, collaborazione, dati e flussi di lavoro. Poiché gli agenti sono in grado di gestire e-mail, file, link, documenti e messaggi di collaborazione, la sicurezza delle comunicazioni diventa parte integrante della sicurezza degli agenti. Mimecast aiuta le organizzazioni a integrare i flussi di lavoro automatizzati con la gestione umana dei rischi, consentendo ai team di proteggere l’adozione dell’IA in ambito aziendale senza perdere visibilità né controllo.

Prepararsi all'adozione di agenti di intelligenza artificiale aziendali sicuri

Gli agenti di intelligenza artificiale aziendali sono in grado di portare a termine attività articolate in più fasi, ampliare le conoscenze, migliorare l’efficienza operativa e favorire un’esecuzione più rapida in tutti i sistemi aziendali. Possono aiutare le organizzazioni a passare da una semplice assistenza basata sull’intelligenza artificiale all’automazione intelligente in ambiti quali il servizio clienti, l’IT, gli acquisti, la rendicontazione e le operazioni aziendali.

Tale opportunità comporta un rischio concreto. Gli agenti che accedono ai dati aziendali, utilizzano strumenti e intraprendono azioni devono essere soggetti a una chiara attribuzione delle responsabilità, a un accesso basato sul principio del privilegio minimo, a un’identità verificata, alla protezione degli input, al monitoraggio dei flussi di lavoro e alla governance. Mimecast offre alle organizzazioni uno strumento per rafforzare tali controlli, collegare l’attività degli agenti al rischio umano e proteggere gli agenti di intelligenza artificiale aziendali man mano che questi entrano a far parte dei flussi di lavoro quotidiani dell’azienda.