L'intelligenza artificiale "ombra" è presente all'interno della vostra organizzazione: individuatela, controllatela e gestitela in 30 giorni

In meno di 18 mesi, l’intelligenza artificiale generativa è passata dall’essere un semplice oggetto di curiosità a diventare un’infrastruttura fondamentale all’interno della maggior parte delle organizzazioni. L'80% e dei dipendenti utilizza attualmente strumenti di intelligenza artificiale non autorizzati sul posto di lavoro. Più della metà ammette di aver inserito dati aziendali sensibili, codice sorgente, dati relativi ai clienti e termini contrattuali in modelli che conservano le informazioni acquisite e apprendono da esse. I nostri dati interni evidenziano migliaia di tentativi di esfiltrazione ogni ora verso strumenti GenAI non autorizzati.

Si tratta del cambiamento più ampio, più rapido e meno evidente nel modo in cui i dati escono da un’organizzazione dall’avvento del cloud, e i team di sicurezza non hanno avuto il tempo necessario per pianificarlo.

I framework su cui fanno affidamento la maggior parte delle aziende sono stati sviluppati per un contesto in cui i dati risiedevano in archivi noti, circolavano attraverso canali noti ed erano utilizzati da applicazioni note. Nessuna di queste ipotesi è valida nel caso di una scheda del browser aperta su ChatGPT. Di seguito viene illustrato come affrontare il problema, articolando la riflessione attorno alle tre domande che oggi vengono poste a ogni CISO: È in grado di monitorare come il Suo personale utilizza l’intelligenza artificiale? È in grado di controllarla senza comprometterne il funzionamento? È in grado di dimostrarlo a qualcuno che ha bisogno di prove?

Visibilità: non si può governare ciò che non si vede

Ben il 69% delle organizzazioni sospetta, senza averne la conferma, che nel proprio ambiente venga utilizzata l’intelligenza artificiale. Il motivo è di natura strutturale. La maggior parte degli investimenti attuali in materia di protezione dei dati prevede il controllo dei contenuti in transito attraverso canali noti: posta elettronica, applicazioni cloud autorizzate, traffico in uscita dalla rete tramite un proxy. La GenAI basata su browser non rientra in tale modello. L'incollaggio in ChatGPT non costituisce un trasferimento di file. Si tratta di una combinazione di tasti. Una richiesta rivolta a un assistente di intelligenza artificiale di nicchia che il Suo team di ingegneri ha installato la scorsa settimana non costituisce un'applicazione autorizzata. Si tratta di un processo desktop di cui il vostro CASB non ha mai sentito parlare.

Per ottenere visibilità sull’intelligenza artificiale nascosta (Shadow AI) è necessario monitorare i canali in cui si svolge effettivamente l’attività di intelligenza artificiale, ovvero gli endpoint e i browser, e renderla visibile senza dover dedicare mesi alla creazione di policy o all’assegnazione di tag ai contenuti. La visibilità degli endpoint consente di individuare le applicazioni desktop basate sull’intelligenza artificiale, quali ChatGPT Desktop, Claude Desktop e Cursor, che i team di ingegneri adottano senza il coinvolgimento del reparto IT. Le estensioni del browser rilevano le richieste, gli incollaggi e i caricamenti che avvengono interamente all’interno di una sessione del browser. Il segnale deve quindi essere classificato automaticamente in base all’utente, alla sensibilità dei contenuti e alla destinazione, poiché il volume di dati all’interno di un’organizzazione composta da 5.000 persone è troppo elevato perché qualsiasi team di analisti possa effettuare una selezione manuale.

Il primo risultato che qualsiasi programma serio di “Shadow AI” deve produrre sono i dati che trasformano le ipotesi in prove concrete.

Controllo: le politiche da sole non bastano, e i controlli troppo rigidi frenano l’innovazione

L'istinto che la maggior parte delle organizzazioni di sicurezza manifesta quando si rende conto per la prima volta della propria esposizione alla Shadow AI è quello di definire una politica e ottenere l'adesione dei dipendenti alla stessa. Questa risposta è razionale, ma non funziona. Circa la metà dei dipendenti afferma che continuerebbe a utilizzare account personali basati sull’intelligenza artificiale anche in caso di divieto da parte dell’azienda. 

I blocchi rigidi non eliminano tale comportamento. Essi impediscono di monitorare il comportamento, lo trasferiscono su dispositivi non gestiti e compromettono il rapporto di fiducia tra il reparto di sicurezza e il resto del personale.

Il problema non consiste nel decidere se applicare o meno le norme. Si tratta di stabilire come applicare le misure in modo proporzionato al rischio associato a un evento specifico. L’errore commesso per la prima volta da un analista di marketing che ha incollato una bozza di comunicato stampa in ChatGPT rappresenta un’occasione di apprendimento, non un caso da indagare. La risposta corretta consiste in un piccolo richiamo immediato che illustri la politica aziendale e proponga l’alternativa consentita. Il fatto che un utente che viola ripetutamente le norme inserisca codice sorgente nello stesso strumento costituisce un evento distinto e giustifica un blocco definitivo.

Questa è la differenza tra i controlli basati esclusivamente sui contenuti e i controlli adattivi orientati al rischio. I controlli basati esclusivamente sul contenuto trattano tutti gli eventi allo stesso modo, poiché prendono in considerazione solo il file. I controlli basati sulla consapevolezza del rischio trattano gli eventi in modo diverso, poiché considerano l’utente, la fonte dei dati e la destinazione come un unico insieme. La caratteristica più importante di un moderno programma di intelligenza artificiale “Shadow” è la capacità di disporre di controlli proporzionati che reagiscano in base al rischio.

Governance: una politica messa per iscritto non equivale a una politica effettivamente applicata

Quasi tutte le organizzazioni dispongono di una politica sull’uso accettabile dell’intelligenza artificiale, redatta nel 2024, aggiornata nel 2025 e pubblicata su una pagina wiki che quasi nessun dipendente ha mai letto. Il divario tra la politica aziendale e la sua effettiva applicazione è proprio ciò che spinge la maggior parte dei CISO a partecipare alla discussione. Il consiglio di amministrazione chiede: «Qual è il rischio?» Il comitato di revisione contabile chiede: «Quali sono i controlli?» In un numero sempre maggiore di giurisdizioni, l’autorità di regolamentazione chiede: «Dove sono le prove che dimostrano che la vostra politica è effettivamente operativa?» A nessuna di queste domande è possibile rispondere tramite una pagina wiki. Richiedono un sistema di registrazione.

Le prove relative alla governance si articolano in tre componenti. Una traccia di controllo delle attività dell’intelligenza artificiale per ciascun utente, conservata per almeno 90 giorni, poiché la maggior parte delle indagini relative ai dipendenti in uscita si estende a un periodo di tempo così lungo. Misure di applicazione documentate, blocchi, quote, sessioni di formazione, collegati a utenti specifici e a regole specifiche della politica, poiché è proprio questo che un’autorità di regolamentazione desidera vedere. E una panoramica pronta per il consiglio di amministrazione che trasforma i dati operativi in una narrazione: come viene utilizzata l’intelligenza artificiale in questa organizzazione, da chi, con quali dati e quale sia l’andamento della riduzione dei rischi trimestre dopo trimestre.

Shadow AI: visibilità fin dal primo giorno con Incydr

Il livello di visibilità costituisce la base su cui si fonda tutto il resto. La guida pratica riportata di seguito illustra come Incydr rilevi l’attività di Shadow AI sin dal primo giorno di implementazione, senza che siano necessarie politiche o etichettature.

Portare alla luce Shadow AI

Visibilità degli endpoint e dei browser con Incydr, in 2 minuti.

Perché la velocità è fondamentale per la protezione dei dati al giorno d’oggi

I progetti di protezione dei dati di più lunga durata in questa categoria sono quelli che cercano di fare tutto in una volta sola. Classifichi tutti i dati, rediga tutte le politiche e integri ogni sistema prima che venga generato qualsiasi segnale. Quando il programma sarà operativo, il panorama dell’intelligenza artificiale sarà cambiato due volte e le ipotesi iniziali saranno ormai obsolete.

Una prova di valore della durata di 30 giorni, limitata a un elenco mirato di utenti per i quali si sospetta l’esistenza di rischi, fornisce un quadro chiaro già nella prima settimana. Implementazione degli endpoint in meno di 2 ore. Le estensioni del browser vengono valutate entro il secondo giorno. Entro la fine della prima settimana, la questione della visibilità trova una risposta per quella popolazione. Entro la seconda settimana, disporrete di dati sufficienti per individuare gli schemi ricorrenti. Entro il trentesimo giorno, disporrete di dati concreti, controlli e una strategia di governance per una fascia ben definita della forza lavoro, oltre a un percorso per estenderla. La minaccia rappresentata dalla diffusione dell'intelligenza artificiale sta avanzando troppo rapidamente. Il programma deve procedere più rapidamente.

Il livello successivo: agenti di intelligenza artificiale che agiscono per conto degli esseri umani

Shadow AI, nella sua forma attuale, consiste semplicemente in una persona che inserisce dati in uno strumento. Il livello successivo, già implementato nella maggior parte delle grandi imprese, è autonomo: agenti di intelligenza artificiale che agiscono per conto dei dipendenti, accedono ai dati, attivano flussi di lavoro e si collegano ai sistemi tramite server Model Context Protocol che collegano i modelli direttamente a GitHub, Slack e ai database di produzione. Ben l’80% delle aziende della classifica Fortune 500 dispone di agenti sul campo. Solo il 14% dispone di un'autorizzazione di sicurezza completa per tali sistemi.

La visibilità prima del controllo. Il controllo prima della governance. Ogni trasferimento di dati non autorizzato viene monitorato, poiché l’intelligenza artificiale evolve più rapidamente del ciclo di pianificazione.

La definizione di “insider” sta cambiando in tempo reale. Un "insider" non è più semplicemente un dipendente. Si tratta di un dipendente, oltre a tutti gli agenti che operano a suo nome, con le sue credenziali e utilizzando i suoi dati. La struttura di protezione dei dati che oggi rileva l’inserimento di un testo copiato e incollato in ChatGPT è la stessa che domani dovrà rilevare un agente autonomo che carica del codice sorgente. L'investimento effettuato oggi in termini di visibilità è proprio quello che determina il funzionamento degli agenti autonomi. Man mano che Mimecast amplia la propria piattaforma per coprire il rischio legato agli agenti, la stessa base di segnali si estende di pari passo.