Shadow AI: in che modo l’utilizzo non controllato dell’IA da parte dei dipendenti amplia la vostra superficie di attacco

L'interesse per l'intelligenza artificiale ha ormai superato di gran lunga il semplice fascino superficiale. Gli strumenti di intelligenza artificiale generativa sono ormai integrati nei flussi di lavoro quotidiani di quasi tutti i reparti, dall’ingegneria al marketing fino alla finanza, dove i dipendenti li utilizzano per redigere e-mail, analizzare dati, generare codice e automatizzare attività di routine. Gli incrementi di produttività sono reali, ma lo è anche il rischio che ne deriva.

E gran parte di tale rischio è invisibile. Gran parte dell’adozione dell’intelligenza artificiale (IA) nell’ambiente di lavoro odierno non è documentata, non è regolamentata o è del tutto sconosciuta alle persone incaricate di proteggere l’organizzazione. Si tratta del problema dell’“IA ombra”, ovvero degli strumenti, delle piattaforme e dei modelli di intelligenza artificiale utilizzati dai dipendenti all’insaputa, senza l’approvazione o la supervisione dei team IT e di sicurezza. La consideri come l’evoluzione, nell’era dell’intelligenza artificiale, dello “shadow IT”, ovvero la sfida di lunga data rappresentata dall’adozione di software non autorizzati da parte dei dipendenti. Tuttavia, l’intelligenza artificiale “ombra” comporta un rischio di gran lunga maggiore a causa della natura stessa di ciò che questi strumenti utilizzano: i dati.

L'entità del divario tra consapevolezza e azione è sorprendente. Il rapporto “State of Human Risk 2026” di Mimecast, basato su un sondaggio condotto su 2.500 responsabili della sicurezza informatica e decisori nel settore IT in nove paesi, ha rilevato che, sebbene l’80% delle organizzazioni sia preoccupato per la fuga di dati sensibili attraverso strumenti di IA generativa, il 60% non dispone ancora di una strategia specifica per affrontare le minacce legate all’IA. Solo il 40% si sente pienamente preparato. È proprio in quel divario tra il riconoscimento della minaccia e la preparazione ad affrontarla che l’intelligenza artificiale “ombra” trova terreno fertile.

In che modo l’utilizzo dell’IA da parte dei dipendenti amplia la superficie di attacco

È innegabile che l’intelligenza artificiale offra numerose opportunità in termini di produttività, innovazione e crescita. Tuttavia, ogni volta che un dipendente incolla un elenco di clienti in un chatbot gratuito, carica un rendiconto finanziario su uno strumento di sintesi basato sull’intelligenza artificiale o inserisce codice proprietario in un assistente di programmazione non approvato, espone potenzialmente informazioni sensibili a sistemi di terze parti con politiche di conservazione dei dati e di sicurezza sconosciute.

Affidereste i vostri segreti commerciali o i vostri modelli di determinazione dei prezzi a una terza parte che non ha alcun obbligo contrattuale di proteggere tali dati? Un utilizzo incontrollato degli strumenti di intelligenza artificiale può comportare una serie di rischi informatici per le organizzazioni, tra cui:

Esposizione e fuga di dati. Gli strumenti di intelligenza artificiale non approvati spesso non dispongono di controlli di sicurezza di livello aziendale. Quando i dipendenti inseriscono dati riservati, quali i dati dei clienti, i segreti commerciali o i piani strategici, in tali piattaforme, tali informazioni potrebbero essere archiviate, utilizzate per l’addestramento dei modelli o rese pubbliche a seguito di una violazione. Le conseguenze finanziarie sono gravi: le violazioni “nascoste” legate all’intelligenza artificiale fanno lievitare i costi medi degli incidenti di centinaia di migliaia di dollari.

Violazioni delle norme di conformità. I settori soggetti a normative quali il GDPR, l’HIPAA o lo standard SOC 2 sono particolarmente esposti a rischi. Quando i dati transitano attraverso sistemi di intelligenza artificiale non sottoposti a verifica, le organizzazioni potrebbero violare inconsapevolmente i requisiti in materia di residenza dei dati, consenso o trattamento, esponendo l’azienda a sanzioni normative e responsabilità legali.

Una nuova superficie di attacco basata sugli agenti. La perdita di dati aziendali non è più solo un problema legato alle persone. Gli agenti di intelligenza artificiale e i flussi di lavoro automatizzati si stanno diffondendo rapidamente in tutta l’azienda e accedono a dati sensibili attraverso canali che gli strumenti di sicurezza tradizionali non sono mai stati progettati per monitorare, quali i flussi di lavoro collegati a MCP, gli agenti commerciali, le automazioni create dagli utenti e gli strumenti di intelligenza artificiale “ombra”. L'adozione sta procedendo a un ritmo molto più rapido rispetto alla governance. Molte organizzazioni utilizzano ormai agenti di intelligenza artificiale attivi, ma solo una piccola parte di esse ha concesso loro la piena approvazione in materia di sicurezza.

Perdita di governance e di responsabilità. Quando l’intelligenza artificiale influenza le decisioni aziendali senza alcun controllo in ambiti quali le assunzioni, l’analisi finanziaria o la comunicazione con i clienti, le organizzazioni perdono la capacità di verificare, spiegare o giustificare tali risultati. Ciò crea un vuoto in termini di responsabilità, soprattutto alla luce dell’intensificarsi del controllo normativo sui processi decisionali basati sull’intelligenza artificiale.

Minacce interne. Man mano che l’intelligenza artificiale viene sempre più integrata nelle operazioni, aumentano le opportunità per chi opera all’interno di un’organizzazione di sfruttare il proprio accesso per manipolare modelli o dati a fini dolosi o per ottenere un vantaggio personale. Il quadro più ampio dei rischi legati al fattore umano conferma tale osservazione: solo una piccola parte dei dipendenti è responsabile della stragrande maggioranza degli incidenti di sicurezza.

Nuove misure di controllo per nuove minacce

Shadow AI non è destinata a scomparire. I dipendenti continueranno a cercare gli strumenti più efficaci a loro disposizione, con o senza autorizzazione. La soluzione non consiste nel vietare l'intelligenza artificiale: per la maggior parte delle organizzazioni ciò non è né sostenibile né auspicabile. La soluzione sta nel gestirlo. I dirigenti aziendali possono definire un approccio all’adozione dell’intelligenza artificiale che sia in linea con i propri profili di rischio, adottando le seguenti misure:

Istituire un comitato direttivo per l'intelligenza artificiale. Istituire un gruppo composto da rappresentanti dei settori IT, sicurezza informatica, dati e analisi, nonché dai principali soggetti interessati dell’azienda. Tale comitato può esaminare le pratiche e le politiche relative all’intelligenza artificiale, compresi l’utilizzo degli strumenti, la condivisione dei dati e i parametri relativi all’archiviazione e alla cancellazione dei dati, e allinearle alla tolleranza al rischio aziendale dell’organizzazione.

Effettuare una valutazione iniziale dei rischi legati all’intelligenza artificiale. Verifichi quali strumenti e sistemi siano già stati adottati e quali vulnerabilità specifiche il loro utilizzo possa comportare, quindi stabilisca le priorità delle misure di mitigazione sulla base di un’analisi del rapporto rischio-beneficio. I quadri di riferimento consolidati, come il NIST AI Risk Management Framework, possono aiutare i dirigenti a valutare attentamente i rischi legati alla sicurezza informatica e alla privacy dei sistemi di intelligenza artificiale.

Fornire alternative sicure e una politica aziendale in materia di intelligenza artificiale. I dipendenti ricorrono a strumenti non autorizzati quando quelli autorizzati non sono disponibili o non sono sufficientemente efficaci. Offrite alternative sicure e di livello aziendale, accompagnandole con regole chiare e ben comunicate su quali strumenti siano approvati, quali dati possano essere condivisi e quali informazioni debbano essere fornite in merito alle attività svolte con l’ausilio dell’intelligenza artificiale.

Definire standard di sicurezza informatica per gli strumenti di intelligenza artificiale. Poiché gli strumenti di intelligenza artificiale elaborano una mole così ingente di dati, rappresentano obiettivi di grande valore per i criminali informatici. Valutate accuratamente i controlli e le prassi di sicurezza di un fornitore prima di adottarlo, verificando in particolare se la piattaforma sia sicura fin dalla progettazione e quali vulnerabilità possa presentare.

Comunicare e informare. Condivida in modo esplicito le politiche relative all’intelligenza artificiale con tutti i dipendenti e i collaboratori esterni e integri l’argomento nei corsi periodici di sensibilizzazione alla sicurezza, affinché tutti rimangano aggiornati sulle minacce emergenti e sulle migliori pratiche. È degno di nota il fatto che, al giorno d’oggi, solo una minoranza di organizzazioni combini una formazione periodica di sensibilizzazione con un monitoraggio continuo, le due pratiche che offrono le maggiori probabilità di individuare un utilizzo non autorizzato dell’IA prima che provochi danni.

Monitor con comandi adattivi. Le regole statiche non riescono a stare al passo con il modo in cui i dipendenti e gli strumenti di intelligenza artificiale interagiscono in tempo reale. Applicate i controlli di accesso, monitorate le anomalie nel comportamento degli utenti e implementate controlli adattivi e misure di sicurezza dei dati in fase di esecuzione che garantiscano una visibilità unified sia sulle attività degli utenti che su quelle degli agenti, dagli endpoint e dai browser alle applicazioni SaaS, alla posta elettronica e agli strumenti di intelligenza artificiale.

La linea di fondo

Le organizzazioni dispongono di un potenziale straordinario per sfruttare l’IA generativa al fine di aumentare la produttività, ma tale potenziale non è privo di rischi, e il lasso di tempo che intercorre tra il riconoscimento delle minacce legate all’IA e la preparazione ad affrontarle costituisce una vera e propria vulnerabilità. Le organizzazioni devono valutare e affrontare in modo proattivo i rischi connessi all’intelligenza artificiale avanzata e ai flussi di lavoro basati su agenti. Grazie a una maggiore visibilità e all’adozione di adeguati controlli adattivi, un’organizzazione e il proprio personale possono adottare con fiducia queste nuove funzionalità, garantendo al contempo la sicurezza dei dati aziendali e dei clienti.