Shadow AI: la minaccia nascosta che sta minando silenziosamente la vostra attività

Si chiama “shadow AI” ed è rapidamente diventata una delle sfide più urgenti in materia di sicurezza informatica e governance che le organizzazioni moderne devono affrontare. Con l’esplosione della popolarità degli strumenti di intelligenza artificiale generativa, i dipendenti di ogni reparto, dall’ingegneria al marketing fino alla finanza, li hanno adottati per redigere e-mail, analizzare dati, generare codice e automatizzare le attività di routine. Qual è il problema? Gran parte di questa diffusione avviene al di fuori della visibilità e del controllo dei team IT e di sicurezza.

Che cos’è l’intelligenza artificiale “ombra”?

Per “Shadow AI” si intende l’utilizzo di strumenti, piattaforme e modelli di intelligenza artificiale da parte dei dipendenti all’insaputa, senza l’approvazione o al di fuori del controllo del reparto IT della propria organizzazione. Consideratela come l’evoluzione, nell’era dell’intelligenza artificiale, dello “shadow IT”, ovvero il problema di lunga data legato all’utilizzo da parte dei dipendenti di software non autorizzati. Tuttavia, l’intelligenza artificiale “ombra” comporta un rischio di gran lunga maggiore a causa della natura stessa di ciò che questi strumenti utilizzano: i dati.

Ogni volta che un dipendente incolla un elenco di clienti in un chatbot gratuito, carica un rendiconto finanziario su uno strumento di sintesi basato sull’intelligenza artificiale o inserisce codice proprietario in un assistente di programmazione non approvato, sta potenzialmente esponendo informazioni sensibili a sistemi di terze parti con politiche di conservazione dei dati e di sicurezza sconosciute. La portata di questo fenomeno è sbalorditiva. Le ricerche indicano che la stragrande maggioranza delle organizzazioni conta ormai dipendenti che utilizzano applicazioni di IA non autorizzate e che quasi la metà degli utenti di IA generativa accede a tali strumenti tramite account personali che i datori di lavoro non sono in grado di monitorare.

In che modo l’intelligenza artificiale “ombra” influisce sulle organizzazioni

I rischi legati all’intelligenza artificiale “ombra” vanno ben oltre una sporadica fuga di dati. Essi riguardano ogni aspetto delle attività operative di un’organizzazione:

Sicurezza dei dati e fuga di informazioni. Gli strumenti di intelligenza artificiale non approvati spesso non dispongono di controlli di sicurezza di livello aziendale. Quando i dipendenti inseriscono dati riservati, quali le schede dei clienti, i segreti commerciali o i piani strategici, in tali piattaforme, tali informazioni potrebbero essere archiviate, utilizzate per l’addestramento dei modelli o addirittura divulgate a seguito di violazioni della sicurezza. Le conseguenze finanziarie sono gravi: le violazioni “nascoste” legate all’intelligenza artificiale fanno lievitare i costi medi degli incidenti di centinaia di migliaia di dollari.