Lo stato del rischio per l’umanità nel 2026: il furto del modello di intelligenza artificiale

Immaginate questa situazione: un ingegnere specializzato in apprendimento automatico presenta le proprie dimissioni con un preavviso di due settimane un venerdì pomeriggio. Entro lunedì mattina avranno scaricato un modello linguistico ottimizzato, addestrato sulla base di tre anni di ticket dell’assistenza clienti: milioni di interazioni sintetizzate in un single file portatile. Non si sente alcun allarme. Non si è verificata alcuna violazione dei database. A tutti i sistemi di monitoraggio in funzione, ciò appare semplicemente come un normale trasferimento di file.

Ma quel file contiene qualcosa di ben più prezioso dei semplici dati grezzi. Contiene modelli, previsioni e informazioni sulla concorrenza che la vostra organizzazione ha impiegato mesi e milioni a raccogliere. E ora sta uscendo dalla porta.

Perché i modelli di intelligenza artificiale sono i nuovi gioielli della corona

Le organizzazioni hanno compreso da tempo la necessità di proteggere i database, il codice sorgente e i segreti commerciali. I modelli di intelligenza artificiale addestrati rappresentano invece qualcosa di fondamentalmente diverso: un concentrato di intelligenza istituzionale. Un modello di rilevamento delle frodi non si limita a contenere i dati relativi alle transazioni, ma codifica i sottili modelli comportamentali che distinguono le attività legittime dagli schemi criminali. Un modello di comportamento dei clienti non si limita a memorizzare la cronologia degli acquisti, ma rileva la logica decisionale che determina il fatturato.

Questi modelli condensano mesi di tempo di calcolo, dati di addestramento proprietari e competenze settoriali in file che possono essere contenuti in una chiavetta USB. L’asimmetria è sbalorditiva: ciò che costa milioni da realizzare non costa nulla da copiare. E per un concorrente, l’introduzione sul mercato di un modello rubato può far saltare da un giorno all’altro anni di ricerca e sviluppo, erodendo il vantaggio di essere stati i primi ad entrare sul mercato che avete costruito.

Perché i sistemi di difesa tradizionali non riescono a individuare la minaccia

Ecco la scomoda verità: la maggior parte degli strumenti di prevenzione della perdita di dati è stata progettata per un mondo in cui il furto si presenta come tale. Segnalano esportazioni di massa da database, inoltri di e-mail in blocco e accessi non autorizzati a risorse condivise. Ma un file di modello di intelligenza artificiale? Si tratta di un single download, spesso da un repository a cui il dipendente è autorizzato ad accedere.

Questa lacuna nelle capacità di rilevamento si sta ampliando proprio nel momento meno opportuno. Ben l’80% delle organizzazioni esprime oggi preoccupazione per le fughe di dati sensibili attraverso strumenti di IA generativa, eppure poche hanno implementato controlli specificamente progettati per monitorare l’accesso ai modelli, l’esportazione o il movimento laterale. Il dibattito sulla sicurezza si è concentrato in larga misura sui dati che i dipendenti inseriscono negli strumenti di intelligenza artificiale, trascurando invece in gran parte ciò che i modelli addestrati possono far uscire dall’organizzazione.

La convergenza degli addetti ai lavori

La minaccia non proviene da un'unica direzione: si tratta piuttosto di una convergenza tra intenti malevoli e negligenza quotidiana. Da un lato, le attività dolose da parte di soggetti interni hanno registrato un’accelerazione del 26% negli ultimi due anni, passando dal 35% al 44% degli incidenti causati da soggetti interni. I dipendenti in uscita considerano sempre più spesso i modelli proprietari come una forma di garanzia per la propria carriera: una prova trasferibile delle proprie capacità o, peggio ancora, qualcosa che possiede un valore di rivendita diretto. I mercati del dark web hanno iniziato a mettere in vendita modelli addestrati specifici per determinati settori, oltre alle consuete credenziali rubate e ai dati finanziari.

D'altra parte, i dipendenti ben intenzionati creano rischi senza rendersene conto. Caricano modelli proprietari su un servizio di archiviazione cloud personale per sperimentarli durante il fine settimana. Inseriscono i dati di addestramento in ChatGPT o in altri strumenti di intelligenza artificiale generativa per testare un'idea. Due terzi delle organizzazioni esprimono preoccupazione per il fatto che i propri dipendenti abbiano difficoltà a gestire i dati in modo sicuro — e questo già prima che i modelli di intelligenza artificiale aggiungessero una dimensione di complessità del tutto nuova.

Il risultato è un panorama delle minacce in cui il confine tra disattenzione e furto è estremamente sottile, e i danni causati da entrambi sono altrettanto gravi.

Sviluppo di un programma di protezione dei modelli di intelligenza artificiale

Per affrontare questa sfida è necessario estendere la gestione dei rischi interni oltre la tradizionale protezione dei dati, in modo da includere la governance dei modelli di intelligenza artificiale. Il primo passo è la visibilità. Le organizzazioni devono monitorare il trasferimento dei file tra endpoint, browser e ambienti cloud, compresi i repository dei modelli e gli ambienti di addestramento in cui risiedono tali risorse. Se non è possibile vedere che un modello viene copiato su un'unità esterna o caricato in una destinazione sconosciuta, non è possibile impedirlo.

La visibilità di per sé non è sufficiente senza un contesto. Sapere che qualcuno ha scaricato un file di modello è molto meno importante che sapere chi lo ha scaricato, quando lo ha fatto, dove è finito e se altri indicatori di rischio — come un recente dimissioni, una violazione delle politiche aziendali o un modello di accesso insolito — suggeriscano qualcosa che va oltre il normale svolgimento delle mansioni. Questo tipo di valutazione contestuale del rischio trasforma gli avvisi grezzi in informazioni utili ai fini operativi.

A questo punto, le organizzazioni possono integrare controlli automatizzati: bloccare i caricamenti verso destinazioni non attendibili, richiedere una giustificazione per l’esportazione dei modelli e segnalare le attività durante i periodi ad alto rischio, quali le dimissioni dei dipendenti o le fusioni. La chiave sta nel trovare un equilibrio tra la sicurezza e la produttività dei ricercatori, che è proprio ciò che rende possibile lo sviluppo dell’intelligenza artificiale.

Infine, la formazione in tempo reale colma il divario causato dalla negligenza. Anziché affidarsi a sessioni di formazione annuali che i dipendenti dimenticano nel giro di poche settimane, i "promemoria" just-in-time — attivati quando qualcuno tenta di compiere un’azione rischiosa — determinano un cambiamento comportamentale proprio nel momento in cui è più importante.

Proteggere il cervello aziendale

I modelli di intelligenza artificiale stanno rapidamente diventando una delle risorse di maggior valore strategico di cui dispone un’organizzazione. Meritano una protezione all’altezza del loro valore. Ciò significa integrare la governance dei modelli in programmi più ampi di gestione dei rischi legati agli insider, mettere in correlazione l’accesso ai modelli con gli indicatori di rischio legati al fattore umano e mettere a punto misure di difesa in grado di distinguere la ricerca di routine dall’esfiltrazione silenziosa.

Il margine di tempo a disposizione per agire si sta riducendo. Con l’intensificarsi delle attività dolose da parte di soggetti interni e la crescente importanza dei modelli di intelligenza artificiale come fattore di vantaggio competitivo, le organizzazioni che considerano la sicurezza dei modelli un aspetto secondario scopriranno a proprie spese quanta intelligenza possa andare persa con un single file.

Scoprite come Mimecast Incydr garantisca visibilità sui movimenti dei modelli di intelligenza artificiale e sui modelli di utilizzo, proteggendo la proprietà intellettuale più preziosa della vostra organizzazione. Prenotate una demo.