L'état des risques pour l'humanité en 2026 : le vol du modèle d'IA

Imaginez la scène : un ingénieur en apprentissage automatique remet sa lettre de démission, en préavis de deux semaines, un vendredi après-midi. Dès lundi matin, ils auront téléchargé un modèle linguistique perfectionné, entraîné à partir de trois années de tickets de service client : des millions d'échanges condensés en un single fichier portable. Aucune alarme ne retentit. Aucune base de données n'a été piratée. Pour tous les systèmes de surveillance en place, cela ressemble à un simple transfert de fichiers.

Mais ce fichier contient quelque chose de bien plus précieux que de simples données brutes. Elle contient des tendances, des prévisions et des informations sur la concurrence que votre organisation a mis des mois et des millions à rassembler. Et voilà qu'il s'en va.

Pourquoi les modèles d'IA sont-ils les nouveaux joyaux de la couronne ?

Les entreprises ont compris depuis longtemps la nécessité de protéger leurs bases de données, leur code source et leurs secrets d'affaires. Mais les modèles d'IA entraînés représentent quelque chose de fondamentalement différent : une intelligence institutionnelle condensée. Un modèle de détection des fraudes ne se limite pas à contenir des enregistrements de transactions : il intègre les schémas comportementaux subtils qui permettent de distinguer les activités légitimes des manœuvres criminelles. Un modèle de comportement client ne se contente pas de stocker l'historique des achats : il rend compte de la logique décisionnelle qui génère le chiffre d'affaires.

Ces modèles condensent des mois de temps de calcul, des données d'entraînement propriétaires et une expertise métier dans des fichiers qui tiennent sur une clé USB. L'asymétrie est stupéfiante : ce qui coûte des millions à créer ne coûte rien à copier. Et pour un concurrent, le déploiement d'un modèle volé peut lui permettre de gagner du temps sur des années de recherche et développement en un clin d'œil, sapant ainsi l'avantage de précurseur que vous vous êtes forgé.

Pourquoi les systèmes de défense traditionnels ne détectent pas la menace

Voici la vérité dérangeante : la plupart des outils de prévention des pertes de données ont été conçus pour un monde où le vol ressemble à du vol. Ils signalent les exportations massives de bases de données, les transferts groupés d'e-mails et les accès non autorisés aux partages de fichiers. Mais un fichier de modèle d'IA ? Il s'agit d'un téléchargement single, souvent à partir d'un référentiel auquel l'employé est autorisé à accéder.

Ce déficit de détection ne cesse de s'aggraver au pire moment qui soit. Pas moins de 80 % des organisations se disent aujourd'hui préoccupées par les fuites de données sensibles via les outils d'IA générative, mais rares sont celles qui ont mis en place des contrôles spécifiquement conçus pour suivre l'accès aux modèles, leur exportation ou leur propagation latérale. Le débat sur la sécurité s'est largement concentré sur les données que les employés introduisent dans les outils d'IA, tout en négligeant en grande partie ce que les modèles entraînés peuvent faire sortir de l'entreprise.

La convergence des initiés

La menace ne vient pas d’une seule source : il s’agit d’une convergence entre des intentions malveillantes et la négligence quotidienne. D'une part, les activités malveillantes menées par des initiés ont augmenté de 26 % au cours des deux dernières années, passant de 35 % à 44 % des incidents impliquant des initiés. Les salariés qui quittent leur entreprise considèrent de plus en plus les modèles propriétaires comme une assurance pour leur carrière : une preuve transférable de leurs compétences, voire, pire encore, un élément ayant une valeur de revente directe. Les places de marché du dark web ont commencé à proposer, outre les identifiants piratés et les données financières habituels, des modèles entraînés spécifiques à certains secteurs d'activité.

D'un autre côté, des employés bien intentionnés font courir des risques sans s'en rendre compte. Ils téléchargent leurs modèles propriétaires sur un espace de stockage cloud personnel afin de mener des expériences pendant le week-end. Ils saisissent des données d'entraînement dans ChatGPT ou d'autres outils d'IA générative afin de tester une idée. Les deux tiers des entreprises se disent préoccupées par le fait que leurs collaborateurs ont du mal à gérer les données en toute sécurité — et cela avant même que les modèles d'IA n'ajoutent une toute nouvelle dimension de complexité.

Il en résulte un paysage des menaces où la frontière entre la négligence et le vol est extrêmement ténue, et où les conséquences de l'un comme de l'autre sont tout aussi graves.

Mise en place d'un programme de protection des modèles d'IA

Pour relever ce défi, il est nécessaire d'étendre la gestion des risques internes au-delà de la protection traditionnelle des données afin d'y inclure la gouvernance des modèles d'IA. Tout commence par la visibilité. Les organisations doivent surveiller les mouvements de fichiers entre les terminaux, les navigateurs et les environnements cloud, y compris les référentiels de modèles et les environnements d'entraînement où ces ressources sont hébergées. Si vous ne voyez pas qu'un modèle est en train d'être copié sur un disque externe ou transféré vers une destination que vous ne connaissez pas, vous ne pouvez pas l'empêcher.

La visibilité à elle seule ne suffit pas sans contexte. Le fait de savoir qu’une personne a téléchargé un fichier de modèle importe bien moins que de savoir qui l’a téléchargé, quand cela s’est produit, où ce fichier a été transféré, et si d’autres indicateurs de risque — une démission récente, une violation des règles, un comportement d’accès inhabituel — laissent supposer qu’il s’agit de quelque chose qui dépasse le cadre du travail courant. Ce type d'évaluation contextuelle des risques transforme les alertes brutes en informations exploitables.

À partir de là, les organisations peuvent mettre en place des contrôles automatisés : bloquer les transferts vers des destinations non fiables, exiger une justification pour les exportations de modèles et signaler toute activité suspecte pendant les périodes à haut risque, telles que les départs d'employés ou les fusions. L'essentiel est de trouver un juste équilibre entre la sécurité et la productivité des chercheurs, qui est justement ce qui rend possible le développement de l'IA.

Enfin, l'enseignement en temps réel comble le fossé lié à la négligence. Plutôt que de se contenter de sessions de formation annuelles dont les employés oublient le contenu en quelques semaines, des rappels « juste à temps » — déclenchés lorsqu’une personne tente d’effectuer une action à risque — permettent d’induire un changement de comportement au moment où cela compte le plus.

Protéger le « cerveau » de l'entreprise

Les modèles d'IA sont en passe de devenir l'un des actifs les plus précieux sur le plan stratégique dont dispose une organisation. Ils méritent une protection à la hauteur de leur valeur. Cela implique d'intégrer la gouvernance des modèles dans des programmes plus larges de gestion des risques liés aux initiés, d'établir une corrélation entre l'accès aux modèles et les indicateurs de risque liés au facteur humain, et de mettre en place des mécanismes de protection capables de distinguer les activités de recherche courantes d'une exfiltration discrète.

La marge de manœuvre pour agir se réduit. Alors que les activités malveillantes menées par des initiés s'intensifient et que les modèles d'IA jouent un rôle de plus en plus central dans l'avantage concurrentiel, les organisations qui ne se soucient de la sécurité de leurs modèles qu'au dernier moment apprendront à leurs dépens à quel point une grande quantité d'informations confidentielles peut s'échapper en un single fichier.

Découvrez comment Mimecast Incydr offre une visibilité sur les mouvements et les modes d'utilisation des modèles d'IA, protégeant ainsi la propriété intellectuelle la plus précieuse de votre entreprise. Prenez rendez-vous pour une démonstration.