L'« IA fantôme » est présente au sein de votre organisation : identifiez-la, maîtrisez-la et réglementez-la en 30 jours

En moins de 18 mois, l'IA générative est passée du stade de simple curiosité à celui d'infrastructure essentielle au sein de la plupart des organisations. 80% des salariés utilisent désormais des outils d'IA non approuvés au travail. Plus de la moitié d'entre eux admettent avoir intégré des données d'entreprise sensibles, du code source, des dossiers clients ou des conditions contractuelles dans des modèles qui stockent les informations qu'ils traitent et apprennent à partir de celles-ci. Nos propres données internes révèlent des milliers de tentatives d'exfiltration chaque heure vers des outils d'IA générative non autorisés.

Il s'agit de l'évolution la plus importante, la plus rapide et la moins visible de la manière dont les données quittent une entreprise depuis le passage au cloud, et les équipes de sécurité n'ont pas eu le temps de s'y préparer.

Les infrastructures sur lesquelles s'appuient la plupart des entreprises ont été conçues pour un monde où les données étaient stockées dans des référentiels connus, circulaient par des canaux connus et étaient utilisées par des applications connues. Aucune de ces hypothèses ne s'applique à un onglet de navigateur ouvert sur ChatGPT. Vous trouverez ci-après une réflexion sur ce problème, articulée autour des trois questions que l'on pose désormais à tous les RSSI : Êtes-vous en mesure de savoir comment vos collaborateurs utilisent l'IA ? Pouvez-vous la contrôler sans la perturber ? Pouvez-vous le prouver à quelqu'un qui a besoin de preuves ?

Visibilité : on ne peut pas gérer ce que l'on ne voit pas

Pas moins de 69 % des organisations soupçonnent simplement l'utilisation de l'IA dans leur environnement, sans toutefois en avoir la confirmation. La raison est d'ordre structurel. La plupart des solutions de protection des données existantes analysent le contenu transitant par des canaux connus : messagerie électronique, applications cloud autorisées, trafic sortant via un proxy. L'IA générative accessible via un navigateur ne correspond pas à ce modèle. Un collage dans ChatGPT ne constitue pas un transfert de fichier. Il s'agit d'une combinaison de touches. Une requête adressée à un assistant IA spécialisé que votre équipe d'ingénieurs a installé la semaine dernière ne constitue pas une utilisation autorisée. Il s'agit d'un processus de bureau dont votre CASB n'a jamais entendu parler.

Pour bénéficier d'une visibilité sur l'« IA cachée », il est nécessaire de surveiller les canaux sur lesquels l'activité de l'IA se déroule réellement, à savoir les terminaux et les navigateurs, et d'en faire ressortir les résultats sans avoir à passer des mois à rédiger des règles ou à marquer du contenu. La visibilité sur les terminaux permet de détecter les applications d'IA pour ordinateur de bureau, telles que ChatGPT Desktop, Claude Desktop et Cursor, que les équipes d'ingénierie adoptent sans l'intervention du service informatique. Les extensions de navigateur enregistrent les saisies, les collages et les téléchargements qui s'effectuent entièrement au sein d'une session de navigateur. Le signal doit ensuite être classé par ordre de priorité de manière automatique en fonction de l'utilisateur, de la sensibilité du contenu et de la destination, car le volume de données au sein d'une organisation comptant 5 000 personnes est trop important pour qu'une équipe d'analystes puisse effectuer un tri manuel.

Le premier résultat concret que tout programme sérieux d'« IA fantôme » doit produire, ce sont les données qui transforment les hypothèses en preuves.

Contrôle : les mesures réglementaires ne suffisent pas à elles seules, et les contrôles trop rigides freinent l'innovation

La réaction instinctive de la plupart des entreprises de sécurité lorsqu'elles prennent conscience pour la première fois de leur exposition à l'« IA fantôme » consiste à élaborer une politique et à faire en sorte que leurs collaborateurs l'acceptent. Cette réaction est rationnelle, mais elle ne fonctionne pas. Environ la moitié des salariés déclarent qu'ils continueraient à utiliser leurs comptes d'IA personnels même si leur entreprise leur en interdisait l'accès. 

Les blocages matériels ne permettent pas d'éliminer ce comportement. Elles empêchent de suivre ce comportement, le transfèrent vers des appareils non gérés et nuisent à la confiance entre les équipes de sécurité et le reste du personnel.

La question n'est pas de savoir s'il faut faire respecter la loi. Il s'agit de mettre en œuvre ces mesures d'une manière proportionnée au risque lié à un événement spécifique. Une erreur commise par un analyste marketing, qui a collé pour la première fois le brouillon d'un communiqué de presse dans ChatGPT, constitue un enseignement à tirer, et non un sujet d'enquête. La bonne réponse consiste en une petite relance immédiate qui explique la règle et propose l'alternative autorisée. Le fait qu'un contrevenant récidiviste colle du code source dans ce même outil constitue un fait distinct et justifie une exclusion définitive.

C'est là que réside la différence entre les contrôles axés uniquement sur le contenu et les contrôles adaptatifs tenant compte des risques. Les contrôles « contenu uniquement » traitent tous les événements de la même manière, car ils ne prennent en compte que le fichier. Les contrôles axés sur les risques traitent les événements différemment, car ils prennent en compte à la fois l'utilisateur, la source des données et la destination. La fonctionnalité la plus importante d'un programme moderne d'IA « Shadow » réside dans sa capacité à mettre en place des contrôles proportionnés qui s'adaptent en fonction du risque.

Gouvernance : une politique écrite n'est pas une politique appliquée

Presque toutes les organisations disposent d'une politique d'utilisation acceptable de l'IA, rédigée en 2024, mise à jour en 2025 et publiée sur une page wiki que pratiquement aucun salarié n'a lue. C'est précisément cet écart entre la politique et sa mise en œuvre qui amène la plupart des RSSI à prendre part à la discussion. Le conseil d'administration pose la question suivante : « Quel est le risque ? » Le comité d'audit pose la question suivante : « Quels sont les contrôles mis en place ? » Dans un nombre croissant de pays, l'autorité de régulation vous demande : « Où sont les preuves attestant que votre politique est mise en œuvre ? » Aucune de ces questions ne peut trouver de réponse dans une page wiki. Ils ont besoin d'un système d'enregistrement.

Les éléments attestant de la bonne gouvernance comportent trois volets. Une piste d'audit des activités liées à l'IA par utilisateur, conservée pendant au moins 90 jours, car la plupart des enquêtes menées à la suite du départ d'un salarié portent sur une période remontant à cette date. Mesures coercitives documentées, blocages, quotas, sessions de formation, associés à des utilisateurs spécifiques et à des règles de politique spécifiques, car c'est ce que souhaite voir un organisme de régulation. Et une vue prête à être présentée au conseil d'administration qui transforme les données opérationnelles en un récit : comment l'IA est utilisée au sein de cette organisation, par qui, avec quelles données, et à quoi ressemble la trajectoire de réduction des risques d'un trimestre à l'autre.

Shadow AI : une visibilité dès le premier jour grâce à Incydr

La couche de visibilité constitue la base sur laquelle tout le reste repose. La présentation ci-dessous montre comment Incydr met en évidence l'activité de Shadow AI dès le premier jour de déploiement, sans qu'il soit nécessaire de définir des règles ni d'appliquer de balises.

Mettre en lumière l'IA « Shadow »

Visibilité sur les terminaux et les navigateurs avec Incydr, en 2 minutes.

Pourquoi la rapidité est-elle primordiale pour la protection des données aujourd'hui ?

Les projets de protection des données qui s'étendent sur le plus longtemps dans cette catégorie sont ceux qui tentent de tout faire en même temps. Classez toutes les données, rédigez toutes les politiques et intégrez tous les systèmes avant qu'aucun signal ne soit émis. Au moment où le programme sera opérationnel, le paysage de l'IA aura changé à deux reprises et les hypothèses initiales seront devenues obsolètes.

Une démonstration de valeur de 30 jours, ciblant une liste d'utilisateurs pour lesquels vous soupçonnez l'existence d'un risque, vous permettra d'obtenir une vision claire de la situation dès la première semaine. Déploiement des terminaux en moins de 2 heures. Les extensions de navigateur sont évaluées dès le deuxième jour. À la fin de la première semaine, la question de la visibilité est tranchée pour cette population. Dès la deuxième semaine, vous disposez d'un signal suffisant pour comprendre les tendances. Au 30e jour, vous disposez de données probantes, de contrôles et d'un cadre de gouvernance pour une partie bien définie de vos effectifs, ainsi que d'une feuille de route pour étendre cette approche. La menace liée à la divulgation de l'IA évolue à un rythme trop rapide. Le programme doit s'accélérer.

La prochaine étape : des agents d'IA agissant pour le compte des humains

Dans sa forme actuelle, Shadow AI consiste simplement en une personne qui saisit des données dans un outil. La couche suivante, déjà déployée dans la plupart des grandes entreprises, est autonome : des agents d'IA agissent au nom des employés, accèdent aux données, déclenchent des flux de travail et se connectent aux systèmes via des serveurs Model Context Protocol qui relient directement les modèles à GitHub, Slack et aux bases de données de production. Pas moins de 80 % des entreprises du classement Fortune 500 ont déployé des agents. Seuls 14 % d'entre eux ont obtenu l'agrément de sécurité complet.

La visibilité avant le contrôle. Le contrôle avant la gouvernance. Chaque transfert de données non autorisé est suivi, car l'IA évolue plus rapidement que le cycle de planification.

La définition du terme « initié » évolue en temps réel. Un initié n'est plus simplement un salarié. Il s'agit d'un salarié ainsi que de tous les agents agissant en son nom, avec ses identifiants, et en utilisant ses données. La base de protection des données qui permet aujourd'hui de détecter un copier-coller dans ChatGPT est la même qui devra demain permettre de détecter un agent autonome téléchargeant du code source. L'investissement réalisé aujourd'hui en matière de visibilité est celui qui régit les agents autonomes. À mesure que Mimecast étend sa plateforme pour couvrir les risques liés aux agents, la même base de signaux s'étend en parallèle.