Contrôles d'accès aux agents IA : ce que les équipes informatiques doivent savoir

Les agents IA sont désormais capables de lire des fichiers, d'appeler des API, de transférer des données d'un système à l'autre et d'agir de manière largement autonome. C'est précisément ce qui les rend utiles, et c'est précisément ce qui les rend risqués. En l'absence d'un contrôle d'accès adéquat, un agent conçu pour faciliter une tâche spécifique peut finir par intervenir bien au-delà de ce qu'il devrait. Cela engendre des risques d'accès non autorisés et d'escalade des privilèges que les contrôles traditionnels des systèmes d'IA n'ont pas été conçus pour détecter.

Qu'est-ce que le contrôle d'accès par agent IA ?

Le contrôle d'accès des agents IA désigne l'ensemble des politiques et des mesures techniques qui régissent ce qu'un agent IA est autorisé à utiliser, à modifier ou à envoyer. Elle s'applique partout où un agent est susceptible d'intervenir : sources de données, applications, API, outils, fichiers, plateformes de collaboration et flux de travail associés.

Concrètement, c'est cette couche qui détermine si la demande d'un agent est acceptée ou refusée. Il aborde également la portée de cette autorisation, qu’il s’agisse d’empêcher un téléchargement effectué de bonne foi ou de détecter un compte piraté qui exfiltre discrètement des données ou de la propriété intellectuelle en arrière-plan.

En quoi l'accès par un agent diffère-t-il de l'accès par un être humain ?

Les utilisateurs humains agissent généralement de manière directe. Ils se connectent, naviguent dans une interface et prennent des décisions à la volée. Les agents travaillent différemment. Un agent autonome agit souvent pour le compte d'un utilisateur humain, d'une équipe, d'un flux de travail ou d'une identité machine, parfois sans qu'une personne ne vérifie chacune de ses étapes.

Cette différence soulève de réelles questions d'attribution : qui a autorisé cette action, quelles informations d'identification ou quelle identité l'agent a-t-il utilisées, et cette action correspondait-elle réellement à la tâche pour laquelle elle avait été approuvée ? C'est en répondant à ces questions que le contrôle d'accès par agent commence à se distinguer de la gestion traditionnelle de l'accès des utilisateurs.

Pourquoi les agents d'IA ont-ils besoin d'un contrôle d'accès ?

L'IA agentique présente des risques de sécurité que les applications traditionnelles ne présentent pas ; c'est pourquoi la sécurité des agents d'IA et le contrôle d'accès sont désormais devenus une priorité, et non plus une considération secondaire, pour les équipes chargées de la gestion des systèmes autonomes. Ces raisons se résument à quelques problèmes pratiques qui se posent dans presque tous les déploiements.

• Protège les données sensibles. En limitant l'accès d'un agent, on évite que des informations sensibles ne soient exposées inutilement, même lorsque la tâche de cet agent ne concerne qu'une petite partie d'un système.
• Empêche les actions non autorisées de la part des agents. Des limites clairement définies empêchent un agent d'entreprendre des actions allant au-delà de ce qui lui a été effectivement autorisé, coupant ainsi court à une voie d'accès non autorisée courante.
• Réduit le risque d'injection accidentelle. Un accès plus restreint réduit le risque que des données d'entrée manipulées puissent pousser un agent à adopter un comportement dangereux ou non souhaité. En limitant les possibilités d'action d'un agent, on limite l'ampleur des dégâts qu'une instruction manipulée peut réellement causer.
• Contribue au respect de la réglementation. Les politiques d'accès imposées aident les organisations à se conformer à des réglementations telles que le RGPD, la loi HIPAA et la norme SOC 2, ainsi qu'à des exigences plus générales en matière juridique, de gouvernance et d'audit. Des journaux d'accès clairs permettent également de rendre les audits plus rapides et moins fastidieux.
• Permet une automatisation sécurisée à grande échelle. Des contrôles rigoureux permettent aux organisations d'étendre l'utilisation des agents sans que les risques n'augmentent au même rythme. C'est cet équilibre qui garantit la pérennité à long terme d'une adoption plus large des agents.
• Gère les risques liés aux agents humains. Le contrôle d'accès empêche les agents de bénéficier des autorisations étendues accordées aux utilisateurs humains sans faire preuve du discernement dont une personne ferait normalement preuve. Cette distinction s'avère particulièrement utile lorsqu'un agent hérite d'un droit d'accès dont il n'a en réalité pas besoin.

Le contrôle d'accès permet aux organisations d'adapter en toute confiance le nombre d'agents utilisés, plutôt que de compter sur le fait que tout se passe bien.

Principes fondamentaux relatifs au contrôle d'accès des agents d'IA

Une poignée de principes reviennent sans cesse dans les programmes aboutis de sécurité des agents et de gouvernance de l'IA, et ceux-ci se complètent mutuellement plutôt que de fonctionner de manière isolée. En les comprenant séparément, il est plus facile de voir comment ils s'intègrent dans une stratégie globale de contrôle d'accès.

Identité et authentification de l'agent

Chaque agent doit disposer d'une identité vérifiable, distincte de celle des personnes et des services avec lesquels il interagit, authentifiée avec la même rigueur que celle appliquée aux identifiants des personnes, plutôt que d'être intégrée à une clé API partagée. Cette séparation permet aux équipes de sécurité de distinguer un agent d'un autre et de révoquer l'accès d'un single agent sans perturber l'ensemble des éléments qui y sont connectés.

Attribution entre l'humain et l'agent

Les actions d'un agent restent attribuables à une personne, à une équipe ou à un processus qui les sous-tend, même lorsque cet agent agit avec une certaine autonomie. L'attribution établit un lien entre l'action d'un agent et l'utilisateur qui l'a déployé, transformant ainsi une anomalie en un élément sur lequel l'équipe de sécurité peut réellement enquêter.

Modèles d'autorisation : RBAC et ABAC

Le contrôle d'accès basé sur les rôles attribue des autorisations en fonction de la fonction d'un agent, tandis que le contrôle d'accès basé sur les attributs évalue des critères tels que le contexte et le niveau de sensibilité des données avant d'accéder à une demande. Les agents bénéficient souvent des deux : les rôles définissent une base de référence et les attributs permettent de l'affiner en fonction de chaque demande spécifique.

Le principe du « privilège minimal » intégré dès la conception

Un agent ne doit disposer que des droits d'accès nécessaires à la tâche qu'il effectue actuellement, et non de ceux dont il pourrait avoir besoin pour des tâches qu'il pourrait être amené à effectuer ultérieurement. Cette mesure limite les dommages qu'un agent compromis ou défaillant peut causer, et elle doit être intégrée dès la conception plutôt que d'être ajoutée une fois que l'agent est déjà en service.

Accès et autorisations par périmètre

La délimitation du périmètre restreint l'accès d'un agent aux systèmes, fonctions et données spécifiques requis par une tâche, plutôt que de lui accorder l'accès à un environnement trop vaste où des droits d'accès excédentaires resteraient inutilisés. Un agent disposant d'un large accès comporte un risque important, qu'il fasse ou non usage de cet accès.

Privilèges limités dans le temps et liés à des tâches

L'accès accordé à un agent doit expirer une fois sa mission terminée. Le fait de lier les privilèges à la fois à une durée définie et à un objectif approuvé permet d'éviter que les droits d'accès permanents ne se transforment en autorisations orphelines que personne ne pense à révoquer.

Contrôle basé sur des règles

Des politiques cohérentes et gérées de manière centralisée déterminent la manière dont les agents accèdent aux données et aux outils au sein de l'organisation, plutôt que de laisser ces décisions à l'appréciation des équipes individuelles ou de recourir à des configurations ponctuelles. Cela permet aux équipes de sécurité de disposer d'un point central pour définir et appliquer les règles, et rend les autorisations des agents vérifiables par rapport à une norme connue.

Validation à l'exécution et mesures de sécurité

Les décisions relatives à l'accès prises lors du déploiement ne suffisent pas à elles seules, car les requêtes d'un agent peuvent évoluer une fois qu'il est opérationnel. La validation à l'exécution vérifie chaque requête au fur et à mesure qu'elle est effectuée et bloque les actions qui ne respectent pas la politique approuvée, détectant ainsi ce qu'un ensemble d'autorisations statique aurait laissé passer.

Traçabilité et suivi continu

Chaque action effectuée par un agent doit rester visible et pouvoir faire l'objet d'un contrôle longtemps après qu'elle ait eu lieu. La surveillance continue fournit aux équipes de sécurité des données d'historique auxquelles elles peuvent se référer lorsqu'elles enquêtent sur un incident ou qu'elles vérifient qu'un agent fonctionne toujours dans le cadre prévu.

Contexte comportemental

Les actions d'un agent prennent tout leur sens lorsqu'elles sont évaluées par rapport à un comportement de référence considéré comme normal. La comparaison d'une requête avec les schémas habituels pour un utilisateur, un workflow ou un ensemble de données donné permet de signaler les activités qui, bien qu'elles relèvent techniquement des autorisations d'un agent, semblent néanmoins inhabituelles.

Principaux défis liés à la sécurisation des agents d'IA

Même les organisations qui comprennent ces principes se heurtent à de réelles difficultés lorsqu'elles tentent de les mettre en pratique. Les défis ci-dessous ont tendance à se présenter, quelle que soit la taille de l'entreprise ou son secteur d'activité.

• Comportement dynamique et non déterministe. Un même agent peut se comporter différemment dans des situations similaires, ce qui rend les décisions d'accès plus difficiles à prévoir à l'avance. Cette imprévisibilité rend les contrôles d'accès statiques et ponctuels bien moins utiles.
• Agents disposant de droits d'accès excessifs. Les agents disposent souvent de droits d'accès plus étendus que ne l'exige réellement leur mission, et ces droits inutilisés constituent un risque d'escalade de privilèges qui ne demande qu'à être exploité. Cela passe souvent inaperçu jusqu'à ce qu'un audit ou un incident vous oblige à y regarder de plus près.
• Les interdépendances complexes au sein de la chaîne d'approvisionnement. Les outils connectés, les modèles et les API qui extraient des données de systèmes interconnectés peuvent accroître la vulnérabilité de la chaîne d'approvisionnement d'une manière que les équipes ne maîtrisent pas entièrement. Chaque intégration ajoutée constitue un nouveau point d'accès potentiel aux systèmes sensibles.
• Visibilité limitée sur les actions des agents. Il est souvent difficile de savoir précisément ce qu'un agent a consulté, modifié ou envoyé, surtout lorsque le nombre d'outils utilisés ne cesse d'augmenter. Cet angle mort complique l'enquête ou l'explication d'un incident a posteriori.
• Faire évoluer la gestion des accès. La gestion des autorisations devient plus complexe à mesure que l'utilisation des agents s'étend à un plus grand nombre de systèmes et de flux de travail. Ce qui fonctionne pour une poignée d'agents peut rapidement s'avérer inefficace à l'échelle de l'entreprise.
• Risque lié à la vitesse de la machine. Les agents peuvent accéder aux données, les déplacer ou les modifier plus rapidement que ne peut réagir manuellement une équipe de sécurité. Au moment où un être humain s'en rend compte, l'action est peut-être déjà terminée.
• Lacunes en matière d'attribution. Les équipes peuvent avoir des difficultés à attribuer a posteriori l'action d'un agent à l'utilisateur, au compte de service ou au workflow approprié, en particulier lorsque plusieurs comptes de service partagent des autorisations qui se chevauchent. En l'absence d'une identification claire, la réponse aux incidents s'en trouve ralentie, précisément au moment où la rapidité est primordiale.

Aucun de ces défis n'empêche de recourir à des agents. Cela signifie simplement que le contrôle d'accès doit être intégré dès le départ, et non ajouté par la suite.

Bonnes pratiques en matière de contrôle d'accès des agents IA

La mise en œuvre des principes ci-dessus dans un programme concret se traduit par un ensemble de mesures concrètes. Chacune d'entre elles comble une lacune spécifique qui a tendance à apparaître lorsque les agents passent de la phase de test à une utilisation réelle en production.

Affectez chaque agent à un titulaire d'accès

Chaque agent doit avoir un propriétaire désigné, chargé de gérer ses autorisations. Ce responsable identifie le flux de travail pris en charge par l'agent et approuve toute modification concernant son accès.

Distinguer l'identité de l'agent de l'identité humaine

Chaque agent devrait disposer d'une identité distincte plutôt que d'hériter d'un accès par l'intermédiaire d'un compte utilisateur. Il convient toutefois de continuer à indiquer l'utilisateur, l'équipe ou le processus à l'origine de l'agent.

Définir les droits d'accès par tâche

Les autorisations doivent correspondre au flux de travail approuvé de l'agent, et non aux droits d'accès plus larges de l'utilisateur ou de l'application à laquelle il est associé. En délimitant ainsi les droits d'accès, on évite qu'un agent ne se voie attribuer des privilèges dont il n'a pas besoin.

Utilisez un accès temporaire et révocable

Les opérations sensibles nécessitent des identifiants à durée de validité limitée, délivrés au moment opportun, plutôt que des autorisations permanentes. Un accès dont la validité expire automatiquement limite l'étendue des données exposées en cas de compromission d'un agent.

Appliquer les contrôles d'autorisation à l'exécution

Les autorisations accordées dès le départ ne devraient pas constituer le seul point de contrôle. La vérification des droits d'accès lorsqu'un agent tente d'effectuer une action sensible ou inhabituelle permet de détecter les modifications intervenues depuis l'octroi initial des droits.

Conserver les journaux des décisions d'accès

Chaque décision d'accès doit être consignée, en précisant le motif pour lequel l'accès a été accordé et le nom de la personne qui l'a approuvée. Les journaux doivent également indiquer si l'action qui en a résulté était conforme à la politique.

Suivre les relations entre les personnes, les agents et les données

La cartographie de ces relations permet de voir quels agents interagissent avec quelles sources de données, et quels utilisateurs et processus se trouvent derrière chaque agent. Cette visibilité permet de retracer le parcours d'une action tout au long de la chaîne qu'elle a traversée.

Mettez en place des contrôles qui s'adaptent au rythme des agents

Les agents peuvent agir plus rapidement que ne le permet un examen manuel. Les contrôles doivent fonctionner en temps réel grâce à des mécanismes de blocage automatisés et à des garde-fous réglementaires, et non par le biais de vérifications périodiques des droits d'accès.

5 étapes pour l'accès aux agents IA en production

Passer de la planification à la production n'est pas nécessairement compliqué, mais il est utile de suivre un ordre logique. Les étapes ci-dessous couvrent l'ensemble du processus, de la configuration initiale à la maintenance courante.

1. Attribuez à chaque agent une identité distincte. Créez une identité unique pour chaque agent afin de pouvoir suivre efficacement ses accès, ses activités et la propriété des données.
2. Définissez des autorisations selon le principe du « privilège minimal ». Limitez chaque agent aux systèmes, données et actions spécifiques requis par sa tâche approuvée, et rien de plus.
3. Mettez en place des contrôles d'accès basés sur des règles. Mettez en place des politiques de sécurité claires afin de définir ce à quoi les agents ont accès, à quel moment ils peuvent agir et dans quelles conditions.
4. Suivez l'activité des agents en temps réel. Suivez le comportement des agents, les demandes d'accès et les actions inhabituelles au fur et à mesure qu'elles se produisent en production, et non a posteriori.
5. Vérifiez et mettez à jour régulièrement les autorisations. Réévaluez les droits d'accès des agents à mesure que les processus, les outils, les sources de données et les besoins de l'entreprise évoluent au fil du temps.

Considérez ces étapes comme un cycle plutôt que comme une mise en œuvre ponctuelle. Les droits d'accès des agents ont tendance à évoluer à mesure que les outils et les processus changent ; c'est pourquoi l'étape de vérification est tout aussi importante que la configuration.

Comment Mimecast peut-il prendre en charge le contrôle d'accès des agents IA ?

La solution Mimecast Agentic AI Security aide les organisations à recenser, à gérer et à sécuriser les agents d'IA dans l'ensemble de leurs environnements d'entreprise. Cette solution offre aux équipes de sécurité une visibilité sur les agents eux-mêmes, les relations entre les agents et les utilisateurs qui les sous-tendent, les processus de gouvernance, les violations des politiques et l'évaluation des risques, le tout en un seul et même endroit plutôt que dispersé dans des outils disparates.

Cette visibilité est importante, car le contrôle d'accès des agents repose en fin de compte sur la compréhension des utilisateurs, des agents, des outils et des sources de données impliqués dans un flux de travail donné. Mimecast aide les équipes à identifier les activités à risque des agents avant qu'elles n'entraînent une fuite de données, des violations de politique ou des actions dangereuses, comblant ainsi le fossé entre l'élaboration d'une politique d'accès et la vérification effective de son respect.

Mise en place d'un contrôle d'accès plus sécurisé pour les agents d'IA

Les agents IA peuvent accéder aux données de l'entreprise, utiliser des outils et intervenir dans les flux de travail avec très peu de difficultés ; c'est précisément pour cette raison qu'il est indispensable de leur fixer des limites claires en matière d'autorisations dès le premier jour. Pour sécuriser l'IA agentique, il faut commencer par changer simplement de mentalité : considérer les agents d'IA comme n'importe quelle autre identité, afin que les équipes de sécurité disposent d'une méthode cohérente pour gérer les décisions d'accès, au lieu d'improviser à chaque fois qu'un nouvel agent apparaît.

Les organisations qui s'y prennent bien n'attendent pas qu'un résultat négatif les oblige à agir. Ils intègrent dès le départ la gouvernance des identités, l'application des politiques et la surveillance dans les programmes d'agents.

Si votre entreprise développe l'utilisation d'agents et a besoin d'une vision plus claire de ce que ces agents sont réellement capables de faire, la solution Mimecast Agentic AI Security a été conçue pour vous aider à identifier, gérer et sécuriser les agents IA avant que leur accès ne devienne un risque.