Qu'est-ce qu'un agent IA d'entreprise ? Avantages, cas d'utilisation et risques liés à la sécurité

Les agents d'IA d'entreprise font évoluer l'IA, qui passe de « répondre à cette question » à « accomplir cette tâche ». Cette évolution génère une réelle valeur ajoutée pour l'entreprise, mais elle modifie également le modèle de sécurité. Lorsqu'un système d'IA peut accéder aux données de l'entreprise, utiliser des outils, déclencher des flux de travail et intervenir sur l'ensemble des systèmes de l'entreprise, les équipes ont besoin de bien plus que de simples consignes. Il leur faut définir clairement les responsabilités, mettre en place un contrôle d'accès, assurer un suivi et instaurer une gouvernance concernant les actions que chaque agent est autorisé à effectuer.

Qu'est-ce qu'un agent IA d'entreprise ?

Un agent IA d'entreprise est un système logiciel basé sur l'IA capable de poursuivre un objectif commercial et d'accomplir des tâches avec un certain degré d'autonomie. Contrairement à un outil qui se contente de générer une réponse, un agent est capable de déterminer les informations dont il a besoin, de s'appuyer sur le contexte approprié, d'utiliser les outils approuvés et d'agir dans le cadre d'un flux de travail.

C'est ce qui distingue un agent IA d'un simple chatbot ou d'un assistant IA. Un chatbot répond généralement à une requête et attend la prochaine instruction. En revanche, un agent IA d'entreprise est capable de gérer des processus en plusieurs étapes dans différents environnements, tels que Microsoft 365, Google Workspace et les plateformes CRM. Il peut également fonctionner avec divers outils de gestion des tickets, bases de données, applications cloud et bases de connaissances internes.

Comme il évolue au sein de l'environnement professionnel, un agent d'IA d'entreprise interagit avec les données, les autorisations, les politiques et les flux de travail de l'entreprise. Cela en fait un outil puissant en termes de productivité, mais cela engendre également un profil de risque différent de celui lié à l'utilisation générale de l'IA générative.

Comment fonctionnent les agents IA d'entreprise ?

Les agents d'IA d'entreprise fonctionnent en décomposant un objectif en une série d'étapes liées entre elles. Ils recueillent des informations contextuelles à partir de systèmes approuvés, déterminent la marche à suivre, utilisent des outils pour mener à bien leur travail, puis vérifient le résultat et procèdent à des ajustements si nécessaire. Cela les rend utiles pour le service client, l'assistance informatique, le reporting et d'autres processus métier, mais cela signifie également qu'il faut leur fixer des limites claires, car ils peuvent avoir accès à des données, des systèmes et des décisions qui ont une incidence sur l'activité de l'entreprise.

• Définir un objectif : le travail commence par une demande de l'utilisateur ou un objectif métier, tel que la synthèse d'un document ou la préparation d'un récapitulatif des renouvellements de contrats clients.
• Recueillir le contexte : l'agent extrait des informations à partir de sources approuvées, notamment des documents, des fils de discussion par e-mail, des fiches CRM, des systèmes de gestion des tickets, des wikis internes, des bases de données ou des interactions antérieures.
• Planifier les étapes : l'agent décompose l'objectif en actions plus simples, telles que la collecte de données, la comparaison d'enregistrements, la rédaction d'un document, la demande d'approbation ou la mise à jour d'un système.
• Utilisez les outils approuvés : l'accès aux outils permet à l'agent de se connecter aux applications d'entreprise, aux API, aux bases de données ou aux systèmes nécessaires à la réalisation de la tâche.
• Exécuter des actions : une fois le plan établi, l'agent peut mettre à jour des fiches, acheminer des tickets, préparer des rapports, déclencher des workflows ou envoyer des brouillons pour révision.
• Vérifiez le résultat : l'agent examine les réponses du système, l'avancement des tâches, les erreurs ou la qualité des résultats afin de déterminer si l'action a fonctionné.
• Adaptez le flux de travail : lorsqu'un changement survient, l'agent peut réessayer une étape, changer d'outil, demander des précisions ou transmettre la tâche à un réviseur humain.

C'est ce processus étape par étape qui rend les agents IA d'entreprise plus utiles que de simples assistants IA. C'est également la raison pour laquelle les organisations ont besoin d'une gouvernance solide, d'un contrôle d'accès et d'une surveillance pour chaque déploiement d'agent.

Quels sont les principaux types d'agents d'IA d'entreprise ?

Les agents IA d'entreprise peuvent être classés par niveau d'autonomie. Plus un agent dispose d'autonomie, plus il nécessite généralement d'autorisations, de suivi et de contrôle. Un assistant à faible risque chargé de synthétiser des contenus publics nécessite des contrôles différents de ceux d'un agent autonome capable de mettre à jour des registres financiers ou d'envoyer des messages vers l'extérieur.

Agents réactifs

Un nouveau ticket, un nouveau message ou une alerte relative à une politique peut déclencher ce type d'agent. Il classe les contenus, achemine les requêtes, signale les problèmes ou recommande une action à entreprendre en fonction de règles définies ou de modèles identifiés.

Agents basés sur les tâches

Pour les tâches répétitives, les agents basés sur les tâches exécutent un processus défini du début à la fin. Parmi les exemples courants, on peut citer la création d'un rapport, la synthèse d'un contrat, la mise à jour d'un dossier ou la préparation d'une réponse destinée à être examinée par un être humain.

Agents chargés de la planification

Les objectifs ambitieux nécessitent souvent une série d'étapes plus modestes. Les agents chargés de la planification décident quelles informations extraire, quels outils utiliser et dans quel ordre les actions doivent être effectuées pour mener à bien le flux de travail.

Agents collaboratifs

Dans les flux de travail en plusieurs étapes, les agents collaboratifs travaillent avec d'autres agents, des systèmes ou des personnes. Ils peuvent se répartir les tâches, partager le contexte, valider les résultats ou transmettre le travail à un autre système ou à un autre réviseur.

Agents autonomes

Au niveau d'autonomie le plus élevé, les agents peuvent poursuivre des objectifs plus larges avec une intervention humaine limitée. Ils sont capables de planifier, d'utiliser des outils, de mener à bien des actions, de s'adapter à de nouvelles informations et de poursuivre leur travail tout au long de plusieurs étapes.

Cas d'utilisation des agents IA en entreprise

Les agents d'IA d'entreprise s'avèrent utiles lorsque le travail repose sur des étapes répétitives, des informations dispersées et des transferts de tâches entre des personnes ou des systèmes. Ils peuvent recueillir des informations contextuelles, préparer des livrables et effectuer des tâches courantes, ce qui permet aux équipes de consacrer moins de temps aux tâches répétitives.

Service client

Dans le cadre du service client, les agents peuvent résumer les problèmes des clients, consulter l'historique des comptes, proposer des réponses, évaluer le degré d'urgence et effectuer des interventions de routine. Cela peut améliorer l'expérience client en permettant aux équipes d'assistance d'accéder plus rapidement aux informations contextuelles pertinentes lors de chaque interaction avec le client.

Gestion des services informatiques

Pour les équipes informatiques, les agents d'IA d'entreprise peuvent effectuer un triage des tickets, identifier les causes probables, recommander des solutions ou déclencher des workflows de résolution approuvés. Cela permet d'accélérer les délais de réponse sans qu'il soit nécessaire de commencer par un examen manuel pour chaque problème.

Services d'assistance aux salariés

Les agents peuvent répondre aux questions internes, acheminer les demandes, consulter les informations relatives aux politiques et accompagner les collaborateurs dans les démarches courantes. Ce système convient particulièrement aux équipes des ressources humaines, de l'informatique, de la finance et des opérations qui traitent des demandes internes récurrentes.

Génération de rapports

Un agent peut collecter des données provenant de plusieurs systèmes, synthétiser les résultats, rédiger des rapports et mettre en forme les documents en vue de leur examen. Cela permet aux équipes de transformer des informations éparses en informations exploitables sans avoir à partir de zéro.

Approvisionnement

Les équipes chargées des achats peuvent utiliser des agents pour comparer les fournisseurs, examiner les demandes d'achat, vérifier les détails des contrats et faciliter les processus de validation. L'agent peut préparer le travail, tandis que les humains continuent de valider les décisions ayant un impact important.

Processus administratifs

Les agents administratifs peuvent organiser des réunions, mettre à jour des dossiers, rédiger des synthèses, coordonner des tâches et gérer la documentation courante. Ces cas d'utilisation sont souvent de faible envergure pris isolément, mais ils peuvent permettre un gain de temps considérable à l'échelle de l'entreprise.

Quels sont les avantages des agents IA d'entreprise ?

Les agents d'IA d'entreprise peuvent améliorer la productivité en réduisant le travail manuel et en accélérant le traitement des tâches routinières grâce à des flux de travail. Au lieu de demander aux employés de collecter les mêmes informations, de copier des données d'un système à l'autre ou de préparer des documents répétitifs, les agents peuvent prendre en charge bon nombre de ces étapes en arrière-plan.

C'est la cohérence et l'ampleur qui apportent la plus grande valeur. Les agents d'IA d'entreprise peuvent aider les équipes à traiter davantage de demandes, à synthétiser davantage d'informations et à prendre en charge davantage de flux de travail sans pour autant augmenter les effectifs dans les mêmes proportions. Elles peuvent également faciliter l'accès aux connaissances en mettant en évidence le contexte pertinent issu de documents, de systèmes et d'interactions antérieures.

Il n'en reste pas moins que les agents devraient faciliter la prise de décision plutôt que de se soustraire à leur responsabilité face à des décisions ayant un impact important. Dans les secteurs réglementés ou les fonctions métier sensibles, la bonne approche ne consiste pas à « laisser l'agent décider de tout ». Il s'agit de « laisser l'agent préparer, orienter, recommander et mener à bien les étapes approuvées, tandis que les personnes restent responsables des résultats importants ».

Quels risques de sécurité les agents d'IA d'entreprise entraînent-ils ?

Les agents d'IA d'entreprise présentent un risque, car ils associent des capacités d'IA à des droits d'accès, des outils, des données et la capacité d'agir. Une application d'IA basique permettant de rédiger des textes a une portée limitée. Un agent d'IA d'entreprise capable de récupérer des enregistrements, d'appeler des API, de traiter des e-mails ou de déclencher des workflows nécessite des contrôles plus stricts.

• Autorisations excessives : un agent ne doit avoir accès qu'aux systèmes, données et outils nécessaires à l'exécution de la tâche qui lui a été confiée. Un agent du service d'assistance n'a pas besoin d'accéder aux données relatives à la paie, aux dossiers juridiques, aux systèmes financiers ni aux e-mails de la direction.
• Exposition de données sensibles : les agents peuvent extraire, synthétiser, stocker ou partager des données confidentielles, des dossiers clients, des informations sur les salariés, des données financières et des informations soumises à une réglementation. Les équipes doivent savoir où ces données sont transférées et qui peut y accéder.
• Manque de clarté quant à la responsabilité : chaque agent doit avoir un responsable clairement désigné, chargé de l'approbation, du suivi, des mises à jour, des autorisations, des performances et de la mise hors service. En l'absence de responsabilisation, les comportements à risque peuvent rester sans suite.
• Contrôle d'accès insuffisant : une authentification défaillante, une autorisation trop laxiste ou l'absence de règles relatives au principe du « privilège minimal » peuvent permettre aux agents d'accéder à des systèmes ou à des données auxquels ils ne devraient pas avoir accès. Les contrôles doivent s'appliquer à l'agent, à l'utilisateur humain et aux outils concernés.
• Utilisation abusive des identités machine : les agents d'IA s'appuient souvent sur des comptes de service, des clés API, des jetons et d'autres identités machine. Si ces identifiants sont dotés de privilèges excessifs ou font l'objet d'une surveillance insuffisante, les pirates peuvent en abuser sur l'ensemble des systèmes de l'entreprise.
• Injection de commandes : des instructions malveillantes peuvent manipuler le comportement d’un agent lorsqu’il traite des e-mails, des documents, des pages Web, des tickets ou tout autre contenu non fiable. La situation devient plus grave lorsque l'agent est en mesure de donner suite à ces instructions.
• Agents IA « fantômes »: les employés peuvent créer ou connecter des agents non approuvés en dehors du cadre de gouvernance officiel. Ces agents IA « fantômes » peuvent accéder à des données, utiliser des outils et effectuer des actions sans faire l'objet d'une visibilité, d'un contrôle ou d'une supervision adéquats.

Ces risques ne signifient pas pour autant qu'il faille éviter les agents d'IA d'entreprise. Cela signifie que les organisations doivent considérer le déploiement d'agents comme n'importe quelle autre technologie d'entreprise à fort impact : avec une responsabilité clairement définie, un accès restreint, une surveillance des activités et des contrôles adaptés aux capacités réelles de l'agent.

Comment les organisations peuvent-elles régir les agents d'IA d'entreprise ?

Une bonne gouvernance commence par l'appropriation. Les organisations doivent savoir quels agents sont approuvés, à qui ils appartiennent, quels cas d'utilisation ils prennent en charge, à quelles données ils ont accès, quels outils ils peuvent utiliser et quand ils doivent être retirés du service.

Un modèle pratique de gouvernance de l'IA devrait également définir qui approuve les agents, qui surveille leur utilisation, qui examine les résultats et qui intervient en cas de défaillance. Sans cette clarté, l'adoption de l'IA en entreprise devient difficile à gérer, à mesure que de plus en plus d'équipes déploient des agents IA dans le cadre de leur travail quotidien.

Définir des règles de cycle de vie

Chaque agent doit faire l'objet d'une documentation précisant son objectif, les droits d'accès aux données, les droits d'accès aux outils, le responsable du déploiement, le statut d'approbation et les critères de mise hors service. Le déploiement des agents ne doit pas être une opération ponctuelle. Les autorisations, les habitudes d'utilisation, les résultats et les besoins de l'entreprise doivent faire l'objet d'un examen régulier.

Analyse de la correspondance avec le risque

Un agent à faible risque qui synthétise des documents publics n'a pas besoin de suivre le même processus qu'un agent capable d'accéder à des données sensibles ou de déclencher des flux de travail. Les agents présentant un risque plus élevé devraient faire l'objet d'un examen plus rigoureux, de pistes d'audit plus claires et d'une validation humaine pour les actions importantes.

Comment les organisations peuvent-elles sécuriser leurs agents d'IA d'entreprise ?

Les contrôles de sécurité doivent couvrir l'ensemble du flux de travail de l'agent, et pas seulement le modèle d'IA. L'objectif est de contrôler ce que l'agent peut voir, ce qu'il peut faire, qui a autorisé l'action et comment les équipes peuvent détecter les comportements inhabituels.

• Appliquez le principe du « droit d'accès minimal » : limitez l'accès de chaque agent aux systèmes, données et outils nécessaires à l'exécution de la tâche qui lui a été confiée. Un accès généralisé peut sembler utile à première vue, mais il entraîne une exposition qui pourrait être évitée.
• Vérification de l'identité : Vérifiez qu'il s'agit bien d'un utilisateur humain, d'une identité machine, d'un compte de service ou d'identifiants API à l'origine de chaque action de l'agent. L'identité établit un lien entre l'activité d'un agent et sa responsabilité.
• Limiter l'utilisation des outils : Définissez les outils qu'un agent est autorisé à utiliser, les actions qu'il peut effectuer et les cas dans lesquels une validation humaine est requise. Cela réduit le risque qu'un agent agisse en dehors du flux de travail prévu.
• Valider les données d'entrée : Vérifiez les invites, les fichiers, les e-mails, le contenu Web et toute autre donnée d'entrée avant qu'ils n'influencent le raisonnement ou l'exécution des agents, en particulier lorsque ceux-ci traitent du contenu non fiable.
• Contrôle de la mémoire des agents : surveillez ce que les agents peuvent stocker, récupérer et réutiliser. Les informations sensibles ou les contextes corrompus ne devraient pas passer inaperçus dans les flux de travail ultérieurs.
• Détection des injections de commandes : analysez les e-mails, les documents, les pages Web et les contenus collaboratifs afin de repérer les instructions malveillantes destinées à influencer le comportement des agents.
• Suivi des flux de travail : suivez les actions des agents, les appels aux outils, les accès aux données, les résultats, les escalades et les exceptions. La surveillance permet aux équipes de détecter tout comportement inhabituel avant qu'il ne devienne un problème plus grave.

Ces mesures sont plus efficaces lorsqu'elles sont mises en œuvre conjointement. Un agent d'IA d'entreprise est plus sûr lorsque son identité, ses autorisations, ses outils, ses données d'entrée, sa mémoire et ses actions sont tous visibles et régis dès le départ.

Comment Mimecast peut-il contribuer à sécuriser les agents d'IA d'entreprise ?

La solution Mimecast Agentic AI Security aide les organisations à gérer les risques liés à l'IA agentique dans l'ensemble de leurs environnements d'entreprise en offrant aux équipes une meilleure visibilité sur l'activité des agents, l'identité humaine, les risques comportementaux et la gouvernance relative aux actions des agents. 

C'est important, car la sécurité des agents d'IA d'entreprise ne se limite pas au modèle. Il s'agit également de savoir qui a autorisé l'agent, à quelles données il a accédé, quels outils il a utilisés, et si la personne qui se cache derrière présente des signaux de risque.

Mimecast prône une approche multicouche pour sécuriser les agents d'IA dans les domaines de la communication, de la collaboration, des données et des flux de travail. Étant donné que les agents peuvent traiter des e-mails, des fichiers, des liens, des documents et des messages de collaboration, la sécurité des communications fait désormais partie intégrante de la sécurité des agents. Mimecast aide les organisations à associer les flux de travail automatisés à la gestion des risques liés à l'intervention humaine, afin que les équipes puissent protéger la mise en œuvre de l'IA au sein de l'entreprise sans perdre en visibilité ni en contrôle.

Préparer l'adoption d'agents d'IA d'entreprise sécurisés

Les agents d'IA d'entreprise sont capables d'effectuer des tâches en plusieurs étapes, d'étendre les connaissances, d'améliorer l'efficacité opérationnelle et de favoriser une exécution plus rapide au sein des différents systèmes d'entreprise. Elles peuvent aider les organisations à passer d'une simple assistance par IA à une automatisation intelligente dans les domaines du service client, de l'informatique, des achats, du reporting et des opérations d'entreprise.

Cette opportunité comporte un risque réel. Les agents qui accèdent aux données de l'entreprise, utilisent des outils et effectuent des opérations doivent bénéficier d'une attribution claire des responsabilités, d'un accès selon le principe du « privilège minimal », d'une identification vérifiée, d'une protection des saisies, d'un suivi des flux de travail et d'une gouvernance. Mimecast offre aux organisations un moyen de renforcer ces contrôles, d'établir un lien entre l'activité des agents et les risques liés au facteur humain, et de protéger les agents d'IA d'entreprise à mesure qu'ils s'intègrent dans les flux de travail quotidiens.