Controles de acceso para agentes de IA: lo que deben saber los equipos de TI

Los agentes de IA ya pueden leer archivos, realizar llamadas a API, transferir datos entre sistemas y llevar a cabo acciones de forma prácticamente autónoma. Eso es precisamente lo que las hace útiles y, al mismo tiempo, lo que las hace arriesgadas. Si no se cuenta con un control de acceso adecuado, un agente diseñado para ayudar en una tarea concreta puede acabar interviniendo en mucho más de lo que debería. Esto genera riesgos de acceso no autorizado y de escalada de privilegios que los controles tradicionales de los sistemas de IA no fueron diseñados para detectar.

¿En qué consiste el control de acceso mediante agentes de IA?

El control de acceso de los agentes de IA es el conjunto de políticas y controles técnicos que regulan lo que un agente de IA puede utilizar, modificar o enviar. Se aplica en todos los ámbitos en los que un agente pueda actuar: fuentes de datos, aplicaciones, API, herramientas, archivos, plataformas de colaboración y flujos de trabajo conectados.

En la práctica, es esta capa la que decide si la solicitud de un agente se aprueba o se deniega. Asimismo, aborda hasta qué punto se extiende dicha autorización, ya sea para impedir una publicación realizada con buenas intenciones o para detectar una cuenta comprometida que está sustrayendo datos o propiedad intelectual de forma sigilosa en segundo plano.

En qué se diferencia el acceso de los agentes del acceso de las personas

Los usuarios humanos suelen actuar de forma directa. Inician sesión, navegan por una interfaz y toman decisiones sobre la marcha. Los agentes trabajan de forma diferente. Un agente autónomo suele actuar en nombre de un usuario humano, un equipo, un flujo de trabajo o una identidad de máquina, a veces sin que una persona revise cada paso concreto.

Esa diferencia plantea cuestiones reales en materia de atribución: ¿quién autorizó esta acción?, ¿qué credenciales o identidad utilizó el agente? y ¿se correspondía realmente la acción con la tarea para la que se había aprobado? Es al responder a esas preguntas cuando el control de acceso de los agentes empieza a diferenciarse de la gestión tradicional del acceso de los usuarios.

¿Por qué necesitan los agentes de IA un control de acceso?

La IA agentiva plantea riesgos de seguridad que las aplicaciones tradicionales no plantean, razón por la cual la seguridad de los agentes de IA y el control de acceso se han convertido en una prioridad, en lugar de una cuestión secundaria, para los equipos que gestionan sistemas autónomos. Las razones se pueden resumir en una serie de cuestiones prácticas que surgen en casi todas las implementaciones.

• Protege los datos confidenciales. Limitar el acceso de un agente evita que la información confidencial quede expuesta innecesariamente, incluso cuando la tarea del agente solo afecta a una pequeña parte del sistema.
• Evita que los agentes realicen acciones no autorizadas. Unos límites claros impiden que un agente realice acciones que excedan lo que realmente se le ha autorizado a hacer, lo que elimina una vía habitual de acceso no autorizado.
• Reduce el riesgo de inyección inmediata. Un control más estricto del acceso reduce la probabilidad de que las entradas manipuladas puedan llevar a un agente a adoptar un comportamiento peligroso o no deseado. Al restringir el alcance de un agente, se limita el daño que una indicación manipulada puede causar realmente.
• Facilita el cumplimiento normativo. Las políticas de acceso obligatorias ayudan a las organizaciones a cumplir con normativas como el RGPD, la HIPAA y la SOC 2, así como con requisitos legales, de gobernanza y de auditoría más amplios. Además, disponer de registros de acceso claros agiliza las auditorías y las hace menos engorrosas.
• Permite una automatización segura a gran escala. Unos controles rigurosos permiten a las organizaciones ampliar el uso de agentes sin que el riesgo aumente al mismo ritmo. Ese equilibrio es lo que hace que la adopción generalizada de los agentes sea sostenible a largo plazo.
• Gestiona los riesgos relacionados con el factor humano. El control de acceso evita que los agentes hereden los amplios permisos de los usuarios humanos sin el criterio que una persona aplicaría normalmente. Esta distinción resulta especialmente útil cuando un agente hereda un acceso que, en realidad, no necesita.

El control de acceso es lo que permite a las organizaciones ampliar el uso de agentes con confianza, en lugar de limitarse a esperar que no surja ningún problema.

Principios fundamentales para el control de acceso de los agentes de IA

Hay una serie de principios que se repiten una y otra vez en los programas consolidados de seguridad de agentes y gobernanza de la inteligencia artificial, y que se complementan entre sí en lugar de funcionar de forma aislada. Comprender cada uno de ellos por separado permite apreciar mejor cómo encajan entre sí para formar un sistema completo de control de acceso.

Identidad y autenticación del agente

Cada agente debe disponer de una identidad verificable, distinta de la de las personas y los servicios con los que interactúa, y que se autentique con el mismo rigor que se aplica a las credenciales de las personas, en lugar de integrarse en una clave API compartida. Esta separación permite a los equipos de seguridad distinguir un agente de otro y revocar el acceso de un único agente sin afectar al resto de elementos conectados a él.

Atribución entre personas y agentes

Las acciones de un agente siguen estando vinculadas a una persona, un equipo o un proceso que hay detrás de ellas, incluso cuando dicho agente actúa con cierto grado de autonomía. La atribución vincula las acciones de un agente con el usuario que lo ha implementado, lo que convierte una anomalía en algo que el equipo de seguridad puede investigar de forma efectiva.

Modelos de autorización: RBAC y ABAC

El control de acceso basado en roles asigna permisos en función de la función que desempeña un agente, mientras que el control de acceso basado en atributos evalúa condiciones como el contexto y el nivel de confidencialidad de los datos antes de autorizar una solicitud. Los agentes suelen beneficiarse de ambos aspectos, ya que los roles establecen una base de referencia y los atributos la adaptan a cada solicitud concreta.

Privilegio mínimo por diseño

Un agente debe disponer únicamente de los derechos de acceso que requiera su tarea actual, y no de aquellos que pudiera necesitar para tareas que pudiera asumir más adelante. Esto limita el daño que puede causar un agente comprometido o que funcione mal, y debe integrarse en el diseño desde el principio, en lugar de añadirse una vez que el agente ya está en funcionamiento.

Acceso y permisos por ámbitos

La delimitación del ámbito de actuación restringe el alcance de un agente a los sistemas, funciones y datos específicos que requiere una tarea, en lugar de concederle acceso a un entorno amplio en el que el acceso excedente queda sin utilizar. Un agente con amplios poderes conlleva un riesgo considerable, independientemente de que llegue a ejercer o no dichos poderes.

Privilegios limitados en el tiempo y en las tareas

El acceso concedido a un agente debería caducar una vez finalizada su labor. El hecho de vincular los privilegios tanto a una duración determinada como a un fin autorizado evita que los accesos permanentes se conviertan en permisos huérfanos que nadie se acuerda de revocar.

Control basado en políticas

Unas políticas coherentes y gestionadas de forma centralizada determinan cómo acceden los agentes a los datos y las herramientas en toda la organización, en lugar de dejar esas decisiones en manos de equipos concretos o de configuraciones puntuales. Esto proporciona a los equipos de seguridad un único punto desde el que definir y aplicar las normas, y permite auditar los permisos de los agentes con respecto a un estándar conocido.

Validación en tiempo de ejecución y medidas de seguridad

Las decisiones relativas al acceso que se toman en el momento de la implementación no son suficientes por sí solas, ya que las solicitudes de un agente pueden variar una vez que este está en funcionamiento. La validación en tiempo de ejecución comprueba cada solicitud en el momento en que se produce y bloquea las acciones que no se ajustan a la política aprobada, detectando así lo que un conjunto de permisos estático habría permitido.

Auditabilidad y seguimiento continuo

Cada acción que realice un agente debe seguir siendo visible y poder revisarse mucho tiempo después de que se haya producido. La supervisión continua proporciona a los equipos de seguridad un historial al que pueden recurrir a la hora de investigar un incidente o de confirmar que un agente sigue operando dentro del ámbito previsto.

Contexto conductual

Las acciones de los agentes cobran sentido cuando se comparan con un patrón de referencia de comportamiento normal. Al comparar una solicitud con los patrones habituales de un usuario, un flujo de trabajo o un conjunto de datos concretos, se detectan aquellas actividades que, aunque técnicamente se encuentran dentro de los permisos de un agente, resultan sospechosas.

Principales retos en materia de seguridad de los agentes de IA

Incluso las organizaciones que comprenden estos principios se topan con dificultades reales a la hora de aplicarlos. Los retos que se enumeran a continuación suelen surgir independientemente del tamaño de la empresa o del sector al que pertenezca.

• Comportamiento dinámico y no determinista. Un mismo agente puede actuar de forma diferente en situaciones similares, lo que hace que las decisiones de acceso sean más difíciles de predecir con antelación. Esa imprevisibilidad hace que las revisiones de acceso estáticas y puntuales resulten mucho menos útiles.
• Agentes con permisos excesivos. A menudo, los agentes disponen de más permisos de los que realmente requieren para desempeñar sus funciones, y esos permisos no utilizados suponen un riesgo de escalada de privilegios a la espera de ser aprovechado. A menudo pasa desapercibido hasta que una auditoría o un incidente obliga a examinarlo más detenidamente.
• Dependencias complejas en la cadena de suministro. Las herramientas, los modelos y las API conectadas que extraen datos de sistemas vinculados pueden ampliar la exposición de la cadena de suministro de formas que los equipos no controlan por completo. Cada integración añadida supone un nuevo punto de acceso potencial a los sistemas confidenciales.
• Visibilidad limitada de las acciones de los agentes. A menudo resulta difícil saber exactamente a qué ha accedido, qué ha modificado o qué ha enviado un agente, sobre todo cuando se utiliza un número cada vez mayor de herramientas. Ese punto ciego dificulta la investigación o la explicación de un incidente una vez que se ha producido.
• Ampliar la gestión del acceso. La gestión de los permisos se complica a medida que el uso de los agentes se extiende a más sistemas y flujos de trabajo. Lo que funciona para un puñado de agentes puede dejar de funcionar rápidamente a escala empresarial.
• Riesgo relacionado con la velocidad de la máquina. Los agentes pueden acceder a los datos, moverlos o modificarlos más rápido de lo que tarda un equipo de seguridad en reaccionar manualmente. Para cuando una persona se dé cuenta, es posible que la acción ya haya concluido.
• Lagunas en la atribución. Los equipos pueden tener dificultades para atribuir a posteriori la acción de un agente al usuario, la cuenta de servicio o el flujo de trabajo correctos, especialmente cuando varias cuentas de servicio comparten permisos que se solapan. Sin una atribución clara, la respuesta ante incidentes se ralentiza precisamente cuando la rapidez es más importante.

Ninguno de estos retos impide el uso de agentes. Lo que quieren decir es que el control de acceso debe integrarse desde el principio, y no añadirse posteriormente.

Buenas prácticas para el control de acceso de los agentes de IA

La aplicación de los principios anteriores a un programa operativo se traduce en una serie de prácticas concretas. Cada uno de ellos aborda una carencia concreta que suele surgir cuando los agentes pasan de la fase de pruebas al uso real en producción.

Asigne cada agente a un titular de acceso

Cada agente debe tener un propietario designado que se encargue de sus permisos. Dicho responsable identifica el flujo de trabajo que gestiona el agente y aprueba cualquier cambio en sus derechos de acceso.

Distinguir la identidad del agente de la identidad humana

Cada agente debería disponer de una identidad propia, en lugar de heredar el acceso a través de una cuenta de usuario. Es necesario seguir indicando a qué usuario, equipo o proceso corresponde el agente.

Definir el acceso por tarea

Los permisos deben ajustarse al flujo de trabajo aprobado de un agente, y no al acceso más amplio del usuario o de la aplicación a la que esté conectado. Delimitar el acceso de esta forma evita que un agente herede privilegios que no necesita.

Utilice un acceso temporal y revocable

Las acciones delicadas requieren credenciales de corta duración, expedidas en el momento justo, en lugar de permisos permanentes. El acceso que caduca automáticamente limita lo que queda expuesto en caso de que un agente resulte comprometido.

Aplicar comprobaciones de autorización en tiempo de ejecución

Los permisos concedidos desde el principio no deberían ser el único punto de control. La verificación del acceso cuando un agente intenta realizar una acción sensible o inusual permite detectar los cambios que se han producido desde la concesión inicial.

Conservar los registros de decisiones de acceso

Cada decisión relativa al acceso debe registrarse, indicando el motivo por el que se concedió y la persona que la aprobó. Los registros también deben indicar si la acción resultante se ajustó a la política.

Supervisar las relaciones entre las personas, los agentes y los datos

La representación gráfica de estas relaciones muestra qué agentes interactúan con qué fuentes de datos, y qué usuarios y procesos hay detrás de cada agente. Esa visibilidad permite rastrear una acción a lo largo de toda la cadena en la que ha intervenido.

Cree controles que respondan a la velocidad de los agentes

Los agentes pueden actuar con mayor rapidez de lo que permite la revisión manual. Los controles deben funcionar en tiempo real mediante bloqueos automatizados y medidas de protección basadas en políticas, y no mediante revisiones periódicas de los accesos.

5 pasos para el acceso de los agentes de IA en el entorno de producción

Pasar de la planificación a la producción no tiene por qué ser complicado, pero sí resulta útil seguir una secuencia coherente. Los pasos que se indican a continuación abarcan todo el proceso, desde la configuración inicial hasta el mantenimiento continuo.

1. Asigne a cada agente una identidad distinta. Cree una identidad única para cada agente, de modo que sea posible realizar un seguimiento efectivo de su acceso, su actividad y su titularidad.
2. Defina los permisos según el principio del mínimo privilegio. Limite a cada agente a los sistemas, datos y acciones específicos que requiera su tarea aprobada, y nada más allá de eso.
3. Aplique controles de acceso basados en políticas. Establezca políticas de seguridad claras que regulen a qué pueden acceder los agentes, cuándo pueden actuar y en qué condiciones.
4. Supervise la actividad de los agentes en tiempo real. Realice un seguimiento del comportamiento de los agentes, las solicitudes de acceso y las acciones inusuales a medida que se producen en el entorno de producción, y no a posteriori.
5. Revise y actualice los permisos con regularidad. Reevalúe el acceso de los agentes a medida que los flujos de trabajo, las herramientas, las fuentes de datos y las necesidades empresariales vayan cambiando con el tiempo.

Considere estos pasos como un ciclo, en lugar de una implementación puntual. El acceso de los agentes tiende a variar a medida que cambian las herramientas y los flujos de trabajo, por lo que la fase de revisión es tan importante como la configuración.

¿De qué manera puede Mimecast facilitar el control de acceso mediante agentes de IA?

Mimecast Agentic AI Security ayuda a las organizaciones a identificar, gestionar y proteger los agentes de IA en todos los entornos empresariales. Ofrece a los equipos de seguridad una visión global de los propios agentes, las relaciones entre personas y agentes que hay detrás de ellos, los flujos de trabajo de gobernanza, las infracciones de las políticas y la puntuación de riesgos, todo ello en un único lugar, en lugar de estar disperso en herramientas inconexas.

Esa visibilidad es importante porque el control de acceso de los agentes depende, en última instancia, de comprender qué usuarios, agentes, herramientas y fuentes de datos intervienen en un flujo de trabajo determinado. Mimecast ayuda a los equipos a identificar actividades de riesgo por parte de los usuarios antes de que den lugar a la exposición de datos, al incumplimiento de las políticas o a acciones peligrosas, cerrando así la brecha que existe entre la elaboración de una política de acceso y el conocimiento real de si dicha política se está cumpliendo.

Creación de un control de acceso más seguro para los agentes de IA

Los agentes de IA pueden acceder a los datos de la empresa, utilizar herramientas de comunicación y actuar en los distintos flujos de trabajo con muy pocas dificultades, y precisamente por eso necesitan límites de permisos bien definidos desde el primer momento. Para garantizar la seguridad de la IA agentiva, lo primero es un simple cambio de mentalidad: tratar a los agentes de IA como cualquier otra identidad, de modo que los equipos de seguridad dispongan de un método coherente para gestionar las decisiones de acceso, en lugar de tener que improvisar cada vez que aparece un nuevo agente.

Las organizaciones que están actuando correctamente no esperan a que se produzca un mal resultado para abordar el asunto. Están incorporando desde el principio la gestión de identidades, la aplicación de políticas y la supervisión en los programas de los agentes.

Si su organización está ampliando el uso de agentes y necesita tener una visión más clara de lo que estos pueden hacer realmente, Mimecast Agentic AI Security está diseñado para ayudarle a detectar, gestionar y proteger los agentes de IA antes de que su acceso se convierta en un riesgo.