La IA en la sombra está presente en su organización: identifíquela, contrólela y regúlela en 30 días

La IA generativa pasó de ser una simple curiosidad a convertirse en una infraestructura esencial dentro de la mayoría de las organizaciones en menos de 18 meses. El 80% de los empleados utiliza actualmente herramientas de IA no autorizadas en el trabajo. Más de la mitad admite haber introducido datos corporativos confidenciales, código fuente, registros de clientes y condiciones de los acuerdos en modelos que almacenan la información que reciben y aprenden de ella. Nuestros propios datos internos revelan que cada hora se producen miles de intentos de fuga de datos hacia herramientas de IA generativa no autorizadas.

Se trata del cambio más importante, más rápido y menos perceptible en la forma en que los datos salen de una organización desde la transición a la nube, y los equipos de seguridad no han tenido tiempo para planificarlo.

Los marcos de trabajo en los que se basan la mayoría de las empresas se diseñaron para un mundo en el que los datos se almacenaban en repositorios conocidos, circulaban por canales conocidos y eran utilizados por aplicaciones conocidas. Ninguna de esas suposiciones se cumple en el caso de una pestaña del navegador abierta en ChatGPT. A continuación se explica cómo abordar el problema, estructurado en torno a las tres preguntas que se plantean actualmente a todo CISO: ¿Puede ver qué está haciendo su plantilla con la IA? ¿Puede controlarla sin que deje de funcionar? ¿Puede demostrárselo a alguien que necesite pruebas?

Visibilidad: no se puede gobernar lo que no se ve

Un 69 % de las organizaciones solo sospechan, pero no tienen constancia, del uso de la IA en su entorno. La razón es de carácter estructural. La mayoría de las inversiones actuales en protección de datos analizan el contenido que circula a través de canales conocidos: el correo electrónico, las aplicaciones en la nube autorizadas y el tráfico de salida de la red a través de un proxy. La IA generativa basada en navegador no se ajusta a ese modelo. Pegar texto en ChatGPT no equivale a una transferencia de archivos. Se trata de una pulsación de tecla. Una consulta a un asistente de IA especializado que su equipo de ingeniería instaló la semana pasada no constituye una aplicación autorizada. Se trata de un proceso de escritorio del que su CASB nunca ha oído hablar.

Para obtener visibilidad sobre la «Shadow AI», es necesario supervisar los canales en los que realmente se produce la actividad de la IA —el terminal y el navegador— y hacer que dicha información salga a la luz sin tener que dedicar meses a la elaboración de políticas ni al etiquetado de contenidos. La visibilidad de los terminales permite detectar las aplicaciones de IA para ordenador, como ChatGPT Desktop, Claude Desktop y Cursor, que los equipos de ingeniería adoptan sin la participación del departamento de TI. Las extensiones del navegador registran las entradas, los pegados y las subidas que se producen íntegramente dentro de una sesión del navegador. A continuación, la señal debe clasificarse automáticamente por usuario, sensibilidad del contenido y destino, ya que el volumen de información en una organización de 5.000 personas es demasiado grande como para que cualquier equipo de analistas pueda clasificarla manualmente.

El primer resultado que debe ofrecer cualquier programa serio de «Shadow AI» son los datos que convierten las suposiciones en pruebas.

Control: las políticas por sí solas no funcionan, y las medidas de control demasiado rígidas frenan la innovación

El primer instinto que tienen la mayoría de las organizaciones de seguridad cuando detectan por primera vez su exposición a la «Shadow AI» es elaborar una política y conseguir que los empleados la acepten. Esta respuesta es racional, pero no funciona. Aproximadamente la mitad de los empleados afirman que seguirían utilizando sus cuentas personales de IA incluso si la empresa las prohibiera. 

Los bloqueos duros no eliminan ese comportamiento. Eliminan la visibilidad del comportamiento, lo trasladan a dispositivos no gestionados y socavan la confianza entre el equipo de seguridad y el resto de la plantilla.

La cuestión no es si se debe hacer cumplir la ley. Se trata de aplicar las medidas de forma que sean proporcionales al riesgo que plantea un suceso concreto. El error cometido por primera vez por un analista de marketing al pegar el borrador de un comunicado de prensa en ChatGPT constituye una lección, no un motivo de investigación. La respuesta adecuada consiste en un recordatorio en el momento oportuno que explique la política y ofrezca la alternativa autorizada. El hecho de que un usuario que incumple sistemáticamente las normas pegue código fuente en la misma herramienta constituye un hecho distinto y justifica un bloqueo definitivo.

Esta es la diferencia entre los controles basados únicamente en el contenido y los controles adaptativos que tienen en cuenta los riesgos. Los controles basados únicamente en el contenido tratan todos los eventos de la misma manera, ya que solo tienen en cuenta el archivo. Los controles basados en el riesgo tratan los eventos de forma diferente, ya que consideran de forma conjunta al usuario, la fuente de los datos y el destino. La característica más importante de un programa moderno de «Shadow AI» es su capacidad para aplicar controles proporcionados que respondan en función del riesgo.

Gobernanza: una política redactada no es sinónimo de una política que se aplique

Casi todas las organizaciones cuentan con una política de uso aceptable de la IA, redactada en 2024, actualizada en 2025 y publicada en una página wiki que prácticamente ningún empleado ha leído. La brecha entre la política y su aplicación es la que lleva a la mayoría de los CISO a participar en el debate. La junta directiva pregunta: «¿Cuál es el riesgo?». El comité de auditoría pregunta: «¿Cuáles son los controles?». En un número cada vez mayor de jurisdicciones, el organismo regulador se pregunta: «¿De qué pruebas disponen para demostrar que su política está en vigor?». Ninguna de esas preguntas puede responderse mediante una página wiki. Necesitan un sistema de registro.

Los datos sobre gobernanza constan de tres componentes. Un registro de auditoría de la actividad de la IA por usuario, que se conserva durante al menos 90 días, ya que la mayoría de las investigaciones sobre empleados que abandonan la empresa abarcan ese periodo. Medidas de cumplimiento documentadas, bloqueos, asignaciones y sesiones de formación, vinculadas a usuarios concretos y a normas específicas, ya que eso es lo que desea ver un organismo regulador. Y una vista preparada para la junta directiva que convierte los datos operativos en una narración: cómo se está utilizando la IA en esta organización, quién la utiliza, con qué datos y cuál es la evolución de la reducción de riesgos trimestre tras trimestre.

Shadow AI: visibilidad desde el primer día con Incydr

La capa de visibilidad es la base sobre la que se asienta todo lo demás. La guía paso a paso que figura a continuación muestra cómo Incydr detecta la actividad de Shadow AI desde el primer día de implementación, sin necesidad de políticas ni etiquetado.

Sacando a la luz la IA en la sombra

Visibilidad de los terminales y navegadores con Incydr, en 2 minutos.

Por qué la velocidad es lo más importante en la protección de datos actual

Los proyectos de protección de datos que más tiempo llevan en marcha en esta categoría son aquellos que intentan abarcarlo todo a la vez. Clasifique todos los datos, redacte todas las políticas e integre todos los sistemas antes de que se genere ninguna señal. Para cuando el programa entre en funcionamiento, el panorama de la inteligencia artificial habrá cambiado dos veces y los supuestos iniciales habrán quedado obsoletos.

Una prueba de valor de 30 días, centrada en una lista específica de usuarios en los que se sospecha que existe riesgo, ofrece una visión clara ya en la primera semana. Implementación de los terminales en menos de 2 horas. Las extensiones de navegador se evalúan a lo largo del segundo día. Al final de la primera semana, ya se ha resuelto la cuestión de la visibilidad para ese grupo. En la segunda semana, ya dispone de datos suficientes para identificar los patrones. Al llegar al día 30, dispondrá de datos, controles y un marco de gobernanza para un segmento concreto de la plantilla, así como de una estrategia para ampliarlo. La amenaza que supone la exposición a la IA avanza con demasiada rapidez. El programa debe avanzar más rápido.

La siguiente etapa: agentes de IA que actúan en nombre de los seres humanos

Shadow AI, tal y como existe en la actualidad, consiste en que una persona introduzca datos manualmente en una herramienta. La siguiente capa, que ya se ha implantado en la mayoría de las grandes empresas, es autónoma: los agentes de inteligencia artificial actúan en nombre de los empleados, acceden a los datos, activan flujos de trabajo y se conectan a los sistemas a través de servidores del Protocolo de Contexto de Modelos (Model Context Protocol), que vinculan los modelos directamente con GitHub, Slack y las bases de datos de producción. Nada menos que el 80 % de las empresas de la lista Fortune 500 cuentan con agentes en sus instalaciones. Solo el 14 % cuenta con la autorización de seguridad completa correspondiente.

La visibilidad es más importante que el control. El control antes que la gobernanza. Se realiza un seguimiento de todos los traslados de datos no autorizados, ya que la inteligencia artificial avanza más rápido que el ciclo de planificación.

La definición de «persona con información privilegiada» está cambiando en tiempo real. Un «insider» ya no es simplemente un empleado. Se trata de un empleado, además de todos los agentes que actúan en su nombre, con sus credenciales y utilizando sus datos. La base de protección de datos que hoy detecta un copiado en ChatGPT es la misma que mañana deberá detectar a un agente autónomo que suba código fuente. La inversión que se realiza ahora en visibilidad es la que rige el funcionamiento de los agentes autónomos. A medida que Mimecast amplía su plataforma para abarcar el riesgo de origen humano, la misma base de señales se amplía con ella.