La situación del riesgo humano en 2026: el robo del modelo de IA

Imagínese lo siguiente: un ingeniero de aprendizaje automático presenta su preaviso de dos semanas un viernes por la tarde. Para el lunes por la mañana, ya han descargado un modelo lingüístico perfeccionado, entrenado a partir de tres años de incidencias de atención al cliente: millones de interacciones condensadas en un único archivo portátil. No suena ninguna alarma. No se ha producido ninguna filtración de bases de datos. Para cualquier sistema de supervisión existente, parece simplemente otra transferencia de archivos.

Sin embargo, ese archivo contiene algo mucho más valioso que los datos sin procesar. Contiene patrones, previsiones e información sobre la competencia que su organización ha tardado meses en recopilar y en la que ha invertido millones. Y ahora se está yendo por la puerta.

Por qué los modelos de IA son las nuevas joyas de la corona

Las organizaciones son conscientes desde hace tiempo de la necesidad de proteger las bases de datos, el código fuente y los secretos comerciales. Sin embargo, los modelos de IA entrenados representan algo fundamentalmente diferente: inteligencia institucional condensada. Un modelo de detección de fraudes no se limita a contener registros de transacciones, sino que codifica los patrones de comportamiento sutiles que distinguen la actividad legítima de las prácticas delictivas. Un modelo de comportamiento del cliente no se limita a almacenar historiales de compra, sino que recoge la lógica de toma de decisiones que impulsa los ingresos.

Estos modelos condensan meses de tiempo de cálculo, datos de entrenamiento propios y conocimientos especializados en el sector en archivos que caben en una memoria USB. La asimetría es asombrosa: lo que cuesta millones crear no cuesta nada copiar. Y, en el caso de un competidor, la comercialización de un modelo robado puede acortar de la noche a la mañana años de investigación y desarrollo, lo que mermaría cualquier ventaja de pionero que haya conseguido.

Por qué las defensas tradicionales no detectan la amenaza

Esta es la incómoda realidad: la mayoría de las herramientas de prevención de pérdida de datos se diseñaron para un mundo en el que el robo se presenta como tal. Detectan las exportaciones masivas de bases de datos, los reenvíos masivos de correos electrónicos y el acceso no autorizado a recursos compartidos. ¿Pero un archivo de modelo de IA? Se trata de una única descarga, que suele realizarse desde un repositorio al que el empleado tiene autorización para acceder.

Esta brecha en la detección se está ampliando precisamente en el momento menos oportuno. Un 80 % de las organizaciones expresan actualmente su preocupación por las fugas de datos confidenciales a través de herramientas de IA generativa; sin embargo, son pocas las que han implantado controles diseñados específicamente para supervisar el acceso a los modelos, su exportación o su movimiento lateral. El debate sobre la seguridad se ha centrado en gran medida en la información que los empleados introducen en las herramientas de inteligencia artificial, mientras que se ha prestado muy poca atención a lo que los modelos entrenados pueden sacar de la organización.

La convergencia de la información privilegiada

La amenaza no proviene de una sola dirección: se trata de una convergencia entre la intención maliciosa y la negligencia cotidiana. Por un lado, la actividad malintencionada por parte de personas con acceso privilegiado se ha acelerado un 26 % en los últimos dos años, pasando del 35 % al 44 % del total de incidentes relacionados con personas con acceso privilegiado. Los empleados que abandonan la empresa consideran cada vez más los modelos propios como un seguro para su carrera profesional: una prueba transferible de sus capacidades o, lo que es peor, algo con un valor de reventa directo. Los mercados de la dark web han comenzado a ofrecer modelos entrenados para sectores específicos, además de las habituales credenciales robadas y datos financieros.

Por otro lado, los empleados bienintencionados generan riesgos sin darse cuenta. Suben modelos propios a un almacenamiento en la nube personal para realizar experimentos durante el fin de semana. Introducen datos de entrenamiento en ChatGPT u otras herramientas de IA generativa para poner a prueba una idea. Dos tercios de las organizaciones manifiestan su preocupación por el hecho de que a sus empleados les resulte difícil gestionar los datos de forma segura, y eso era antes de que los modelos de inteligencia artificial añadieran una dimensión de complejidad totalmente nueva.

El resultado es un panorama de amenazas en el que la línea que separa el descuido del robo es muy difusa, y los daños que provoca cualquiera de ambos son igualmente graves.

Creación de un programa de protección de modelos de inteligencia artificial

Para hacer frente a este reto, es necesario ampliar la gestión de los riesgos internos más allá de la protección de datos tradicional, de modo que incluya la gobernanza de los modelos de inteligencia artificial. Lo primero es la visibilidad. Las organizaciones deben supervisar el movimiento de archivos entre los dispositivos finales, los navegadores y los entornos en la nube, incluidos los repositorios de modelos y los entornos de entrenamiento en los que se alojan estos activos. Si no puede ver que se está copiando un modelo a una unidad externa o que se está subiendo a un destino desconocido, no podrá impedirlo.

La visibilidad por sí sola no basta sin el contexto adecuado. Saber que alguien ha descargado un archivo de modelo es mucho menos relevante que saber quién lo ha descargado, cuándo lo ha hecho, adónde ha ido a parar y si otros indicadores de riesgo —una dimisión reciente, una infracción de las normas, un patrón de acceso inusual— sugieren que se trata de algo que va más allá del trabajo habitual. Este tipo de evaluación contextual del riesgo transforma las alertas sin procesar en información útil.

A partir de ahí, las organizaciones pueden incorporar controles automatizados: bloquear las subidas a destinos no fiables, exigir una justificación para las exportaciones de modelos y señalar las actividades que se produzcan durante períodos de alto riesgo, como las bajas de empleados o las fusiones. La clave reside en encontrar un equilibrio entre la seguridad y la productividad de los investigadores, que es precisamente lo que hace posible el desarrollo de la inteligencia artificial.

Por último, la formación en tiempo real subsana las deficiencias en materia de formación. En lugar de recurrir a sesiones de formación anuales que los empleados olvidan al cabo de unas semanas, los recordatorios «justo a tiempo» —que se activan cuando alguien intenta realizar una acción de riesgo— generan un cambio de comportamiento en el momento más decisivo.

Proteger el «cerebro» de la empresa

Los modelos de inteligencia artificial se están convirtiendo rápidamente en uno de los activos de mayor valor estratégico con los que cuenta una organización. Merecen una protección acorde con su valor. Esto implica integrar la gestión de los modelos en programas más amplios de gestión de riesgos internos, establecer una correlación entre el acceso a los modelos y los indicadores de riesgo humano, y crear mecanismos de protección capaces de distinguir entre la investigación rutinaria y la sustracción sigilosa de información.

El margen de tiempo para actuar se está reduciendo. A medida que se intensifican las actividades malintencionadas por parte de personas internas y los modelos de inteligencia artificial cobran cada vez más importancia para la ventaja competitiva, las organizaciones que consideren la seguridad de los modelos como una cuestión secundaria descubrirán por las malas cuánta información valiosa puede salir de la empresa en un solo archivo.

Descubra cómo Mimecast Incydr ofrece visibilidad sobre los movimientos y los patrones de uso de los modelos de IA, protegiendo así la propiedad intelectual más valiosa de su organización. Solicite una demostración.