- Los empleados están introduciendo información confidencial en herramientas de inteligencia artificial no autorizadas que carecen de seguridad de nivel empresarial, lo que podría exponer a las organizaciones a filtraciones, incumplimientos normativos y sanciones reglamentarias.
- El informe «State of Human Risk 2026» de Mimecast reveló que, si bien el 80 % de las organizaciones se muestran preocupadas por las fugas de datos a través de la IA generativa, el 60 % aún no cuenta con una estrategia específica para hacer frente a este problema, y solo el 40 % se considera plenamente preparado para hacer frente a las amenazas relacionadas con la IA.
- En lugar de prohibir la IA por completo, las organizaciones deben ofrecer alternativas seguras, establecer políticas de uso claras, invertir en formación e implementar un sistema de supervisión adaptativa.
Shadow AI: la amenaza oculta que socava silenciosamente su negocio
Sus empleados están utilizando la inteligencia artificial en este mismo momento, y es muy probable que su equipo de TI no lo sepa
Por The Mimecast Cyber Insights Blog Team
Key Points
Se denomina «IA en la sombra» y se ha convertido rápidamente en uno de los retos más acuciantes en materia de ciberseguridad y gobernanza a los que se enfrentan las organizaciones actuales. A medida que las herramientas de IA generativa han experimentado un auge espectacular en popularidad, los trabajadores de todos los departamentos —desde ingeniería hasta marketing, pasando por finanzas— las han adoptado para redactar correos electrónicos, analizar datos, generar código y automatizar tareas rutinarias. ¿Cuál es el problema? Gran parte de esta adopción se está produciendo fuera del ámbito de visibilidad y control de los equipos de TI y de seguridad.
¿Qué es la IA en la sombra?
El término «Shadow AI» hace referencia al uso de herramientas, plataformas y modelos de inteligencia artificial por parte de los empleados sin el conocimiento, la autorización ni la supervisión del departamento de TI de su organización. Piense en ello como la evolución, en la era de la inteligencia artificial, de la «TI en la sombra», ese problema de larga data que supone que los empleados utilicen software no autorizado. Sin embargo, la IA en la sombra entraña un riesgo mucho mayor debido a la naturaleza de lo que consumen estas herramientas: los datos.
Cada vez que un empleado pega una lista de clientes en un chatbot gratuito, sube un informe financiero a un resumenador basado en IA o introduce código propio en un asistente de programación no autorizado, está exponiendo potencialmente información confidencial a sistemas de terceros cuyas políticas de retención de datos y de seguridad se desconocen. La magnitud de este comportamiento es abrumadora. Las investigaciones indican que la gran mayoría de las organizaciones cuentan actualmente con empleados que utilizan aplicaciones de IA no autorizadas, y que casi la mitad de los usuarios de IA generativa acceden a estas herramientas a través de cuentas personales que sus empresas no pueden supervisar.
Cómo afecta la IA «en la sombra» a las organizaciones
Los riesgos de la IA en la sombra van mucho más allá de una fuga de datos ocasional. Abarcan todas las facetas de las operaciones de una organización:
Seguridad de los datos y fugas de información. Las herramientas de IA no autorizadas suelen carecer de controles de seguridad de nivel empresarial. Cuando los empleados introducen datos confidenciales —como expedientes de clientes, secretos comerciales o planes estratégicos— en estas plataformas, dicha información puede almacenarse, utilizarse para el entrenamiento de modelos o incluso quedar expuesta a causa de filtraciones. Las consecuencias económicas son graves, ya que las infracciones ocultas relacionadas con la inteligencia artificial elevan el coste medio de los incidentes en cientos de miles de dólares.
Etiquetas relacionadas
- Artificial Intelligence