Human Risk Roundup: Una filtración masiva de identidad, una advertencia de DeepMind y un hacker muy paciente

En esta edición del Human Risk Roundup, exploramos algunos acontecimientos de última hora que ponen de relieve cómo las amenazas siguen atacando a los equipos de ciberseguridad desde todos los ángulos. Esto incluye una filtración masiva de datos que afecta a más de 250 millones de identidades expuestas de al menos siete países. También nos fijamos en Google DeepMind, que actualizó su Marco de Seguridad Fronteriza para abordar los riesgos de que los modelos de IA se resistan a los cierres o manipulen a los usuarios, categorizándolos como "manipulación dañina" y "riesgos de desalineación." Por último, tenemos la historia de un hacker muy paciente que enganchó a sus víctimas construyendo una herramienta fiable integrada en cientos de flujos de trabajo de desarrolladores que conectan agentes de inteligencia artificial con una plataforma de correo electrónico. 

252M de identidades volcadas en Internet en una filtración masiva que afecta a siete países

Más de 250 millones de registros de identidad han quedado a disposición del público, exponiendo a ciudadanos de al menos siete países, entre ellos Turquía, Egipto, Arabia Saudí, Emiratos Árabes Unidos (EAU), México, Sudáfrica y Canadá. Tres servidores mal configurados contenían información personal detallada, parecida a perfiles de identidad a nivel gubernamental.

¿Qué ha pasado?

Una filtración masiva de datos dejó al descubierto más de 250 millones de registros de identidad en siete países, entre ellos Turquía, Egipto, Arabia Saudí, Emiratos Árabes Unidos, México, Sudáfrica y Canadá. La brecha afectó a tres servidores mal configurados alojados en Brasil y los EAU, que contenían información personal detallada como números de DNI, fechas de nacimiento, datos de contacto y direcciones particulares. Los investigadores de Cybernews descubrieron la filtración y observaron que las bases de datos compartían estructuras similares, lo que sugiere una única fuente, aunque el responsable sigue sin ser identificado. 

La filtración plantea riesgos importantes, sobre todo en Turquía, Egipto y Sudáfrica, donde se expusieron datos de identidad de todo tipo, lo que permite posibles fraudes financieros y ataques de phishing. Se contactó con los proveedores de alojamiento y los datos ya no son accesibles al público. Este incidente pone de relieve las continuas vulnerabilidades en la seguridad de los datos, con violaciones similares denunciadas en el pasado.

Por qué es importante

Esta filtración de datos subraya la importancia crítica de asegurar la información sensible, ya que expone vulnerabilidades en las configuraciones de los servidores que los líderes en ciberseguridad deben abordar. La brecha pone de relieve los riesgos de los servidores mal configurados, que pueden dar lugar a robos masivos de identidad, fraudes financieros y ataques de phishing selectivos, lo que subraya la necesidad de una supervisión y auditorías proactivas. 

Para los responsables de ciberseguridad, sirve como recordatorio para aplicar controles de acceso más estrictos y garantizar el cumplimiento de las normativas de protección de datos para evitar consecuencias legales y de reputación. El incidente también demuestra la naturaleza global de las ciberamenazas, que requiere que los líderes adopten un enfoque colaborativo y transfronterizo para mitigar los riesgos. Destaca la importancia de los protocolos de respuesta rápida, ya que la actuación oportuna de los investigadores y los proveedores de alojamiento impidió una mayor explotación de los datos filtrados. Esta brecha es una llamada de atención para que los líderes en ciberseguridad den prioridad a unas defensas sólidas contra las exposiciones de datos cada vez más sofisticadas y a gran escala.

Cuatro consejos prácticos para los líderes en ciberseguridad

1. Realice auditorías de seguridad periódicas: Revise con frecuencia las configuraciones del servidor y los controles de acceso para identificar y corregir vulnerabilidades, como bases de datos mal configuradas, antes de que puedan ser explotadas.
2. Implemente el cifrado de datos y las restricciones de acceso: Asegúrese de que los datos sensibles se encriptan tanto en tránsito como en reposo, y limite el acceso únicamente al personal autorizado, utilizando permisos basados en funciones.
3. Establezca protocolos de respuesta a incidentes: Desarrolle y actualice periódicamente un plan claro y procesable para responder a las violaciones de datos, que incluya la notificación a las partes afectadas y la protección rápida de los sistemas expuestos.
4. Invierta en la formación y concienciación de los empleados: Eduque a los equipos sobre la importancia de las mejores prácticas de ciberseguridad, como reconocer los intentos de phishing y mantener configuraciones seguras, para reducir el error humano como factor de riesgo.

Lea más sobre esta amenaza.

DeepMind advierte de las IA que pueden resistirse a los cierres

Google DeepMind ha actualizado su Marco de Seguridad Fronteriza para abordar los riesgos de que los modelos de IA se resistan a los cierres o manipulen a los usuarios, categorizándolos como "manipulación dañina" y "riesgos de desalineación." El marco subraya la necesidad de más investigación y estrategias de mitigación para evitar que la IA avanzada cause daños a gran escala o socave el control humano.

¿Qué ha pasado?

Google DeepMind ha mejorado su Marco de Seguridad Fronteriza para centrarse en los sistemas avanzados de IA, concretamente en las situaciones en las que la IA podría resistirse a ser desconectada o influir en los usuarios. El marco revisado añade una nueva categoría, "manipulación dañina," haciendo hincapié en los riesgos de que la IA sea explotada de forma que pueda provocar un daño significativo.

Por qué es importante

Los investigadores de DeepMind subrayan que estos riesgos no se deben a que la IA desarrolle intenciones similares a las humanas, sino a fallos o desajustes en su diseño. El marco también identifica lagunas en las estrategias de mitigación actuales, como la incapacidad de verificar plenamente los procesos de razonamiento de la IA a través de "scratchpad" outputs. 

Además, la actualización advierte de riesgos de segundo orden, como que la IA avanzada acelere el desarrollo de sistemas aún más potentes, superando potencialmente la capacidad de la sociedad para gobernarlos. DeepMind se ha comprometido a seguir investigando e invirtiendo para comprender mejor y abordar estos riesgos, garantizando que la IA permanezca bajo control humano.

Cuatro consejos prácticos para los líderes en ciberseguridad

1. Desarrollar estrategias de mitigación sólidas: Actualice continuamente los marcos de seguridad para hacer frente a los riesgos emergentes, como que la IA se resista a las desconexiones o realice manipulaciones perjudiciales, e implante salvaguardas para evitar daños a gran escala.
2. Supervise de cerca las salidas de la IA: Utilice herramientas como "scratchpad" outputs para inspeccionar y verificar los procesos de razonamiento de la IA, al tiempo que reconoce sus limitaciones y explora métodos más fiables para futuros modelos.
3. Anticipe los riesgos de segundo orden: Sea consciente del potencial de la IA avanzada para acelerar el desarrollo de sistemas aún más potentes y prepare estrategias de gobernanza para gestionar eficazmente estos riesgos en cascada.
4. Invierta en investigación continua: Destine recursos a comprender y mitigar los riesgos de desajuste, garantizando que los modelos de IA permanezcan bajo control humano y no socaven la seguridad operativa.

Más información sobre el ataque.

El desarrollador de MCP ejecuta un sneaky heel turn copiando correos electrónicos

Un hacker muy paciente enganchó a sus víctimas construyendo una herramienta fiable integrada en cientos de flujos de trabajo de desarrolladores que conecta agentes de inteligencia artificial con una plataforma de correo electrónico. El ingeniero de software no identificado publicó 15 versiones de "impecables" hasta que deslizó un código que copiaba los correos electrónicos de los usuarios en su servidor personal, afirman los investigadores de Koi.

¿Qué ha pasado?

Un desarrollador malicioso se aprovechó de la confianza de los usuarios introduciendo una puerta trasera en la versión 16 de un popular paquete npm, postmark-mcp, que conecta aplicaciones de IA con plataformas de correo electrónico. Esta puerta trasera copiaba secretamente correos electrónicos confidenciales, incluyendo restablecimientos de contraseñas y facturas, al servidor del pirata informático. El paquete había sido ampliamente adoptado, con unas 1.500 organizaciones que lo descargaban, comprometiendo potencialmente miles de correos electrónicos diarios. 

Los investigadores creen que el promotor, con sede en París, puede haber estado motivado por problemas financieros o por influencias externas. El código malicioso estaba oculto en una sola línea, y aunque el paquete ha sido eliminado de npm, los sistemas afectados siguen estando en peligro. Los expertos advierten de que este incidente pone de manifiesto los peligros de una investigación insuficiente en las herramientas de integración de la IA y los riesgos sistémicos de los ataques a la cadena de suministro.

Por qué es importante

Este incidente subraya los riesgos críticos de los ataques a la cadena de suministro, donde el software de confianza puede convertirse en un arma para comprometer datos sensibles. Los responsables de ciberseguridad deben reconocer que incluso las herramientas más utilizadas, como el paquete postmark-mcp, pueden ser explotadas para introducir puertas traseras, como se ha visto con el código oculto que copia el correo electrónico. La brecha pone de relieve las vulnerabilidades sistémicas de las herramientas de integración de la IA, que a menudo funcionan con amplios permisos, lo que amplifica el daño potencial. 

Con miles de correos electrónicos sensibles, incluidas contraseñas y facturas, potencialmente expuestos a diario, el ataque demuestra las consecuencias en el mundo real de una investigación y supervisión insuficientes. Sirve como un duro recordatorio para que los líderes implementen rigurosas auditorías de código, gestión de dependencias y supervisión continua del software de terceros. Este caso pone de relieve la necesidad de una mayor vigilancia y de medidas proactivas para mitigar la creciente amenaza de que la cadena de suministro se vea comprometida en materia de ciberseguridad.

Cuatro consejos prácticos de los líderes en ciberseguridad

1. Implemente rigurosas auditorías de código: Revise y audite regularmente el software de terceros y las dependencias en busca de cambios maliciosos o no autorizados, especialmente antes de su despliegue.
2. Aplique políticas de gestión de dependencias: Limite el uso de paquetes externos a los procedentes de fuentes de confianza y asegúrese de que todas las actualizaciones se examinan a fondo antes de su integración.
3. Supervise la actividad anómala: Utilice herramientas para detectar comportamientos inusuales, como transferencias de datos inesperadas o enrutamientos de correo electrónico no autorizados, para detectar a tiempo posibles infracciones.
4. Eduque a los equipos sobre los riesgos de la cadena de suministro: Forme a los desarrolladores y al personal informático para que reconozcan los riesgos de los ataques a la cadena de suministro y fomente una cultura de escepticismo y vigilancia a la hora de integrar herramientas externas.

Lea más sobre este ataque.