El 13 de octubre MITRE publicó la versión 20 de su marco ATT&CK, incorporando nueve técnicas nuevas para el entorno empresarial. Estas técnicas describen cómo los adversarios pueden atacar sistemas de inteligencia artificial, extraer contraseñas específicas de aplicaciones para evadir la autenticación multifactor y sortear mecanismos CAPTCHA. La actualización también amplía la cobertura a entornos de control industrial y dispositivos móviles, añadiendo directrices de detección para varios de los nuevos vectores.

Qué sabemos hasta ahora

Las nueve técnicas introducidas se centran en tres áreas críticas: manipulación de modelos de IA, elusión de mecanismos de autenticación y ataque a infraestructuras de control. Entre ellas, se describen métodos para inyectar datos maliciosos en pipelines de aprendizaje automático y para robar credenciales de aplicaciones específicas que permiten saltarse la MFA. Asimismo, se documentan técnicas para automatizar la resolución de CAPTCHAs y evadir los filtros anti‑bot.

Además de la capa empresarial, ATT&CK v20 extiende su cobertura a sistemas de control industrial (ICS) y a plataformas móviles, incorporando técnicas que aprovechan vulnerabilidades en protocolos de automatización y en componentes de gestión de dispositivos móviles. Cada técnica viene acompañada de directrices de detección que facilitan la creación de reglas de correlación y la mejora de los playbooks de respuesta.

"MITRE señala que la integración de IA en infraestructuras críticas aumenta la superficie de ataque y requiere nuevas contramedidas", indicó el comunicado oficial de la organización.

Análisis técnico

Los vectores de ataque contra IA incluyen la manipulación de APIs de inferencia y la inserción de datos de entrenamiento contaminados, lo que permite a los atacantes sesgar los modelos o extraer información confidencial. En el caso de la MFA, la técnica se basa en la captura de contraseñas de aplicaciones específicas almacenadas en gestores de credenciales o en cachés locales, lo que permite generar tokens válidos sin requerir el segundo factor.

Para sortear CAPTCHAs, los adversarios emplean servicios de resolución automatizada o entrenan modelos de visión por computadora capaces de interpretar los desafíos visuales. En entornos de control industrial, se observan ataques que explotan configuraciones predeterminadas en protocolos como Modbus o OPC-UA, combinados con técnicas de movimiento lateral para alcanzar sistemas de supervisión y control.

En dispositivos móviles, las nuevas técnicas apuntan a la escalada de privilegios mediante vulnerabilidades en componentes del sistema operativo y a la extracción de tokens de autenticación almacenados en aplicaciones. Las directrices de detección recomiendan monitorizar patrones de acceso anómalos, validar la integridad de los modelos de IA y aplicar controles de integridad en los flujos de datos de entrenamiento.

Impacto y alcance

La incorporación de técnicas que explotan vulnerabilidades en modelos de inteligencia artificial y en flujos de autenticación multifactor (MFA) amplía el espectro de amenazas a prácticamente cualquier organización que dependa de estos controles. Los sectores que tradicionalmente han adoptado IA para automatizar procesos —finanzas, salud, telecomunicaciones y gobierno— aparecen como los más expuestos, ya que sus entornos suelen incluir tanto modelos de lenguaje como sistemas de autenticación reforzada.

Los investigadores de seguridad ya han documentado pruebas de concepto que demuestran cómo un adversario puede manipular entradas de IA para evadir detección o forzar respuestas no deseadas, y cómo la explotación de configuraciones débiles en MFA permite la suplantación de identidad sin necesidad de robar credenciales directamente. Hasta la fecha, la comunidad no ha reportado exploits de escala pública, pero la disponibilidad de los detalles técnicos en ATT&CK v20 facilita que los equipos de ataque reproduzcan estos vectores en entornos reales.

¿Cómo afecta esto a LATAM?

En México, Colombia y Argentina, la adopción de soluciones basadas en IA y MFA ha crecido rápidamente en bancos, proveedores de servicios de salud y plataformas de comercio electrónico. Estas organizaciones ya están integrando modelos de IA para detección de fraude y autenticación sin contraseña, lo que las coloca directamente en la mira de los nuevos vectores descritos por MITRE.

Empresas regionales que dependen de proveedores de identidad externos o que utilizan APIs de IA para automatizar procesos críticos pueden encontrarse con que sus defensas tradicionales no son suficientes. La falta de una estrategia de mitigación específica para estos ataques podría traducirse en brechas de datos o en la manipulación de decisiones automatizadas, afectando la confianza de los usuarios y la continuidad operativa.

Qué deben hacer los equipos de seguridad

  • Revisar y reforzar las configuraciones de MFA, asegurando que se utilicen métodos basados en factores físicos o biométricos y evitando la dependencia exclusiva de OTP por SMS.
  • Implementar controles de integridad y monitoreo para los modelos de IA, incluyendo la validación de entradas y la detección de anomalías en los resultados generados.
  • Actualizar las matrices de detección de amenazas con las nuevas técnicas descritas en ATT&CK v20, asegurando que los sensores de SIEM y EDR estén alineados con los indicadores de comportamiento.
  • Realizar pruebas de penetración específicas que incluyan escenarios de manipulación de IA y bypass de MFA, para validar la efectividad de las defensas actuales.
  • Capacitar a los equipos de desarrollo y a los usuarios finales sobre los riesgos de la ingeniería social dirigida a la suplantación de identidad y la generación de datos de entrenamiento maliciosos.
  • Establecer procesos de revisión y actualización continua de los proveedores de identidad y de los servicios de IA, garantizando que apliquen parches y mejoras de seguridad de forma oportuna.

Reflexión

¿Estamos preparados para defender no solo nuestras redes, sino también nuestras máquinas pensantes? A medida que la IA se vuelve parte integral de la infraestructura de seguridad, la línea entre la defensa y el ataque se difumina, obligándonos a replantear nuestras estrategias y a preguntarnos: ¿cuál será el próximo vector que los atacantes intentarán explotar?