ASEGURAMIENTO Responsable: Red Team / Operaciones de Seguridad / AI Ops / Cumplimiento

Controles de aseguramiento de IA

Centrarse en probar y monitorear los sistemas de IA en busca de vulnerabilidades, comportamiento anómalo y preparación ante incidentes.

Mapeo de marcos de referencia

Controles de cada marco de referencia de origen que se mapean a este dominio.

Marco de Referencia	Controles Mapeados
ISO 42001	Cl.9 Evaluación del rendimiento Cl.10 Mejora A.9 Robustez
NIST AI RMF	MS-1 Monitoreo MS-3 Incidentes MS-4 Métricas AI 600-1 Perfil de IA Generativa
OWASP LLM	LLM01 Inyección de prompts LLM04 Envenenamiento de datos y modelos LLM08 Debilidades de vectores y embeddings
OWASP Agentic	ASI06 Acciones no monitoreadas ASI08 Cumplimiento y regulación

3 controles distribuidos entre el Nivel 1 (esencial) y el Nivel 2 (avanzado).

Elementos de la lista de verificación agrupados por control.

Red teaming de IA y pruebas adversarias

☐ El estatuto del red team existe y define el alcance, la frecuencia y las técnicas de ataque autorizadas para los sistemas de IA
☐ Se ha completado al menos una campaña de pruebas adversarias en los últimos 90 días para cada sistema de IA en producción
☐ Los hallazgos de las pruebas se clasifican utilizando una taxonomía de gravedad estandarizada y se les da seguimiento hasta su remediación
☐ Los playbooks de ataque se actualizan al menos trimestralmente para reflejar las técnicas de amenazas emergentes
☐ Las pruebas de regresión confirman que todos los hallazgos críticos y altos se resuelven antes del lanzamiento a producción

Monitoreo continuo de IA

☐ Las reglas de detección a nivel de red están activas para los endpoints de servicios de IA conocidos y se actualizan al menos mensualmente
☐ Las aplicaciones de IA aprobadas envían telemetría al SIEM centralizado con esquemas documentados
☐ Las detecciones de IA en la sombra se registran y generan acciones de seguimiento documentadas dentro de los SLA definidos
☐ Los informes mensuales de monitoreo se producen y son revisados por el comité de gobernanza
☐ La tasa de falsos positivos de las reglas de detección se rastrea y se mantiene por debajo del objetivo del 10 %

Detección y respuesta a incidentes de IA

☐ Existe una taxonomía de incidentes de IA que está asociada al marco de clasificación de severidad de la organización
☐ Los playbooks de respuesta cubren al menos los escenarios de inyección de prompts, envenenamiento de RAG y exfiltración de datos
☐ Se han realizado al menos dos ejercicios de simulación (tabletop) centrados en IA en los últimos 12 meses
☐ Los playbooks de IA están integrados en la plataforma SOAR o en el sistema de gestión de incidentes
☐ Los analistas del SOC han completado la capacitación en clasificación de incidentes específicos de IA en los últimos 12 meses