Detección y respuesta a incidentes de IA
Plantillas relacionadas
Qué exige este control
Ampliar el plan de respuesta a incidentes de la organización con playbooks específicos de IA que aborden la inyección de prompts, el envenenamiento de RAG, la manipulación de modelos, la exfiltración de datos a través de canales de IA y las fallas de sistemas agénticos. Los playbooks deben definir criterios de detección, procedimientos de contención, pasos de preservación forense y plantillas de comunicación adaptadas a los incidentes de IA.
Por qué es importante
Los playbooks tradicionales de respuesta a incidentes asumen vectores de ataque basados en red o en hosts, y carecen de los procedimientos necesarios para contener amenazas específicas de IA, como la inyección de prompts persistente, los contextos de recuperación envenenados o el comportamiento indebido de agentes autónomos. Sin planes de respuesta adaptados a la IA, los equipos de seguridad pierden tiempo crítico durante los incidentes al intentar improvisar la contención de patrones de ataque desconocidos. Los playbooks preconstruidos reducen el tiempo medio de contención y garantizan que la evidencia forense se preserve correctamente para los artefactos específicos de IA.
Cómo implementarlo
Desarrollar la taxonomía de incidentes de IA
Crear un esquema de clasificación para incidentes específicos de IA que cubra la inyección de prompts (directa e indirecta), el envenenamiento de datos de entrenamiento y de recuperación, el robo o extracción de modelos, las acciones autónomas no autorizadas de sistemas agénticos, los incidentes de sesgo o seguridad, y los compromisos de la cadena de suministro de componentes de IA. Asociar cada categoría a niveles de severidad utilizando el marco de clasificación de incidentes existente de la organización.
Construir playbooks de respuesta
Para cada categoría de incidente, documentar procedimientos paso a paso que cubran los indicadores de detección iniciales, las acciones de contención inmediata (deshabilitar el endpoint del modelo, revocar claves de API, aislar el almacén de datos de RAG), la preservación de evidencia (capturar registros de prompts, instantáneas del estado del modelo, volcados del contexto de recuperación), los procedimientos de análisis y los pasos de recuperación. Incluir plantillas de comunicación para las partes interesadas internas, los usuarios afectados y los reguladores, cuando corresponda.
Realizar ejercicios de simulación (tabletop)
Ejecutar al menos dos ejercicios de simulación (tabletop) centrados en IA por año, simulando escenarios como una campaña de inyección de prompts que exfiltra datos de clientes o una base de conocimiento de RAG envenenada que genera consejos dañinos. Incluir participantes de operaciones de seguridad, ingeniería de IA, legal y comunicaciones. Documentar las lecciones aprendidas y actualizar los playbooks en consecuencia.
Integrar con las operaciones de seguridad
Asegurar que los playbooks de incidentes de IA se carguen en la plataforma SOAR o el sistema de gestión de incidentes de la organización. Capacitar a los analistas del SOC en los indicadores de compromiso específicos de IA y los procedimientos de clasificación. Establecer procedimientos claros de transferencia entre el SOC de nivel L1 y los especialistas en seguridad de IA para los incidentes escalados.
Evidencia y auditoría
- Documento de taxonomía de incidentes de IA con mapeo de severidad
- Playbooks de respuesta para cada categoría de incidente con procedimientos paso a paso
- Informes de ejercicios de simulación (tabletop) con listas de participantes, escenarios y lecciones aprendidas
- Configuración de la plataforma SOAR que muestra la integración de los playbooks de IA
- Registros de capacitación de los analistas del SOC para la clasificación de incidentes específicos de IA
- Informes posteriores a incidentes reales de IA (en caso de haberlos) que demuestren el uso de los playbooks
- Plantillas de comunicación para notificaciones de incidentes de IA