Lista de Verificación de Validación de Despliegue de IA

Verificación de controles de seguridad

Revisor: [ROLE TITLE], [DEPARTMENT]

Sistema: ________________________

Fecha: [DATE]

Autenticación y autorización

• [ ] Se requiere autenticación para todos los endpoints del sistema de IA (sin acceso anónimo)
• [ ] El control de acceso basado en roles (RBAC) está implementado con asignaciones de mínimo privilegio
• [ ] Las claves de API y las credenciales de servicio se almacenan en un sistema de gestión de secretos (no están codificadas en el código)
• [ ] La gestión de sesiones incluye tiempo de espera, revocación y límites de sesiones concurrentes
• [ ] Se requiere autenticación multifactor para el acceso administrativo al sistema de IA

Seguridad de red

• [ ] Los endpoints del sistema de IA son accesibles únicamente a través de rutas de red aprobadas (VPN, endpoints privados o lista de IP permitidas)
• [ ] Se aplica TLS 1.2+ para todos los datos en tránsito
• [ ] Los datos en reposo se cifran con AES-256 o su equivalente
• [ ] La segmentación de red aísla el sistema de IA de otros sistemas de producción cuando corresponde

Defensa contra inyección de prompts

• [ ] Los controles de validación de entradas están implementados según la Lista de Verificación de Defensa contra Inyección de Prompts
• [ ] El filtrado de salidas está activo y probado
• [ ] El prompt del sistema está fortalecido y se ha probado su extracción
• [ ] Las pruebas de inyección de prompts se han completado con cero hallazgos de severidad alta

Dependencias y cadena de suministro

• [ ] Todas las dependencias, bibliotecas y marcos de referencia del modelo se han escaneado en busca de vulnerabilidades conocidas
• [ ] La procedencia del modelo está documentada: se verifican las fuentes de datos de entrenamiento, los conjuntos de datos de ajuste fino y los pesos del modelo
• [ ] Legal ha revisado las licencias de modelos de terceros para verificar el cumplimiento
• [ ] Se ha generado una lista de materiales de software (SBOM) y está disponible para auditoría

Puntos de referencia de rendimiento

Pruebas de carga

• [ ] Se han realizado pruebas de carga a 1x, 2x y 5x del tráfico máximo esperado
• [ ] Se ha verificado la degradación controlada: el sistema devuelve respuestas de error apropiadas bajo sobrecarga en lugar de fallar silenciosamente o producir salidas incorrectas
• [ ] Las políticas de autoescalado están configuradas y se han probado
• [ ] Los límites de recursos (CPU, memoria, GPU) están definidos y se aplican para prevenir un consumo desbocado

Métricas de calidad

• [ ] La exactitud del modelo en el conjunto de datos de validación cumple con el umbral definido: ≥ ___%
• [ ] La exactitud del modelo en el conjunto de prueba fuera de distribución cumple con el umbral mínimo: ≥ ___%
• [ ] La calidad de las salidas ha sido evaluada por expertos en la materia utilizando una rúbrica estandarizada
• [ ] Las pruebas de regresión confirman que el nuevo despliegue no degrada el rendimiento en los casos de prueba previamente aprobados

Validación de costos

• [ ] Se ha calculado el costo por solicitud y está dentro del presupuesto: $____ por cada 1,000 solicitudes
• [ ] La proyección de costo mensual al volumen esperado está dentro del presupuesto aprobado: $____ / mes
• [ ] Las alertas de costo están configuradas con umbrales en el 80 % y el 100 % del presupuesto mensual

Evaluación de sesgo

Evaluación realizada por: [ROLE TITLE], [DEPARTMENT]

Fecha de evaluación: [DATE]

Revisión de sesgo en los datos

• [ ] Se han analizado y documentado los datos demográficos de los datos de entrenamiento
• [ ] Se han identificado las brechas de representación conocidas en los datos de entrenamiento y se ha evaluado su impacto potencial
• [ ] Se han revisado los procesos de etiquetado de datos en busca de sesgo del anotador
• [ ] Se ha evaluado el sesgo histórico en los datos de entrenamiento (que refleja prácticas discriminatorias del pasado)

Equidad de las salidas del modelo

• [ ] Se han calculado métricas de equidad en las categorías protegidas (raza, género, edad, discapacidad, religión, origen nacional)
• [ ] Se ha realizado un análisis de impacto dispar: ningún grupo protegido experimenta resultados a una tasa menor al 80 % de la del grupo más favorecido (regla de los cuatro quintos), salvo que esté justificado
• [ ] Las métricas de igualdad de oportunidades confirman tasas de verdaderos positivos comparables entre los grupos demográficos
• [ ] El análisis de calibración confirma que los puntajes de confianza son igualmente confiables entre los grupos

Escenarios de prueba

• [ ] El sistema de IA se ha probado con prompts que hacen referencia a características protegidas para verificar respuestas consistentes y no discriminatorias
• [ ] Se han probado casos límite que involucran identidades interseccionales (p. ej., raza + género + edad)
• [ ] Se ha evaluado el comportamiento del sistema en múltiples idiomas y contextos culturales relevantes para la población de despliegue
• [ ] Se han realizado pruebas adversarias de equidad: intentos de provocar salidas discriminatorias mediante prompts indirectos

Documentación y transparencia

• [ ] Se ha completado una ficha de modelo (model card) o un documento de transparencia equivalente
• [ ] Las limitaciones conocidas y los riesgos potenciales de sesgo están documentados con estrategias de mitigación
• [ ] Los resultados de la evaluación de sesgo están disponibles para revisión por las partes interesadas afectadas
• [ ] Existe un mecanismo de apelación para las personas que consideren haber sido objeto de decisiones de IA sesgadas

Resultado de la revisión de equidad: ☐ Aprobado ☐ Aprobado condicional (con mitigaciones) ☐ Reprobado

Evaluación de impacto en la privacidad

• [ ] Se ha completado una Evaluación de Impacto en la Privacidad (PIA) o una Evaluación de Impacto en la Protección de Datos (DPIA) para este sistema de IA
• [ ] La PIA/DPIA ha sido revisada y aprobada por [ROLE TITLE] (Oficial de Privacidad u Oficial de Protección de Datos)
• [ ] Todas las actividades de procesamiento de datos personales cuentan con una base legal documentada (consentimiento, interés legítimo, necesidad contractual, etc.)

Minimización de datos

• [ ] El sistema de IA recopila únicamente el mínimo de datos personales necesarios para su propósito declarado
• [ ] Los períodos de retención de datos están definidos y la eliminación automatizada está configurada
• [ ] Los datos personales no se utilizan para fines secundarios sin consentimiento adicional o base legal
• [ ] Se aplica anonimización o seudonimización cuando no se requiere identificación completa

Derechos de los titulares de datos

• [ ] Existen mecanismos para que los titulares de datos ejerzan sus derechos: acceso, rectificación, supresión, portabilidad, oposición
• [ ] Los procedimientos de respuesta a las solicitudes de titulares de datos están documentados con SLA definidos
• [ ] El sistema de IA puede identificar y extraer todos los datos personales asociados con una persona específica cuando se solicite
• [ ] El derecho a la revisión humana de decisiones automatizadas está disponible y documentado

Transferencias internacionales de datos

• [ ] Se han identificado y documentado las ubicaciones de procesamiento de datos
• [ ] Las transferencias internacionales de datos cumplen con los requisitos aplicables (Cláusulas Contractuales Tipo, decisiones de adecuación, etc.)
• [ ] Se cumplen los requisitos de residencia de datos: los datos clasificados como de almacenamiento obligatorio dentro del país no se procesan fuera de las jurisdicciones aprobadas

Privacidad de proveedores

• [ ] Se han firmado Acuerdos de Procesamiento de Datos con todos los proveedores de IA que procesan datos personales
• [ ] Los DPA de los proveedores incluyen: limitaciones de propósito del procesamiento de datos, controles de subencargados, obligaciones de notificación de brechas y requisitos de eliminación de datos
• [ ] Las prácticas de privacidad de los proveedores se han validado mediante cuestionario, auditoría o revisión de certificación

Resultado de la revisión de privacidad: ☐ Aprobado ☐ Aprobado con condiciones ☐ No aprobado

Registro de aprobación de despliegue

Nombre del sistema de IA: ________________________

Versión / Release: ________________________

Entorno de destino: ☐ Producción ☐ Staging ☐ UAT

Fecha de despliegue planificada: [DATE]

Ventana de despliegue: [TIME] a [TIME] [TIMEZONE]

Aprobaciones de las partes interesadas

Aprobaciones condicionales

Si algún aprobador ha otorgado una aprobación condicional, documente las condiciones aquí:

Autorización de despliegue

Todas las aprobaciones requeridas obtenidas: ☐ Sí ☐ No

Todos los elementos condicionales resueltos: ☐ Sí ☐ No ☐ N/D

Despliegue autorizado por: ________________ (debe ser el Propietario del sistema de IA o su delegado)

Fecha de autorización: [DATE]

Nota: El despliegue no debe proceder a menos que se obtengan todas las aprobaciones requeridas y se resuelvan todas las condiciones. Cualquier parte interesada puede revocar su aprobación en cualquier momento antes de la ejecución del despliegue notificando por escrito al Propietario del sistema de IA.

Estrategia de reversión

Tipo de reversión: ☐ Blue-Green ☐ Canary ☐ Feature Flag ☐ Reversión manual ☐ Otro: ____________

Disparadores de reversión

Se debe ejecutar una reversión inmediata (automatizada o manual dentro de 15 minutos) si se observa alguna de las siguientes condiciones:

• [ ] La tasa de error supera el ___% (línea base: ___%) durante más de 5 minutos consecutivos
• [ ] La latencia promedio supera los ___ms (línea base: ___ms) durante más de 5 minutos consecutivos
• [ ] El monitoreo de seguridad detecta explotación activa o exfiltración de datos
• [ ] Las salidas de IA contienen contenido consistentemente dañino, sesgado o sin sentido
• [ ] Los informes de impacto a clientes superan ___ por hora
• [ ] Los puntajes de confianza del modelo caen por debajo del ___% en las consultas de validación estándar

Procedimiento de reversión

Validación de la reversión

• [ ] El procedimiento de reversión se ha probado en staging dentro de los últimos 30 días
• [ ] La reversión puede ejecutarse dentro de ___ minutos (objetivo: menos de 15 minutos)
• [ ] La versión anterior del modelo / estado del sistema está verificada y disponible para despliegue inmediato
• [ ] Los cambios en el esquema de la base de datos (si los hay) son retrocompatibles y no bloquean la reversión
• [ ] La reversión no genera pérdida de datos para las transacciones procesadas por la nueva versión

Acciones posteriores a la reversión

1. Realizar una reunión inmediata de clasificación de incidentes (dentro de las 2 horas posteriores a la reversión)
2. Documentar el modo de falla, la evaluación de impacto y la causa raíz
3. Actualizar la lista de verificación de despliegue para evitar que se repita
4. Reingresar al proceso de aprobación de despliegue antes del siguiente intento
5. Notificar a los clientes afectados si el problema resultó en un servicio degradado o salidas incorrectas

Plan de reversión verificado por: ________________

Fecha: [DATE]