NIST AI RMF APLICACIÓN GOBERNANZA INFRAESTRUCTURA MODELO

TEVV (pruebas, evaluación, verificación y validación)

Parte de: MG: GESTIONAR — Respuesta a riesgos y comunicación

Descripción

Los procesos de TEVV se implementan y se iteran a lo largo del ciclo de vida de la IA para garantizar que los sistemas funcionen según lo previsto y se alineen con las especificaciones. TEVV no es una puerta de control única — es un proceso continuo que abarca desde los requisitos hasta el retiro del sistema.

Acciones sugeridas

1

Establecer un marco integral de TEVV que abarque desde el desarrollo hasta la operación: definir qué se prueba, cuándo, por quién y qué constituye la aprobación o el rechazo en cada etapa

2

Realizar la validación previa al despliegue frente a los requisitos y los umbrales de riesgo — ningún sistema de IA se despliega en producción sin evidencia documentada de que cumple con los estándares mínimos de desempeño, equidad y seguridad

3

Realizar verificaciones continuas del comportamiento del sistema en el entorno de producción — el comportamiento en producción puede diferir significativamente del comportamiento en pruebas debido a diferencias en la distribución de datos, efectos de escala y patrones de comportamiento de los usuarios

4

Reevaluar los sistemas cuando ocurran cambios significativos: reentrenamiento del modelo, cambios en el pipeline de datos, cambios de infraestructura, cambios en la población de usuarios o cambios regulatorios

5

Documentar los resultados de TEVV con trazabilidad desde los requisitos, pasando por los casos de prueba, hasta los resultados — los auditores y los reguladores solicitarán evidencia de que los sistemas fueron validados correctamente

6

Integrar TEVV en los pipelines de CI/CD siempre que sea posible — las pruebas automatizadas de desempeño, equidad y seguridad en cada actualización del modelo reducen el riesgo de regresiones

Controles relacionados

Validación y aprobación del despliegue de IA