Ciclo de vida del sistema de IA
Descripción
Aborda la gestión del ciclo de vida específica de la IA, incluidos los principios de diseño, las prácticas de desarrollo, las pruebas y validación, el control de cambios y los procedimientos de retiro.
Controles
| ID | Control | Descripción |
|---|---|---|
| A.5.1 | Diseño del sistema de IA | Proceso de diseño sistemático que incorpora la seguridad, la protección, la equidad, la transparencia y la rendición de ... |
| A.5.2 | Desarrollo del sistema de IA | Prácticas de desarrollo disciplinadas que incluyen control de versiones, revisión por pares, documentación y adherencia ... |
| A.5.3 | Verificación y validación del sistema de IA | Pruebas rigurosas de los sistemas de IA en cuanto a exactitud, equidad, robustez, seguridad y cumplimiento, antes y desp... |
| A.5.4 | Despliegue del sistema de IA | Despliegue controlado con implementación por fases, monitoreo, activación de la supervisión humana y aprobación document... |
| A.5.5 | Gestión de cambios del sistema de IA | Cambios gestionados en los sistemas de IA, incluidas las actualizaciones de modelos, los cambios de datos y las modifica... |
| A.5.6 | Retiro del sistema de IA | Retiro o desmantelamiento planificado de los sistemas de IA, con retención de datos, procedimientos de transferencia y c... |
Orientación de implementación
Adoptar patrones de diseño de IA que incorporen restricciones de equidad, preservación de la privacidad y mecanismos de explicabilidad. Implementar pipelines de MLOps con pruebas automatizadas para la deriva del modelo, el sesgo y la robustez adversaria. Exigir un despliegue en múltiples etapas (canario, azul-verde) para sistemas de alto riesgo, con criterios de reversión definidos. Establecer la revisión de un comité asesor de cambios para las modificaciones significativas del sistema de IA, con pruebas de regresión obligatorias.
Requisitos de evidencia
Especificaciones de diseño del sistema de IA
Estándares de desarrollo y revisiones de código
Planes de prueba e informes de validación
Aprobaciones de despliegue y registros de monitoreo
Solicitudes de cambio y evaluaciones de impacto
Procedimientos y registros de retiro