Uso de sistemas de IA
Descripción
Abarca los controles de uso operativo, incluyendo el monitoreo del sistema, el seguimiento del desempeño, la recopilación de retroalimentación y la gestión del aprendizaje continuo para garantizar una operación segura y eficaz.
Controles
| ID | Control | Descripción |
|---|---|---|
| A.8.1 | Monitoreo de sistemas de IA | Monitoreo continuo de los sistemas de IA desplegados para detectar degradación del desempeño, deriva (drift), amenazas d... |
| A.8.2 | Medición del desempeño de sistemas de IA | Medición y informe periódicos del desempeño del sistema de IA frente a métricas definidas, incluyendo exactitud, equidad... |
| A.8.3 | Retroalimentación y quejas relacionadas con sistemas de IA | Mecanismos para que los usuarios y las partes afectadas proporcionen retroalimentación, reporten inquietudes y presenten... |
| A.8.4 | Aprendizaje continuo y adaptación de sistemas de IA | Procesos controlados para sistemas de IA que aprenden de datos operativos, incluyendo la validación de los comportamient... |
Orientación de implementación
Implementar plataformas de observabilidad que hagan seguimiento de las predicciones del modelo, los puntajes de confianza, las distribuciones de entrada y las métricas de equidad en producción. Establecer paneles que reporten los KPI del sistema de IA a los propietarios del negocio y a los equipos de gobernanza, con alertas ante incumplimientos de umbrales. Implementar canales de retroalimentación de usuarios (informe dentro de la aplicación, integración con servicio al cliente) con flujos de clasificación y respuesta. Para los sistemas de aprendizaje continuo, implementar validación humana en el ciclo (human-in-the-loop) de las actualizaciones del modelo y procedimientos de reversión (rollback) para el desempeño degradado.
Requisitos de evidencia
Paneles de monitoreo y configuraciones de alertas
Informes de medición del desempeño
Registros de retroalimentación/quejas y registros de resolución
Procedimientos de validación del aprendizaje continuo