Aprendizaje continuo y adaptación de sistemas de IA
Descripción
Procesos controlados para sistemas de IA que aprenden de datos operativos, incluyendo la validación de los comportamientos aprendidos y la prevención de adaptaciones perjudiciales.
Orientación de implementación
Política de aprendizaje continuo
Definir la política organizacional sobre el aprendizaje continuo: qué sistemas de IA tienen permitido aprender de datos operativos, qué salvaguardas se requieren, los requisitos de aprobación para habilitar el aprendizaje continuo, y los escenarios de adaptación prohibidos (aprender de retroalimentación sesgada, reforzar patrones perjudiciales).
Puertas de validación
Implementar puntos de control de validación para los sistemas de aprendizaje continuo: pruebas automatizadas de regresión de desempeño y equidad antes de desplegar modelos actualizados, comparación contra el desempeño del modelo de referencia, revisión humana de muestras de comportamiento aprendido, y disparadores de reversión (rollback) si las métricas se degradan.
Prevención de la deriva
Proteger contra la adaptación perjudicial: implementar restricciones en la tasa de aprendizaje, mantener conjuntos de pruebas de referencia (golden test sets) que siempre deben aprobarse, monitorear la existencia de ciclos de retroalimentación (el sesgo del modelo reforzando una recopilación de datos sesgada), y establecer límites sobre cuánto puede desviarse (drift) el modelo de su línea base validada.
Requisitos de evidencia
- Política de aprendizaje continuo y lista de sistemas aprobados
- Configuraciones de las puertas de validación y resultados de las pruebas
- Registros de actualización de modelos con comparación de desempeño antes/después
- Registros de monitoreo de deriva e historial de reversiones (rollback)