Gestión de sistemas de IA de terceros
Descripción
Gestión continua de las dependencias de IA de terceros, incluyendo el monitoreo del desempeño, la verificación del cumplimiento y la gobernanza de la relación.
Orientación de implementación
Monitoreo continuo
Monitorear de forma continua el desempeño de la IA de terceros: hacer seguimiento del cumplimiento del SLA, medir la calidad de la salida y las métricas de equidad sobre los datos organizacionales, monitorear cambios no anunciados en el modelo (variaciones en la distribución de la salida), y mantener el seguimiento de incidentes relacionados con el proveedor.
Gobernanza de la relación
Establecer estructuras de gobernanza: reuniones periódicas de revisión del desempeño (trimestrales para proveedores críticos), procedimientos de escalamiento para incumplimientos del SLA, requisitos de notificación de cambios (el proveedor debe notificar antes de actualizar el modelo), y asignación de un patrocinador ejecutivo para los proveedores de IA críticos.
Gestión de dependencias
Mantener conciencia de los riesgos de la cadena de suministro de IA: hacer seguimiento del riesgo de concentración (dependencia excesiva de un único proveedor), identificar proveedores alternativos, planificar escenarios de falla o discontinuación del proveedor, y evaluar los impactos en cascada de los cambios de proveedor.
Requisitos de evidencia
- Informes de monitoreo del desempeño de proveedores
- Registros de seguimiento del cumplimiento del SLA
- Actas de las reuniones de gobernanza
- Evaluaciones de riesgo de dependencia y concentración