NIST AI RMF
APLICACIÓN
DATOS
GOBERNANZA
INFRAESTRUCTURA
Estructuras de rendición de cuentas
Descripción
Se establecen roles, responsabilidades y líneas de comunicación relacionadas con la gestión del riesgo de IA, con una rendición de cuentas clara. Cada sistema de IA debe tener una persona designada como responsable de su comportamiento en producción.
Acciones sugeridas
1
Definir roles de gobernanza de IA con autoridad explícita: Oficial de Ética de IA (interpretación de políticas), Gerente de Riesgo de Modelos (supervisión de la validación), Administrador de Datos (calidad y privacidad de los datos), Propietario del Sistema de IA (rendición de cuentas de negocio por los resultados)2
Establecer un Comité o Junta de Gobernanza de IA con representación ejecutiva, que se reúna al menos trimestralmente, con autoridad para detener los despliegues de IA que excedan el apetito de riesgo3
Documentar las cadenas de rendición de cuentas desde los colaboradores individuales hasta el liderazgo ejecutivo; cuando un sistema de IA causa un daño, no debe haber ninguna ambigüedad sobre quién es responsable4
Crear matrices RACI para cada actividad del ciclo de vida de la IA: quién es Responsable de la ejecución, quién rinde cuentas (Accountable) por los resultados, a quién se Consulta para obtener información, y a quién se Informa de las decisiones5
Garantizar que las estructuras de rendición de cuentas cubran los sistemas de IA de terceros; subcontratar la tecnología no subcontrata la responsabilidad6
Integrar la rendición de cuentas de IA en las estructuras de gobierno corporativo existentes (comités de riesgo de la junta directiva, comités de auditoría) en lugar de crear silos de gobernanza paralelos