Rendición de cuentas para las decisiones del sistema de IA

Descripción

Asignación clara de la rendición de cuentas del diseño, las decisiones, los resultados y los impactos del sistema de IA a personas o equipos específicos.

Orientación de implementación

Cadena de rendición de cuentas

Documentar una cadena de rendición de cuentas para cada sistema de IA: quién aprobó el caso de uso, quién validó el modelo, quién autorizó el despliegue, y quién es responsable del desempeño y los resultados continuos. Garantizar que al menos una persona identificada (no un comité) tenga la rendición de cuentas final.

Documentación de decisiones

Exigir una justificación documentada para las decisiones clave de IA: la selección de la arquitectura del modelo, las decisiones sobre los datos de entrenamiento, las compensaciones (trade-offs) de equidad, el alcance del despliegue y la aceptación de riesgo. Vincular cada decisión a la persona responsable.

Marco de consecuencias

Definir las consecuencias por fallas en la rendición de cuentas: qué sucede cuando un sistema de IA causa daño, cómo se evalúa la rendición de cuentas, y cómo las lecciones aprendidas retroalimentan las mejoras de gobernanza.

Requisitos de evidencia

• Registro de rendición de cuentas que relaciona los sistemas con las personas
• Registros de decisiones con justificación y firma de aprobación
• Informes de incidentes que rastrean la cadena de rendición de cuentas
• Registros de evaluación de desempeño que reflejan la rendición de cuentas de IA