Información para las partes interesadas
Descripción
Aborda los requisitos de transparencia y comunicación, incluida la divulgación del sistema de IA, la explicabilidad de las decisiones, la provisión de información a los usuarios y la comunicación de incidentes.
Controles
| ID | Control | Descripción |
|---|---|---|
| A.7.1 | Transparencia sobre el uso de la IA | Divulgación clara cuando las personas interactúan con sistemas de IA o cuando la IA influye significativamente en decisi... |
| A.7.2 | Explicabilidad de los resultados de los sistemas de IA | Provisión de explicaciones significativas para las decisiones de IA, apropiadas para la audiencia y el nivel de riesgo d... |
| A.7.3 | Información para los usuarios de sistemas de IA | Información integral para los usuarios de sistemas de IA sobre capacidades, limitaciones, uso adecuado y mecanismos de r... |
| A.7.4 | Comunicación de incidentes de sistemas de IA | Comunicación oportuna y adecuada a las partes afectadas sobre fallas del sistema de IA, incidentes de seguridad o impact... |
Orientación de implementación
Implementar mecanismos de divulgación de IA (indicadores visuales, notificaciones) cada vez que los usuarios interactúen con sistemas automatizados. Implementar herramientas de interpretabilidad de modelos (SHAP, LIME) que proporcionen importancia de características y explicaciones contrafactuales. Desarrollar documentación de cara al usuario que explique el propósito del sistema de IA, las métricas de exactitud, las limitaciones y la disponibilidad de supervisión humana. Establecer protocolos de comunicación de incidentes con umbrales de notificación y plantillas para los diferentes grupos de partes interesadas.
Requisitos de evidencia
Avisos de divulgación de IA e interfaces de usuario
Documentación y ejemplos de explicabilidad
Guías de usuario y tarjetas de sistema de IA
Procedimientos y registros de comunicación de incidentes