Información para los usuarios de sistemas de IA
Descripción
Información integral para los usuarios de sistemas de IA sobre capacidades, limitaciones, uso adecuado y mecanismos de recurso.
Orientación de implementación
Documentación para usuarios
Proporcionar documentación integral para usuarios que cubra: el propósito y uso previsto del sistema, métricas de exactitud y confiabilidad, limitaciones conocidas y modos de falla, las entradas de datos requeridas y cómo se utilizan, la disponibilidad de supervisión humana, y cómo escalar inquietudes o impugnar decisiones.
Tarjetas de modelo
Publicar tarjetas de modelo (según Mitchell et al.) para todos los sistemas de IA de cara al exterior, documentando: detalles del modelo, uso previsto, métricas de desempeño por grupo demográfico, limitaciones, consideraciones éticas y usos recomendados.
Mecanismos de recurso
Documentar y comunicar cómo pueden los usuarios: solicitar la revisión humana de las decisiones de IA, apelar decisiones automatizadas, proporcionar retroalimentación sobre el comportamiento del sistema de IA, presentar quejas, y obtener información adicional sobre el funcionamiento del sistema.
Requisitos de evidencia
- Documentación de sistemas de IA de cara al usuario
- Tarjetas de modelo publicadas
- Documentación de los mecanismos de recurso
- Registros de retroalimentación y quejas de usuarios