NIST AI RMF APLICACIÓN DATOS GOBERNANZA INFRAESTRUCTURA

Participación de las partes interesadas

Parte de: GV: GOBERNAR — Políticas, rendición de cuentas y cultura

Descripción

Se cuenta con prácticas organizacionales que permiten el despliegue y el uso continuo de la IA con la participación de las comunidades y las partes interesadas afectadas. Las personas más impactadas por los sistemas de IA suelen ser las menos consultadas.

Acciones sugeridas

1

Identificar y mapear a todas las partes interesadas del sistema de IA, incluyendo a los usuarios finales, las personas afectadas (aquellas cuyos datos se utilizan o que reciben decisiones generadas por IA), los reguladores y las organizaciones de la sociedad civil

2

Establecer mecanismos de consulta a las partes interesadas para las decisiones de diseño y despliegue de IA; utilizar grupos focales, períodos de comentarios públicos o consejos consultivos según el nivel de riesgo del sistema

3

Crear canales de retroalimentación accesibles para que los usuarios y las partes afectadas reporten inquietudes, impugnen decisiones de IA y soliciten revisión humana

4

Documentar y responder a los aportes de las partes interesadas en las decisiones de gobernanza de IA; la participación de las partes interesadas sin seguimiento real es meramente simbólica

5

Para los sistemas de IA de alto riesgo (contratación, préstamos, atención médica), realizar evaluaciones de impacto con la participación de las comunidades que se verán más afectadas

6

Publicar informes de transparencia que describan el uso del sistema de IA, las métricas de desempeño, y la retroalimentación de las partes interesadas recibida y atendida

Controles relacionados

Política de uso aceptable de IA