NIST AI RMF
DATOS
INFRAESTRUCTURA
MODELO
Evaluación de impacto
Descripción
Se identifican y evalúan los impactos del sistema de IA sobre las personas, los grupos, las comunidades, las organizaciones y la sociedad. La evaluación de impacto va más allá de la identificación de riesgos para considerar quién soporta la carga de los errores del sistema de IA y cómo se distribuye esa carga.
Acciones sugeridas
1
Evaluar los impactos sobre los derechos individuales: autonomía (¿el sistema reduce la agencia humana?), privacidad (¿qué datos personales se recopilan, infieren o exponen?), dignidad (¿podrían las salidas del sistema ser degradantes o deshumanizantes?), y seguridad (¿podrían los errores del sistema causar daño físico?)2
Evaluar los impactos diferenciales sobre los grupos protegidos según raza, género, edad, discapacidad y otros atributos protegidos; las métricas de desempeño agregadas que parecen aceptables pueden ocultar disparidades severas para poblaciones específicas3
Considerar los impactos sociales más amplios: los efectos en el mercado laboral (desplazamiento de empleos, degradación de habilidades), los costos ambientales (consumo de energía, huella de carbono), las implicaciones democráticas (manipulación de la información, burbujas de filtro), y la concentración económica (poder de mercado, brechas digitales)4
Involucrar a las comunidades afectadas en la identificación y evaluación de impacto; las comunidades a menudo identifican impactos que los desarrolladores y los ejecutivos pasan por alto, porque comprenden el contexto de despliegue desde el lado receptor5
Evaluar los impactos acumulativos: ¿cómo interactúa este sistema de IA con otros sistemas de IA y procesos automatizados que las mismas personas encuentran? Un sistema individual puede ser equitativo de forma aislada, pero contribuir a una desventaja acumulativa6
Documentar la metodología, los hallazgos y las mitigaciones de la evaluación de impacto con suficiente especificidad para permitir una revisión independiente y reproducir las conclusiones