NIST AI RMF
APLICACIÓN
DATOS
GOBERNANZA
INFRAESTRUCTURA
Diversidad, equidad, inclusión y accesibilidad
Descripción
Los equipos organizacionales que construyen, despliegan y utilizan sistemas de IA reflejan la diversidad, y son proactivos al abordar el sesgo perjudicial y la discriminación. Los sistemas de IA heredan y amplifican los sesgos de sus creadores; la diversidad de los equipos es un control técnico, no solo una iniciativa de recursos humanos.
Acciones sugeridas
1
Construir equipos de desarrollo de IA con diversidad de atributos protegidos, formaciones disciplinarias y experiencias vividas; los equipos homogéneos producen puntos ciegos homogéneos2
Implementar prácticas de diseño inclusivo que involucren a las comunidades afectadas en los requisitos, las pruebas y la evaluación de la IA; no como una idea tardía, sino como una entrada de diseño3
Establecer protocolos de pruebas de sesgo a lo largo del ciclo de vida de la IA: auditorías de los datos de entrenamiento, pruebas de equidad previas al despliegue entre grupos demográficos, y monitoreo continuo en producción4
Crear requisitos de accesibilidad para las interfaces y las salidas de los sistemas de IA; garantizar que el contenido generado por IA cumpla con los estándares WCAG 2.1 AA y sea utilizable por personas con discapacidad5
Realizar análisis de impacto dispar antes de desplegar sistemas de IA que afecten decisiones de contratación, préstamos, seguros, vivienda o justicia penal6
Documentar y publicar desgloses de desempeño por grupo demográfico para los sistemas de IA de alto riesgo; las métricas de desempeño agregadas pueden ocultar disparidades significativas