Identificación y mitigación de sesgos en los datos
Descripción
Evaluación y mitigación sistemática de sesgos en los datos de entrenamiento que podrían generar resultados discriminatorios en el sistema de IA.
Orientación de implementación
Evaluación de sesgos
Realizar evaluaciones sistemáticas de sesgos en los datos de entrenamiento: analizar la representación entre atributos protegidos (edad, género, etnia, discapacidad), medir la equidad en la distribución de etiquetas, identificar variables proxy que podrían codificar sesgos y evaluar el sesgo histórico incorporado en las fuentes de datos.
Estrategias de mitigación
Aplicar técnicas de mitigación adecuadas: remuestreo (sobremuestreo de grupos subrepresentados, submuestreo de grupos sobrerrepresentados), reponderación (ajuste de los pesos de las muestras para equilibrar la representación), aumento de datos para categorías subrepresentadas y recolección de datos representativos adicionales.
Monitoreo continuo
El sesgo no se corrige de una sola vez. Monitorear las distribuciones de datos de producción para detectar la deriva respecto a la demografía de los datos de entrenamiento. Reevaluar el sesgo cuando se agreguen nuevas fuentes de datos o cuando el monitoreo revele resultados dispares.
Requisitos de evidencia
- Informes de evaluación de sesgos con análisis demográfico
- Documentación de la estrategia de mitigación y resultados
- Comparaciones de métricas de equidad antes y después de la mitigación
- Paneles y alertas de monitoreo continuo de sesgos