Datos para sistemas de IA
Descripción
Se centra en la gestión de datos para la IA, incluida la garantía de calidad, el seguimiento de la procedencia, la protección de la privacidad, la mitigación de sesgos y el manejo seguro a lo largo del ciclo de vida de la IA.
Controles
| ID | Control | Descripción |
|---|---|---|
| A.6.1 | Calidad de datos para sistemas de IA | Procesos que garantizan que los datos de entrenamiento y operativos de la IA cumplan con los estándares de calidad en cu... |
| A.6.2 | Procedencia y trazabilidad de datos | Documentación de las fuentes de datos, los métodos de recolección, las transformaciones y el linaje a lo largo del ciclo... |
| A.6.3 | Privacidad y protección de datos personales en la IA | Técnicas de preservación de la privacidad y cumplimiento de las normativas de protección de datos en la recolección, el ... |
| A.6.4 | Identificación y mitigación de sesgos en los datos | Evaluación y mitigación sistemática de sesgos en los datos de entrenamiento que podrían generar resultados discriminator... |
| A.6.5 | Manejo y seguridad de datos para la IA | Prácticas de manejo seguro de datos que incluyen el control de acceso, el cifrado, la sanitización y la protección de lo... |
Orientación de implementación
Implementar marcos de calidad de datos con pipelines de validación automatizados que verifiquen la completitud, los valores atípicos y la exactitud de las etiquetas. Mantener el seguimiento del linaje de datos desde la fuente, a través de todas las transformaciones, hasta el despliegue del modelo. Aplicar tecnologías de mejora de la privacidad (privacidad diferencial, aprendizaje federado) para datos sensibles. Realizar auditorías de equidad en los conjuntos de datos de entrenamiento entre atributos protegidos, con estrategias de mitigación para los sesgos identificados. Clasificar y proteger los conjuntos de datos de IA con cifrado, controles de acceso y procedimientos de eliminación segura.
Requisitos de evidencia
Informes de evaluación de calidad de datos
Documentación del linaje de datos
Evaluaciones de impacto en la privacidad
Resultados de auditorías de sesgos y planes de mitigación
Documentación de controles de seguridad de datos