Herramientas y tecnologías de desarrollo de IA
Descripción
Herramientas, marcos de referencia y plataformas apropiados para el desarrollo responsable de IA, incluyendo capacidades de pruebas de equidad y explicabilidad.
Orientación de implementación
Conjunto de herramientas aprobado
Definir y mantener una lista aprobada de herramientas, marcos de referencia y plataformas de desarrollo de IA. Los criterios de evaluación deben incluir: capacidades de IA responsable (detección de sesgos, explicabilidad), postura de seguridad, cumplimiento de licencias, estabilidad del proveedor e integración con la infraestructura existente.
Herramientas de IA responsable
Exigir que los conjuntos de herramientas aprobados incluyan capacidades para: pruebas de equidad (análisis de impacto dispar, verificaciones de paridad demográfica), explicabilidad (SHAP, LIME, importancia de características), pruebas de robustez (entradas adversarias, casos extremos) y preservación de la privacidad (privacidad diferencial, anonimización de datos).
Gobernanza de herramientas
Establecer un proceso de revisión para la adopción de nuevas herramientas de IA. Prohibir el uso de herramientas no aprobadas en sistemas de IA de producción. Realizar evaluaciones periódicas de seguridad y cumplimiento de las herramientas aprobadas.
Requisitos de evidencia
- Registro de herramientas y plataformas de IA aprobadas
- Criterios de evaluación de herramientas y registros de evaluación
- Requisitos de capacidades de IA responsable
- Registros de aprobación de adopción de herramientas