Descripción
Proceso de diseño sistemático que incorpora la seguridad, la protección, la equidad, la transparencia y la rendición de cuentas por diseño desde el inicio.
Orientación de implementación
Principios de diseño
Incorporar los principios de IA responsable en la fase de diseño: definir restricciones de equidad antes de la selección del modelo, especificar los requisitos de explicabilidad según el riesgo del caso de uso, incorporar la privacidad desde el diseño (minimización de datos, limitación de la finalidad) y planificar las interfaces de supervisión humana.
Documentación de diseño
Producir una especificación de diseño del sistema que cubra: definición del problema, uso previsto y usuarios, especificaciones de entrada/salida, requisitos de desempeño, criterios de equidad, límites de seguridad y análisis de modos de falla. Exigir la aprobación de la revisión de diseño antes de que comience el desarrollo.
Diseño basado en riesgos
Realizar una evaluación de riesgos en la fase de diseño que identifique posibles daños, vectores de sesgo, superficies de ataque de seguridad y escenarios de falla. Documentar las decisiones de diseño tomadas para mitigar los riesgos identificados y la justificación de las compensaciones.
Requisitos de evidencia
- Especificaciones de diseño del sistema de IA
- Registros de aprobación de revisión de diseño
- Evaluaciones de riesgos en la fase de diseño
- Requisitos de IA responsable por sistema