NIST AI RMF
DATOS
INFRAESTRUCTURA
MODELO
Identificación y análisis de riesgos
Descripción
Los riesgos y beneficios de la IA se identifican, evalúan, priorizan y documentan, abarcando las dimensiones técnica, social y ética. La identificación integral de riesgos es la actividad más valiosa en la gestión del riesgo de IA; no se pueden mitigar los riesgos que no se han identificado.
Acciones sugeridas
1
Realizar una evaluación de riesgo multidimensional que abarque: las fallas técnicas (colapso del modelo, ataques adversarios, envenenamiento de datos), los daños sociales (sesgo, discriminación, violaciones de privacidad), la exposición legal (sanciones regulatorias, litigios, incumplimiento contractual), y el daño reputacional2
Utilizar métodos estructurados de identificación de riesgos: modelado de amenazas (STRIDE/PASTA adaptado para IA), análisis de modos de falla (FMEA para sistemas de IA), y ejercicios de red teaming que simulen escenarios adversarios3
Analizar los beneficios potenciales y los impactos positivos junto con los riesgos; la gestión de riesgos consiste en optimizar la relación riesgo-beneficio, no en eliminar todo el riesgo4
Priorizar los riesgos utilizando una metodología de puntuación consistente (probabilidad x impacto), con puntajes separados para las diferentes categorías de daño (financiero, seguridad física, privacidad, dignidad)5
Documentar el análisis de riesgo-beneficio que justifique explícitamente las decisiones de despliegue; el análisis debe ser lo suficientemente específico para que un revisor pueda evaluar si la decisión fue razonable6
Identificar los riesgos en cascada y sistémicos: ¿cómo podría una falla en este sistema de IA afectar a los sistemas posteriores, los procesos dependientes, o las decisiones interconectadas?