NIST AI RMF APLICACIÓN GOBERNANZA INFRAESTRUCTURA MODELO

Evaluación del propósito

Parte de: MG: GESTIONAR — Respuesta a riesgos y comunicación

Descripción

Los sistemas de IA se evalúan para determinar si su propósito previsto, sus casos de uso y su contexto de despliegue son apropiados y beneficiosos. La primera decisión de gestión de riesgos es si conviene desplegarlos en absoluto.

Acciones sugeridas

1

Revisar el propósito del sistema de IA frente a los valores organizacionales y el beneficio social — no toda aplicación que PUEDE usar IA DEBE usar IA

2

Evaluar la necesidad y la proporcionalidad: ¿Es la IA la solución correcta, o un enfoque más simple podría lograr resultados similares con menos riesgo? Una tabla de consulta que funciona es mejor que un modelo de aprendizaje automático que podría estar sesgado

3

Considerar enfoques alternativos que no usen IA o de menor riesgo para lograr los mismos objetivos — documentar por qué se seleccionó la IA en lugar de las alternativas, con evidencia específica de un desempeño o capacidad superiores

4

Obtener aportes de las partes interesadas sobre la idoneidad del despliegue del sistema de IA, especialmente de las comunidades que se verán más afectadas por las decisiones o salidas del sistema

5

Evaluar si los beneficios esperados se distribuyen equitativamente — un sistema de IA que beneficia a la organización mientras perjudica a los usuarios o las comunidades requiere una justificación cuidadosa

6

Reevaluar el propósito y la idoneidad periódicamente y después de cambios significativos — un sistema que era apropiado en su lanzamiento puede dejar de serlo a medida que el contexto cambia

Controles relacionados

Validación y aprobación del despliegue de IA Autoevaluación de riesgos de IA