Marco de Gestión de Riesgos de IA del NIST 1.0

Editor: Instituto Nacional de Estándares y Tecnología Versión: 1.0

Un marco voluntario para gestionar los riesgos a lo largo del ciclo de vida de la IA. Organizado en torno a cuatro funciones principales: Gobernar, Mapear, Medir y Gestionar. Incluye el Perfil de IA Generativa (AI 600-1) para los riesgos de los modelos fundacionales.

Dominios:

ID	Nombre	Descripción	Dominios
GV	GOBERNAR — Políticas, rendición de cuentas y cultura	La función GOBERNAR establece y mantiene las estructuras organizacionales, las políticas, los procesos y la cultura n...	APLICACIÓN DATOS GOBERNANZA INFRAESTRUCTURA
GV-1	Políticas, procesos y prácticas	Las políticas, los procesos, los procedimientos y las prácticas de IA están implementados en toda la organización par...	APLICACIÓN DATOS GOBERNANZA INFRAESTRUCTURA
GV-2	Estructuras de rendición de cuentas	Se establecen roles, responsabilidades y líneas de comunicación relacionadas con la gestión del riesgo de IA, con una...	APLICACIÓN DATOS GOBERNANZA INFRAESTRUCTURA
GV-3	Diversidad, equidad, inclusión y accesibilidad	Los equipos organizacionales que construyen, despliegan y utilizan sistemas de IA reflejan la diversidad, y son proac...	APLICACIÓN DATOS GOBERNANZA INFRAESTRUCTURA
GV-4	Cultura y compromiso organizacional	La cultura organizacional y el liderazgo fomentan una administración responsable de la IA confiable alineada con los ...	APLICACIÓN DATOS GOBERNANZA INFRAESTRUCTURA
GV-5	Participación de las partes interesadas	Se cuenta con prácticas organizacionales que permiten el despliegue y el uso continuo de la IA con la participación d...	APLICACIÓN DATOS GOBERNANZA INFRAESTRUCTURA
GV-6	Gestión del riesgo de la cadena de suministro	Los riesgos y beneficios de la IA provenientes de recursos de terceros se monitorean regularmente, y los controles de...	APLICACIÓN DATOS GOBERNANZA INFRAESTRUCTURA
MP	MAPEAR — Contexto e identificación de riesgos	La función MAPEAR establece el contexto para la gestión del riesgo de IA al identificar el propósito previsto, el con...	DATOS INFRAESTRUCTURA MODELO
MP-1	Establecimiento del contexto	Se identifican y documentan los contextos legal, regulatorio y social del despliegue del sistema de IA, incluyendo la...	DATOS INFRAESTRUCTURA MODELO
MP-2	Categorización y niveles de riesgo	Los sistemas de IA se categorizan según su uso previsto, sus beneficiarios y su potencial de daño, lo que permite apl...	DATOS INFRAESTRUCTURA MODELO
MP-3	Capacidades y limitaciones de la IA	Se documentan las capacidades del sistema de IA, los propósitos previstos, el contexto de uso, y las limitaciones con...	DATOS INFRAESTRUCTURA MODELO
MP-4	Identificación y análisis de riesgos	Los riesgos y beneficios de la IA se identifican, evalúan, priorizan y documentan, abarcando las dimensiones técnica,...	DATOS INFRAESTRUCTURA MODELO
MP-5	Evaluación de impacto	Se identifican y evalúan los impactos del sistema de IA sobre las personas, los grupos, las comunidades, las organiza...	DATOS INFRAESTRUCTURA MODELO
MS	MEDIR — Evaluación, métricas y pruebas	La función MEDIR emplea métodos cuantitativos y cualitativos para evaluar las características de confiabilidad del si...	ASEGURAMIENTO DATOS MODELO
MS-1	Enfoque de medición	Se identifican y aplican métodos y métricas apropiados para medir el desempeño, la equidad, la seguridad y otras cara...	ASEGURAMIENTO DATOS MODELO
MS-2	Pruebas y validación	Los sistemas de IA se someten a pruebas y validación, incluidas pruebas adversarias, pruebas de sesgo y red teaming, ...	ASEGURAMIENTO DATOS MODELO
MS-3	Competencia y experiencia	Las actividades de medición del sistema de IA son realizadas por individuos y equipos con conocimiento del dominio, e...	ASEGURAMIENTO DATOS MODELO
MS-4	Aportes externos y validación	Los procesos de medición incorporan perspectivas externas, pruebas independientes y retroalimentación de las partes i...	ASEGURAMIENTO DATOS MODELO
MG	GESTIONAR — Respuesta a riesgos y comunicación	La función GESTIONAR asigna recursos, implementa controles, despliega mitigaciones y establece un monitoreo continuo ...	APLICACIÓN GOBERNANZA INFRAESTRUCTURA MODELO
MG-1	Evaluación del propósito	Los sistemas de IA se evalúan para determinar si su propósito previsto, sus casos de uso y su contexto de despliegue ...	APLICACIÓN GOBERNANZA INFRAESTRUCTURA MODELO
MG-2	Equilibrio entre riesgos y beneficios	Los riesgos y beneficios del sistema de IA se equilibran y gestionan en función del impacto esperado, con una toleran...	APLICACIÓN GOBERNANZA INFRAESTRUCTURA MODELO
MG-3	Monitoreo del ciclo de vida	Los sistemas de IA se monitorean durante todo su ciclo de vida para detectar la degradación del desempeño, la deriva,...	APLICACIÓN GOBERNANZA INFRAESTRUCTURA MODELO
MG-4	TEVV (pruebas, evaluación, verificación y validación)	Los procesos de TEVV se implementan y se iteran a lo largo del ciclo de vida de la IA para garantizar que los sistema...	APLICACIÓN GOBERNANZA INFRAESTRUCTURA MODELO
AI 600-1	Perfil de IA generativa	NIST AI 600-1 es un documento complementario del AI RMF que aborda los riesgos exclusivos de los sistemas de IA gener...	ASEGURAMIENTO MODELO
GAI-1	Información y capacidades CBRN	Riesgo de que la IA generativa reduzca las barreras para el desarrollo o uso de armas químicas, biológicas, radiológi...	ASEGURAMIENTO MODELO
GAI-2	Confabulación (alucinación)	Riesgo de que la IA generativa produzca salidas falsas, fabricadas o inconsistentes presentadas como información fact...	ASEGURAMIENTO MODELO
GAI-3	Privacidad de datos	Riesgo de que la IA generativa exponga, infiera o memorice información personal o sensible a partir de los datos de e...	ASEGURAMIENTO MODELO
GAI-4	Impacto ambiental	Riesgo de un consumo energético y emisiones de carbono significativos derivados del entrenamiento y la operación de m...	ASEGURAMIENTO MODELO
GAI-5	Homogeneización de contenido y perspectivas	Riesgo de que el uso generalizado de la IA generativa reduzca la diversidad de contenidos, ideas y expresiones cultur...	ASEGURAMIENTO MODELO
GAI-6	Configuración humano-IA	Riesgo de una dependencia inapropiada de la IA generativa, sesgo de automatización o degradación de las habilidades y...	ASEGURAMIENTO MODELO
GAI-7	Integridad de la información	Riesgo de que la IA generativa facilite la información errónea, la desinformación, los deepfakes y la manipulación de...	ASEGURAMIENTO MODELO
GAI-8	Seguridad de la información	Riesgo de ataques adversarios dirigidos a los sistemas de IA generativa, incluidos la inyección de prompts, la jailbr...	ASEGURAMIENTO MODELO
GAI-9	Propiedad intelectual	Riesgo de que la IA generativa infrinja derechos de autor, reproduzca obras protegidas o genere una titularidad de pr...	ASEGURAMIENTO MODELO
GAI-10	Contenido obsceno, degradante y abusivo	Riesgo de que la IA generativa produzca contenido violento, sexual, de odio o dañino de otra manera. Sin guardrails d...	ASEGURAMIENTO MODELO
GAI-11	Toxicidad, sesgo y homogeneización	Riesgo de que la IA generativa amplifique estereotipos, produzca salidas sesgadas o exhiba patrones de lenguaje tóxic...	ASEGURAMIENTO MODELO
GAI-12	Cadena de valor e integración de componentes	Riesgo derivado de las dependencias de modelos fundacionales, API, complementos o componentes de terceros con propied...	ASEGURAMIENTO MODELO