ISO/IEC 42001:2023

Editor: Organización Internacional de Normalización Versión: 2023

La primera norma mundial de sistemas de gestión de IA. Especifica los requisitos para establecer, implementar y mejorar un Sistema de Gestión de IA (SGIA). 10 cláusulas + Anexo A con 9 dominios de control.

Dominios:

ID	Nombre	Descripción	Dominios
Cláusula 1	Alcance	Define el alcance de ISO/IEC 42001, especificando los requisitos para establecer, implementar, mantener y mejorar con...	GOBERNANZA
Cláusula 2	Referencias normativas	Enumera las referencias normativas esenciales para la aplicación de ISO/IEC 42001, incluyendo los estándares fundamen...	GOBERNANZA
Cláusula 3	Términos y definiciones	Establece los términos y definiciones clave utilizados a lo largo de ISO 42001, extraídos de ISO/IEC 22989 e ISO/IEC ...	GOBERNANZA
Cláusula 4	Contexto de la organización	Establece los requisitos para comprender el contexto organizacional, identificar a las partes interesadas y sus requi...	GOBERNANZA
Cláusula 5	Liderazgo	Define la rendición de cuentas del liderazgo para el sistema de gestión de IA, incluyendo el establecimiento de la po...	GOBERNANZA
Cláusula 6	Planificación	Requiere la planificación para abordar los riesgos y oportunidades de IA, establecer objetivos de IA medibles, y plan...	GOBERNANZA
Cláusula 7	Apoyo	Aborda los mecanismos de apoyo, incluyendo los recursos, la competencia, la concientización, la comunicación y la doc...	DATOS
Cláusula 8	Operación	Define los requisitos operativos para la planificación, el desarrollo y el despliegue de sistemas de IA, incluyendo l...	DATOS MODELO
Cláusula 9	Evaluación del desempeño	Establece los requisitos para monitorear, medir, analizar y evaluar el desempeño del sistema de gestión de IA mediant...	ASEGURAMIENTO
Cláusula 10	Mejora	Requiere la mejora continua del sistema de gestión de IA mediante la identificación y corrección de no conformidades,...	ASEGURAMIENTO
Anexo A.2	Políticas relacionadas con la IA	Abarca el establecimiento de políticas específicas de IA que aborden el uso ético, el uso aceptable, la supervisión h...	GOBERNANZA
A.2.1	Política de IA	Política documentada que define el enfoque organizacional para el desarrollo, despliegue y uso de la IA, alineado con...	GOBERNANZA
A.2.2	Política de uso aceptable de la IA	Política que define los usos permitidos y prohibidos de los sistemas de IA, incluyendo los límites para la toma de de...	GOBERNANZA
A.2.3	Supervisión humana de los sistemas de IA	Política que establece los requisitos para una supervisión humana significativa, los mecanismos de intervención y los...	GOBERNANZA
A.2.4	Participación de las partes interesadas en la política de IA	Política que garantiza la participación diversa de las partes interesadas en el desarrollo de la política de IA, incl...	GOBERNANZA
Anexo A.3	Organización interna	Aborda la estructura organizacional para la gobernanza de IA, incluyendo la definición de roles, la segregación de fu...	GOBERNANZA
A.3.1	Roles y responsabilidades de IA	Roles definidos y comunicados para el desarrollo, despliegue, gobernanza y supervisión de la IA, con autoridades y re...	GOBERNANZA
A.3.2	Segregación de funciones para los sistemas de IA	Separación de responsabilidades en conflicto dentro del ciclo de vida de la IA (desarrollo, pruebas, aprobación, moni...	GOBERNANZA
A.3.3	Rendición de cuentas para las decisiones del sistema de IA	Asignación clara de la rendición de cuentas del diseño, las decisiones, los resultados y los impactos del sistema de ...	GOBERNANZA
A.3.4	Supervisión ética de la IA	Junta o comité de ética de IA establecido, con autoridad para revisar los sistemas de IA de alto riesgo y resolver in...	GOBERNANZA
Anexo A.4	Recursos para los sistemas de IA	Abarca la gestión de recursos para la IA, incluyendo la infraestructura computacional, las herramientas, el desarroll...	APLICACIÓN INFRAESTRUCTURA
A.4.1	Recursos computacionales del sistema de IA	Infraestructura computacional adecuada para el entrenamiento, las pruebas y la operación de la IA, con planificación ...	APLICACIÓN INFRAESTRUCTURA
A.4.2	Herramientas y tecnologías de desarrollo de IA	Herramientas, marcos de referencia y plataformas apropiados para el desarrollo responsable de IA, incluyendo capacida...	APLICACIÓN INFRAESTRUCTURA
A.4.3	Competencia en sistemas de IA	El personal posee las competencias técnicas, éticas y de dominio requeridas para sus funciones relacionadas con la IA...	APLICACIÓN INFRAESTRUCTURA
A.4.4	Concientización sobre sistemas de IA	Programas de concientización en toda la organización que abarcan las capacidades, limitaciones, riesgos y principios ...	APLICACIÓN INFRAESTRUCTURA
A.4.5	Comunicación relacionada con los sistemas de IA	Canales de comunicación efectivos para información, inquietudes e incidentes relacionados con la IA en todos los nive...	APLICACIÓN INFRAESTRUCTURA
A.4.6	Uso de experiencia externa en IA	Procesos para contratar especialistas, investigadores o auditores externos en IA con el fin de complementar las capac...	APLICACIÓN INFRAESTRUCTURA
Anexo A.5	Ciclo de vida del sistema de IA	Aborda la gestión del ciclo de vida específica de la IA, incluidos los principios de diseño, las prácticas de desarro...	APLICACIÓN
A.5.1	Diseño del sistema de IA	Proceso de diseño sistemático que incorpora la seguridad, la protección, la equidad, la transparencia y la rendición ...	APLICACIÓN
A.5.2	Desarrollo del sistema de IA	Prácticas de desarrollo disciplinadas que incluyen control de versiones, revisión por pares, documentación y adherenc...	APLICACIÓN
A.5.3	Verificación y validación del sistema de IA	Pruebas rigurosas de los sistemas de IA en cuanto a exactitud, equidad, robustez, seguridad y cumplimiento, antes y d...	APLICACIÓN
A.5.4	Despliegue del sistema de IA	Despliegue controlado con implementación por fases, monitoreo, activación de la supervisión humana y aprobación docum...	APLICACIÓN
A.5.5	Gestión de cambios del sistema de IA	Cambios gestionados en los sistemas de IA, incluidas las actualizaciones de modelos, los cambios de datos y las modif...	APLICACIÓN
A.5.6	Retiro del sistema de IA	Retiro o desmantelamiento planificado de los sistemas de IA, con retención de datos, procedimientos de transferencia ...	APLICACIÓN
Anexo A.6	Datos para sistemas de IA	Se centra en la gestión de datos para la IA, incluida la garantía de calidad, el seguimiento de la procedencia, la pr...	MODELO
A.6.1	Calidad de datos para sistemas de IA	Procesos que garantizan que los datos de entrenamiento y operativos de la IA cumplan con los estándares de calidad en...	MODELO
A.6.2	Procedencia y trazabilidad de datos	Documentación de las fuentes de datos, los métodos de recolección, las transformaciones y el linaje a lo largo del ci...	MODELO
A.6.3	Privacidad y protección de datos personales en la IA	Técnicas de preservación de la privacidad y cumplimiento de las normativas de protección de datos en la recolección, ...	MODELO
A.6.4	Identificación y mitigación de sesgos en los datos	Evaluación y mitigación sistemática de sesgos en los datos de entrenamiento que podrían generar resultados discrimina...	MODELO
A.6.5	Manejo y seguridad de datos para la IA	Prácticas de manejo seguro de datos que incluyen el control de acceso, el cifrado, la sanitización y la protección de...	MODELO
Anexo A.7	Información para las partes interesadas	Aborda los requisitos de transparencia y comunicación, incluida la divulgación del sistema de IA, la explicabilidad d...	APLICACIÓN
A.7.1	Transparencia sobre el uso de la IA	Divulgación clara cuando las personas interactúan con sistemas de IA o cuando la IA influye significativamente en dec...	APLICACIÓN
A.7.2	Explicabilidad de los resultados de los sistemas de IA	Provisión de explicaciones significativas para las decisiones de IA, apropiadas para la audiencia y el nivel de riesg...	APLICACIÓN
A.7.3	Información para los usuarios de sistemas de IA	Información integral para los usuarios de sistemas de IA sobre capacidades, limitaciones, uso adecuado y mecanismos d...	APLICACIÓN
A.7.4	Comunicación de incidentes de sistemas de IA	Comunicación oportuna y adecuada a las partes afectadas sobre fallas del sistema de IA, incidentes de seguridad o imp...	APLICACIÓN
Anexo A.8	Uso de sistemas de IA	Abarca los controles de uso operativo, incluyendo el monitoreo del sistema, el seguimiento del desempeño, la recopila...	DATOS
A.8.1	Monitoreo de sistemas de IA	Monitoreo continuo de los sistemas de IA desplegados para detectar degradación del desempeño, deriva (drift), amenaza...	DATOS
A.8.2	Medición del desempeño de sistemas de IA	Medición y informe periódicos del desempeño del sistema de IA frente a métricas definidas, incluyendo exactitud, equi...	DATOS
A.8.3	Retroalimentación y quejas relacionadas con sistemas de IA	Mecanismos para que los usuarios y las partes afectadas proporcionen retroalimentación, reporten inquietudes y presen...	DATOS
A.8.4	Aprendizaje continuo y adaptación de sistemas de IA	Procesos controlados para sistemas de IA que aprenden de datos operativos, incluyendo la validación de los comportami...	DATOS
Anexo A.9	Relaciones con terceros	Aborda los riesgos de IA de terceros, incluyendo la evaluación de proveedores, los controles contractuales, la gestió...	ASEGURAMIENTO MODELO
A.9.1	Evaluación de proveedores de sistemas de IA	Evaluación de debida diligencia de los proveedores de sistemas de IA que abarca las capacidades técnicas, las práctic...	ASEGURAMIENTO MODELO
A.9.2	Acuerdos con sistemas de IA de terceros	Contratos con proveedores de IA que definen estándares de desempeño, requisitos de seguridad, responsabilidad, derech...	ASEGURAMIENTO MODELO
A.9.3	Gestión de sistemas de IA de terceros	Gestión continua de las dependencias de IA de terceros, incluyendo el monitoreo del desempeño, la verificación del cu...	ASEGURAMIENTO MODELO
A.9.4	Auditoría de sistemas de IA de terceros	Auditorías o evaluaciones periódicas de los sistemas de IA de terceros para verificar el cumplimiento contractual, lo...	ASEGURAMIENTO MODELO
Anexo A.10	Gestión de sistemas de IA	Abarca la gestión continua de sistemas de IA, incluyendo las actualizaciones de las evaluaciones de impacto, el contr...	INFRAESTRUCTURA
A.10.1	Reevaluación del impacto de sistemas de IA	Reevaluación periódica de los impactos del sistema de IA a medida que cambian el contexto, el uso o las capacidades d...	INFRAESTRUCTURA
A.10.2	Control de versiones de sistemas de IA	Gestión de las versiones de los sistemas de IA, incluyendo modelos, datos de entrenamiento, código y configuraciones,...	INFRAESTRUCTURA
A.10.3	Mantenimiento de la documentación de sistemas de IA	Mantenimiento continuo de la documentación del sistema de IA para reflejar el estado actual, los cambios y los aprend...	INFRAESTRUCTURA