Reevaluación del impacto de sistemas de IA
Descripción
Reevaluación periódica de los impactos del sistema de IA a medida que cambian el contexto, el uso o las capacidades del sistema a lo largo del tiempo.
Orientación de implementación
Disparadores de reevaluación
Definir los eventos que requieren una reevaluación de impacto: actualizaciones significativas del modelo o reentrenamiento, expansión del alcance del sistema de IA o de la población de usuarios, cambios regulatorios que afecten el caso de uso de IA, incidentes que revelen impactos previamente no identificados, y revisiones periódicas programadas (como mínimo anuales).
Proceso de reevaluación
Realizar reevaluaciones estructuradas que abarquen: el análisis actualizado del panorama de riesgo, la comparación entre el impacto real y el previsto, los nuevos grupos de partes interesadas afectados, los requisitos regulatorios modificados, y los riesgos emergentes identificados desde la última evaluación. Comparar los hallazgos con la evaluación de impacto original.
Acción sobre los hallazgos
Documentar los resultados de la reevaluación y las acciones requeridas: actualizar los registros de riesgo, modificar los umbrales de monitoreo, ajustar los niveles de supervisión humana, comunicar los cambios a las partes interesadas, y actualizar la documentación del sistema. Escalar los nuevos riesgos significativos a la gobernanza.
Requisitos de evidencia
- Documentación de los disparadores de reevaluación
- Informes de reevaluación completados con comparación respecto a la línea base
- Registros de riesgo actualizados que reflejan los hallazgos de la reevaluación
- Planes de acción y seguimiento de su finalización