Gobernanza de Permisos de Agentes y Complementos
Qué exige este control
Aplicar el principio de mínimo privilegio a todos los agentes de IA, complementos e integraciones de herramientas, restringiendo el acceso autónomo únicamente a los datos, sistemas y acciones requeridos para el caso de uso definido. Los otorgamientos de permisos deben tener un alcance explícito, estar limitados en el tiempo cuando corresponda, y estar sujetos a revisión y recertificación periódicas.
Por qué es importante
Los agentes de IA con permisos excesivos representan un multiplicador de fuerza para los incidentes de seguridad. Un agente comprometido o con comportamiento indebido que cuente con acceso amplio al sistema puede leer bases de datos sensibles, modificar registros, enviar comunicaciones o ejecutar transacciones a velocidad de máquina sin supervisión humana. El OWASP Agentic AI Top 10 identifica el exceso de agencia (excessive agency) como el riesgo principal en los despliegues autónomos de IA, ya que transforma cualquier vulnerabilidad del modelo en un compromiso a nivel de todo el sistema.
Cómo implementarlo
Inventario y Alcance de Permisos
Mantener un inventario formal de todos los agentes de IA y complementos, con los permisos otorgados, los derechos de acceso a datos y las integraciones con los sistemas. Para cada agente, documentar los permisos mínimos requeridos para cumplir con su propósito declarado. Eliminar cualquier permiso que exceda el mínimo documentado.
Flujo de Aprobación y Aprovisionamiento
Exigir una revisión de seguridad y una aprobación explícita antes de otorgar a los agentes de IA acceso a nuevos sistemas, fuentes de datos o capacidades de acción. Implementar un modelo de aprobación escalonado: el acceso de solo lectura requiere la aprobación del líder de equipo; el acceso de escritura requiere la revisión del equipo de seguridad; las acciones destructivas o financieras requieren la autorización ejecutiva.
Aplicación de Permisos en Tiempo de Ejecución
Aplicar los permisos a nivel de infraestructura mediante alcances de API, roles de IAM, segmentación de red y listas de permitidos para la invocación de herramientas (tool-calling). No depender únicamente de instrucciones a nivel de prompt para restringir el comportamiento del agente. Implementar límites de permisos que no puedan eludirse mediante la manipulación de prompts.
Revisión Periódica de Accesos
Realizar revisiones trimestrales de acceso de todos los permisos de los agentes de IA. Revocar los permisos de los agentes obsoletos, reducir el acceso sobreaprovisionado y recertificar los permisos activos con el líder de equipo responsable. Dar seguimiento a los cambios de permisos en un registro de auditoría.
Evidencia y auditoría
- Inventario de permisos de agentes de IA y complementos con justificaciones documentadas
- Registros del flujo de aprobación para el otorgamiento de permisos (tickets, autorizaciones)
- Configuración de roles de IAM y alcances de API para los agentes de IA
- Configuraciones de listas de permitidos para la invocación de herramientas
- Registros de revisión trimestral de accesos con decisiones de recertificación
- Registros de auditoría de cambios de permisos
- Informes de revisión de seguridad para las nuevas integraciones de agentes