Restricción de consultas adversarias y gobernanza de costos
Qué exige este control
Implementar controles de limitación de tasa, gestión de cuotas y detección de anomalías para prevenir el uso excesivo o adversaria de los endpoints de los modelos de IA. Los controles deben proteger contra ataques de denegación de servicio dirigidos a la disponibilidad del modelo, ataques de denegación de monedero (denial-of-wallet) dirigidos a los recursos financieros, y patrones de abuso que degraden la calidad del servicio para los usuarios legítimos.
Por qué es importante
Los costos de inferencia de IA escalan directamente con el volumen de uso, y una sola clave de API comprometida o un usuario abusivo puede generar miles de dólares en cargos de cómputo en cuestión de minutos. Los ataques de denegación de monedero explotan el modelo de precios por token de los servicios de IA en la nube para infligir daño financiero, mientras que las consultas sostenidas de alto volumen pueden agotar los límites de tasa y degradar la disponibilidad para toda la organización.
Cómo implementarlo
Limitación de tasa y cuotas
Implementar límites de tasa por usuario, por aplicación y por clave de API a nivel del gateway de API. Establecer cuotas diarias y mensuales de consumo de tokens con aplicación automática (advertencias leves al 80 %, corte estricto al 100 %). Configurar límites de ráfaga para prevenir ataques de corta duración y alto volumen.
Monitoreo de costos y alertas
Implementar paneles de monitoreo de costos en tiempo real que registren el gasto en IA por usuario, departamento, aplicación y modelo. Configurar alertas al 50 %, 75 % y 90 % de los umbrales de presupuesto. Implementar interruptores de circuito automáticos que suspendan los servicios de IA no críticos cuando el gasto supere los umbrales de emergencia.
Detección de anomalías
Establecer patrones base de uso por usuario y aplicación. Implementar detección de anomalías que marque las desviaciones que superen dos desviaciones estándar respecto de la base (horarios inusuales, picos repentinos de volumen, longitudes de prompt atípicas). Derivar las anomalías al equipo de operaciones de seguridad para su investigación.
Procedimientos de respuesta ante abusos
Definir procedimientos de escalamiento para abusos confirmados: revocación inmediata de claves para credenciales comprometidas, suspensión de usuarios por violaciones de política y notificación al proveedor ante ataques a nivel de plataforma. Documentar los procedimientos de recuperación, incluidos los procesos de disputa de costos con los proveedores de IA.
Evidencia y auditoría
- Registros de configuración de limitación de tasa y cuotas del gateway de API
- Capturas de pantalla del panel de monitoreo de costos en tiempo real o registros de acceso
- Configuración de alertas de umbral de presupuesto y registros de alertas activadas
- Definiciones de línea base de detección de anomalías y registros de eventos marcados
- Configuración de interruptores de circuito y registros de activación
- Registros de investigación y respuesta ante abusos
- Informes mensuales de costos de IA por usuario, departamento y aplicación