La pila de gobernanza para agentes de IA de Google Cloud: “gestiona a los agentes como si fueran una organización de ingeniería”

La pila de gobernanza de Gemini Enterprise Agent Platform que Google Cloud presentó en Cloud Next 26 propone un marco sistemático para la gestión de seguridad de agentes de IA. La filosofía central es simple: tratar al conjunto de agentes (fleet) como si fuera una organización de ingeniería. Es decir, asignar identidades, controlar permisos de acceso, aplicar políticas, monitorear comportamientos y auditarlo todo.

Contexto

• Una herramienta SaaS mal configurada expone datos de forma pasiva, pero un agente de IA mal configurado puede ejecutar activamente acciones incorrectas. Se advierte que el problema de shadow IT de 2015, es decir, el uso no autorizado de TI que la organización no tiene identificado, ahora se está repitiendo en el ámbito de los agentes de IA.

Resumen de la pila de gobernanza de 5 capas

• Capa 1 - Identidad del agente (Agent Identity): asigna a cada agente un ID criptográfico único. Esto mejora la estructura anterior, donde todos los agentes operaban con una sola cuenta de servicio y era imposible rastrear problemas. Aplica el Principle of Least Privilege para definir con granularidad qué tablas, buckets y endpoints de API puede usar cada agente.
• Capa 2 - Registro de agentes (Agent Registry): es un catálogo centralizado para gestionar todos los agentes, herramientas MCP y endpoints dentro de la organización. El concepto es similar a un repositorio npm interno de la empresa, y permite que solo las herramientas aprobadas por el equipo de plataforma puedan usarse en agentes de producción. Incluye metadatos como el alcance de acceso a datos de cada herramienta, los permisos requeridos y la lista de agentes que la usan, lo que permite identificar de inmediato el alcance del impacto cuando se aplica un parche de vulnerabilidad.
• Capa 3 - Gateway de agentes (Agent Gateway): es un punto central de ejecución donde las políticas de seguridad, escritas en lenguaje natural, se aplican de inmediato a todos los agentes que pasan por el gateway. En lugar de modificar 50 agentes por separado, una sola política puede aplicarse a todos. También integra Model Armor para defenderse de prompt injection y de fugas de datos sensibles.
• Capa 4 - Detección de anomalías y amenazas (Anomaly & Threat Detection): usa modelos estadísticos para establecer una línea base del comportamiento normal de cada agente y generar alertas cuando hay desviaciones. Un LLM independiente asume el rol de juez (judge) para detectar saltos lógicos o decisiones fuera de alcance durante el proceso de razonamiento del agente. La capa de detección de amenazas monitorea ataques intencionales como reverse shells, conexiones con IP maliciosas e intentos de escalación de privilegios.
• Capa 5 - Panel de seguridad de agentes (Agent Security Dashboard): basado en Security Command Center, visualiza de forma integrada la información de las cuatro capas anteriores. Ofrece en una sola pantalla el mapeo de relaciones entre agentes y modelos, descubrimiento automático de activos, escaneo de vulnerabilidades y análisis de correlación de señales entre capas.

Diferenciadores

• Destaca que relaciona a los agentes con el modelo mental familiar de “operar una organización de ingeniería”, sistematizando la gobernanza de seguridad en cinco capas. En particular, la redacción de políticas en lenguaje natural con aplicación global inmediata y la auditoría del razonamiento mediante el enfoque LLM-as-a-judge lo diferencian de los métodos tradicionales de seguridad en la nube.

Implicaciones

• Las organizaciones que construyan una pila de gobernanza desde las primeras etapas del despliegue de agentes obtendrán un efecto compuesto en el que el costo marginal converge casi a cero a medida que aumente el número de agentes. En cambio, las organizaciones que incrementen sus agentes sin gestión podrían enfrentarse a una expansión de la superficie de ataque y a una mayor complejidad de auditoría, como ocurrió en la era del shadow IT. En industrias reguladas como finanzas y salud, la identidad única por agente y la trazabilidad de auditoría equivalen en la práctica a requisitos regulatorios, por lo que parece ser uno de los primeros ámbitos donde se sentirá la presión para adoptar este marco.