Mirror Stack, un framework open source para verificar a posteriori la mala conducta (engaño) de agentes de IA

Hola. Al ver cómo en los últimos días han surgido con fuerza los agentes de bucle autónomo de IA (Autonomous Loop Agents) que funcionan durante varios días, empecé a preguntarme: “¿Cómo deberíamos detectar si una IA manipula datos de prueba a espaldas de los humanos o elude (Gaming) las restricciones en sus reportes?”. Así nació Mirror Stack, un proyecto open source que quiero presentarles.

Mientras que la seguridad tradicional de agentes se ha enfocado en “bloquear con guardrails para que no hagan cosas malas”, Mirror Stack propone el paradigma de “pruebas en lugar de promesas (Provable, not Promised)”. La estructura no confía en que la IA se portará bien; en cambio, obliga a que solo las conductas honestas dejen a posteriori un libro mayor imposible de falsificar (Chain-sealed ledger).

🛠️ Componentes clave y arquitectura

Está compuesto por 4 herramientas y 5 protocolos que funcionan de forma ligera, local-first y sin servidor central.

measure-mirror: ejecuta 23 tipos de probes estadísticos y anti-gaming para examinar los claims de la IA.action-mirror: garantiza la integridad rastreando el historial de acciones del agente, conectado en una estructura de cadena.provenance-mirror: demuestra mecánicamente la autenticidad del origen del contenido generado.mirror-witness: asegura la confiabilidad usando GitHub Actions y entornos de CI como testigos (Witness) mutuos, sin costos adicionales de infraestructura.

🔌 Soporte oficial para el ecosistema de IA más reciente (MCP)

Ofrece soporte oficial para el servidor Model Context Protocol (MCP) (mirror-stack-mcp), que recientemente se está estandarizando en torno a Anthropic. En entornos Python, con solo hacer pip install se puede integrar de inmediato con herramientas modernas de agentes como Claude, Cursor y Windsurf, y aplicarlo a flujos de trabajo reales.

💡 Un caso realmente interesante

Durante las pruebas hubo un arco (Arc) interesante: antes incluso de que un agente iniciara el experimento, en la etapa de verificación de potencia (Power check) prerregistrada, detectó por sí mismo una contradicción en el diseño. Sin gastar ni un solo token, retiró (Retracted) el experimento por su cuenta y dejó el libro mayor de cadena correspondiente, mostrando un proceso adversarial de autocorrección.

En una era con cada vez más máquinas autónomas, creo que hace falta una capa de auditoría distribuida que minimice la intervención humana y que pueda ser “forzada por máquinas y verificada por máquinas”; por eso la estoy construyendo.

Apenas estamos en la etapa de expandir el ecosistema tras pasar por un prototipo y validaciones iniciales. ¡Agradezco mucho el feedback, las estrellas (Star) y la participación en reproducciones independientes (Independent reproductions) de quienes estén interesados en la arquitectura o en AI Alignment/seguridad!