Gateway de Codex + embeddings locales para Honcho hecho con Vibe coding

(Este proyecto fue hecho usando Vibe coding.)

¡Hola! Soy estudiante de posgrado en el área de farmacia y suelo leer GeekNews con frecuencia.

Aquí conocí Hermes Agent y lo estaba usando muy bien para mi investigación, cuando me enteré de que podía usar además un adaptador de memoria llamado Honcho.
Pero al revisarlo, vi que no usaba la cuota de suscripción de Codex, sino que funcionaba enviando solicitudes a una API basada en tokens por separado, así que me preocupó el cobro adicional. Sentí que, si lo usaba sin pensarlo demasiado, podía terminar perdiendo todo mi diminuto sueldo de estudiante de posgrado.

Así que, tomando como idea que Hermes Agent usa la cuota de Codex incluida con la suscripción de ChatGPT como si fueran solicitudes basadas en tokens,
creé una especie de adaptador que reemplaza el backend de Honcho con la suscripción de Codex.

El funcionamiento es el siguiente.

1. Al revisar cómo se ejecuta Honcho, vi que con la configuración predeterminada envía solicitudes a OpenAI GPT 5.4 mini para evaluar la importancia de la memoria, y que también usa el modelo de embeddings de OpenAI para la búsqueda.
2. Por eso, usando el código OAuth de Codex de Hermes Agent, lo modifiqué para que entregara respuestas como las del endpoint de OpenAI, y cambié los embeddings para que se generen localmente con BGE-M3 fp16.gguf a través de llama.cpp.
3. La dimensión de los embeddings era de 1536 por defecto, pero como hay pocos modelos públicos de 1536 dimensiones, usé BGE-M3, que es un modelo de 1024 dimensiones.
4. Como Honcho permite configurar un servidor local, hice que primero se instalara el stack Docker de honcho-codex-gateway, y que el stack Docker original de Honcho se conectara al servidor que se ejecuta ahí.
5. Además, como la forma en que Honcho tokeniza es distinta de la de bge y eso generaba problemas de longitud, hice que el tokenizing se realice en bge-m3 y que funcione haciendo chunking.

Como no tengo mucha confianza escribiendo código, usé Hermes Agent con GPT 5.5 basado en suscripción de Codex como backend y esfuerzo de razonamiento Low.
Confirmé que funciona bien en un modelo MSI EdgeXpert 1TB de la serie GB10 (ARM Ubuntu) que compré para uso personal.
No he comprobado si funciona en otros sistemas operativos como Windows/Mac.

Mi objetivo inicial era que, si unas 100 personas hacían git clone, sería buena idea publicarlo también en GeekNews; como cumplió ese criterio en 13 días, lo subo para recibir evaluación en un lugar que visito con frecuencia.

¡Gracias por leer este texto largo!