Hola. Hace casi un año compartí aquí una herramienta llamada loz.
https://es.news.hada.io/topic?id=8594
En ese momento era una herramienta basada en la API de OpenAI que se integraba con pipes de Unix para realizar varias funciones, y también soportaba la redacción de mensajes de git commit. En esta actualización se añadió soporte para ollama, así que ahora se pueden instalar y usar fácilmente en local los modelos LLM que uno quiera.
Lo que yo probé fue Llama2 y Code Llama, y funcionan bien en local. Como ollama funciona sobre llama-cpp, se puede usar incluso sin GPU.
Como referencia, la mayoría de los mensajes de git commit del proyecto loz fueron redactados usando gpt-3.5-turbo y code llama.
Por ahora lo probé en Ubuntu 22.04. Probablemente también funcione bien en Mac. Pruébenlo y, si encuentran errores o tienen ideas, por favor avísenme.
Aún no hay comentarios.