- UI fácil de usar para QA basada en RAG (generación aumentada por recuperación)
- Diseñada para usuarios generales que quieren hacer QA sobre documentos y para desarrolladores que quieren construir su propio pipeline de RAG
- Soporta varios LLM: proveedores de API de LLM como OpenAI, AzureOpenAI y Cohere, además de LLM locales (
ollama, llama-cpp-python)
- Instalación sencilla: incluye scripts para empezar rápido
- Permite probar tu propio pipeline de RAG con una UI hecha en Gradio (incluye temas)
Funciones principales
- Hosting de UI web para QA de documentos:
- Soporta inicio de sesión multiusuario
- Organiza documentos en colecciones privadas/públicas
- Permite compartir y colaborar en historiales de chat
- Gestión de LLM y modelos de embeddings:
- Soporta LLM locales y proveedores de API populares como OpenAI, Azure, Ollama y Groq
- Pipeline híbrido de RAG:
- Por defecto, combina un recuperador híbrido (texto completo y vectores) con reranking para garantizar la mejor calidad de búsqueda
- Soporte para QA multimodal:
- Puede responder preguntas sobre varios documentos que incluyen diagramas y tablas
- Permite seleccionar opciones de parsing de documentos multimodales desde la UI
- Citas avanzadas y vista previa de documentos:
- Proporciona información detallada de citas para garantizar precisión
- Permite ver citas y puntajes relacionados con resaltado en un visor de PDF dentro del navegador
- Muestra advertencias cuando se devuelven documentos de baja relevancia
- Soporte para razonamiento complejo:
- Puede responder preguntas complejas o de múltiples pasos mediante descomposición de preguntas
- Soporta razonamiento basado en agentes usando
ReAct, ReWOO y otros agentes
- UI de configuración configurable:
- Permite ajustar directamente desde la UI elementos clave de los procesos de búsqueda y generación (por ejemplo, configuración de prompts)
- Extensible:
- Está construido sobre Gradio, por lo que permite personalizar libremente los elementos de la UI
- Próximamente soportará varias estrategias de indexación y búsqueda de documentos. Incluye un pipeline de indexación
GraphRAG como ejemplo
3 comentarios
Hay muchísimos frameworks de QA RAG, pero ¿cuál es la ventaja de este?
En el campo de la recuperación de información, y en la QA dentro de la explicación, no significa quality assurance, sino question answering.
El nombre está divertido. A juzgar solo por el nombre, me da la impresión de que podría venir de respuesta (kotae) + Doraemon (mon), o sea, algo así como Kotaemon.