- Se puede consultar a los LLM (modelos de lenguaje de gran tamaño) con lenguaje natural, pero a veces el LLM no logra entender con precisión la intención humana
- Para resolver esto, investigadores de SRIlab (Secure, Reliable, and Intelligent Systems Lab) de ETH Zürich propusieron el concepto de LMP (Language Model Programming)
- El lenguaje y la plataforma que implementan el concepto de LMP son precisamente LMQL (Language Model Query Language)
- Sintaxis declarativa similar a las sentencias SQL
- Controla el funcionamiento imponiendo restricciones claras sobre los resultados de salida del LLM, para evitar resultados inesperados
- Está implementado en Python, por lo que se pueden usar funciones de Python o flujos de control en consultas de IA
- Se puede usar GPT-4 mediante la API de OpenAI y también modelos transformer alojados localmente
- Como ahorra tokens consumidos, puede reducir entre 26% y 85% el costo de usar APIs de pago
- Paper: https://doi.org/10.48550/arXiv.2212.06094
- Documentación: https://docs.lmql.ai/
- Playground: https://lmql.ai/playground
- Github: https://github.com/eth-sri/lmql
Aún no hay comentarios.