Ollama ahora admite llamadas a herramientas

• Ollama ahora admite llamadas a herramientas en modelos como Llama 3.1
• Esto permite que el modelo use las herramientas que conoce para responder al prompt dado, realizar tareas más complejas o interactuar con el mundo exterior
  • Herramientas: funciones y APIs, navegación web, intérprete de código
• Para habilitar las llamadas a herramientas, debes proporcionar la lista de herramientas disponibles mediante el campo tools de la API de Ollama,
  y los modelos compatibles ahora responden con tool_calls. Las respuestas de las herramientas pueden proporcionarse mediante mensajes con el rol tool
• Modelos compatibles: Llama 3.1, Mistral Nemo, Firefunction v2, Command-R +
• El endpoint compatible con OpenAI de Ollama ahora también admite herramientas, y puede usarse cambiando a Llama 3.1 y otros modelos
• Próximas mejoras
  • Llamadas a herramientas en streaming: soporte para transmitir llamadas a herramientas y comenzar a trabajar más rápido cuando se devuelven varias herramientas
  • Selección de herramientas: posibilidad de forzar al modelo a usar una herramienta específica

[edunga1]

https://es.news.hada.io/topic?id=13436
¿Es una función como la de phidata? En este caso bastaba con documentar bien el docstring, pero si no era GPT, no podía usar tools.