- Ollama es un proyecto de código abierto que facilita ejecutar localmente LLM como Llama 2 y Mistral
- Ahora también es posible importar, ejecutar y generar con LLM en entornos Windows
- También cuenta con la API de Ollama compatible con OpenAPI y aceleración por hardware, además de acceso a toda la biblioteca de modelos
- Aprovecha GPU de NVIDIA y conjuntos modernos de instrucciones de CPU como AVX/AVX2
4 comentarios
Defender lo detecta como virus...
No es un virus, solo que al ser un ejecutable desconocido muestra una advertencia.
Ollama inicia la vista previa de la versión para Windows
Ollama publica librerías para Python y JavaScript