Ollama lanza una nueva app para Mac y Windows
(ollama.com)- Ollama presentó una nueva app de escritorio para macOS y Windows
- Ahora es posible descargar modelos y chatear fácilmente desde una interfaz GUI
- La función de arrastrar y soltar archivos facilita la interacción con textos y documentos PDF
- Al procesar documentos grandes, se puede aumentar la configuración de context length (longitud de contexto) para analizar materiales más extensos
- Basada en el nuevo motor multimodal de Ollama, también permite enviar imágenes a modelos compatibles con imágenes (por ejemplo, el modelo Gemma 3 de Google DeepMind)
- También incluye una función de procesamiento de documentos compatible con varios formatos de archivo, como archivos de código
- La nueva app de Ollama puede descargarse para macOS y Windows desde el sitio oficial
- Los usuarios que solo necesiten la versión CLI pueden descargarla por separado desde GitHub Releases
1 comentarios
Opiniones de Hacker News
Últimamente parece que Ollama está cambiando su enfoque desde los desarrolladores hacia los usuarios generales, sobre todo por cómo se presenta en su sitio web; ver sitio web de Ollama Antes estaba mucho más centrado en la versión CLI para desarrolladores, pero ahora casi ni se menciona Al final del blog solo aparece una nota breve que dice: "La versión CLI se puede descargar desde la página de releases de Ollama en GitHub" No lo digo como crítica, solo que el cambio se nota y me llamó la atención He probado varias apps de LLM local en el pasado, y las dos que más me gustaron fueron LM Studio y Msty Definitivamente pienso probar también esta app Una función que sí extraño es la del app de escritorio de ChatGPT: la 'tecla rápida global (Alt+Space)' para abrir al instante un chat nuevo y hacer preguntas rápido con una UI compacta Ojalá las apps de LLM local también adopten esta idea
Soy administrador de Ollama No creo en absoluto que hayamos descuidado a los desarrolladores Todos aquí somos desarrolladores, y hacemos Ollama para usarlo nosotros mismos Cada quien ha estado creando y usando distintos prototipos, pero al final todos quedamos satisfechos con Ollama y por eso nos estamos enfocando en mejorarlo Ollama ha estado dirigido a desarrolladores de principio a fin, y seguimos enfocados en eso
Me pregunto si has probado pygpt.net La interfaz puede parecer un poco recargada y el nombre quizá no sea el mejor, pero ha sido la app que más me ha satisfecho de todas las que he usado
Este cambio en realidad también puede ser positivo para los desarrolladores Si más usuarios terminan instalando Ollama, después se podrán distribuir apps de IA de escritorio basadas en Ollama sin tener que incluir modelos por separado Como no añade costo extra, también sería posible ofrecer suscripciones gratis o baratas a los usuarios Los modelos Qwen30B más recientes también son bastante potentes Si además hubiera una plantilla de instalación que revisara las especificaciones de la PC del usuario (RAM, rendimiento de CPU/GPU, etc.) y, si Ollama no está instalado, hiciera la instalación/descarga correspondiente por debajo, sería muchísimo más cómodo También estaría bien tener una API que pidiera permiso e instalara modelos cuando no estén presentes
HugstonOne ya tiene esa función, incluyendo pestañas nuevas y demás Además, me desconcierta que la mayoría de los desarrolladores hagan exposición tan indiscriminada y medio spam Ollama es un pionero en el campo de la IA y una app excelente; de verdad les agradezco mucho
Había escuchado de Msty y la probé brevemente, pero al verla de nuevo ahora parece bastante completa No conocía LM Studio, pero esa sí permite uso comercial gratuito (Msty no) Si la vas a usar como herramienta basada en interfaz de chat, me da curiosidad una comparación de pros y contras entre ambas apps
No termino de entender bien este cambio de Ollama Una app de escritorio con frontend es justo lo contrario de por qué he usado Ollama Originalmente la usaba como backend local para LLM, y los usuarios de hace tiempo ya tienen su propio frontend, o lo encontraron, o lo hicieron, o lo personalizaron y ya se acostumbraron De hecho, hace poco incluso hubo casos en los que algunos modelos locales de última generación tardaron en aparecer, y sospecho si no será por este enfoque en el frontend Ahora estoy pensando en buscar alternativas a Ollama que desde el principio incluyan su propia UI o que se mantengan solo como backend CLI Si encuentro algo mejor, probablemente me cambie; debí haberlo hecho antes Espero que esto no sea el primer paso para que Ollama abandone su enfoque CLI y se convierta en una interfaz LLM genérica basada en suscripción
Al probar la UI de Ollama, me sorprendió que no haya una opción para conectarse a una instancia remota de Ollama La PC más potente no siempre es la misma donde quiero ejecutar la GUI
De verdad coincido mucho con esto Me gustan los entornos de escritorio de Windows/Mac, pero no tanto los propios sistemas operativos; en cambio, Linux/BSD me gusta como sistema operativo pero no tanto como entorno de escritorio, así que siempre dejo la workstation potente en un Linux sin interfaz y me conecto por SSH desde Windows/Mac La mayoría de los desarrolladores no entiende bien esto Es desesperante y frustrante que cada vez que ejecutas un comando en la terminal se abra una pestaña del navegador, o que ni siquiera te impriman la URL en la terminal
Se puede resolver conectándose a una instancia remota de Ollama con reenvío de puertos SSH (
ssh -L 11434:localhost:11434 user@remote) Aun así, sería mucho mejor si tuviera soporte nativoLa app sí tiene una función para exponer Ollama a la red, así que quizá lo soporten pronto
Probé la UI de Ollama en Windows (antes solo usaba la CLI)
Ya no basta con procesar solo texto No solo en inglés: también es muy importante poder transcribir audio de más de 30 segundos, generar voz e imágenes El procesamiento de texto ya es lo mínimo indispensable
Me pregunto por qué no soportan Linux La UI parece estar basada en Chrome (probablemente electron), así que da la impresión de que portar a Linux debería ser fácil También me da curiosidad el enlace al código fuente
Aunque Electron se vende como multiplataforma, en la práctica no existe eso de “distribuir en Linux con un botón” Siempre hay problemas grandes y pequeños, como versiones de glibc o soporte de GPU
El texto oficial de Ollama dice: “Descarga la nueva app para Mac y Windows / La versión CLI se descarga por separado desde GitHub” Al revisarlo, no da una impresión de ser open source Además, no usa Chrome sino el webview del sistema, así que parece una app hecha con tauri
Dicen que está basada en Electron, y aun así se me hace raro que la promocionen como nativa
Los desarrolladores de Linux o usuarios avanzados ya pueden usar Ollama solo con la CLI Las apps para Mac y Windows parecen apuntar ahora a usuarios generales
Parece que Ollama quiere convertirse en la interfaz estándar para que las empresas distribuyan modelos abiertos El enfoque en lo “local” quizá sea secundario y no su objetivo de largo plazo Estoy convencido de que pronto anunciarán una estrategia de “API propia en la nube + modelos abiertos” usando esta app como puente
Estoy muy en desacuerdo con la idea de que lo “local” sea secundario Para empresas que no pueden usar servicios en la nube (por ejemplo, contratistas de defensa), lo local es el valor por defecto Esa es la razón real para usar modelos abiertos, aunque todavía les falte rendimiento
Nosotros también usamos Ollama porque los datos no pueden salir jamás de la red interna de la empresa Si se mezcla aunque sea un poco de nube, el equipo legal arma un escándalo Por eso ejecutamos Ollama directamente tanto en laptops (las series M son muy potentes) como en servidores de la intranet interna Como LM Studio cambió recientemente a permitir uso comercial sin precios “llámanos”, también estamos pensando en evaluarlo
Si eres usuario avanzado o sabes programar, te recomiendo hacer tu propia UI de chat personalizada exactamente como quieras Si tomas cualquier endpoint compatible con OpenAI y algún framework de componentes frontend para chat, el resto es casi fácil Yo también armé la mía en una semana con ayuda de Gemini y la uso todos los días No está lista para producción, pero puedes cambiarla como quieras y agregar funciones tú mismo rápidamente
Este sí que es el mejor comentario, casi como decir “haz tu propio Linux” No es una vía de acceso fácil para todo el mundo
Yo también, mientras exploraba IA y LLM, hice mi propio chatbot en Python, y después incluso usé [Vercel AI SDK + endpoint de API compatible con OpenAI] Al final hasta lo convertí en producto VT.ai - Python, VT Chat
Yo sigo el mismo enfoque Lo verdaderamente importante es qué modelo usas; casi todo lo demás es secundario Échale un ojo a mi script open source(enlace Show HN) Fue fácil de hacer con ayuda de ChatGPT y similares, y lo uso a diario Pronto también voy a añadir DDG y búsqueda en GitHub
O también puedes usar directamente Open WebUI como base y personalizarlo todo a tu gusto
Estoy en la búsqueda de mi interfaz de chat LLM perfecta Mis requisitos indispensables son soporte simultáneo para modelos locales/remotos/en la nube (compatibles con la API de OpenAI), y que sea fácil cambiar de modelo o hacer multiconsulta Mis impresiones actuales son:
Msty: es mi favorita, permite consultar varios modelos al mismo tiempo y tiene un diseño muy agradable; las desventajas son que no es open source y a veces se congela en Linux
Jan.ai: no permite consultar varios modelos al mismo tiempo
LM Studio: no es open source y no soporta modelos remotos/en la nube (no estoy seguro de si habrá plugins)
GPT4All: da errores de JSON cuando usas modelos de openrouter, y es incómodo porque tienes que cambiar manualmente de modelo en cada chat Aún no he probado Librechat, Open WebUI, AnythingLLM ni koboldcpp Si alguien tiene otras recomendaciones, me gustaría escucharlas
Me gusta webUI, pero es complicado tener que configurar cada modelo con archivos de texto dentro del navegador, y la documentación usa términos difíciles de entender Librechat me cierra la sesión al poco tiempo, así que en la práctica no se puede usar También escuché que con https se puede mantener la sesión iniciada, pero como uso Tailscale se vuelve complicado cuando ejecutas varios servicios en un mismo host
También está la app que hice yo, dinoki.ai Funciona en local, pone la privacidad primero y está implementada de forma nativa: Swift en macOS y WPF en Windows
OpenWebUI tiene la calidad que busco para usar distintos modelos fácilmente desde una interfaz de chat
Llevo varios meses usando AnythingLLM y de verdad estoy muy satisfecho Te permite guardar conjuntos de modelo/prompt en varios “workspaces” y soporta tanto Ollama como otros LLM Lo tengo corriendo en Docker sobre una Raspberry Pi, y con Tailscale puedo acceder desde cualquier lugar La vista móvil también se ve bien, y si además usas la extensión de Claude para Raycast, prácticamente resuelves cualquier duda
Te recomiendo intentar hacer la tuya Aprendes las tendencias más recientes y además es divertido Hice mi interfaz en 2023 y le he ido agregando funciones poco a poco; recientemente también conecté modelos locales a través de MLX Crear la interfaz es más fácil de lo que parece, y los desarrolladores aprenden mucho al hacerlo por sí mismos
Probé Ollama una vez hace tiempo y la borré enseguida Me resultó incómoda si no era fácil instalar modelos fuera de los oficialmente soportados por Ollama Desde entonces siento que LM Studio es lo mejor