ShowHN: Clippy - una UI de los 90 para LLM locales

• Clippy es una aplicación que permite ejecutar varios LLM localmente a través de una interfaz de usuario de los años 90
• Ofrece una interfaz de chat simple y clásica para enviar y recibir mensajes con el modelo
• Sin configuraciones complejas, puedes abrir la aplicación y usarla de inmediato, y gracias a llama.cpp y node-llama-cpp encuentra automáticamente la forma de ejecución más eficiente
• Puedes cargar modelos, prompts y parámetros personalizados para ajustar la configuración
• Todas las funciones se ejecutan offline y en local, y las solicitudes de red solo ocurren al verificar actualizaciones

---

Introducción a Clippy

• Clippy es una aplicación que permite ejecutar varios modelos de lenguaje grandes (LLM) localmente a través de una interfaz de usuario de los años 90
• Ofrece una interfaz de chat simple y clásica para enviar y recibir mensajes con el modelo

Facilidad de uso

• Sin configuraciones complejas, puedes abrir la aplicación y usarla de inmediato, y gracias a llama.cpp y node-llama-cpp encuentra automáticamente la forma de ejecución más eficiente

Personalización y ejecución offline

• Puedes cargar modelos, prompts y parámetros personalizados para ajustar la configuración
• Todas las funciones se ejecutan offline y en local, y las solicitudes de red solo ocurren al verificar actualizaciones

Opciones de descarga

• Disponible para descargar en macOS (Apple Silicon), macOS (Intel), Windows, Linux (RPM, x64) y Linux (Debian, x64)

[GN⁺]

Opinión de Hacker News

• Es una gran idea. Solía bromear llamando a los agentes de chat el Clippy de la próxima generación, porque su personalidad predeterminada tan alegre y parlanchina es demasiado irritante.
  • Me sorprende que Microsoft no haya hecho ya esto como una versión alternativa de la interfaz de Copilot. La forma en que lo meten a la fuerza en el SO, las apps y hasta en el teclado de mi laptop es demasiado agobiante. Si al menos reconocieran y asumieran su propio comportamiento (con un pequeño guiño), probablemente me molestaría un poco menos. Incluso habría considerado pegar una calcomanía de "Clippy is my CoPilot" en mi laptop.
• Es un caso clarísimo de "haz lo que la gente quiere".
  • Lo pedían casi todos los días en x.com.
• Dato curioso: Clippy surgió de Microsoft Bob, y Melinda Gates era la gerente de marketing.
  • A menudo me preguntaba qué papel tuvo su relación en mantener vivo a Clippy. Ahora me pregunto si Clippy pone triste a Bill Gates después del divorcio.
• Me pregunto si se le puede agregar narración con la voz de Gilbert Gottfried.
• La función más famosa de Clippy era interrumpir para ofrecer consejos. Por lo general, esos consejos eran básicos, inútiles o molestos. Pero un LLM potente podría hacer que el concepto original realmente funcionara. No solo como un chatbot que responde a texto, sino observando la pantalla y entendiéndola mediante un modelo de visión para ofrecer consejos apropiados. Algo como: "hay una forma más fácil de hacer lo que estás haciendo ahora". Todavía no existe la confianza para hacer esto usando una API pública de LLM, y tampoco existe el hardware para hacerlo localmente. Pero si se resolviera una de esas dos cosas, ClipGPT podría ser realmente útil.
• Me preguntaba cuándo llegaría el momento en que alguien potenciara a Clippy con un LLM.
• ¡Está buenísimo! Escribí una breve entrada de blog sobre lo bien que encaja con mi proyecto bootc Blue95, inspirado en Windows 95.
• ¡Gran trabajo! El soporte para ollama también sería útil.
• Es increíble, ahora también existe CowPilot.
• La idea es excelente, pero a la personalidad le hace falta un poco más de ingenio. Y quizá también necesite pistas contextuales que la hagan actuar justo al revés de lo que habría sido más útil en aquella época.
  • Me parece que la combinación de un editor de texto y Clippy sería aún más potente. Después de todo, ese era el contexto original de Clippy.