HN: Construyendo una interfaz de usuario no lineal para ChatGPT

Introducción a Grafychat

• Grafychat es un cuaderno visual basado en lienzo y amigable con la privacidad para ChatGPT y otras IA conversacionales
• Funciona con OpenAI, Google AI y modelos locales de Ollama
• Puedes traer tu propia API key y comenzar a chatear

Funciones principales de Grafychat

Lienzo infinito

• Puedes organizar visualmente tus chats
• Puedes conectar puntos para gestionar conversaciones
• Puedes crear tantos lienzos como necesites

Amigable con la privacidad

• Todo se guarda en el dispositivo del usuario
• Los datos solo salen del dispositivo para solicitudes a LLM no locales
• No se requiere registro ni cuenta

Control de resultados

• Puedes aplicar fácilmente instrucciones personalizadas
• Puedes cambiar de modelo en tiempo real
• Puedes ajustar los parámetros del modelo

Búsqueda potente

• Búsqueda de texto completo sobre todos los datos
• Puedes filtrar con precisión
• Puedes navegar fácilmente por los resultados

Soporte de primer nivel para OpenAI

• Soporta todos los modelos de ChatGPT, incluido GPT-4
• Soporte para entrada de voz/dictado
• Soporte para generación de voz/narración
• Soporte para generación de imágenes
• No se requiere una suscripción activa a ChatGPT
• Puedes usar tu propia API key de OpenAI

Modelos locales gratuitos

• Soporte para Ollama (Mac, Windows, Linux)
• Catálogo creciente de modelos open source
• Incluye modelos potentes como Llama 3
• Completamente gratis para usar
• Solo necesitas ejecutar y configurar la app de Ollama en tu dispositivo

Biblioteca de prompts personalizable

• Disponible en toda la app
• Puedes guardar, editar y reutilizar prompts fácilmente

Cada chat es un editor Markdown

• Puedes editar todos los chats
• Mantén tus datos ordenados
• Puedes exportar a Markdown con el Inspector

Vista de chat clásica con Inspector

• Puedes iniciar o continuar chats desde el Inspector
• Puedes seleccionar e inspeccionar la conversación actual
• Puedes exportar a Markdown

Apariencia totalmente personalizable

• Puedes agregar colores al flujo
• Puedes mostrar/ocultar partes específicas
• Puedes etiquetar partes de la conversación

Soporte para múltiples proveedores de IA

• OpenAI
• Google AI
• Ollama con LLama 3
• Y la lista sigue creciendo

BYOAK - Trae tu propia API key

• Importación/exportación de datos en archivos JSON
• Atajos de teclado
• Soporte para resaltado de código
• Fijar chats, etiquetarlos con colores
• Fondos personalizados
• Modo oscuro
• Etc.

Información de precios y licencias

• Compra única para ser dueño de la licencia
• Cada licencia incluye 5 activaciones y no tiene fecha de vencimiento
• Standard ($39): elimina todas las limitaciones, desbloquea todas las funciones
• Extended ($59): todo lo de Standard + paquete self-hosted, app de escritorio próximamente
• Premium ($79): todo lo de Extended + soporte premium, app de escritorio próximamente

Resumen del FAQ

• Grafychat es un cuaderno visual basado en lienzo y amigable con la privacidad para ChatGPT y otras IA conversacionales
• No es una app por suscripción; puedes ser dueño de la licencia con una sola compra
• 5 activaciones significa que puedes usar la clave de licencia en 5 dispositivos diferentes
• Soporta varios proveedores de chatbots, como OpenAI, Google AI y modelos locales de Ollama
• No se requiere registro ni suscripción a OpenAI
• La app de escritorio aún no se ha lanzado, pero está en desarrollo
• Grafychat.com no conserva datos de los usuarios
• La política de reembolsos requiere consulta por separado

Opinión de GN⁺

• Grafychat parece ser una herramienta para gestionar visualmente varios modelos de IA conversacional como ChatGPT o GPT-4. En particular, parece útil para organizar conversaciones de forma estructurada, ya que permite componer y conectar el contenido en formato de lienzo.
• También tiene como ventaja su enfoque en la privacidad, al guardar los datos del usuario en el dispositivo y permitir ingresar directamente la API key. Sin embargo, conviene tener en cuenta que, en solicitudes a LLM no locales, los datos sí se envían hacia afuera.
• También mejora la usabilidad al soportar Ollama, un modelo open source que puede usarse gratis, y al incluir una biblioteca de prompts para guardar y reutilizar los que se usan con frecuencia.
• Por otro lado, al no ser un modelo por suscripción sino por licencia, el precio podría sentirse algo elevado. Incluso la versión Standard cuesta $39, que no es una cantidad menor. Aunque tiene muchas funciones y pone atención en la privacidad, considerando que también se pueden usar modelos open source gratis, su competitividad en precio es discutible.
• También vale la pena considerar que todavía no hay app de escritorio y que el servicio solo se ofrece vía web, además de que, al ser un servicio nuevo, su estabilidad y continuidad futura siguen siendo inciertas.

[GN⁺]

Opiniones en Hacker News

• Una sola línea de CSS en el sitio hizo que mi laptop se trabara muchísimo.
  La causa es backdrop-filter: blur(0.1875rem), usado en modales, por ejemplo en el popup de video de YouTube.

  • Soy desarrollador frontend y, por este motivo, nunca aplico ese efecto.
    Incluso en laptops de alto rendimiento, el consumo de energía es demasiado alto y los ventiladores empiezan a girar fuerte.
  • Me pregunto por qué el efecto de desenfoque siempre consume tanta energía.
    No sé si no hay forma de usar la GPU, o si es un problema completamente distinto.

• Hace tiempo pensé en una interfaz similar que no tuviera arrastrar y soltar, sino solo visualización en árbol.
  Normalmente trato temas secundarios dentro de la misma conversación, pero luego edito el mensaje anterior donde empezó la rama para que la IA no se confunda.
  Pero OpenAI descarta ese árbol de ramas, así que sería bueno que mostrara el árbol de temas derivados explorados, sin tener que ordenarlos manualmente.

  • ¿ChatGPT no conserva el árbol completo? La última vez que lo vi, se podía alternar hacia adelante y hacia atrás desde un nodo específico.

• Es un enfoque interesante. Parece abordar un flujo de trabajo intermedio típico.
  Aunque se prefiera una forma lineal para el resultado final, el trabajo real muchas veces avanza completando primero una estructura jerárquica.
  Llevo años usando Gingko https://gingkowriter.com/, y permite expandir etapas indefinidamente, pero también plegarlas fácilmente en una estructura lineal, lo que reduce la carga de organizar la estructura del problema.
  En este caso me pregunto si se mantienen N contextos según la cantidad de hojas del árbol, si los chats están separados entre sí, y cómo se pasa de un lienzo desestructurado e infinito a un resultado final ordenado.

  • Buena pregunta.
    El contexto, al final, es una forma de agrupación, así que mantener tantos contextos como hojas depende de la situación.
    La parte de pasar de un lienzo desestructurado a un resultado organizado la veo como RAG combinado con comandos dentro de la app, y estoy trabajando en una solución local de RAG.
    Todavía está en una etapa temprana, pero es prometedora; básicamente consiste en conversar con todos los datos y aplicarles distintos comandos encima.
  • No entiendo por qué necesariamente habría que convertirlo en un resultado final ordenado.
    Como usuario potencial y alguien que pensó en crear una herramienta similar, el árbol, o más precisamente el grafo dirigido en sí, es el resultado final que quiero.
  • Un poco fuera de tema, pero creo que había un software independiente para Mac similar a Gingko.
    Buscando, parece ser la antigua versión de app de escritorio de Gingko, y todavía se puede descargar en https://github.com/gingko/client/releases.
  • Me cuesta aceptar ponerle cobro por suscripción a un software que debería quedarse completamente dentro de mi computadora.

• Con Obsidian y plugins como https://github.com/AndreBaltazar8/obsidian-canvas-conversati..., se puede crear algo así fácilmente por cuenta propia.

  • Es parecido a cuando reemplacé Dropbox por unos cuantos scripts y sftp.
  • En el comentario de abajo mencioné más plugins gratuitos para Obsidian Canvas: https://news.ycombinator.com/item?id=40301465
  • “Fácilmente” aplica para gente técnica, no para usuarios comunes.

• La demo se ve interesante, pero creo que me cansaría rápido de arrastrar nodos y encontrar los que me interesan.
  Me pregunto si hay función de búsqueda.
  Sería más interesante si la IA creara una vista de grafo como un agente, o al menos sugiriera y resaltara preguntas de seguimiento, y estas se organizaran automáticamente dentro del grafo.

  • La búsqueda es una de mis funciones favoritas aquí. Prueba el atajo /.
  • Personalmente, creo que vale la pena dedicar tiempo a organizar y arrastrar cosas.
    Probablemente sea porque tiendo a pensar visualmente.

• Mi único comentario es que los productos de IA de código cerrado me generan desconfianza, así que probablemente no los compraría.
  Aun así, agradezco y me alegra que hayan evitado la tendencia del modelo de suscripción.
  Si lo publicaran como código abierto para que se pudiera verificar con certeza que no se envía telemetría, y cobraran por soporte, podría pagar.
  Aunque quizá yo sea un caso raro, así que tómalo con cautela.
  La idea es excelente, y creo que con concentración se podría hacer un MVP en uno o dos días de fin de semana.
  Claro que las funciones vistosas que a mí personalmente no me interesan podrían tardar más en implementarse.

  • ¿Una opción de autohospedaje podría ser una solución práctica?
    https://www.grafychat.com/d/docs/selfhost
    Aunque supongo que sería necesario partir de la premisa de que el código no esté ofuscado.
  • Sería bueno que existiera una metodología tipo open-build para proyectos que no quieren abrir el código fuente, pero sí están dispuestos a realizar las auditorías necesarias sobre el build.

• Sería bueno que OpenAI o Anthropic ofrecieran algo así en su UI.
  En realidad bastaría con un simple “create a new chat from here”.
  El producto es bonito y está bien hecho, pero el precio es un obstáculo para mí.

  • Termino evaluando la compra de software comparándola con el precio del menú del autoservicio de McDonald's de mi barrio.
  • Algunos clientes de terceros sí soportan esto.
    Por ejemplo, me gusta la función “Fork from this message” de MindMac.
  • Editar una pregunta anterior cumple bastante bien este propósito.
    La UI existente también conserva todas las versiones anteriores como un árbol de revisiones.

• La landing page es buena y explica el producto bastante bien.
  Como antes había querido algo parecido, también me gusta este concepto.

• En la demo compartida se ve cómo se crea un chat hijo a partir del chat padre original.
  Me pregunto si también han probado conectar o fusionar dos chats hijos para crear el siguiente chat hijo, o crear de nuevo un chat hijo a partir de un chat hijo anterior.

  • Sería bueno tener un nodo que cargue una carpeta con archivos JSON, TXT y CSV, los procese uno por uno y reúna los resultados en otra carpeta.
    Sería una especie de pipeline de LLM o editor de prompts.

• Como función adicional que sería buena integrar en algunos frontends, una vez creé un almacén clave-valor de buscar y reemplazar que ayuda a evitar que se filtre información sensible.
  Si pudiera reemplazar IPs, dominios y subdominios por dominios ficticios como something.contoso.com en lugar de dominios internos antes de enviarlos a ChatGPT, sería una función por la que valdría la pena pagar.
  Lo implementé en Python, pero como es un complemento pegado a un frontend separado, es bastante tosco.