RecurseChat - app local de chat con IA para uso diario

 (recurse.chat)
11 puntos por GN⁺ 2024-02-29 | 1 comentarios | Compartir por WhatsApp
  • Local primero, funciona sin conexión: permite chatear con una IA sin conexión y sin configuraciones complejas.
  • Búsqueda especializada: ofrece búsqueda rápida entre miles de mensajes.
  • Importación del historial de ChatGPT: permite continuar conversaciones con una IA local.
  • Conversaciones con múltiples modelos: permite hablar con varios modelos dentro de una misma sesión de chat.
  • Entrada multimodal: permite conversar con imágenes usando el modelo LLaVA.
  • Seguridad y privacidad: está protegida por el sandbox de apps de macOS y permite conversar de forma privada.
  • Apariencia y personajes de IA personalizables: puedes personalizar la personalidad y apariencia de la IA usando tus propios modelos GGUF.

Funciones simples pero potentes

  • Habla con una IA sin conexión: permite conversar con un LLM local sin necesidad de conocimientos técnicos.
  • Chat multimodal con imágenes: admite conversaciones en varios formatos, incluidas imágenes.
  • Importa y continúa el historial de ChatGPT: permite seguir conversaciones anteriores con una IA local.
  • Búsqueda especializada rápida: facilita encontrar el contenido de conversación que buscas mediante búsqueda de texto.
  • Personalización del núcleo: permite cambiar libremente la personalidad y apariencia de la IA.

Opinión de GN⁺

  • RecurseChat es una app que prioriza la privacidad del usuario y permite conversar con una IA incluso sin conexión. Esto puede ser muy útil para quienes tienen una conexión inestable a internet o para quienes consideran esencial la privacidad.
  • La seguridad mediante el sandbox de apps de macOS puede dar confianza adicional al usuario, aunque no está claro si este nivel de protección se ofrece igual en otros sistemas operativos.
  • La función de conversación multimodal con imágenes puede brindar una experiencia más rica, aunque también puede implicar retos técnicos relacionados con la precisión del reconocimiento de imágenes.
  • El hecho de que el usuario pueda personalizar la personalidad y apariencia de la IA con sus propios modelos GGUF puede ser una gran ventaja para ofrecer una experiencia personalizada. Sin embargo, aprovechar bien estas funciones avanzadas puede requerir cierto nivel de comprensión técnica.
  • Es importante considerar el nivel técnico del usuario y sus necesidades de privacidad, así como asegurar compatibilidad y accesibilidad en distintos entornos de uso.

Lecturas relacionadas

1 comentarios

 
GN⁺ 2024-02-29

Opiniones de Hacker News

  • Esto fue posible gracias al increíble trabajo de @ggerganov en llama.cpp. Me gustaría saber qué funciones querrían ver en una app ideal de IA local.

  • Full Text Search. Búsqueda rapidísima entre miles de mensajes.

    • El procesamiento de lenguaje natural por fin evolucionó para reinventar Ctrl+F.
    • Sobre la capacidad de buscar rápido entre miles de mensajes, la opinión es que se trata de una reinterpretación moderna de la búsqueda de los 90.
      • Una explicación de la búsqueda de texto completo: se valora que la tecnología de procesamiento de lenguaje natural haya mejorado de forma innovadora la función tradicional de búsqueda de texto.

  • Si tuviera una función que encontrara respuestas en documentos locales, marcadores, historial del navegador, etc., con gusto pagaría por ella.

  • ¡Excelente! Algunos puntos:

    • La razón por la que la UI de ChatGPT es útil es que puedes modificar cualquier parte de una conversación, regenerarla desde ese punto y eliminar todo lo que viene después.
    • El botón de feedback no hace nada aparte de cambiar el foco a Chrome.
    • Según entiendo, el modelo LLaVA no puede generar imágenes porque es un modelo de IA basado en texto.

  • Está bien, pero no veo por qué usar esto en lugar de ChatbotUI+Ollama.

    • Más allá de ser una app nativa de macOS y de sus funciones rápidas de importación y búsqueda, es difícil encontrar un diferenciador.
    • ChatbotUI tiene ventajas como ser multiplataforma, personalizable, respetuoso con la privacidad y fácil de depurar.

  • Algunas preguntas:

    • ¿Qué están usando para la generación de imágenes? ¿También funciona de forma local (por ejemplo, stable diffusion)? ¿Hay generación de prompts integrada?
    • Dijeron que se puede importar el historial de ChatGPT, ¿también se pueden importar otros documentos?
    • ¿Tiene algunas funciones estilo "agente"? ¿Puede buscar en la web? ¿Puede usar otras APIs? ¿Puede generar sus propios prompts?
    • ¿Hay un framework de plugins? Dijeron que es "personalizable", pero eso puede significar casi cualquier cosa.
    • ¿Cuál es la licencia? ¿Cómo garantizan que el uso del usuario siga siendo privado? Todos sabemos que muchas apps "locales" envían grandes cantidades de datos hacia afuera.

  • Algunas sugerencias

    • Por favor agreguen la fuente del sistema (San Francisco) como opción de UI. SF Mono también estaría bien.
    • Hace falta ayuda para principiantes sobre cómo usar los modelos. Estaría bueno tener una pantalla introductoria que explique cómo empezar.
    • Como la mayoría de las apps de Mac, estaría bueno que Command-comma abriera la configuración.
    • Estaría bien que al hacer clic en enlaces web se abriera Safari (o el navegador preferido).

  • También estaría bien agregar una opción para usar la API de OpenAI en la misma interfaz.

    • Actualmente uso jan.ai.

  • ¿Planean agregar modelos en línea a la app? Los modelos locales todavía no están al nivel de los modelos en línea.

    • Estaría bueno poder cambiar entre GPT/Claude/modelos locales dentro de una interfaz de chat consistente.

  • En lugar de decir "habla con IA local", vendería más si explicaran qué podemos lograr al hablar con una IA local.

    • No es que necesitemos conversar; necesitamos realizar tareas específicas. ¿Qué tareas puede hacer? (No me respondan a mí; pónganlo en la landing page y en la ficha de la app store)