[Código abierto] Cliente multillm compatible con iOS y macOS - LLM Bridge
(github.com/bipark)Antes había creado por separado un cliente LLM exclusivo para Ollama en iOS y otro para macOS, y los publiqué como código abierto. Ahora lo rehice integrando el código de iOS y macOS sobre Swift/SwiftUI y agregando APIs compatibles.
- Soporta Ollama y LMStudio como LLMs locales.
- Si abres al exterior el puerto en la computadora donde está instalado el LLM en Ollama, también puedes usar gratis el LLM de forma remota.
- LMStudio es un programa de gestión de LLMs locales con su propia UI, y permite buscar e instalar modelos desde HuggingFace, por lo que se pueden probar distintos modelos.
- En LLM Bridge puedes configurar la IP y el puerto, y obtener respuestas a consultas usando los modelos instalados.
- Soporte para OpenAI
- Puedes emitir una API key, ingresarla en la app y usar ChatGtp mediante llamadas a la API.
- Usar la API puede salir más barato que pagar una suscripción mensual.
- Soporte para Claude
- Uso de API Key
- Se pueden enviar imágenes a modelos con soporte de imagen
- Soporte para archivos PDF y TXT
- Extrae el texto con PDFKit y luego lo envía
- Soporte para archivos de texto
- Código abierto
- Swift/SwiftUI
- Enlace al código fuente
Aún no hay comentarios.