Jan - framework multiplataforma para una alternativa open source a ChatGPT

• 100% local, ejecutable en todo tipo de hardware: desde GPU de NVidia y Apple Silicon hasta clústeres multi-GPU
• El objetivo final es ayudar a que cualquiera pueda incorporar IA fácilmente
  • Jan Framework, Jan Desktop Client + Server, Nitro
• Nitro: motor de inferencia de alta eficiencia escrito en C++ (3 MB)
  • Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion

[riskatcher]

Me pregunto qué tal será su rendimiento en coreano.