Dalai - La forma más simple de ejecutar LLaMA en tu computadora

• Puedes ejecutar el modelo LLaMA 7B localmente con solo 2 líneas
  npx dalai llama
npx dalai serve
• llama.cpp + CDN de llama-dl
• Incluye una web app personalizable (con API de JavaScript y API de Socket.io)
  • Accede desde localhost:3000

[ragingwind]

Cuando sale una, empiezan a salir muchas más en cadena, como si tiraras de una hilera de camotes.

[xguru]

Dalai Lama, eh... qué sentido del nombre...
llama.cpp - Inferir el modelo LLaMA de Facebook en C/C++ puro