- API de código abierto para todos los frameworks
- Comprime el modelo junto con sus metadatos en un solo archivo Zip y luego carga ese archivo
- El código de inferencia puede funcionar independientemente del framework. Al llamar a la API de Carton, Carton invoca internamente el framework
- Implementado en Rust y ofrece bindings para cada lenguaje
- Soporte para x86_64 Linux y macOS, aarch64 Linux y macOS, WebAssembly
- A diferencia de ONNX, que convierte los modelos, Carton no los convierte, solo los envuelve
Aún no hay comentarios.