- Toma un modelo de IA como entrada y crea una versión optimizada para ejecutarlo más rápido
- Prueba varios compiladores de aprendizaje profundo para encontrar el mejor método para un hardware específico
- Agnóstico al modelo de aprendizaje profundo: no importa si es un transformer, LSTM, CNN, FCN, etc.
- Agnóstico al hardware: compatible con la mayoría de CPU y GPU. Próximamente también tendrá soporte para TPU y ASIC dedicados a aprendizaje profundo
- Agnóstico al framework: PyTorch, TensorFlow, HuggingFace y pronto más opciones
- Todo se ejecuta localmente, por lo que es seguro
- Es fácil de usar, ya que funciona con solo unas pocas líneas de código
1 comentarios
(autor de la biblioteca) ¡Gracias por compartirlo! Me alegra que haya sido una experiencia agradable trabajar con ello.
Seguirá evolucionando y mejorando su rendimiento... ¡feliz aceleración!