Whisper Jax: la implementación de API de Whisper más rápida
(github.com/sanchit-gandhi)- Implementación rápida y optimizada del modelo de reconocimiento de voz Whisper de OpenAI
- Se ejecuta con JAX en TPU v4-8. Es hasta 70 veces más rápido que ejecutarlo con PyTorch en una GPU A100
- Puede ejecutarse en CPU/GPU/TPU, ya sea de forma independiente o como endpoint de inferencia
Aún no hay comentarios.