Presentamos torchtune: una biblioteca de Python para ajustar finamente modelos de lenguaje grandes

• torchtune es una nueva biblioteca de PyTorch diseñada para facilitar el ajuste fino de modelos de lenguaje grandes (LLM). Proporciona bloques de construcción configurables y modulares para que los usuarios puedan personalizar el proceso de entrenamiento y adaptar los LLM a casos de uso específicos.

• torchtune admite todo el flujo de trabajo de ajuste fino, desde la descarga de conjuntos de datos y checkpoints de modelos hasta el registro del progreso y las métricas, la cuantización del modelo y la evaluación en benchmarks populares.

• También ofrece compatibilidad con sistemas populares de inferencia en producción y permite la inferencia local para probar modelos ajustados finamente.

• torchtune fue creado con la escalabilidad, la democratización y la interoperabilidad en mente, para que sea accesible a usuarios de todos los niveles de experiencia y permita una integración fluida con el ecosistema de LLM de código abierto.

• Ofrece integraciones con Hugging Face Hub, PyTorch FSDP, Weights & Biases, LM Evaluation Harness de EleutherAI, ExecuTorch y Torchao para inferencia eficiente y cuantización.