- OpenAI tiene más uso que cualquier otro proveedor de modelos, incluidos Google y Anthropic
- Estas empresas recopilan grandes volúmenes de datos, incluyendo prompts de usuarios y retroalimentación explícita e implícita, para ayudar a entrenar modelos futuros
- Las principales ventajas que tienen estas empresas son la escalabilidad de su infraestructura y la calidad de su servicio
- El costo de usar OpenAI para hacer fine-tuning de GPT-3.5 es entre 3 y 8 veces más barato que alquilar una
p4d.24xlarge de Amazon
- El costo de OpenAI incluye entrenar y almacenar los pesos del modelo, construir y mantener la infraestructura de fine-tuning, y la experiencia necesaria para gestionar miles de GPU
- La idea es que para la mayoría de las organizaciones no tiene sentido operar su propio despliegue de LLM open source por el tiempo, personal y dinero que se requieren
- Los modelos open source tendrían que reducir cada vez más los costos, la complejidad y el tiempo necesario para personalizarlos y ejecutarlos
- Incluso si los precios eventualmente suben, las grandes empresas proveedoras de LLM como OpenAI terminarán dominando el mercado por su capacidad de ofrecer modelos gracias a economías de escala extremas
5 comentarios
Con solo ver el título pensé que sería demasiado fácil vencer a OpenAI en la competencia, pero al leer el texto original resulta que era que el costo para vencer a OpenAI en la competencia es demasiado barato... jajaja
Pero el título y el contenido dicen exactamente lo contrario... ¿cómo pudo entenderlo así?
La IA hizo una traducción extraña, así que la corregí un poco a mano.
Originalmente, el título era: "Lo que puede vencer a OpenAI es demasiado barato".
jajajaja