GPT-4.5, vida comercial de 4.5 meses
- GPT-4.5, que al lanzarse en febrero de 2025 era el modelo más caro y avanzado ($75 de entrada / $150 de salida por 1M de tokens), fue retirado de la API antes de cumplir 5 meses. Fue el modelo de vida más corta en la historia de OpenAI, y los desarrolladores que construyeron productos sobre él quedaron atrapados en un ciclo de migraciones
- La lección que sacó el mercado fue: "no construyas tu negocio sobre el modelo de otro"; pero el tema de este texto es que esa lección solo es correcta a medias
La capa de modelos se está comoditizando
- Según SWE-bench Verified, los 5 modelos líderes están concentrados dentro de una diferencia de 0.4 puntos, pero sus precios varían hasta 5 veces. En todo el mercado, la brecha entre el token más barato y el token premium de razonamiento supera las 600 veces: el precio ya no es un indicador sustituto del rendimiento
- La brecha entre pesos abiertos y frontier cerrado se ha mantenido estable por más de 18 meses en un promedio de 4 meses según benchmarks públicos (8 a 10 meses en benchmarks privados). La brecha existe, pero es estrecha, predecible y no se está ampliando
Cuatro riesgos de depender de una API frontier
- Variación de precios: Claude 3.5 Haiku subió 4 veces de precio y un mes después revirtió parte del aumento; o3 bajó 80% de la noche a la mañana. Un tokenizer nuevo también puede generar hasta 35% más tokens con el mismo texto: el problema no es si sube o baja, sino la dispersión
- Ciclo de retiro: en febrero de 2026, GPT-4o, 4.1 y o4-mini se descontinuaron en bloque con unos 3 meses de aviso. Incluso surgió el término "prompt drift" para describir cómo prompts refinados durante un año se comportan distinto en el nuevo modelo
- Absorción por la plataforma: la vulnerabilidad de los wrappers de GPT, cuando el proveedor incorpora a su propio producto funciones que antes hacían los wrappers
- Regulación: en junio de 2026, Anthropic Fable 5 fue suspendido globalmente durante 19 días por lineamientos de control de exportaciones de EE. UU.; una variable que ni siquiera el proveedor puede elegir
Los cuatro riesgos provienen de un mismo problema: depender del frontier hospedado por otro
- Ejecutar open source por cuenta propia elimina la variación de precios, los retiros y las suspensiones regulatorias, y también reduce la absorción por la plataforma. Los pesos que ya recibiste no se retiran ni se te pueden quitar
- Hablemos del costo con honestidad: al ejecutar en una GPU de consumo propia, cuesta cerca de $1 por millón de tokens (depreciación a 3 años + electricidad, con 30% de utilización), así que es más caro que la API open-weight más barata ($0.14 / $0.28) y pierde en costo absoluto
- La economía de operar por cuenta propia no está en el promedio, sino en la dispersión. Además, la API más barata conserva los datos de entrada para entrenamiento: el precio oculto de lo más barato son tus datos
Mismo diagnóstico, receta opuesta
- Es correcto diagnosticar que un negocio de contenido que depende de una API frontier es vulnerable a escala big tech
- Pero si un actor pequeño ejecuta open source por cuenta propia en la zona de good-enough, corta de raíz la dependencia que crea esa vulnerabilidad: copiar sin más el diagnóstico de big tech a una startup pequeña lleva al error
No es gratis (4 frenos)
- Un input comoditizado produce un output comoditizado: el foso defensivo solo surge de distribución ajena a la IA, datos exclusivos, integración de dominio y validación y criterio
- La línea de good-enough se mueve hacia arriba: si simplemente te estacionas ahí, te estacionas en una zona de caída de márgenes
- La frontera no es el dominio, sino la dificultad de la tarea: en evaluaciones de NIST, el mejor open-weight fue prácticamente equivalente al frontier en matemáticas, pero quedó más de 30 puntos atrás en ciberseguridad, razonamiento abstracto y agentic coding de largo plazo
- Operar por cuenta propia exige capacidades directas de operación, tuning, validación y responsabilidad de compliance: la dependencia no desapareció, solo se movió del proveedor de API a tu propia capacidad
Conclusión: el punto decisivo está en la validación y el criterio
- Incluso usando el mismo modelo abierto, si publicas la salida tal cual, es una demo; si colocas hechos, cifras e identificación detrás de una capa de validación, es un producto
- El punto decisivo del AI Content es el criterio de ingeniería para convertir un modelo barato en un producto confiable, y el open source se vuelve un arma para quien tiene ese criterio
Es un texto escrito directamente por mí. Bienvenido el intercambio de opiniones sobre el diseño del stack entre ejecución local y API.
Aún no hay comentarios.