- "Solo pueden sobrevivir si el mercado es irracional"
Algo está mal
- Construir modelos de lenguaje a gran escala cuesta muchísimo dinero
- OpenAI gasta 7 mil millones de dólares al año en investigación, nuevos servicios de IA y contratación de personal
- También se espera que Anthropic gaste 2.7 mil millones de dólares este año
- Facebook también está invirtiendo miles de millones de dólares
- No se va a volver más barato
- A medida que los modelos avanzan, la investigación se vuelve más difícil y también aumenta la potencia de cómputo necesaria
- Para crear nuevos modelos se necesitan más cálculos matemáticos y más complejos
- A pesar de los costos, la gente sigue construyendo nuevos modelos
- La gente cree que los LLM son la próxima era dorada de la tecnología, así que seguirán invirtiendo
- Está en la naturaleza humana querer hacer todo más rápido, más alto y más poderoso
- Si la industria sigue creando nuevos modelos, el valor de los modelos existentes cae rápidamente
- Si un competidor lanza un modelo nuevo y mejor, cambiarse puede requerir solo modificar unas cuantas líneas de código
- Para vender LLM atractivos de forma constante, hay que mantenerse en el nivel más alto
- Incluso si la industria deja de desarrollar nuevos modelos o la tecnología llega a un punto de asíntota, el valor de los modelos viejos también cae rápidamente
- Hay varios modelos de código abierto, como Llama y Mistral, que en el peor de los casos están uno o dos pasos detrás de los mejores modelos propietarios
- Si los modelos propietarios dejan de avanzar, los de código abierto cerrarán rápidamente esa brecha
- Por lo tanto, para OpenAI, Anthropic o cualquier otro proveedor de IA, hay dos opciones
- La primera es invertir costos enormes para mantenerse por delante del mercado. Pero eso parece muy riesgoso:
- Es muy probable que el costo de construir estos modelos siga subiendo, que los empleados más brillantes se vayan y que no quieras apostar el negocio a ser siempre la primera empresa en encontrar el siguiente gran avance
- La pericia técnica rara vez se convierte en un foso defensivo permanente
- La segunda es... no lo sé
- ¿Esforzarse todavía más en la primera opción?
Predicción sobre la situación actual
- Hace 18 meses se predecía que los proveedores de LLM se convertirían en los próximos proveedores de nube
- En la superficie parecen similares porque se necesita muchísimo capital para construirlos, pero hay diferencias importantes
- Un proveedor de nube no se puede crear de la noche a la mañana
- Un equipo pequeño puede amenazar en pocos meses el negocio principal de OpenAI como proveedor de LLM
- ¿Cuál es el foso defensivo de los proveedores de LLM?
- Marca, inercia, mejores aplicaciones, inyección masiva de capital para mantener modelos por delante de la competencia, etc.
- Pero las empresas de IA son un ejemplo extremo de un mercado que clasifica erróneamente los costos de desarrollo de software como inversión inicial
- A las empresas pequeñas les resulta difícil invertir de forma continua miles de millones de dólares como las grandes corporaciones
La importancia del momento
- En este mercado, el timing puede ser lo más importante
- En algún momento el hype desaparecerá y la gente ya no podrá levantar rondas de este tipo
- Y el ganador no será quien corrió más rápido o llegó a la meta, sino quien iba liderando cuando el mercado decidió que la carrera había terminado
Opinión de GN⁺
- Surgen dudas sobre si el modelo de negocio de las empresas de IA realmente puede ser sostenible
- Desarrollar modelos cuesta enormes cantidades de dinero, y se espera que eso siga aumentando en el futuro
- El ritmo del avance tecnológico es tan rápido que los modelos anteriores quedan obsoletos muy pronto
- Por lo tanto, mantener modelos de primer nivel exige invertir continuamente sumas muy grandes
- Los modelos de IA de código abierto también están avanzando rápidamente, por lo que parece que la brecha con los modelos comerciales se reducirá
- Stable Diffusion, Llama y Mistral son ejemplos representativos
- Si las empresas dejan de desarrollar nuevos modelos, el código abierto las alcanzará pronto
- En el desarrollo de tecnología de IA, las grandes empresas de TI tienen ciertas ventajas
- Google, Microsoft y Meta pueden seguir invirtiendo de manera constante gracias a su enorme capacidad financiera
- Pueden aprovechar su alto reconocimiento de marca y su base de clientes existente
- En cambio, no parece fácil que las startups que llegaron después sobrevivan solo con capacidad técnica
- Incluso si reciben una gran inversión inicial, la clave será asegurar financiamiento continuo
- Cuando estalle la burbuja, será difícil atraer inversión
- El timing del mercado es importante, y es muy probable que gane la empresa que esté liderando cuando el entusiasmo se enfríe
3 comentarios
Es un factor importante que OpenAI está llevando adelante deliberadamente un negocio con pérdidas para monopolizar el mercado. Al fin y al cabo, cada vez que a OpenAI se le acaba el dinero puede atraer inversión y le llegan ofertas de todo el mundo, pero el resto de las empresas termina muriendo.
¿No será un enorme juego de desgaste?
Al final, todos morirán y solo sobrevivirá un gran modelo, que terminará monopolizando el mercado..
Opiniones de Hacker News
Opinión del líder de un equipo de investigación en IA
La curva S de la innovación tecnológica
Cambio en la definición de IA
Cómo monetizar la IA
Una situación similar a los inicios del ridesharing
Factores de diferenciación de los modelos
Período de confusión en el mercado
Problema de optimización de modelos
Capacidad de sustitución de los productos