23 puntos por xguru 2024-12-30 | 2 comentarios | Compartir por WhatsApp
  • Resumen abreviado y explicación adicional del reporte de 2025 (diapositivas de 90 páginas)
  • “Solo he visto 2 demos de tecnología revolucionaria en mi vida: la GUI y ChatGPT - Bill Gates”
  • OpenAI es valorada en $157B estimados (a Microsoft le tomó 20 años)
    • ChatGPT llegó al reconocimiento del mainstream a una velocidad sin precedentes
    • Hay mucho interés, pero los usos son limitados y no se percibe como algo realmente útil
    • Ya se empieza a decir en el mercado que quizá no hay beneficios proporcionales frente a la inversión
  • En el Hype Cycle, llegar al “Plateau of Productivity” toma tiempo
  • El próximo platform shift es la “Generative AI”
    • Mainframe → PCs / SQL → Web / Open Source → Smartphones / Cloud → Generative AI
  • Pero todavía todo está abierto y nadie sabe la respuesta
    • How far will this scale?
    • How is this useful?
    • How do we deploy this?

How far will this scale? ¿Hasta dónde puede escalar?

  • ¿Los LLM seguirán creciendo (scaling)? ¿Los LLM llegarán a hacer “todo” (everything)?
  • El scaling es difícil
    • Hacer crecer estos modelos implica muchos desafíos y tomará tiempo
      • GPU y energía, datos de entrenamiento, ejecución e ingeniería, y si realmente mejorarán los resultados
    • Por ahora, prácticamente no queda otra que invertir (si no, se corre el riesgo de perder la tecnología más importante de los próximos 10~15 años)
    • “No tenemos moat - Google”
    • “El modelo que estamos entrenando ahora cuesta cerca de $1b, y en 2025/2026 costará unos $5b o $10b - CEO de Anthropic”
    • “El cómputo necesario para entrenar Llama 4 es más de 10 veces el de 3, y los modelos futuros seguirán creciendo por encima de eso - Mark Zuckerberg”
  • Si el moat es el “capital”... hoy Nvidia no puede satisfacer la demanda
  • El capex de los Big 4 (Meta, Alphabet, AWS, MSFT) fue de $90b en 2023 y de $220b en 2024. En 2025 será aún mayor
  • Todo está cambiando rápido mientras el desarrollo tecnológico avanza bajo nuestros pies
    • Para que la tecnología de IA siga avanzando, será clave equilibrar resultados (mejores outputs), dirección y eficiencia de recursos (costo de entrenamiento, costo de inferencia, huella de carbono)
  • “El modelo del internet de consumo de lanzar gratis, crecer por boca a boca y pensar después en la monetización no encaja con la estructura de costos actual de los grandes modelos de lenguaje (LLM)”
    • Tradicionalmente, el software tenía altos costos iniciales de desarrollo, pero copiarlo o distribuirlo costaba casi nada, así que era un producto con costo marginal casi nulo
    • Los LLM requieren enormes recursos computacionales (energía, servidores, etc.) tanto en entrenamiento como en inferencia, y los costos crecen fuertemente a medida que aumentan los usuarios
    • La estrategia de ofrecerlo gratis para captar una gran base de usuarios no es sostenible si no existe un modelo claro de monetización
    • Es decir, desde el inicio hace falta una estrategia clara de recuperación de costos
  • “Toda la industria tecnológica está regalando el modelo de negocio de otra persona”
    • A medida que modelos de negocio o tecnologías clave de competidores y otras organizaciones se vuelven open source o gratis de otras formas, se debilita la ventaja competitiva exclusiva de ciertas empresas
    • Meta, al publicar como open source activos tecnológicos importantes como modelos de IA, está convirtiendo esa tecnología en infraestructura común (commodity infrastructure) disponible para cualquiera
    • Apple, mediante edge computing, impulsa que los modelos de IA se ejecuten directamente en el dispositivo del usuario, y en vez de correrlos desde un servidor central los convierte en algo parecido a simples llamadas API, reduciendo así su valor comercial
  • El boom de modelos de 2023-2024 consistía en elegir 2 entre bueno, rápido y barato

How is this useful? ¿Qué tan útil es?

  • 2013: el machine learning empezó a distinguir personas/perros/sillas. “Qué inteligente, ¿y qué?”
  • 2023: ¿el ML generativo como ChatGPT es útil? “Qué inteligente, ¿y qué?”
  • El reconocimiento de errores todavía es limitado. Hace falta un enfoque equilibrado en todos los frentes para manejar errores de forma efectiva
    • Es un reto compuesto que combina problema científico (mejorar el modelo), definición de casos de uso y diseño de producto (mejorar la UX)
  • “¿Cómo son útiles los LLM en 2024?”
    • Los LLM son, en esencia, sistemas probabilísticos que predicen la siguiente palabra
    • Nivel actual: son útiles para resumir o sintetizar información, pero todavía son flojos para el razonamiento complejo
    • Los LLM tienen potencial para automatizar nuevos tipos de trabajo, pero hace falta mucha más exploración para entender y definir eso por completo
  • VisiCalc fue el primer programa de hoja de cálculo electrónica del mundo, y redujo tareas de cálculo de 20 horas a 15 minutos
    • Un abogado podría pensar que eso es muy innovador e inteligente, pero sentir que no tiene aplicación en su propio trabajo
    • Pero ese tipo de casos está aumentando
      • En tareas con necesidad clara, como programación, marketing o atención al cliente, ya ofrecen valor inmediato
  • “Hay que empezar desde la experiencia del cliente y retroceder hasta la tecnología. - Steve Jobs”

How do we deploy this? ¿Cómo desplegamos esto?

  • Proceso que normalmente sigue la adopción de una nueva tecnología
      1. Absorb (integrar): convertir la nueva tecnología en una feature y añadirla a un negocio o producto existente
      1. Innovate (innovar): desarrollar ideas o productos innovadores a partir de la nueva tecnología. Las startups lo aprovechan separándolo (unbundling)
      1. Redefine markets (redefinir mercados): la nueva tecnología puede romper los límites de los mercados existentes y crear mercados completamente nuevos. Esto es difícil de predecir y los casos exitosos a veces son raros
  • Preguntas estándar que se hacen las empresas al adoptar una nueva tecnología
    • “Buy versus build?” (¿comprar o desarrollar internamente?)
    • “Single vendor or multi-vendor?” (¿un solo proveedor o varios proveedores?)
    • “Which use cases first? Whose budget?” (¿qué casos de uso van primero? ¿de quién sale el presupuesto?)
    • “Opex or capex? What’s the EPS impact?” (¿gasto operativo o inversión de capital? ¿qué impacto tiene en el EPS?)
  • El futuro puede tardar
    • La nube ya es una palabra vieja y aburrida, pero aun así sigue representando apenas el 30% del workflow total
    • En 2024, una cuarta parte de los CIO lanzó algo basado en LLM, pero la mitad no planea hacer nada el próximo año
  • Pero una nueva plataforma significa nuevas herramientas
    • Los SaaS están escalando muchísimo en automatización y están desagregando workflows desde SAP, Excel y Email
  • “Hay dos maneras de ganar dinero: bundling o unbundling. - Jim Barksdale”
  • ¿Y si los LLM pudieran encargarse de todo?: si los modelos avanzan lo suficiente, ¿podría reducirse muchísimo la cantidad de software que necesitamos?
    • Si la capacidad de los LLM para resolver tareas concretas no mejora mucho más que hoy, habrá que seguir desarrollando nuevo software
    • Si los LLM siguen siendo escalables y continúan mejorando, gran parte del desarrollo de software podría dejar de ser necesario
      • Posibilidad de avanzar hacia una “IA generalista capaz de hacerlo todo”
  • ¿Los LLM son infraestructura? ¿API? ¿Plataforma? ¿Una nueva experiencia de usuario?: ¿vamos a controlar los LLM con sistemas lógicos, o usaremos LLM para controlar sistemas lógicos?
    • Los LLM pueden usarse como una simple API, o pueden convertirse en la plataforma completa y que todo lo demás pase a ser API
    • El rol de los LLM seguirá evolucionando según avance la tecnología y su escalabilidad
  • ¿Los LLM romperán nuestro modelo de descubrimiento de casos de uso?: si todo termina teniendo la misma UX, ¿cómo van a inventar los emprendedores nuevos casos de uso y nuevas formas de expresión personal?
    • En el desarrollo de software tradicional, startups y empresas imaginan e inventan casos de uso específicos
    • Si los LLM avanzan lo suficiente como para gestionar y automatizar todos los casos de uso, podría reducirse la necesidad del desarrollo de software tradicional
    • Si los LLM pasan a ser el centro de la UX, quizá los propios usuarios tendrán que imaginar e inventar nuevos casos de uso
      • Cambio de paradigma en desarrollo de software y diseño de UX
  • La “AI” tiende a convertirse en “automatización”: As technology matures, it disappears (cuando la tecnología madura, desaparece)
    • AI! → Smart → Auto → Just software
  • ¿Tres modelos para productos con LLM?
    • Agregar nuevas features a aplicaciones existentes: “reescribe mi email, resúmeme las reseñas”
    • Nuevas herramientas: “analiza y resume 500 reportes financieros”
    • IA generalista: “cómprame una casa”
  • Quizá todas las preguntas sobre IA tienen una de dos respuestas
    • “Funcionará como todos los demás cambios de plataforma”
    • “Nadie sabe”

Meanwhile...

  • De la visión a la ejecución: ¿qué ya es grande, qué se está construyendo ahora y qué viene después?
    • A comienzos de los 2000, la gran idea innovadora era el e-commerce: “la gente comprará cosas en línea”
    • En los 2010, cobraron fuerza ideas como SaaS (Software as a Service), automatización, herramientas de colaboración y gestión de workflows
    • Con la mira en 2030, la Generative AI se está posicionando como la nueva visión
  • Meta sigue con el metaverso (VR & AR). Ya invirtió al menos $60b y en los últimos 12 meses metió $17.4b
  • El e-commerce sigue prácticamente igual (excepto durante COVID). Es uno de los gráficos tecnológicos más aburridos
  • Unbundling de Amazon: el GMV (Gross Merchandise Volume) de Shopify superó los $270b. Ya equivale al 35% del GMV de Amazon
  • Los ingresos publicitarios de Amazon siguen creciendo. Generan más cash flow que retail/AWS
  • Software eats media: nuevos canales, nuevos modelos, nuevos bundles
    • Plataformas de medios centradas en software como YouTube y TikTok ya generan ingresos comparables a los medios tradicionales y emergen como potencias del mercado
    • Grandes compañías tradicionales como Disney siguen generando ingresos fuertes, pero enfrentan la velocidad de crecimiento de las plataformas de software
    • Nuevas formas de medios como el streaming (Netflix) desafían el modelo tradicional basado en cable y broadcast
    • Los medios tradicionales intentan mantener competitividad con bibliotecas de contenido y contenido exclusivo, mientras las plataformas de software maximizan ingresos combinando modelos basados en publicidad y suscripción
  • Software eats cars?: después de décadas de promesas y decenas de miles de millones de dólares en inversión, puede que la conducción autónoma por fin esté empezando a funcionar
    • Los viajes en robotaxi crecen de forma constante. La industria automotriz está cambiando hacia servicios centrados en software
  • ¿El auto se vuelve software?: los BEV ya se acercan al 10% de las ventas totales, pero ¿quién va a ganar? ¿Este proceso funcionará como Android?
    • Los Battery Electric Vehicle representaron cerca del 10% de las ventas totales de autos en 2023 y se están consolidando como tecnología mainstream
    • Empresas como Tesla están convirtiendo los BEV no solo en vehículos, sino en productos centrados en software, insinuando la posibilidad de un ecosistema tipo smartphone alrededor de ellos