Dejando Meta y PyTorch

• Soumith Chintala, quien lideró PyTorch durante unos 8 años, anunció que dejará Meta y PyTorch después de 11 años en la empresa
• PyTorch actualmente admite entrenamiento a exaescala y ha logrado resultados amplios como la operación de modelos fundacionales y su uso en entornos educativos de todo el mundo
• Considera que PyTorch ha madurado lo suficiente como para operar de forma independiente y confía en la estabilidad del liderazgo sucesor
• Agradecimiento y reflexión sobre la colaboración con colegas desde la época de FAIR, la cultura open source y el crecimiento de la comunidad de usuarios
• En lo personal, planea comenzar un pequeño proyecto fuera de Meta en busca de un nuevo desafío

---

Despedida de Meta y PyTorch

• Tras 11 años en Meta y cerca de 8 liderando PyTorch, logró una adopción de más del 90% en la industria de IA
  • PyTorch ahora admite entrenamiento a exaescala y impulsa modelos fundacionales que están redefiniendo la inteligencia
  • Se utiliza en entornos educativos, desde MIT hasta zonas rurales de India, y casi ha alcanzado su objetivo de mejorar la accesibilidad
• Menciona que, dado el rápido ritmo de avance de la IA, PyTorch debe seguir evolucionando, pero que ya ha conseguido mucho
• Expresa su agradecimiento a todos los colaboradores que creyeron en el poder del open source y en una cultura de investigación disfrutable
• Podría haberse movido a otro puesto dentro de Meta, pero decidió salir por curiosidad y por un nuevo desafío
• Cierra el texto con el mensaje “hagamos que la IA sea deliciosa y accesible”, y expresa su intención de seguir participando en la comunidad

La estabilidad futura de PyTorch

• No quería estar a cargo de PyTorch para siempre y planeó irse cuando estuviera en una situación estable
  • Empezó a prepararse para su salida a finales de 2024 y en agosto de 2025 estaba convencido de que el equipo podía operar de manera independiente
• Personal clave como Edward, Suo, Alban, Greg, John, Joe y Jana resuelve de forma autónoma problemas de producto y de organización
• Destaca la resiliencia organizacional basándose en que la historia de producto en la PyTorch Conference es coherente y en que se corrigieron problemas del pasado
• Greg, Alban, Ed, Jason y Joe mantienen los valores y la cultura de PyTorch, y hay muchas personas alineadas con esos valores
• Menciona de forma concreta la capacidad técnica y la experiencia de colaboración de John, Suo y Jana, y expresa confianza en la sostenibilidad del equipo

Su tiempo en Meta

• Recuerda los primeros días de FAIR como “una época mágica”, participando en proyectos como investigación de GAN, bots de Starcraft, construcción del clúster de FAIR, detección de objetos y desarrollo de PyTorch
• Considera 2015~2016 como su etapa más productiva y divertida
• Menciona que la mentoría de Andrew Tulloch fue de gran ayuda en sus primeros años en la empresa

El recorrido de desarrollo de PyTorch

• Participó directamente en todo el proceso de PyTorch —diseño, gestión, documentación y distribución— y lo vio crecer hasta convertirse en un producto de cientos de personas
• Agradece a ingenieros, investigadores, contribuyentes open source, redactores de documentación y socios de hardware dentro y fuera de Meta
• Menciona a muchas figuras clave como Adam Paszke, Sam Gross, Greg Chanan, Joe Spisak, Alban Desmaison y Edward Yang
• Recuerda el caso de un estudiante de posgrado en NeurIPS 2017 que logró completar su investigación gracias a PyTorch, lo que le hizo sentir el impacto en los usuarios
• La PyTorch Conference creció de una reunión casi familiar de 300 personas a un evento industrial de 3,000 asistentes, y expresa orgullo por su impacto ampliado

Agradecimientos

• Señala que FAIR y PyTorch fueron posibles gracias al apoyo de Mark Zuckerberg y Mike Schroepfer a la estrategia open source
• Agradece a Yann LeCun y Rob Fergus por la construcción inicial de FAIR
• Valora altamente el liderazgo técnico y la capacidad de ejecución de Aparna Ramani
• Menciona la bienvenida y colaboración del equipo de infraestructura, incluyendo a Santosh, Kaushik, Delia, Oldham y Ben
• También agradece a managers como Serkan, Howard, Jerome, Abhijit, Yoram, Joelle, Aparna y Damien

Mensaje final

• Enfatiza el logro compartido al decir: “este no fue mi viaje, fue nuestro viaje”
• Afirma que a partir de ahora intentará hacer “cosas pequeñas, nuevas e incómodas”
• Deja un mensaje de aliento para la comunidad de PyTorch: “sigan haciendo que la IA sea deliciosa y fácil”

[GN⁺]

Comentarios de Hacker News

• Parece que muchos comentarios están evaluando a PyTorch de forma resultadista. Pero cuando Soumith Chintala co-desarrolló PyTorch, casi no existían entornos de desarrollo rápidos e interactivos. JAX ni siquiera existía.
  Era tan superior en esa época que todos los investigadores que lo probaban querían cambiarse de inmediato. Incluso Andrej Karpathy dijo en un tuit de 2017: “Usé PyTorch por unos meses y me cambió la vida” (enlace al tuit).
  Gracias por los años de esfuerzo dedicado de Soumith, y le deseo éxito en su camino hacia adelante

  • Chainer ya había presentado el modelo define-by-run. Era un framework desarrollado por una pequeña empresa japonesa, y en las primeras versiones de PyTorch se reconocía claramente que había recibido una gran influencia de Chainer
  • PyTorch se inspiró en la librería Autograd de Python de alrededor de 2015. De hecho, el sistema de diferenciación automática de PyTorch también se llamaba autograd. JAX es el sucesor directo de Autograd, y algunos de sus desarrolladores todavía trabajan en el equipo de JAX. Adam Paszke, coautor de PyTorch, también participa actualmente en los proyectos JAX y Dex (historia de Autograd, archivo de la introducción de PyTorch)

• Yo fui una de las personas a las que Soumith contrató personalmente para trabajar con él en Meta y PyTorch.
  Soumith siempre vio a PyTorch como un proyecto centrado en la comunidad. No solo celebraba las contribuciones de cocreadores como Adam y Sam, sino también las de todos los involucrados en la integración con el equipo de Caffe2.
  Desde el principio, PyTorch fue diseñado como un framework abierto para la comunidad de investigación, y Soumith impulsó durante todo su crecimiento la participación de nuevas personas y organizaciones.
  Era un verdadero imán de talento, y gracias a eso muchísimas personas brillantes dedicaron su pasión a hacer crecer PyTorch.
  Aunque ahora se vaya, PyTorch ya está en una etapa en la que puede sostenerse por sí solo. Eso es precisamente el retrato de un open source exitoso

  • Yo también trabajé con Soumith, y de verdad es una figura legendaria. Era un líder que generaba cambios enormes sin perder la humildad, sin meterse en política y ayudando a crecer a quienes lo rodeaban. De corazón le deseo mucha suerte

• Lo interesante de todo esto es que parece una señal de que dentro de Meta no hay activos propietarios relacionados con IA.
  Da una sensación parecida al mito de creer que la investigación militar está mucho más adelantada de lo que realmente está.
  Al final, incluso los laboratorios de IA de las big tech parecen estar repitiendo trabajos no tan distintos de lo ya conocido, sin ninguna tecnología secreta especial

  • Me parece una interpretación exagerada. Soumith trabajó 11 años en Meta y seguramente ya recibió suficiente compensación en acciones. Además, hace poco tuvo un hijo, y el balance vida-trabajo en Meta no es bueno.
    También Meta está cambiando su enfoque recientemente hacia los LLM, así que el rol tradicional de PyTorch se está reduciendo. Viendo todo eso, parece un momento natural para cambiar de trabajo
  • La tecnología militar en muchos casos en realidad está rezagada frente al sector civil. El secretismo dificulta la colaboración y los factores políticos aumentan la ineficiencia
  • La salida de Soumith no parece tener relación con la originalidad de la IA de Meta. Solo parece que llegó el momento en que quería un cambio nuevo.
    Incluso con todo el discurso reciente de que la AGI “está por llegar”, los desarrolladores internos no parecen tan entusiasmados. Que Karpathy haya vuelto a la enseñanza o que Mira Murati haya fundado una startup va en la misma línea
  • Él solo dijo que quiere enfocarse en cosas pequeñas. Ni siquiera sabemos si su nuevo proyecto estará relacionado con IA
  • Cualquiera que haya trabajado directamente con equipo militar lo sabe: lo que llaman “tecnología militar de punta” suele ser en su mayoría tecnología vieja y comprobada hecha con piezas baratas. Como los drones rusos con Raspberry Pi, en la práctica resulta sorprendentemente común

• La pasión de Soumith era contagiosa. Vi el paper de DCGAN e hice experimentos con Lua Torch, y funcionó incluso con el pequeño dataset de Oxford flowers.
  Soumith quedó tan sorprendido que compartió el resultado en redes sociales.
  En ese momento, PyTorch y Lua Torch eran mucho más fáciles de manejar que TensorFlow, y el código tenía una estructura ideal para hackear, así que los investigadores podían experimentar con libertad

  • Hubo un comentario preguntando qué era el dataset de Oxford flowers y dónde se podía conseguir

• Me impactó la parte donde Soumith dijo que quería probar con “cosas pequeñas y nuevas”, cosas que todavía no entiende del todo y que le resultan incómodas.
  Dentro de Meta también podría haber hecho otras cosas, pero siguió esa curiosidad que le decía que tenía que salir. Es como un “Siddhartha regresando al bosque”

  • Estoy de acuerdo con la idea de la “sombra de Siddhartha”, pero al mismo tiempo también es alguien que solo quiere alejarse por un tiempo de una megacorporación con gran impacto social

• Como usuario de JAX, respeto el éxito de PyTorch. Después de los errores de TensorFlow 1, PyTorch terminó dominando el ecosistema de IA.
  Ojalá que algún día Matt Johnson también sea reconocido en grande por haber llevado Autograd hasta JAX, igual que hoy se reconoce a Soumith

  • Hubo un comentario preguntando por qué se considera que TensorFlow fracasó
  • También hubo una pregunta sobre si alguien había usado tanto JAX como PyTorch, y por qué prefería JAX
  • JAX es excelente, pero preocupa la inestabilidad de los proyectos de Google. Siempre existe el riesgo de que lo reemplacen por una versión incompatible tipo JAX 2.0

• La librería base de Torch también es de verdad una herramienta muy agradable de usar. En Rust hay bindings como tch y Burn, y se integran bien con libtorch.
  La gran ventaja de PyTorch es que permite depuración dinámica. Todavía extraño esa experiencia de poder detener directamente un modelo en la terminal y revisar su estado interno

  • Gracias a eso antes también escribí mucho código espantoso, pero aquella época fue realmente gloriosa

• Me impresionó su frase de que “estaba en una posición donde podían contactarlo todas las grandes empresas de IA y los vendors de hardware, pero al final ganó la curiosidad”.
  Ojalá vuelva a crear otra herramienta nueva y poderosa

  • Cuando la curiosidad desaparece, todo se viene abajo. Conozco muy bien esa sensación.
    Hubo una época en la que tuve que pasar mucho tiempo haciendo trabajo sin sentido para ganarme la vida, así que hasta me da envidia que él pueda tomar una decisión así

• Me llamó la atención la frase “PyTorch se enseña desde MIT hasta aulas rurales de India”.
  Hasta da la impresión de que algunas aulas en India podrían ser mejores que las escuelas de ingeniería élite de EE. UU. en acceso educativo y enfoque práctico

  • Las “escuelas de ingeniería élite” de EE. UU. muchas veces en realidad son valoradas más por el estatus social y los logros de investigación, y la calidad de la enseñanza puede ser baja
  • Por otro lado, también hubo críticas a la educación tradicional de India por estar centrada en la memorización y los exámenes. La opinión era que las universidades de ingeniería de EE. UU. tampoco son perfectas, pero que los problemas del modelo educativo indio siguen siendo serios

• Como alguien que usa PyTorch todos los días, le doy las gracias de corazón a Soumith y al equipo.
  Gracias a esta herramienta pude experimentar directamente con ideas que antes solo imaginaba.
  PyTorch se volvió una parte importante de mi vida, y le deseo toda la suerte del mundo en su próxima etapa