Amo los LLM, pero odio el hype exagerado

• Los LLM, los autos autónomos, los modelos de generación de video y los agentes de programación son realmente útiles e interesantes, pero no comparto el miedo ni el hype apocalíptico que los rodea
• El discurso de que, si se cierra la ventana de oportunidad, uno quedará permanentemente como clase baja se parece más a un hype diseñado para generar ansiedad y atraer gente a San Francisco que a una verdad
• Rechaza las proyecciones que saltan de ver a los LLM como autocompletado avanzado, compiladores inteligentes o motores de búsqueda mejorados a imaginarlos como superinteligencias que dominarán el universo; considera que el avance de la IA proviene principalmente de la ley de Moore y del progreso general de la computación, más que de un grupo específico
• Los agentes de programación están cambiando la forma de programar y aumentan la productividad hasta cierto punto, pero pueden incrementar la fatiga cognitiva y todavía hay mucho código de baja calidad en los resultados del vibe coding
• La IA está en continuidad con la revolución informática, y los LLM son herramientas que ayudan a los desarrolladores, como find/replace, Stack Overflow y las expresiones regulares; pero esa utilidad no implica necesariamente la captura de valor por parte de los laboratorios de IA de frontera

---

Entre el avance de la IA y el hype

• Después de concentrarse en el hacking entre 2007 y 2014, invirtió toda su carrera en la IA y celebra los avances de los nuevos LLM, los autos autónomos, los modelos de generación de video y los agentes de programación
• Al ejecutar opencode en el GLM-5.2 local e indicarle install tmux with the geohot configuration, la instalación funcionó, y lo toma como un ejemplo de que finalmente llegó el año del escritorio Linux
• El hype al que se opone se divide en dos ramas
  • El discurso de que la ventana de oportunidad se cerrará y uno quedará como clase baja permanente o tan rezagado que ya no podrá recuperarse es hype negativo que genera ansiedad en la gente
  • La lógica que pasa de autocompletado avanzado, compiladores inteligentes y motores de búsqueda mejorados a un escenario de superinteligencia en el que todo cambia de golpe es un salto argumental tipo hombre de paja, y afirma que tal evento no ocurrirá
• La presentación de 2016 sobre la superinteligencia y la película Terminator 2 de 1991, en la que las máquinas toman el control del mundo, muestran que estas ideas no son algo creado recientemente por un grupo específico
• Reconoce que la IA puede crear un valor enorme, pero cree que los laboratorios de frontera no capturarán directamente ese valor lo suficiente como para justificar sus valuaciones empresariales
• Considera que en el núcleo de los argumentos contra el open source no está la seguridad ni China, sino el miedo a la comoditización
  • El avance de la IA proviene principalmente de la ley de Moore y del progreso general de la computación, más que de laboratorios específicos
  • Cree que, si este hecho se conociera, los inversionistas podrían no aportar miles de millones de dólares, por lo que los laboratorios tienen un fuerte incentivo para ocultarlo

La realidad de la productividad que aportan los agentes de programación

• En el pasado, en The Eternal Sloptember, pudo haber evaluado con demasiada dureza la capacidad de los modelos para programar, y ahora reconoce que la propia forma de programar está cambiando
• La declaración de Linus Torvalds compara a los agentes con un aumento de 10 veces en la productividad de programación y a los compiladores con un aumento de 1.000 veces
  • Considera que tanto 10 veces como 1.000 veces son estimaciones extremas
  • Está convencido de que, a medida que mejora su capacidad para usar modelos, realmente obtiene cierta mejora de productividad
  • Usar modelos es una nueva habilidad que debe aprenderse por separado, y desde antes venía probando continuamente distintos modelos
• Los agentes de programación aún tienen limitaciones claras
  • Los modelos pueden aumentar la fatiga cognitiva, por lo que deben usarse con cuidado
  • Los resultados del vibe coding siguen siendo de baja calidad, y tampoco está claro dónde está realmente el nuevo software que correspondería a los aumentos de productividad que se afirman
• Aun así, los modelos son herramientas útiles que ayudan al desarrollo, como find/replace, Stack Overflow y las expresiones regulares, y la IA también está situada en la continuidad de la revolución informática

[GN⁺]

Opiniones de Hacker News

• La frase “no es que la IA no genere mucho valor, sino que los laboratorios de frontera no logran capturar ese valor” explica de forma concisa su comportamiento y por qué quieren que usemos los mejores modelos con precio por token.
  Con las suscripciones actuales, que por 100 a 200 dólares al mes dan una cantidad generosa pero limitada de tokens, la mayoría de las personas y empresas eligen fácilmente los modelos de frontera. Pero la cosa cambia si el precio por token es 10 a 100 veces más caro que el de modelos abiertos o que el de los modelos de frontera de hace un mes. Yo no gastaría 1,000 dólares al mes, mucho menos 10,000, en el mejor modelo, y mi empleador quizá pagaría 1,000, pero jamás 10,000.
  Para justificar las valuaciones actuales, todos tendrían que pagar 100 veces más que ahora, pero eso no va a pasar mientras cualquiera pueda crear este tipo de modelos. Tanto OpenAI como Anthropic están buscando una solución, y en particular Anthropic intenta pasar Fable a cobro basado en uso. Pero el 5.6 Sol de OpenAI es lo bastante bueno como para competir con Fable y se puede usar incluso con una suscripción de 20 dólares al mes, así que no hay foso defensivo que impida el cambio. Si Anthropic realmente corta el acceso a Fable en los planes de suscripción dentro de unos días, creo que el mercado se volcará en gran medida hacia OpenAI.
  El mercado no aceptará precios lo bastante altos como para cuadrar la economía de la inversión en modelos de frontera.

  • Yo también empecé a recurrir más seguido a modelos locales. Para tareas en las que los modelos locales no rinden bien, usaré modelos de frontera a los precios actuales, pero si al final invierten las condiciones de precio y piden 1,000 a 2,000 dólares al mes, no valen eso.
    Para mi uso, ni siquiera necesito que los modelos avancen mucho más. Probé Fable varias veces, pero no vi mucho motivo para elegirlo, y Opus hizo lo mismo a un costo mucho menor. Si los modelos se convierten en un commodity, la pregunta interesante es quién va a querer asumir los enormes costos de entrenamiento. Esos costos algún día bajarán, pero no parece que vayan a bajar lo suficientemente rápido como para que estas empresas aguanten.
  • Lo gracioso es que Fable probablemente quede obsoleto en uno o dos meses. Hicieron un escándalo por prohibir su publicación, que podrían haber evitado si no hubieran fingido que era peligroso, y aun así siguieron permitiendo el acceso, desperdiciando en la práctica la pequeña ventaja que tenían.
    Habría sido interesante que desde el principio cobraran más caro y probaran cuánto podía soportar el mercado, en lugar de angustiarse hasta que el siguiente modelo lo supere pronto.
  • No se puede ignorar el poder de los modelos suficientemente buenos. Aunque GLM5.2 no sea tan sobresaliente como los modelos de vanguardia, puede ser suficiente para cubrir la mayoría, quizá la totalidad, de nuestros requisitos.
  • Me pregunto si de verdad son los mejores modelos. Si Anthropic no tiene mythos, ¿no estaría más o menos en tercer lugar?
    OpenAI volvió a ponerse adelante recientemente, pero para hacerlo usa un modelo enorme con un costo por token absurdamente alto. Nadie necesita un modelo así. Es parecido a que NVIDIA o Intel presumieran el mejor rendimiento en juegos usando muchísima más energía por cuadro que la competencia.
  • Para ser exactos, el periodo de uso por suscripción de Fable volvió a extenderse hasta el 19 de julio.

• El nuevo software mágico surgido de las mejoras de productividad está corriendo en privado en mi homelab.
  Parece que ya entramos en la era de “constrúyelo como quieras”. Si un proyecto open source no funciona como quieres, puedes hacer un fork o crear una versión nueva, y se volvió demasiado fácil.
  Aun así, me preocupa un poco el futuro del open source. Antes, mantener un fork también requería esfuerzo, así que valía la pena subir los cambios al upstream. Ahora ese equilibrio cambió mucho. Muchos proyectos están endureciendo los requisitos para contribuir y algunos son abiertamente hostiles a la IA, cosa que no es difícil de entender. Pero a medida que aumente la adopción de IA, creo que será menos probable que las mejoras regresen a la comunidad.

  • Hay que recordar que el código es gratis en el mismo sentido que un “cachorro gratis”. El valor de la comunidad libre y open source no estaba en el código en sí, sino en la documentación compartida y el conocimiento oral que hacen que el software sea útil, usable y esté actualizado.
  • Es muy probable que pronto caigas en el infierno del mantenimiento. La parte difícil y molesta no es programar, sino tener que volver a sacar y retocar cada proyectito cada vez que necesita una pequeña corrección, lo que a largo plazo se convierte en una enorme cantidad de trabajo tedioso. Ni siquiera con IA será mucho más fácil.
  • La razón para hacer un fork de un proyecto activo suele ser que tú eres el único usuario de ese fork y que de verdad necesitas esa modificación con la que soñabas. He visto demasiados forks innecesarios de proyectos populares, así que creo que, aunque no sea perfecto, es mejor mantener el original.
  • Aún hay que seguir los cambios del upstream y resolver conflictos de merge. Si no, tendrás que hacer que un LLM arregle todos los CVE de tu fork.
  • No es muy plausible la explicación de que, aunque las nuevas herramientas ya permiten escribir todo ese código, todas las personas y empresas, como si hubiera una conspiración gigantesca, hayan hecho que todos esos resultados sean software privado y no los hayan publicado.

• Al menos en mi caso, la mejora de productividad se usó para crear software simple y desechable para usos muy concretos.
  Con un LLM puedes crear cualquier cosa, pero tú tienes que saber qué estás creando y pensar cuidadosamente cada comportamiento. Si no, el LLM rellenará el interior con una mezcolanza tipo salchicha. Basta ver la calidad irregular del software que sacan empresas valuadas en billones de dólares para darse cuenta de que los modelos siguen siendo desparejos y limitados. El futuro es salchicha.

  • Aunque puedas hacer pan en casa, si cuesta 10 veces más y además sabe horrible, no quiero dedicar tiempo a perfeccionar la técnica para el pan que voy a comer todos los días. Como actividad ocasional para despejar la mente está bien, pero con gusto apoyaría a alguien que pasó toda su vida dedicando más tiempo y esfuerzo que yo a perfeccionar la solución.
    Así puedo dejar de preocuparme por ese problema y concentrarme en lo que quiero hacer.

• En 2024 y 2025 yo sentía algo parecido. Pero después de que salió Sonnet 4, eso empezó a cambiar, y Opus 4.5 fue otro salto más.
  Se siente como si todo se estuviera acelerando y los cronogramas esperados se estuvieran comprimiendo. En cierto sentido, envidio al autor original por “apostarlo todo” contra la ASI. La verdad es que yo tampoco sé dónde terminará esto, y no creo que nadie lo sepa.

  • El autor original no dijo que apostara todo a que la ASI en sí no llegará. Dijo que apuesta en contra de la perspectiva de que la ASI aparezca como un destello en el cielo y destruya nuestra oportunidad de acceder a la riqueza que genere.

• A mí también me gustan los LLM, pero me preocupa el costo. Todavía todos están muy subsidiados, y no hay garantía de que podamos ejecutar un modelo de nivel Opus 4.8 en una computadora personal antes de que los grandes laboratorios de IA suban los precios.

  • Más bien creo que los laboratorios de frontera están obteniendo márgenes considerables respecto del costo por unidad de inferencia.
    Ya se puede comprobar cuánto cuesta operar modelos de un tamaño cercano a la frontera. Empresas independientes cambiaron hacia un negocio de ofrecer estos modelos a precios razonables, y en OpenRouter compiten con precios mucho más bajos que los de los laboratorios de frontera.
    Si se pudiera ejecutar un modelo de nivel Opus 4.8 en una computadora personal, en los centros de datos podrían servirlo mucho más barato con su propio hardware. Por eso apostaría a que los precios, en vez de subir, probablemente bajen mucho.
  • Incluso con los precios actuales de la RAM rápida muy inflados, se puede correr un modelo local aproximadamente de nivel Sonnet 4.5 por menos de lo que cuesta un auto nuevo. Quizá no sea la respuesta que esperabas, pero es una opción posible, y también se podría armar una pequeña cooperativa de IA en la que varios desarrolladores compartan un servidor con dos RTX Pro 6000.
    DeepSeek V4 Pro es barato en cualquier API común, y DeepSeek V4 Flash cuesta alrededor de 0,09 dólares por millón de tokens de entrada y 0,18 dólares por millón de tokens de salida, así que en la práctica es gratis. Tampoco es el tipo de precio que normalmente se logra con subsidios.
    Como configuración local más realista, Qwen3.6 27B corriendo en una o dos Nvidia 3090 usadas es sorprendentemente decente. Necesita instrucciones claras y no sirve para vibe coding totalmente automático, pero para un programador que interviene directamente es bastante práctico.
  • Es difícil exigir garantías, pero si se mantiene una competencia sana, es muy probable que las curvas de oferta y demanda se encuentren en un punto razonable. Lo que siempre es seguro es que se pueden guardar aparte modelos abiertos.
  • Se dice que dentro de 2 años saldrá una Mac Studio con 1,5 TB de RAM, y debería ser suficiente para correr un modelo de nivel Opus. Claro que probablemente cueste unos 50.000 dólares.
    Si la IA local realmente se masifica, podría convertirse en una de esas cosas que se compran en cuotas, como un auto.
  • Ahora, por los subsidios a los modelos de frontera, la demanda se concentra sobre todo en mayor inteligencia. Si los subsidios terminan, la demanda de eficiencia de precio por unidad de inteligencia aumentará mucho, y como hay muchos participantes en el mercado, algunos la van a satisfacer.

• Quiero estar de acuerdo con el argumento de “una nueva herramienta agregada a la caja de herramientas de un artesano profesional del software”, pero vale la pena pensar en los hisopos.
  Aunque diga “no usar para limpiar los oídos”, la mayoría quiere usarlos únicamente para eso. En la práctica, el resultado termina siendo “usar hisopos de forma irresponsable” o “no usarlos en absoluto”, y “usarlos correctamente” queda como una fracción ínfima del total.

  • Los hisopos en realidad fueron hechos para limpiar los oídos. La razón por la que ponen que no se haga es para evitar demandas cada vez que alguien se lastima el oído.

• Dijo que su texto de mayo sobre “eternal sloptember” quizá fue demasiado duro: https://geohot.github.io/blog/jekyll/update/2026/05/24/the-e...
  Me da curiosidad qué parte considera dura. Todavía parece bastante acertado, y creo que en retrospectiva se lo va a valorar bien.

  • A diferencia de la frase “introducir agentes de IA en el desarrollo de software será uno de los errores más costosos en la historia de este campo. Los agentes no pueden programar, y cada vez está tomando más tiempo darse cuenta de ese hecho”, ahora parece pensar que los agentes sí pueden programar un poco.

• Nadie lo menciona, pero Terminator 2 no trata de máquinas tomando el control del mundo. Eso ya ocurrió o va a ocurrir, pero al final los humanos derrotan a las máquinas. Skynet intenta matar a John Connor para impedirlo, y eso es el centro de la película.
  También es la historia de John encontrando, a través del T800, una figura capaz de cumplir un rol parental. No la encontró en sus padres adoptivos ni en su madre distanciada. Es una pena que esta persona parezca no haber visto realmente la película. Es un clásico.

  • El rolero más extremo de la historia.

• Hay razones de sobra para odiar a los comerciantes y su marketing, pero quien construye no es un comerciante. Quien construye usa cualquier herramienta que tenga disponible.

  • Geohot también es una de esas personas que intentó convertirse en comerciante. Quizá cambió de actitud porque el negocio no le salió bien.

• Para usar LLM no hace falta entrar a Twitter y exponerse a quienes hablan de una “clase baja permanente”. Me gusta internet, pero ahora más que nunca siento que hay que elegir conscientemente qué sitios visitar.

  • Esa gente no está solo en Twitter. También está aquí, en el trabajo y aparecerá en tu próxima reunión social. Hasta cierto punto, siento que son inevitables.
  • El ambiente malintencionado de exageración inversa que se ve aquí es bastante desagradable. Creo que se debe a que mucha gente va a buscar deliberadamente opiniones con las que yo no me cruzo.
    Teorías conspirativas absurdas sobre los centros de datos y la situación financiera de las empresas relacionadas empiezan en Bluesky o Instagram y a menudo pasan por aquí hasta llegarme a mí. Pero nunca vi directamente esa ola imparable de exageración contra la que dicen estar luchando. También leo a Scott Alexander, y es mucho más prudente de lo que la gente describe.
  • Me pregunto si en Xitter todavía hay gente que se queja de la división de clases. Hoy casi no entro, pero antes tampoco recuerdo haber visto eso allí.