La ilusión del vibe coding, el nivel del código de IA y el futuro

• Últimamente, la IA para programar crea rápidamente “código que funciona”, pero se sostiene que todavía no puede crear automáticamente un “buen producto” como el que espera el usuario

• El autor ve dos causas principales

  • Falta de sentido común/conocimiento tácito en la IA
  • En el aprendizaje basado en RLVR, la estructura tiende a recompensar más el “éxito al ejecutar el código” que el “buen código/producto”

• Como ejemplos, menciona la alucinación de Sejong el Grande con una MacBook Pro, la prueba del autolavado y el fracaso al generar imágenes de un salón de clases y estudiantes en Corea, y señala que incluso los modelos más recientes pueden pasar por alto rarezas que los humanos detectan de inmediato

• Si la recompensa del RLVR para programación se sesga hacia si el código corre o no, los LLM pueden generar try-except, fallback y lógica defensiva en exceso, acumulando deuda técnica

• En el go, lo importante es ganar, pero en software la clave no es que “más o menos funcione”, sino que sea un “producto por el que la gente quiera pagar y que realmente desea”

• Desde la perspectiva de AJI (Artificial Jagged Intelligence) de Karpathy, las áreas débiles de la IA actual son el “taste”, la sensibilidad de producto y el ámbito del sentido común implícito

• Anthropic también considera que el área de diseño/taste todavía depende mucho de los humanos, aunque cree que esa frontera se está renegociando a medida que mejoran los modelos

• El autor prevé que esta brecha se irá reduciendo gradualmente a medida que los modelos mejoren, por ejemplo de GPT-5.4 a GPT-5.5

• En última instancia, sostiene que cuando alcance un nivel de sensibilidad y juicio difícil de distinguir del humano, pasará la prueba de Turing, y ese momento podría considerarse AGI

Resumen:
El problema de la IA para programar no es que “no sepa escribir código”, sino que está optimizada para producir resultados ejecutables sin entender qué producto quiere realmente la gente. El papel actual de los humanos es complementar el sentido común, el taste y el criterio de producto que le faltan a la IA.