Kimi K2 Thinking, modelo de razonamiento open source de un billón de parámetros con rendimiento SOTA

• Kimi K2 Thinking es un modelo de razonamiento open source que usa herramientas y piensa paso a paso, implementando un proceso de pensamiento a nivel humano para resolver problemas complejos
• Alcanzó el mejor rendimiento actual (SOTA) en benchmarks clave como Humanity’s Last Exam(HLE), BrowseComp y SWE-Bench Verified
• Puede realizar hasta 200~300 llamadas consecutivas a herramientas y, mediante test-time scaling, amplía al mismo tiempo los tokens de pensamiento y las etapas de llamadas a herramientas
• Muestra un rendimiento sobresaliente en razonamiento, búsqueda y coding agentic, resolviendo problemas complejos de matemáticas, programación y exploración web con planificación de largo plazo
• Gracias a la optimización de inferencia basada en cuantización INT4, logra el doble de velocidad y reduce el uso de memoria GPU, alcanzando uno de los niveles de eficiencia más altos entre los modelos open source de gran escala

---

Introducción a Kimi K2 Thinking

• Kimi K2 Thinking es el modelo de pensamiento open source de mayor rendimiento presentado por Moonshot AI
  • Tiene una arquitectura de “thinking agent” que realiza razonamiento paso a paso incluso mientras usa herramientas
  • Registró el mejor rendimiento actual en HLE, BrowseComp y otros
• Mediante test-time scaling, amplía simultáneamente la cantidad de tokens de pensamiento y las etapas de llamadas a herramientas
• Actualmente está disponible en el modo chat de kimi.com, y el modo agentic completo se publicará pronto
• Puede integrarse externamente a través de la API

Resultados de evaluación

• Alcanzó 44.9% en HLE (con uso de herramientas), 60.2% en BrowseComp y 71.3% en SWE-Bench Verified
• Demostró una capacidad de generalización consistente para resolver problemas de nivel profesional en múltiples áreas
• Mejoró el rendimiento frente a modelos previos en razonamiento, búsqueda y coding agentic

Razonamiento agentic (Agentic Reasoning)

• Alcanzó un récord de 44.9% en Humanity’s Last Exam(HLE)
  • Es un benchmark cerrado que incluye problemas de nivel experto en más de 100 disciplinas académicas
  • Usa en paralelo herramientas de búsqueda, Python y navegación web
• Presentó un caso de resolución de un problema matemático de nivel doctoral alternando 23 pasos de razonamiento y llamadas a herramientas
• Puede resolver problemas académicos complejos mediante cientos de pasos de planificación, razonamiento, ejecución y adaptación

Coding agentic (Agentic Coding)

• Registró 61.1% en SWE-Multilingual, 71.3% en SWE-Bench Verified y 47.1% en Terminal-Bench
• Muestra alta calidad en tareas centradas en componentes frontend como HTML y React
• Ejecuta flujos de trabajo de desarrollo en múltiples etapas mediante llamadas a herramientas, ayudando a la generación de código precisa y flexible
• Presentó casos de creación de aplicaciones complejas como sitios web y editores de documentos con un solo prompt

Búsqueda y navegación agentic (Agentic Search and Browsing)

• Superó ampliamente el nivel humano (29.2%) con 60.2% en BrowseComp
  • Demostró capacidad para recopilar información web en tiempo real y razonar sobre ella
• Ejecuta 200~300 llamadas consecutivas a herramientas, habilitando planificación de largo plazo y razonamiento adaptativo
• A través de un ciclo repetido de
  “pensar → buscar → usar el navegador → pensar → programar”,
  descompone problemas abiertos complejos en subtareas estructuradas

Capacidades generales (General Capabilities)

• Escritura creativa: genera narrativas con gran expresividad y profundidad emocional
• Escritura práctica: mejora la estructura lógica y la precisión en instrucciones, adecuada para contenido académico y de investigación
• Respuestas emocionales: ofrece consejos empáticos y concretos, con un equilibrio más humano

Eficiencia de inferencia (Inference Efficiency)

• Con cuantización QAT INT4 solo para pesos, logra el doble de velocidad y reducción de memoria
• Mantiene un proceso de pensamiento preciso sin degradación del rendimiento incluso en inferencia a gran escala
• Todos los resultados de benchmark se reportan con precisión INT4

Comparación de rendimiento general

• En benchmarks clave, muestra un rendimiento igual o superior al de GPT‑5, Claude Sonnet 4.5 y DeepSeek‑V3.2
• Alcanzó el máximo nivel entre modelos open source en Reasoning, Coding y Agentic Search

---

Resumen:
Kimi K2 Thinking es un modelo de razonamiento open source de escala de billón de parámetros que realiza pensamiento paso a paso basado en herramientas,
logrando al mismo tiempo rendimiento y eficiencia de nivel SOTA en resolución de problemas complejos y planificación de largo plazo.

[GN⁺]

Opiniones en Hacker News

• Instaló el modelo Moonshot Kimi-K2-Thinking con uv tool install llm y generó un SVG con el comando llm -m moonshot/kimi-k2-thinking 'Generate an SVG of a pelican riding a bicycle'
  El resultado puede verse en este enlace
  El resultado ejecutado con moonshotai/kimi-k2-thinking en OpenRouter salió mucho más refinado, como en esta versión

  • Parece que el resultado de OpenRouter provino de un proveedor de hosting cuantizado (quantized)
    Comparado con una llamada directa a la API de Moonshot, la diferencia es casi como de la noche al día
    Como OpenRouter impone límites de cuantización por API y no por cuenta, la experiencia de usuario resulta algo confusa
  • Es interesante cómo este benchmark se vuelve cada vez más simbólico cada vez que sale un modelo nuevo
    El rendimiento de la familia GPT-5 sigue siendo difícil de creer, pero da gusto ver que los modelos open source hagan intentos cada vez más ambiciosos
  • Me pregunto si al ejecutarlo fijaron la temperature en 0 para mantener consistencia
  • Me pregunto dónde demonios corren un modelo de 1 billón de parámetros

• Está bien que haya más competencia y más open source, pero me interesa más qué tan bien puede programar y razonar una combinación de LLM pequeño + agentes que un modelo gigante
  Lo ideal sería algo que pueda correrse en local o en un clúster barato
  El objetivo original de OpenAI era beneficiar a toda la humanidad, pero ahora cambió a una estructura centrada en el pago, y da pena que vaya en una dirección donde solo se benefician los más ricos

  • Ya se han hecho muchos experimentos con modelos pequeños así
    Pero los resultados todavía son insuficientes, y si se pudiera hacer un modelo pequeño eficiente, no habría razón para que existieran los modelos grandes
    Claro, si aparecen ideas nuevas, esta dinámica podría cambiar
  • Yo también antes estaba obsesionado con “el modelo más inteligente”, pero al usarlo en la práctica vi que los modelos pequeños hacen lo mismo mucho más rápido
    Así que ahora mi meta es encontrar “el modelo más pequeño que pueda resolver mi trabajo”
    Los puntajes altos en benchmarks me parecen más bien un indicador de sobreespecificación y desperdicio
  • Si algo es “open source”, entonces debería permitir descargar los datos de entrenamiento e incluir scripts para reentrenarlo end-to-end
    Distribuir solo binarios de inferencia y llamarlo open source es un uso incorrecto del término
  • No entiendo por qué no aparecen modelos ultrapequeños por especialidad
    Por ejemplo, para alguien que solo usa Go, bastaría con un modelo de Go
    Una estructura que use varios modelos especializados intercambiándolos en memoria parecería mucho más eficiente
    Pero la mayoría sigue persiguiendo grandes modelos de propósito general
    Yo solo he usado la suscripción de CoPilot y Ollama, pero creo que en el futuro dominarán las combinaciones de muchos modelos de 1~2B
  • En realidad, el avance de los modelos grandes se debe en su mayoría a la optimización y el escalado
    Pero estas técnicas terminan llevando a mejoras de rendimiento en modelos pequeños
    DeepSeek es un buen ejemplo: las innovaciones de los modelos grandes también benefician a los pequeños
    Por cierto, este modelo usa una arquitectura MoE, y solo se activan 32 mil millones de parámetros a la vez

• En los últimos meses, cuatro empresas chinas (DeepSeek, Qwen/Alibaba, Kimi/Moonshot, GLM/Z.ai) han lanzado excelentes modelos open source
  Ni las empresas de EE. UU. o Europa, ni siquiera Meta, muestran este tipo de movimiento. ¿Por qué será?

  • Claro, OpenAI también publicó GPT-OSS en agosto
    También me gusta Qwen 235, pero la definición de “open source” sigue siendo poco clara: si significa open weights o una apertura total
  • Las empresas chinas tienen acceso restringido a GPU de última generación, así que optan por la estrategia de publicarlo como open source
    En cambio, las empresas estadounidenses se resisten a abrirlo porque tienen que recuperar sus enormes inversiones en GPU
  • Otra razón es que, por preocupaciones de privacidad, tienen pocos clientes de pago
    Al final no les queda otra opción que publicarlo gratis
  • Parece que Meta abandonó su estrategia de open weights después de DeepSeek

• El ejemplo parece algo seleccionado a conveniencia (cherry-picked), pero aun así impresiona
  Como alguien que ha metido modelos OSS en su flujo de trabajo, conozco bien sus límites, pero estos resultados están en un nivel que incluso a los frontier models les costaría
  Dan ganas de ver cómo seguirá avanzando esto

  • Personalmente, Kimi me parece un modelo que se siente mucho más “inteligente” de lo que dicen sus benchmarks
    Quizá sea porque ha sido menos afinado para sacar puntajes, a diferencia de los laboratorios de EE. UU.

• Según la tabla de precios de OpenRouter, cuesta $0.60 por 1 millón de tokens de entrada y $2.50 de salida
  Con este nivel de rendimiento, es 4 veces más barato que modelos equivalentes, así que me pregunto si lo están hospedando a pérdida o si los otros modelos simplemente tienen márgenes enormes

  • Si se excluye el costo de entrenamiento, los otros modelos están dejando márgenes enormes
    Para más detalle, ver este texto
  • Los modelos open source en OpenRouter se cobran casi al costo del hardware
    Como algunos corren sobre infraestructura subvencionada, en realidad sí podría quedarles ganancia

• Este modelo ha sido el único que recientemente resolvió el “problema de apilamiento” como lo haría un humano
  La clave, según esta publicación relacionada, fue entender el concepto de distribuir la carga con 9 huevos

  • Pero alguien señaló que “ese problema mismo podría haber estado incluido en los datos de entrenamiento”
  • Otro usuario compartió un ejemplo de conversación real mostrando cómo el modelo, tras varias rondas de retroalimentación, llega a una configuración de apilado físicamente posible
    Al final dio una respuesta realista, ordenándolo como “libro → botella → laptop → clavo”

• Me pregunto qué significa exactamente un “reasoning model”
  No me queda claro si simplemente se refiere a un modelo que usa tokens de scratchpad dinámicamente desde el system prompt, o a un modelo finetuneado de esa manera

  • Es lo segundo. Es decir, se refiere a un modelo afinado para aprender el proceso de pensamiento intermedio
    Es mucho más efectivo que imitarlo solo con prompts
  • Normalmente se refiere a un modelo que realiza razonamiento interno dentro de tokens como <think></think> antes de responder
    Este formato se entrena con RL o aprendizaje por recompensas basado en formato

• La versión non-thinking tiene la mejor calidad de escritura
  Parece prometedor que estén intentando un enfoque nuevo diferente al de otros frontier labs

  • Yo sentí lo contrario. Me gusta porque es el modelo más grande que puedo correr en casa, pero su salida excesivamente estructurada se siente artificial
    Me decepciona que no sea tan distinto de la versión anterior
  • Aun así, Kimi K2 tiene una sensación de modelo pulida y muy bien lograda

• Ojalá pudiera usarse en AWS Bedrock o Google Vertex con garantía de data residency

  • Como en el modelo anterior, los pesos están publicados, así que probablemente pronto aparezca también en hosting de terceros
    Enlace de Hugging Face
  • La versión non-thinking ya está registrada en Vertex AI
    Este modelo destaca el uso secuencial de herramientas y el rendimiento needle-in-a-haystack RAG, que son justo las partes más necesarias en el trabajo real
    Por cierto, Thoughtworks movió recientemente text-to-sql al estado de Hold

• Ya se puede usar también en OpenRouter

  • Aunque por ahora la latencia es fuerte