LM Studio Bionic: un agente de IA para modelos abiertos

 (lmstudio.ai)
1 puntos por GN⁺ 5 시간 전 | 1 comentarios | Compartir por WhatsApp
  • LM Studio Bionic es una app independiente que maneja tareas de programación, investigación y documentos con modelos abiertos en local o en la nube, lo que permite controlar directamente la privacidad y el costo de uso de la IA
  • Los modelos pueden ejecutarse directamente en el dispositivo o conectarse mediante LM Link; para tareas complejas, se pueden elegir grandes modelos open source en LM Studio Secure Cloud
  • El teclado por voz usa Voxtral, el modelo multilingüe de transcripción en tiempo real de Mistral AI, para convertir voz en texto dentro del dispositivo desde cualquier app
  • Para programación ofrece investigación de codebases, edición, depuración y inline diff; para trabajo documental ofrece procesamiento en sandbox, búsqueda web, checkpoints automáticos y vista previa dentro de la app
  • Aplica una política de Zero Data Retention para todos los usuarios y no entrena con datos de usuario; las solicitudes a la nube tampoco se almacenan después de completarse

Programación, voz y trabajo con documentos

  • El agente Bionic se centra en programación y trabajo documental, y permite ajustar costos eligiendo el modelo y el entorno de cómputo adecuados para cada tarea

  • Teclado por voz que funciona dentro del dispositivo

    • Con un modelo de audio local, transcribe dentro del dispositivo ideas, prompts y correcciones
    • En el lanzamiento incluye Voxtral, el modelo multilingüe de transcripción en tiempo real de alto rendimiento de Mistral AI
    • Al iniciar el teclado por voz desde cualquier app, la transcripción se inserta en la posición actual del cursor

  • Proyectos Code para trabajar con codebases locales

    • Al conectar una carpeta local, puede investigar el codebase, explicar código no familiar o hacer cambios y depuración
    • Permite revisar cambios de código mediante inline diff
    • Usa búsqueda de código con enfoque de agente para encontrar archivos relacionados y rastrear el comportamiento
    • Entre los modelos compatibles están GLM 5.2 y Kimi K2.7 Code

  • Proyectos Work para documentos, presentaciones y hojas de cálculo

    • Puede manejar documentos, PDF, presentaciones y hojas de cálculo, o crear materiales nuevos desde cero
    • Procesa documentos en un entorno sandbox para aislarlos del resto de la computadora y de los archivos
    • Admite organización de directorios locales, edición de archivos, resumen de materiales y uso de información externa mediante búsqueda web integrada
    • Con checkpoints automáticos, se pueden revisar o revertir cambios, y la vista previa dentro de la app permite gestionar juntos los materiales y el flujo de trabajo
    • Seguirá ampliando el soporte para previsualizar más formatos de archivo

Ejecución de modelos local, conectada y en la nube

  • En la app Bionic se pueden descargar los LLM locales más recientes para realizar desde chats simples hasta tareas avanzadas de agente, y la ejecución local se basa en LM Studio Runtime
  • Según la tarea, se pueden elegir tres formas de ejecución
    • Ejecutar modelos locales en el dispositivo
    • Conectar modelos mediante LM Link
    • Usar grandes modelos open source de frontera en LM Studio Secure Cloud
  • Secure Cloud ofrece modelos abiertos recientes con fortalezas en programación, razonamiento, tool calling y tareas de contexto largo
    • Las solicitudes a la nube se procesan temporalmente y no se almacenan una vez completadas
    • Se aplica Zero Data Retention a todos los datos de usuarios de Bionic y tampoco se usan para entrenamiento

Instalación y condiciones de uso

  • LM Studio Bionic es una app nueva separada de LM Studio existente
    • Si se necesitan configuraciones avanzadas de bajo nivel, se puede seguir usando LM Studio existente junto con Bionic
    • Para usar modelos en la nube, es necesario crear una cuenta de LM Studio y configurar el pago
    • Al conectar un proyecto y elegir un modelo, se puede comenzar a trabajar con el agente Bionic
  • Planean seguir mejorando la experiencia de Bionic reflejando las mejoras de rendimiento de los modelos abiertos y casos de uso en proyectos reales

Lecturas relacionadas

1 comentarios

 
GN⁺ 5 시간 전
Comentarios en Hacker News

  • Soy Yagil, fundador de LM Studio. Si quieren probar GLM 5.2 / Kimi K2.6 / Kimi Coder K2.7 en Bionic, envíen su nombre de usuario de lmstudio.ai a hn-jul16@lmstudio.ai y les daré créditos
    Para programación, usen el proyecto “Code”, y para crear o editar documentos, el proyecto “Work”. El proyecto Work crea checkpoints automáticos cada vez que el agente hace cambios, y me gustaría conocer sus comentarios después de usarlo

    • Es uno de los mejores frameworks de ejecución de agentes para observar el proceso de razonamiento. A veces leer el razonamiento resulta más útil que la respuesta final, y me gusta que lo muestre de forma más transparente que Claude Code o Codex
      Dijeron que negociaron zero data retention (ZDR) con el “proveedor”, pero me da curiosidad si los modelos los hospeda directamente LM Studio o si los hospeda otra empresa. Si es un proveedor externo, también quisiera saber cuál es
    • Me gusta LM Studio y planeo probar Bionic esta noche. Estoy esperando con muchas ganas una app complementaria para Android, al punto de tenerles envidia a los usuarios de iPhone
    • Me pregunto si se puede usar una API key del plan de coding de z.ai
    • Me encanta LM Studio, pero este giro hacia algo centrado en la nube y la confianza podría hacer que mucha gente pierda la confianza. Las empresas han repetido tantas veces promesas como “zero data retention” y “no entrenamos con datos de usuarios” que suena como si otra vez nos pidieran que solo confiemos
      Ni siquiera pude encontrar la ubicación de la empresa en el sitio, y me da la impresión de que otra vez se está exportando ese enfoque tan estadounidense de “solo confía en nosotros” que llevo 20 años viendo hasta el cansancio

  • Es el primer framework de ejecución de agentes para modelos locales que pruebo, pero como me gusta LM Studio, enseguida probé Bionic, y la primera impresión fue excelente. La UI se parece a Codex, que uso con frecuencia, así que me resultó familiar y fácil de empezar, y al apuntarlo a la biblioteca de modelos existente de LM Studio para ejecutar Qwen3.6 35B, obtuve los resultados que esperaba
    Aun así, hay cosas por mejorar. En la pantalla principal solo aparece el nombre del proyecto y, a diferencia de Codex, no se muestra con claridad el directorio de trabajo actual. Al presionar Enter se carga el modelo, pero aparece “Working” en vez de “Loading model”, y tampoco encontré una forma de precargarlo antes de enviar una solicitud ni de descargar el modelo sin cerrar la app, como el botón de expulsar de LM Studio. También tuve un problema al indicar el directorio “GitHub & Projects”, porque incluso creó una carpeta nueva con el mismo nombre

  • Si Apple consigue un modelo local y un framework de ejecución lo bastante buenos, parece que la mayoría de los usuarios comunes terminarán usando eso. Me pregunto si al final el LLM se convertirá en otra interfaz más de la computación

    • El System Model de Apple es bastante bueno, pero la longitud de contexto está limitada a 4K. Está bien para utilidades pequeñas en Python que procesan pocos datos, pero en general es una limitación decepcionante
      Aparte de eso, Siri en la beta más reciente de iOS mejoró de forma sorprendente. Le pregunté qué modelo usa y respondió que para problemas difíciles usa Gemini, luego un modelo seguro de Apple en la nube, y por último un modelo local de Apple
    • Para la mayoría de las tareas de los usuarios comunes, creo que basta con un LLM al nivel de la era de ChatGPT 3.5. Si a eso se le agregan llamadas a herramientas y un modelo de ese nivel integrado en el dispositivo como primera opción, los usuarios de IA podrían dividirse entre quienes no quieren pagar y quienes están dispuestos a gastar mucho por el rendimiento de los modelos de frontera
    • La respuesta depende de si el avance de los modelos se estanca lo suficiente como para que los modelos del tamaño de un dispositivo puedan compararse con el rendimiento de los modelos de frontera. Si eso pasa, los LLM sí se volverán una nueva interfaz de computación; si no, será difícil
    • Las máquinas de redes neuronales estaban destinadas desde el principio a convertirse en un paradigma alternativo de computación frente a las máquinas de von Neumann. Si no hubiera sido por Minsky, quizá habrían llegado antes a un nivel útil, así que me pregunto por qué se habla de esto como si fuera un cambio menor
    • En la computación 1.0, los humanos tenían que aprender el lenguaje de la computadora para interactuar plenamente con ella, pero en la computación 2.0, la computadora fue la que aprendió el lenguaje humano

  • Me pregunto por qué elegir esto en lugar de otro framework de ejecución de agentes. En particular, parece tener fortalezas para un paquete empresarial orientado a controlar el uso de modelos de frontera en la nube por costos y seguridad de datos

    • Sorprendentemente no hay tantos frameworks de ejecución independientes del modelo que no estén armados improvisadamente con código Python o JavaScript. Son todavía más raros los productos que evitan comportamientos absurdos como inflar el contexto o comprimirlo demasiado
      Me incomoda ejecutar agentes en Python o JavaScript que podrían haber sido hechos con vibe coding, porque el riesgo de seguridad y de cadena de suministro es demasiado alto

  • Fue divertido probar qué modelos locales funcionan mejor como agentes, pero hay algunas limitaciones
    Está fijado a un solo directorio y no puede acceder a todo el sistema, tampoco tiene búsqueda web local, aunque eso se puede complementar con ddg o MCP local. No hay SSH, así que no se puede conectarlo a un servidor para ponerlo a trabajar, y el proceso de carga del modelo tampoco se muestra, por lo que haría falta una barra de progreso o un porcentaje. También me pregunto si, además de agregar documentos con el botón “+” al directorio Work, también se pueden arrastrar y soltar. Normalmente uso opencode junto con LM Studio en mi entorno local, así que tengo ganas de ver cómo evoluciona esto

  • Dice que es una app aparte de LM Studio normal, pero no logro encontrar cómo descargarla

  • Me alegra ver que LM Studio se expanda hacia un flujo de trabajo de agentes. Mientras las herramientas para modelos locales siguen mejorando, las opciones open source tienen mucho valor para desarrolladores que quieren mantener sus datos privados

  • Ojalá LM Studio tenga mejor soporte para hardware de AMD. Hace mucha falta una solución lista para usar que funcione en Radeon sin configuración adicional

  • Una de las razones por las que me pasé de Ollama a LM Studio fue el modelo de negocio, así que me preocupa que ahora cambie hacia “usar los mayores modelos open source de frontera a través de LM Studio Secure Cloud”

    • Unsloth Studio sí es realmente open source, y al ver incluso sus modelos cuantizados confío más en Unsloth que en LM Studio, así que quisiera recomendarlo
    • Siendo justos, Ollama también ha impulsado su propio servicio en la nube con la misma intensidad
      A veces modelos grandes recientes como Minimax, GLM o Kimi no ofrecen una versión oficial para descargar ni después de varios meses, y solo publican la versión en la nube
    • Ollama ha sido polémico desde el principio, pero LM Studio, hasta donde sé, no había tenido algo así. Por eso tengo un poco más de confianza en que LM Studio manejará esta transición de forma relativamente fluida

  • Tanto la app de LM Studio como la nueva app LM Studio Bionic son de código cerrado. Mucha gente no lo sabe, así que vale la pena recordarlo

    • Unsloth Studio es open source y lo opera Unsloth, que produce modelos cuantizados de primer nivel en la industria, así que recomiendo cambiarse
    • El hecho de que sea código cerrado es la razón principal por la que no uso LM Studio con frecuencia. Después de probar modelos nuevos o versiones cuantizadas, los hospedo yo mismo con llama.cpp
      LM Studio no soporta funciones como entrada de audio, y además a veces tiene bugs que no existen en llama.cpp puro, así que para algunos usos incluso puede salir perdiendo
    • Ya existen muchos sistemas de agentes open source, y si prefieres una UI, OpenCode también tiene una app de escritorio beta
      En particular, no creo que hagan falta herramientas de desarrollo de código cerrado que luego puedan volverse de pago y restringir el acceso
    • Me pregunto qué stack tecnológico usaron y si es una app nativa. Como app de escritorio, está bastante bien diseñada para su propósito
    • Me pregunto si el hecho de que sea código cerrado en sí mismo es realmente algo polémico