Todas las empresas que desarrollan asistentes de IA ahora son empresas de publicidad

• Las principales empresas de IA están cambiando hacia modelos de negocio basados en ingresos publicitarios y desarrollan asistentes de IA centrados en hardware que recopilan toda la información visual y auditiva del entorno del usuario
• Esta IA siempre encendida (Always-on) está diseñada para reconocer las conversaciones cotidianas del usuario incluso sin una palabra de activación por voz, acumular contexto a largo plazo y ofrecer ayuda proactiva
• Sin embargo, en una arquitectura donde estos datos se envían a los servidores de una empresa publicitaria, siempre existe riesgo si cambian las políticas de privacidad
• En cambio, en una arquitectura de inferencia local en el dispositivo (edge inference), los datos no salen físicamente al exterior, lo que permite una garantía de seguridad a nivel de arquitectura, no de política
• Como la IA más útil también será al mismo tiempo la tecnología más privada, es esencial pasar a una IA local que no envíe datos al exterior

---

La industria de asistentes de IA se transformó en una estructura basada en publicidad

• OpenAI introdujo publicidad en ChatGPT, y esto se presenta como un cambio estructural en toda la industria
  • En 2025, OpenAI adquirió por 6.500 millones de dólares la startup de hardware de Jony Ive, io, y está desarrollando un pequeño dispositivo de IA sin pantalla
• Todas las principales empresas de asistentes de IA operan con ingresos publicitarios y están fabricando hardware que observa constantemente el entorno
• Cuando estos dos elementos chocan, se plantea que solo la inferencia local en el dispositivo (local inference) puede impedir el abuso de datos

La inevitabilidad de una IA siempre encendida

• Los asistentes de voz tradicionales funcionaban solo después de una palabra de activación (wake word) como “Hey Siri” u “OK Google”
• Pero en conversaciones de la vida real no siempre hay tiempo para usar una palabra de activación, por lo que se necesita una IA natural con reconocimiento de contexto
• Los asistentes de próxima generación reconocen continuamente el entorno del usuario mediante diversos sensores como audio, visión, detección de presencia y wearables
• Por lo tanto, la cuestión no es “si aparecerá una IA siempre encendida”, sino quién controla esos datos
• Hoy ese control lo tienen las empresas publicitarias

La política es una promesa; la arquitectura es una garantía

• Las empresas hablan de “cifrado de datos”, “anonimización” o de que es algo “sin relación con la publicidad”, pero en una arquitectura de procesamiento en la nube es imposible confiar por completo
  • El usuario debe confiar en las políticas actuales y futuras de la empresa, en sus empleados internos, proveedores externos, solicitudes gubernamentales e incluso socios publicitarios no revelados
• OpenAI indicó explícitamente que “no vende datos a los anunciantes”, pero Google usó Gmail durante 13 años para segmentación publicitaria
• Las políticas pueden cambiar, pero la arquitectura no
• En una arquitectura de procesamiento local, los datos no pueden salir físicamente al exterior
  • No son posibles las llamadas a API, la telemetría remota ni el envío de datos de uso anonimizados
• Los flujos de audio y video dentro del hogar, mucho más sensibles que el correo electrónico, contienen la totalidad de la vida privada de una persona
• Casos de Amazon como la eliminación del procesamiento de voz local, planes vinculados a publicidad y el acceso de las fuerzas del orden a Ring muestran los riesgos de una estructura centralizada

La madurez de la tecnología de inferencia en el edge

• En el pasado se argumentaba que “los modelos locales no tienen suficiente rendimiento”, pero hoy ya alcanzaron un nivel suficiente
• Es posible ejecutar en dispositivos del hogar una tubería completa de IA como reconocimiento de voz en tiempo real, memoria semántica, inferencia conversacional y síntesis de voz
  • Funciona sin ruido de ventiladores, con una sola compra de hardware y sin enviar datos al exterior
• Esto ha sido posible gracias a los avances en compresión de modelos, motores de inferencia de código abierto y silicio eficiente, y cada año mejora la eficiencia energética en relación con el rendimiento
• Incluso en hogares de prueba reales, el problema es la dificultad para comprender el contexto, no el tamaño del modelo ni la falta de rendimiento
• Por eso se necesita un modelo de negocio centrado en la venta de hardware y software,
  • y el fabricante debe diseñar una estructura en la que físicamente no pueda acceder a los datos

La necesidad de la IA local y conclusión

• La IA más útil será también la tecnología que maneje la información más privada
• La única forma de mantenerla segura es mediante un diseño estructural que impida enviar datos al exterior
• No es posible protegerla con políticas, promesas o cambios de configuración; se necesita un bloqueo a nivel de arquitectura
• Con la frase “Choose local. Choose edge.”, se insta a construir IA que no envíe datos al exterior

[GN⁺]

Comentarios en Hacker News

• Me parece gracioso el mensaje promocional, considerando que el producto que presume esta empresa es un dispositivo de IA siempre encendido y siempre escuchando
  Aunque funcione solo en hardware local, no hace falta que cada momento de nuestra vida sea grabado y analizado
  Me hace preguntarme si realmente está bien que se almacenen hasta las conversaciones privadas de la familia o los momentos de menores de edad
  También preocupa si obtuvieron el consentimiento de las visitas, y si la garantía de privacidad podría mantenerse ante un robo, una orden judicial del gobierno o una fusión o adquisición

  • El problema de fondo es que, mientras la información exista legalmente, se puede acceder a ella
    Si un tribunal lo ordena, la información terminará siendo entregada de una forma u otra
    Para proteger la verdadera privacidad, esa información simplemente no debe existir
    Ojalá hubiera legislación para protegerla como la información dentro del cerebro de una persona, pero en la realidad vamos en la dirección contraria
  • Yo vería esto de forma positiva si un dispositivo así pudiera funcionar como una ayuda para la memoria humana
    Pero jamás si la información pudiera salir al exterior sin mi permiso, si pudiera extraerse físicamente con facilidad o si alguien pudiera acceder haciéndose pasar por mí
    Si cumpliera esas condiciones, creo que tampoco invadiría la privacidad de otras personas
  • El marketing de este producto se siente raro
    Su objetivo son las personas que valoran la privacidad, pero justamente ellas serían las primeras en señalar este tipo de problemas
    Al final, quienes no se preocupan por la privacidad simplemente usarán algo como Google
  • En la práctica, es muy probable que este tipo de dispositivo no guarde todas las conversaciones, sino que procese todo con ASR (reconocimiento automático de voz) y ejecute solo los comandos necesarios
    Yo también quería hacer un dispositivo de IA totalmente local, pero lo fui posponiendo por flojera
    Aun así, creo que estos aparatos podrían ser tan útiles para personas neurodivergentes que incluso les cambiarían la vida
  • De hecho, en ninguna parte de la descripción del producto se dice explícitamente que guarde conversaciones
    Parece más bien una estructura que procesa en tiempo real y solo toma acciones que ayuden al usuario a alcanzar sus objetivos

• Estoy de acuerdo en que las grandes empresas de IA se mueven con una lógica centrada en ingresos publicitarios
  Una IA presente permanentemente dentro del hogar difícilmente puede esquivar los problemas de privacidad
  Como en The Entire History of You de Black Mirror o The Truth of Fact, the Truth of Feeling de Ted Chiang, parece que al final incluso los espacios privados se llenarán de vigilancia
  En medio de esta tendencia, quienes rechacen la tecnología probablemente irán quedando cada vez más en la periferia social

• No estoy de acuerdo con eso de que “un futuro siempre encendido es inevitable”
  Basta con usar código abierto, pagar por servicios que no extraigan datos y apoyar startups éticas
  Creo que hace falta un Mobile Linux que reemplace a Android
  Las personas, y no las corporaciones, deberían tener control total sobre sus dispositivos y software
  No hay que dejarse engañar por la comodidad de los servicios gratis; hay que votar con el bolsillo

  • Incluso si se pudiera tener control total, como con un Android rooteado, para el usuario común sigue siendo incómodo porque apps esenciales como las bancarias no funcionan
  • El Linux móvil ya existe, pero hay pocos dispositivos compatibles y el rendimiento es inferior
    Al final la gente termina eligiendo el statu quo

• “Conciencia de contexto” al final no es más que otra forma de decir vigilancia
  La gente irá aceptando cada vez más como algo normal llevar en el bolsillo un pequeño Big Brother

  • En realidad, ya todo el mundo habla de vigilancia
    Pero la mayoría simplemente se resigna y se conforma con soluciones pequeñas a nivel individual
    Yo incluso participé en legislación sobre privacidad, pero no pasó nada por la indiferencia del público
  • Las empresas de marketing ya tienen acceso a cantidades enormes de datos de usuarios
    La vigilancia ya es una realidad incluso sin automatización con LLM

• Aunque funcione localmente, un asistente siempre escuchando sigue siendo una invasión de privacidad
  Si tus amigos van de visita, seguramente les incomodará saber que sus conversaciones podrían estar siendo grabadas
  Sin una diarización de hablantes perfecta, nunca se podrá estar realmente tranquilo con un sistema así

  • Según el blog técnico de Juno Labs, actualmente están experimentando con una estructura de memoria familiar
    Todos los miembros de la familia comparten el mismo pool de memoria, y eso sigue siendo un problema de privacidad sin resolver
    Más adelante planean intentar etiquetar memorias por persona mediante modelos STT basados en identificación de hablantes
  • Me pregunto si no sería posible procesar los datos en una forma cifrada que ningún humano pueda leer

• Dicen que el producto saldrá a finales de este año, pero ni siquiera hay fotos reales
  El diseño del sitio web también se ve flojo y da la impresión de que tienen poco financiamiento
  Al final preocupa que un aparato así termine siendo utilizado por hackers como una máquina de antiprivacidad

  • Dicen que la primera versión será un prototipo hecho con impresión 3D y producción de PCB en pequeño volumen
    En el proceso de prototipado sí publicaron fotos reales
  • Si están produciendo fuera de China y todavía terminando el diseño, es muy probable que el primer lanzamiento se retrase o sea una versión alfa
  • Al final parece que será puro vaporslop (humo y sensación de producto sin sustancia)

• Más que la publicidad explícita, lo realmente peligroso es el sesgo implícito de recomendación dentro del modelo
  Aunque hagas la misma pregunta a ChatGPT, Claude y Perplexity, la coincidencia entre sus 5 principales recomendaciones apenas ronda el 40%
  Casi tampoco hay correlación con el ranking de búsqueda de Google
  Al final, qué producto te recomiendan depende de decisiones internas opacas del modelo

  • Hay quien responde que “cada LLM recomienda algo distinto” al final no es muy diferente de decir que “cada persona tiene una opinión distinta”

• No logro entender el atractivo de un asistente de IA siempre encendido
  Más allá de la privacidad, siento que un aparato así debilitaría mi capacidad de llevar las riendas de mi propia vida
  Un asistente bajo demanda que funcione solo cuando lo necesito estaría bien, pero un exceso de automatización podría terminar atrofiando el pensamiento humano

  • Al final salió la broma de que la gente quiere una vida tipo Downton Abbey sin sirvientes humanos
  • Como en la película WALL·E, al final los humanos somos seres que terminan inclinándose por la comodidad
  • Creo que la soledad en las sociedades occidentales crea la demanda emocional para este tipo de productos
    Puede terminar convirtiéndose en un mar de drones de vigilancia empaquetados como “IA amiga”
  • La IA es una tecnología asombrosa, pero últimamente hay mucho de eso de “pongámosle IA a todo”, como si fuera una solución buscando un problema
  • Al final la lógica de la competencia y la propiedad es lo que refuerza esta tendencia
    En lugar de avanzar juntos, es una carrera de hámster donde cada quien intenta quedarse con su propio queso

• Resulta interesante el escenario satírico de interacción con IA del tipo “preguntas si hay huevos y aparece el vecino con huevos en la mano”
  Impacta esa escena donde una IA entrenada con datos conversacionales termina completando cada vez más el habla humana, hasta pasar finalmente a un modo de narración en silencio

  • Hubo quien respondió que esto debería escribirse como cuento corto
  • También siguió el chiste de que “Apple compró esos datos de microexpresiones por 2 mil millones de dólares”
  • La expresión “vodka vencido” se siente casi como un símbolo de la enshittification

• Es una lástima que el artículo no mencionara a Anthropic
  Actualmente está creando los agentes orientados a programación más destacados, y fue clave en el asistente OpenClaw

  • Mistral también, aunque todavía con pocos resultados, está desarrollando activamente asistentes de IA
  • Nosotros nos enfocamos en asistentes de IA basados en hardware
    Un altavoz inteligente que siempre escucha supone un riesgo de privacidad mucho mayor que un OpenClaw usado de forma intencional