La espantosa estupidez del AI DJ de Spotify

• El AI DJ de Spotify deja en evidencia los límites de la IA y los problemas del metadata musical a través de casos en los que no logra reconocer correctamente la música clásica
• Cuando el usuario pide la Séptima Sinfonía de Beethoven, la IA no entiende la estructura de la obra ni el orden de los movimientos y reproduce un movimiento equivocado o incluso piezas de otro compositor
• Aun con instrucciones específicas como “reproduce todos los movimientos en orden”, la IA elige la sinfonía incorrecta o grabaciones mezcladas y desordenadas, mostrando resultados inconsistentes
• La causa de fondo de estos errores es que el metadata de la música digital fue diseñado con la música pop como centro, por lo que no refleja adecuadamente conceptos como compositor, obra y movimiento
• El texto señala la brecha entre las expectativas sobre la “inteligencia” de la IA y la realidad, y cierra con una conclusión cínica: preservar la tradición musical occidental no tiene relación con las ganancias corporativas

---

Experiencia usando AI DJ y detección del problema

• El texto comienza con la pregunta “¿La IA es realmente inteligente?” y plantea si la responsabilidad por los errores de la IA recae en los programadores
• Al usar el AI DJ dentro de la app de Spotify para buscar música clásica, el autor vuelve a confirmar los límites de la estructura de búsqueda de Spotify
• El autor, como usuario que escucha no pop sino 500 años de tradición musical occidental, pone como ejemplo compositores que van de Tallis a Shaw

Límites estructurales del metadata musical digital

• El metadata de los archivos de música digital se compone de tres etiquetas: Artist, Album y Song, un diseño centrado en la música pop
• Señala que el término “Song” es una expresión impropia cuando también se usa para piezas instrumentales, y explica que en música clásica serían más adecuados “composition” o “work”
• El concepto de “movimiento (movement)”, fundamental en la estructura de la música clásica, no está reflejado en el metadata, por lo que Spotify no puede reconocer la composición completa de una obra

Prueba de reproducción de la Séptima Sinfonía de Beethoven

• Al dar la orden “Play Beethoven’s 7th Symphony”, la IA reproduce solo el segundo movimiento, Allegretto, y después enlaza piezas completamente ajenas
• Incluso con “Play Beethoven’s 7th Symphony in its entirety”, la IA interpreta erróneamente que se trata de una obra completa de 9 minutos y vuelve a reproducir solo el segundo movimiento
• Con “Play Beethoven’s 7th Symphony from beginning to end”, ocurre lo mismo: solo el segundo movimiento, seguido luego por una pieza de John Field
• Cuando se pide “Play all four movements”, empieza desde el primer movimiento, pero mezcla grabaciones de distintas orquestas y altera el orden
• Con “Play all four movements in numerical order”, da un resultado totalmente equivocado, empezando por el primer movimiento de la Tercera Sinfonía

Falta de comprensión musical de la IA

• El autor señala que la IA no entiende en absoluto la estructura por movimientos ni la noción de orden dentro de una obra
• Aunque el hecho de que una sinfonía de Beethoven tenga cuatro movimientos puede saberse con solo leer la primera frase de Wikipedia, la IA no logra reflejarlo
• El autor satiriza esta clase de errores comparándolos con leer primero el último capítulo de un audiolibro

Conclusión: desconexión entre la IA y la tradición musical

• El texto expresa escepticismo ante la afirmación de que la IA puede “componer” música, y critica que una IA que ni siquiera entiende conceptos básicos no puede hablar de creación
• Aunque reconoce que Spotify DJ sigue en fase beta, concluye con una visión pesimista: las empresas no tienen incentivos para preservar la tradición musical occidental
• En conjunto, el problema se presenta como una combinación de límites de la tecnología de IA, sesgos en el diseño del metadata y desinterés cultural

[GN⁺]

Opiniones de Hacker News

• Se siente que el autor, aun teniendo formación técnica, escribió algo raro.
  Esto no es un problema de IA sino de diseño de producto. Spotify DJ es básicamente “shuffle + comentarios de voz”, y es muy probable que haya código puesto a propósito para impedir reproducir álbumes completos.
  Generalizar la IA como si fuera un solo concepto es un enfoque equivocado. La lógica de “si esta función no sirve, entonces la IA no sirve” es un error de categoría (category error).
  Todo el texto mezcla varias opiniones y termina siendo confuso; la mitad no es más que una lista de nombres de piezas clásicas. Estoy de acuerdo en que Spotify DJ es malo, pero no es una crítica convincente
  • Charles Petzold no es solo un técnico, sino el autor de referencia de Win32 y MFC. Llamarlo simplemente “técnico” es como llamar a Donald Knuth “instructor”
  • La organización de producto de Spotify es gravemente ineficiente. Las funciones entre la app de escritorio y la móvil son inconsistentes, y en CarPlay hasta tareas simples se hacen mucho más rápido directamente desde el teléfono
  • Parece que el autor buscó provocar ragebait a propósito. La lógica de “la IA no puede componer música” es tan absurda como decir “un LLM no puede contar las letras R, así que no puede formar oraciones gramaticalmente correctas”
  • Yo lo veo al revés. Justamente porque esto era técnicamente posible y aun así salió así, creo que transmite bien el mensaje de que “esto no tiene excusa”
  • Más que un “error de categoría”, se parece a una petición de principio (begging the question). Pone al mismo nivel la función DJ y la capacidad de componer, y da por sentada la conclusión desde el inicio
• No he usado AI DJ directamente, pero me cuesta empatizar con la crítica del autor.
  No hay un intento de explorar las fortalezas y debilidades de la tecnología; es el patrón típico de descalificar toda la IA a partir de un caso estrecho. La IA no es humana, así que es natural que tenga limitaciones.
  He visto algo parecido con los asistentes de programación con IA. Se los descarta por completo por temas de seguridad, pero se ignora la posibilidad de “crear una app nativa para Mac con una sola frase”
  • “Lo que la IA puede hacer” y “lo que los evangelistas de la IA dicen que hace” son cosas totalmente distintas. Cuando se les pregunta por las limitaciones responden con cosas como “solo hay que usar más IA” o “en cinco años todo estará resuelto”. Esas promesas exageradas destruyen la confianza
  • El ejemplo de “hacer una app con una sola frase” en la práctica es difícil de confiar, porque la calidad es probabilística (probabilistic)
  • En realidad, salvo que sea algo al nivel de “Hello World”, es imposible crear una app terminada con una sola frase. Corregir y completar cosas es indispensable
  • Ignorar la crítica al producto de Spotify y desviarse a hablar de “una app para Mac con una frase” es un desarrollo argumental extraño
  • No estoy de acuerdo con la generalización sobre la IA, pero Spotify DJ sí es un producto realmente pésimo. No se puede comparar con Claude Code
• AI DJ se siente parecido a una IA escribiendo reseñas de restaurantes. Se puede hacer, pero la gente quiere el gusto de expertos humanos, no la opinión de una máquina.
  El atractivo de mezclas de DJs en YouTube como Hör Berlin está en la selección y la interpretación del DJ, además de su trasfondo cultural. Si una IA arma una lista optimizada, se pierde esa esencia
  • El futuro será una era de la curaduría. Los curadores humanos con conocimiento profundo y sensibilidad van a ser valorados aún más
  • Las mezclas de Spotify no han cambiado mucho en 10 años. Un DJ elige qué mezcla usar y un LLM le agrega comentarios. Al final no deja de ser un sistema de recomendación de ML
  • Me gusta descubrir música nueva con las listas automáticas de SoundCloud. No son perfectas, pero tienen la diversión de una exploración intencional
  • Un DJ humano que lee la reacción del público en un lugar real y Spotify DJ son cosas completamente distintas. Este último no pasa de ser shuffle con comentarios de LLM encima
  • Claro, también hay gente que consume el arte como obra en sí misma. La presencia de un curador humano no es indispensable
• El núcleo del problema es la estructura de licencias musicales. Las licencias tipo radio no permiten que el usuario elija pistas directamente, y también restringen la reproducción completa de álbumes.
  Spotify mezcla licencias tipo radio e interactivas para reducir costos. Como las listas creadas por IA no son una elección directa del usuario, es probable que se traten bajo el esquema tipo radio
• Si lo tuyo es principalmente la música clásica, conviene mucho más pasarte a Apple Music Classical. En todo es mejor: ofrece PDF con los booklets, comparación por intérpretes y funciones de exploración
  • Creo que Apple Music Classical o Idagio son mucho mejores. Spotify no le presta atención porque el mercado de la música clásica es pequeño
• Los servicios basados en recomendaciones, como Spotify, son aburridos. La selección de un DJ humano es mucho más interesante.
  Escucho seguido emisiones como dublab, NTS1 y NTS2, donde uno se topa con música inesperada
  • El mayor problema de la curaduría por IA es la calidad de los datos de entrada. Ya sea basada en similitud, aleatoriedad o patrones, todo tiene límites. Al final no logra captar la diversidad del gusto humano.
    Incluso invirtiendo cientos de millones de dólares no se logró una recomendación perfecta, ni se pudo reemplazar la confianza social (social proof) que da un DJ humano
  • En la investigación sobre sistemas de recomendación, esto se conoce como el problema de la serendipia (serendipity). Aumentar a la vez la relevancia y la sorpresa es una tarea muy difícil
  • Yo prefiero hacer mis propios mixtapes o mezclar MP3 ripeados de CDs. También escucho radio europea para mantener idiomas extranjeros, y disfruto canales como YouTube, KEXP y Tiny Desk
  • NTS es realmente excelente. Los algoritmos de streaming en general se sienten diseñados solo para ruido de fondo
  • Gracias por la recomendación. Puse NTS y no he dejado de escucharlo. También se agradecen otras recomendaciones
• Desde el inicio del texto, la enumeración de compositores clásicos me pareció demasiado pretenciosa y me hizo perder el interés. La palabra DJ de por sí encaja mucho más con la música electrónica contemporánea
  • Expresiones como “that moste illustriouse of musical traditionnes” transmiten una afectación excesiva
  • Si hablamos de un DJ, uno piensa en alguien que pone pop o dance en una boda o un club, no en alguien que mezcle a Bach o Vivaldi
  • Daba la impresión de que una IA había generado automáticamente la lista de compositores
  • Yo también lo sentí así. Además, da risa que agregue explícitamente que “sé que la gente probablemente no los conoce”
  • Al principio pensé que era una broma, pero siguió totalmente en serio hasta el final y me desconcertó. Aprendí programación de Windows con los libros de Petzold, así que me sorprendió leer comentarios que parecen no entender ni los principios básicos del modelo Transformer.
    También es una pena esa visión donde pareciera que la música se reduce solo al pop y a la clásica occidental
• Me costó seguir leyendo desde la frase sobre “el pilar de la civilización occidental”. Al final la conclusión es obvia: Spotify no sirve para música clásica, así que hay que usar otro servicio
• La pregunta central del texto era: cuando la IA actúa de forma tonta, ¿de quién es la responsabilidad?
  Yo lo veo como un fracaso en el diseño del prompt. Si pruebas la misma petición con este ejemplo de ChatGPT, la IA responde correctamente.
  O sea, es muy posible que el modelo de Spotify sea débil, o que su prompt interno lo haya guiado en la dirección equivocada.
  La afirmación de que “la IA no puede componer música” también es una comparación errónea. La IA ya ha mostrado comprensión de teoría musical y posibilidad de composición. Al final es una cuestión de calidad y de gusto
  • Si el prompt fuera algo como “sigue con canciones de artistas similares”, también podría haber una lógica de negocio para empujar canciones con regalías más bajas
  • Me molesta que se le quiera echar la culpa al usuario. El prompt era claro. Esta expansión de la industria de la IA está volviendo el mundo más tonto y más monótono
• Este texto es un buen ejemplo de la relatividad lingüística, esa idea de que el lenguaje determina el pensamiento.
  Cada vez que la gente llama “IA” a los LLM, se distorsiona la percepción.
  Eso ha sido el mayor éxito del marketing y, al mismo tiempo, uno de los mayores daños causados al mundo