YouTube modifica videos con IA sin el consentimiento de los creadores y añade resúmenes potencialmente engañosos

• YouTube aplicó tecnología de corrección basada en IA a algunos videos de canales populares sin notificarlo a creadores o espectadores.
• Los youtubers de música Rick Beato y Rhett Shull detectaron cambios sutiles en su contenido, como piel, cabello y pliegues de la ropa, y llamaron la atención sobre ello.
• YouTube afirmó que se trataba de una “prueba limitada a algunos Shorts” y explicó que mejoró la nitidez del video y redujo el ruido mediante machine learning tradicional.
• Sin embargo, expertos criticaron la ambigüedad terminológica y la falta de transparencia, argumentando que “el machine learning también es IA”, y alertaron sobre riesgos para la confiabilidad del contenido.
• Este caso, en el que el contenido se modifica sin consentimiento del creador, se valora como una señal de los problemas de veracidad y confianza en los medios digitales.

---

Experimento confidencial de mejora de video con IA de YouTube

• YouTube aplicó de forma discreta una tecnología de mejora de video basada en IA a algunos videos de creadores populares
  • Sin aviso previo a creadores ni espectadores, modificó elementos visuales del video.
  • Rick Beato y Rhett Shull descubrieron que en sus videos cambiaban la textura de la piel, el cabello, los pliegues de la ropa y la forma de las orejas.
• Beato comentó que “el cabello se veía raro y parecía que había maquillaje”.
• Shull señaló que “parecía generado por IA” y advirtió que podría deteriorar la confianza con la audiencia.

Confirmación del experimento y aclaración de YouTube

• YouTube aceptó que está realizando una prueba a pequeña escala en algunos videos de Shorts.
  • Rene Ritchie, el Creator Liaison, explicó en X (antiguo Twitter) que se trataba de una “prueba para mejorar la nitidez y el ruido del video usando machine learning tradicional”.
  • Aseguró que la prueba era de una intensidad similar a la corrección automática de un smartphone.
• Sin embargo, el profesor Samuel Woolley de la Universidad de Pittsburgh criticó que el enfoque de YouTube era una formulación engañosa, ya que el machine learning es un subconcepto dentro de la IA.

Expansión del preprocesamiento con IA y el problema de la confianza

• Expertos señalan que este caso es parte de la tendencia más amplia de preprocesar contenido con IA.
  • Samsung ya usó IA para hacer más nítidas imágenes de la Luna, y Google Pixel con “Best Take” sintetiza varias expresiones faciales para crear una sola foto perfecta.
• Woolley advirtió que lo que YouTube hace al distribuir contenido editado y publicado sin consentimiento del creador implica la aparición de una capa invisible de manipulación entre público y medios.
  • Esto conduce a preocupaciones sobre la veracidad del contenido y la transparencia.

Reacciones de creadores y expertos

• Beato mantuvo una actitud positiva ante el intento de YouTube y lo llamó “una plataforma que siempre experimenta con herramientas nuevas”.
  • Dijo “YouTube cambió mi vida” y moderó sus críticas.
• En contraste, los críticos señalan que dejar de lado avisos previos deja un precedente peligroso.
  • También señalaron que YouTube es una plataforma principal no solo para entretenimiento sino también para noticias, educación y contenidos de información, por lo que la precisión y autenticidad son especialmente importantes.

Hacia el futuro de los medios digitales

• Este caso anticipa un futuro en el que la IA reestructura contenido antes del primer reconocimiento del usuario.
• Muestra que el espectador podría recibir un video con intervención de IA antes de presionar el botón de reproducción.
• Se destaca la necesidad de notificar de forma transparente el uso de IA y establecer procesos de consentimiento de creadores.

[GN⁺]

Opiniones de Hacker News

• Una influencer de maquillaje a la que sigo dijo que YouTube e Instagram están aplicando filtros automáticos a su cara sin su consentimiento
  En videos de maquillaje de labios, los labios se ven más grandes, y en videos de maquillaje de ojos, los ojos se ven más grandes; al parecer, la IA detecta el tipo de contenido y aplica filtros automáticamente
  El video relacionado se puede ver aquí. Impacta que modifiquen las subidas de los creadores sin permiso
  • La calidad del video es demasiado baja; parece un artefacto de compresión
    Como la influencer no es técnica, probablemente confundió eso con un filtro de IA. Que bloques de movimiento floten por la pantalla es un fenómeno típico de compresión alta
    Es raro que en un foro técnico acepten esta afirmación tal cual. Todo el video carece de detalle y muestra señales claras de compresión
  • Esto podría convertirse en una gran disputa legal
    En los términos de uso seguro hay una cláusula que dice que la plataforma puede “hacer lo que quiera”, así que después podrían justificarlo como una “configuración del usuario”
  • Uno de los comentarios en Instagram lo explicó bien
    “Cuando Meta hace traducción automática de voz, agrega un filtro de IA para que el movimiento de la boca coincida con el audio, y en ese proceso a veces termina cubriendo toda la cara con un filtro raro”
    Decir que aplican filtros distintos según el tipo de contenido suena a una especulación excesiva, casi conspirativa
  • El problema es que ni siquiera hay una opción para desactivarlo. Tampoco se ha anunciado oficialmente
  • Es una situación realmente absurda
• El filtro de IA aplicado del lado del servidor en YouTube Shorts es demasiado agresivo
  La piel queda demasiado suave, el cabello parece encerado y aparecen anillos extraños alrededor de objetos en movimiento
  Al principio pensé que era escalado del lado del cliente, pero se procesa en el servidor, así que ni siquiera se puede desactivar
  Si la gente se acostumbra a esta calidad, después será más difícil notar cuando se mezcle contenido generado por IA
  • En la interfaz normal de YouTube el mismo video podría verse distinto. Recomiendan copiar el ID único de la URL y pegarlo en la dirección de un video normal
  • Nunca había pensado en esa intención, pero ahora que lo mencionan sí parece posible que sea una estrategia deliberada
  • Al final creo que todo será reemplazado por completo por un feed de videos cortos hechos por IA
    La gente solo hará scroll infinito viendo anuncios y contenido que les derrite el cerebro
  • También podría ser que usen filtros para disimular la compresión extrema de Shorts
• Cuando vuelvo a codificar un video y quiero comprobar la pérdida, uso el comando ffmpeg -i source.mkv -i suspect.mkv -filter_complex "blend=all_mode=difference" diff_output.mkv
  Hay muchas afirmaciones de este tipo, pero todavía no he visto a nadie subir un video comparativo (diff). Sería interesante que alguien lo hiciera
  • Jill Bearup subió hace tiempo un video comparando esto
    En este video de YouTube, en el minuto 0:31, muestra Shorts y el original lado a lado
    En la versión de alta calidad subida a Patreon, la diferencia se nota mucho más
  • Yo también hago pruebas de regresión visual de forma parecida. La nota relacionada está aquí
  • Gracias por la buena idea y el one-liner
• Decidí ignorar los resúmenes de IA de YouTube desde la primera vez que vi uno que explicaba algo exactamente al revés
  • Ojalá ayudaran a reducir el clickbait
    Últimamente capturo la miniatura y se la pregunto a ChatGPT, o pongo la URL del video en un extractor de transcripciones para analizarlo con Gemini
    Los creadores de clickbait ya quedaron reducidos a ser poco más que “quienes sugieren temas para preguntarle a ChatGPT”
  • No me gusta el tono tan artificial de los resúmenes de IA. Todos tienen la misma estructura y siempre terminan con algo tipo “prepárate para este viaje”
• No entiendo por qué YouTube hace este tipo de aplicación de filtros sin consentimiento
  No parece inteligente hacer estas “mejoras” sin avisarles a los creadores
  Debería haber más gente probando plataformas mejores, aunque sea por los creadores pequeños y medianos que sufren por reclamos falsos de copyright
  • Al final, quien impulse este cambio podría ser una sola persona ambiciosa
  • Tal vez sea un intento de aumentar el engagement, o de justificar la inversión en IA
    Como alternativa, existen plataformas como PeerTube en el Fediverse
  • La plataforma debería limitarse a ser plataforma
    Aumentar el engagement es tarea del creador; si la plataforma se mete, al final los usuarios terminan yéndose
  • También podría ser una estrategia para normalizar el contenido de IA haciendo que todo el contenido parezca hecho por IA
• Me preguntaba si esto es de verdad un filtro de IA, o si es pérdida de detalle causada por un algoritmo de compresión alta
  Hay un ejemplo relacionado en este artículo
  La compresión con pérdida y la cuantización adaptativa pueden hacer que la piel se vea más suave
  • En realidad sí sería un caso de aplicación de filtro. El ejemplo se puede ver en este video de Instagram
  • Pero algunas personas siguen creyendo que son artefactos de compresión. También podría ser un intento del lado del cliente de restaurar detalles
• Últimamente YouTube está lleno de videos de personas falsas
  Científicos, políticos, economistas y expertos en tecnología aparecen replicados por IA de pies a cabeza
  • En Canadá circulan abiertamente en YouTube anuncios políticos con deepfakes. Parece que YouTube ya renunció a moderar la publicidad
  • También vi un caso donde tomaron el video de un médico real y usaron IA para hacerlo promocionar un producto
    Artículo relacionado: Reporte de The Guardian
• YouTube es, en la práctica, un dataset para entrenar IA
  No creo que Google tenga ninguna razón para ofrecer datos limpios al exterior
• Veo con frecuencia miniaturas generadas por IA en YouTube
  Por ejemplo, este canal usa una imagen-resumen que parece generada con Stable Diffusion, no un fotograma real del video
  • Esa es una función de generación de miniaturas con IA que el uploader puede elegir
    La vi una vez en mi canal, pero ahora la opción desapareció. La mayoría de los canales que sigo están usando esta función
    Personalmente no me gusta
• En vez de meter mano directamente, ojalá YouTube le diera al usuario el poder de editar con IA
  Por ejemplo, estaría bien poder escribir debajo del video prompts como “cambiar inglés por gaélico”, “reemplazar los chistes de papá por lorem ipsum” o “convertir al perro en una forma de vida alienígena”
  • Me pregunto cuándo será posible algo así
    Sería genial si pudiera ejecutarse localmente en el navegador, aunque para entonces probablemente ya esté prohibido por ley