Todos los videos de IA son dañinos (2025)

• La tecnología de generación de video con IA, en lugar de cumplir la expectativa de bajar la barrera de entrada a la creación, en la práctica solo produce escenas superficiales y trilladas
• Aunque varios modelos como Sora, Runway ML y Veo generan videos técnicamente bien logrados, es difícil crear obras con intención y narrativa
• Estos videos tienen una estética antinatural propia de los ‘videos de IA’, lo que provoca incomodidad y desconfianza en quienes los ven
• En particular, la desinformación y los videos de noticias falsas se están propagando rápidamente, sobre todo entre personas mayores, difuminando la frontera entre realidad y ficción
• En consecuencia, los videos de IA provocan daños tanto directos como indirectos y aceleran el colapso de la confianza en los medios visuales en general

---

Expectativas y realidad como herramienta creativa

• Cuando OpenAI lanzó Sora, se esperaba que los usuarios pudieran crear cortometrajes ingresando sus propios bocetos y guiones
  • Sin embargo, a diferencia de la demo, los videos generados en la práctica producían repetidamente resultados que no coincidían con las escenas deseadas
• También se probaron otros modelos como Runway ML y Veo, pero todos generaban videos aparentemente convincentes, aunque carentes de coherencia narrativa
• Estos resultados no son solo una limitación técnica, sino que tienen rasgos suficientes para distinguirse como una categoría estética independiente llamada ‘video de IA’

Un nuevo valle inquietante

• Los videos de IA tienen una textura visual distintiva y fácilmente reconocible, y transmiten una sensación de que algo está sutilmente “mal”
  • Aunque no puedan explicarlo con claridad, los espectadores detectan instintivamente esa falta de naturalidad
• El autor dice sentir un fuerte rechazo hacia estos videos, y la gente a su alrededor muestra la misma reacción
• Según un reporte de la BBC, YouTube está modificando videos con IA sin el consentimiento de los creadores, haciendo que incluso videos reales parezcan artificiales
  • Los rostros aparecen excesivamente suaves o demasiado nítidos
  • Como resultado, la frontera entre el video real y el video de IA se vuelve borrosa

Casos de abuso y expansión del daño

• El principal grupo consumidor de videos de IA está formado por usuarios con fines de spam, fraude y manipulación
  • Usan herramientas de IA para producir en masa desinformación y contenido manipulado
• En especial, las personas mayores son las principales víctimas, y en chats grupales de familiares o conocidos se difunden rápidamente videos falsos de declaraciones de celebridades o desinformación sobre salud
  • Ejemplos: un video de consejos de Denzel Washington, declaraciones de Obama sobre religión, o un supuesto cambio de postura de Trump
• El autor explica repetidamente las señales de un video de IA (por ejemplo, la marca de agua de Sora) y cómo verificar los hechos, pero no logra seguir el ritmo de propagación de la desinformación
• Incluso en los comentarios de YouTube hay muchos usuarios reales conversando seriamente con personajes falsos

El colapso de la confianza

• La tecnología de video con IA se está usando más eficazmente para la manipulación y la explotación que para apoyar a los creadores
• Se consideraron usos positivos en educación, accesibilidad y arte, pero en la práctica todos los videos de IA terminan causando efectos dañinos
  • Daños directos: desinformación, suplantación de identidad, manipulación de personas vulnerables
  • Daños indirectos: pérdida de confianza en los medios visuales en general
• La conclusión es que incluso los videos de IA aparentemente inofensivos aceleran el colapso de la confianza

Conclusión: de la barrera de la creación a la barrera de la confianza

• Los videos de IA se están consolidando como una tecnología especialmente eficaz para fines maliciosos
• La barrera técnica que los creadores esperaban superar sigue existiendo,
  y ahora ha surgido un problema aún mayor: la ‘barrera de la confianza’
• Este colapso de la confianza queda como un problema mucho más difícil de reparar

[GN⁺]

Comentarios en Hacker News

• El 99% de las cosas que existen en el mundo son mediocres, y los videos con IA no son la excepción
  Aun así, los videos hechos por canales de YouTube como NeuralViz eran bastante impresionantes. Por ejemplo, el video musical de ADHD de Igorrr encajaba perfectamente con la música
  Lo que tienen en común estos videos de IA “buenos” es que la IA no hace el 99% del trabajo. Sigue habiendo intervención humana en cosas como la edición, la actuación y el guion, y en vez de ocultar lo “extraño” de la IA, lo aprovechan

  • Soy fan de PosyMusic. En ese canal hacen por su cuenta el video, el sonido y la música, y la IA se usó solo como herramienta
    Por ejemplo, usaron un generador de audio con IA para crear sonidos de muestra, o hicieron su propio conjunto de íconos para indicar si se usó IA y lo publicaron en GitHub. Pero dicen que, por haber mencionado la IA, recibieron tantos comentarios maliciosos que al final retiraron el video
  • Últimamente hay muchos canales de cortos con mundos de ciencia ficción como estos, pero aunque al principio sean creativos, pronto se vuelven repetitivos
    Sora da la impresión de hacer fácil lo difícil y difícil lo fácil. No creo que a estos creadores se les recuerde por mucho tiempo
  • Siento que acabo de recibir la mejor recomendación. NeuralViz era de verdad un canal increíble, gracias
  • Creo que ni siquiera el 1% de las obras “buenas” hechas con video IA valen la pena si se consideran efectos secundarios como las fake news o la falta de respeto a los fallecidos. En general, el efecto neto sobre la sociedad es muy negativo
  • Vi este video y no pude contener la risa
    Aun así, ojalá hacer este tipo de videos fuera más caro. No parece que haya sido un trabajo hecho solo con unos cuantos prompts simples

• Últimamente en la publicidad están aumentando los videos generados por IA. Será por reducción de costos, pero el resultado es que los anuncios que antes solo eran molestos ahora están en un nivel incómodo y extraño
  Cuando se habla de los riesgos de la IA, solo se menciona la superinteligencia, pero el problema real es que se está acelerando la competencia por producir contenido de baja calidad

  • Vi un anuncio de una empresa local de persianas y era claramente un video hecho con IA. Los humanos falsos ya son un problema, pero además no se puede confiar en que las persianas del video sean iguales al producto real
  • A mí tampoco me desagrada la IA como tal, pero el 95% de la publicidad online tiene una calidad por los suelos. En especial vi muchos anuncios de libros de historia con ilustraciones absurdas hechas por IA
    Incluso proyectos como The Codex Book me generan desconfianza, porque parece que venden arte de IA como si fuera trabajo hecho a mano
  • A propósito vi hasta el final un anuncio que llevaba la frase “Esta imagen fue generada por IA”. Eran varios animales conduciendo autos, pero la sensación de uncanny valley era tan fuerte que casi me mareó verlo
  • Creo que cada vez habrá menos gente capaz de distinguir estos videos falsos. En especial, si las generaciones jóvenes se acostumbran a los resultados de la IA, existe el riesgo de que se difumine la frontera entre lo real y lo falso
  • La investigación en seguridad de IA se presenta como si fuera detener a Skynet, pero eso termina desviando la atención de los problemas realmente realistas

• Mucha gente afirma que el video con IA da “libertad creativa”, pero en realidad la mayoría de las decisiones creativas las toma la IA
  El tono del video, los cortes, la paleta de color y demás son al final el resultado de haber aprendido de las obras de otros. Es decir, el video con IA es un proceso que elimina la creatividad

  • Alguien dijo que “usar IA es como usar un aimbot en la música”, y de verdad es una comparación muy acertada. Es lo mismo en el sentido de que es una trampa para saltarse el núcleo del proceso creativo
  • Pero en comunidades pequeñas todavía hay gente que hace videos de parodia o memes de forma creativa. La IA solo elevó el nivel de ese tipo de trabajo, no eliminó la creatividad
    Antes se criticaba la música basada en samples, pero hoy artistas como Fatboy Slim son reconocidos; la tecnología no es más que un nuevo medio de expresión
  • Yo también pensaba que la mayoría de los videos con IA eran malos, pero el video “Star Wars: Beggar’s Canyon” fue una excepción. La síntesis de voz, la construcción de cortes y la secuencia fueron excelentes, y se notaba la sinceridad
  • Si lo que dices es cierto, entonces la gente realmente creativa igual va a destacar. El mundo ya está sobrecargado de creatividad y, más bien, faltan personas que hagan el trabajo aburrido
  • En el terreno de los modelos abiertos de difusión como Stable Diffusion o Wan, más bien están apareciendo nuevas formas de arte. El flujo de trabajo complejo en sí, con LoRA, fine-tuning y demás, es un acto creativo

• Tengo una idea para una película y, gracias a la IA, ahora puedo visualizar directamente las imágenes que tenía en la cabeza
  La afirmación de que “el video con IA es dañino” terminará viéndose tan anticuada como la vieja idea de que “todos los videos son dañinos”

  • Tu experiencia es interesante, pero la IA no te convierte de repente en director de cine. Escribir prompts también es, al final, una forma de escritura. Deberías preguntarte si el resultado realmente representa tu visión
  • Yo tampoco comparto esa mirada tan pesimista. Creo que la gente simplemente adopta una actitud negativa por inseguridad laboral o por rechazo instintivo. El impacto social de la tecnología solo se verá con claridad con el tiempo
  • Pero la IA tiene límites para materializar exactamente las imágenes que tienes en la cabeza. Al final no es más que un remix de cosas que ya existen
  • Es un enfoque parecido al de un productor musical que, en vez de sintetizar directamente el sonido que quiere, prueba presets aleatorios hasta encontrar uno que encaje
  • Es una historia interesante, pero me pregunto qué opinas del problema de las estafas que menciona el artículo

• Coincido con la preocupación del autor de que “el video con IA hace que la gente manipule, engañe y explote a otros”, pero una afirmación binaria del tipo “todo video con IA es dañino” debilita el mensaje

• Claro que hay muchos videos dañinos, pero al mismo tiempo también existe arte conmovedor
  Canales como kellyeld2323 y alffx123 son ejemplos de ello

  • Pero su valor artístico no es tan grande como para compensar los efectos secundarios

• Desde antes de que existiera la IA, la mayoría de los videos en internet ya eran propaganda, inducción a la ira y manipulación del consumo. Con el mismo criterio, los videos tradicionales también eran bastante dañinos

• El autor señaló bien el problema, pero la causa técnica de fondo es la falta de control
  Actualmente, modelos como Sora, Veo o Runway son generadores probabilísticos, así que no pueden crear la escena específica que quiere el director
  A un spammer le basta con una ‘cara hablando’ o una ‘ciudad en llamas’, pero un artista necesita ángulos exactos, iluminación y consistencia de personajes
  Hasta que no avance esta tecnología de control del espacio latente (por ejemplo, una versión en video de ControlNet), el video con IA seguirá siendo más un generador de ruido digital que una herramienta artística

• Estoy de acuerdo con que “la IA no te convierte en director de cine”, pero en la práctica el problema es una estructura en la que ni siquiera la gente talentosa consigue oportunidades
  Muchísimos creadores no logran mostrar su obra al mundo por falta de financiamiento, contactos o por la estructura misma de la industria. La IA podría convertirse en una nueva oportunidad de expresión para esas personas