YouTube exige etiquetar videos realistas creados con IA

• YouTube presentó una nueva herramienta para que los creadores informen a los espectadores cuando un contenido generado con inteligencia artificial (IA) pueda confundirse con algo real
• Esta herramienta se agregará a Creator Studio, y los creadores deberán informar a los espectadores si un contenido que pueda malinterpretarse fácilmente como una persona, lugar o hecho real fue modificado o generado artificialmente
• La divulgación aparecerá en forma de etiqueta cuando se expanda la descripción del video o al frente del reproductor de video

Ejemplos de contenido que requiere divulgación obligatoria

• Uso de la apariencia de una persona real: contenido transformado digitalmente, como reemplazarlo con el rostro de otra persona o narrar un video con una voz generada artificialmente
• Modificación de imágenes de hechos o lugares reales: casos en los que se haga parecer que un edificio real está en llamas o se altere un paisaje urbano real para que se vea distinto de la realidad
• Generación de escenas realistas: casos en los que se represente de forma realista un gran evento ficticio, como un tornado avanzando hacia un pueblo real

Ejemplos de contenido que no requiere divulgación

• Contenido claramente irreal, ajustes de color o filtros de iluminación, mejoras visuales como efectos especiales o filtros de belleza
• La inteligencia artificial usada para mejorar la productividad en el proceso creativo, por ejemplo generación de guiones, sugerencias de ideas de contenido o creación automática de subtítulos, queda excluida de la divulgación

Cómo se mostrarán las etiquetas

• En la mayoría de los videos, la etiqueta se mostrará al expandir la descripción, pero en videos que traten temas sensibles como salud, noticias, elecciones o finanzas, se mostrará una etiqueta más visible dentro del propio video
• Las etiquetas comenzarán a verse primero en la app de YouTube para teléfonos, y pronto también estarán disponibles en desktop y TV
• YouTube considerará medidas de aplicación en el futuro si los creadores siguen eligiendo no divulgar esta información

YouTube y la colaboración con la industria

• YouTube sigue colaborando con toda la industria para aumentar la transparencia en torno al contenido digital, y participa como miembro líder de C2PA.
• Además, está desarrollando un proceso de privacidad actualizado para que las personas identificables (incluidos rostro o voz) puedan solicitar la eliminación de contenido generado o alterado con IA cuando se haya vulnerado su privacidad.

Opinión de GN⁺

• La nueva política de YouTube parece contribuir a aumentar la transparencia del contenido digital y a construir confianza entre espectadores y creadores.
• A medida que la inteligencia artificial asume un papel cada vez más importante en el proceso creativo, este tipo de herramientas puede ayudar a los usuarios a reconocer y comprender el contenido generado con IA.
• Sin embargo, también puede haber preocupación de que estas políticas impongan una carga a los creadores o limiten la libertad creativa.
• La adopción de esta tecnología mejora la capacidad de distinguir la autenticidad del contenido, pero al mismo tiempo implica ventajas y desventajas al exigir responsabilidades adicionales a los creadores.
• Una plataforma o herramienta similar que ofrece funciones parecidas es Content Authenticity Initiative de Adobe, enfocada en rastrear el origen y la autenticidad del contenido digital.

[GN⁺]

Opiniones de Hacker News

• Resumen del primer comentario:

  • Desde una perspectiva de negocio y aprendizaje, el enfoque de Google es un paso inicial en la dirección correcta al establecer reglas sobre cómo definir y etiquetar la IA.
  • Estas reglas incluyen hacer que parezca que una persona real dijo o hizo algo que en realidad no hizo, modificar imágenes de eventos o lugares reales, o generar escenas realistas que nunca ocurrieron.
  • Se preguntan cómo se pondrán a prueba estas hipótesis y si podrían surgir disputas legales. Por ejemplo, podrían discutirse casos como corrección de color o filtros de belleza, o generar escenas adicionales con IA a partir de distintos ángulos de video.

• Resumen del segundo comentario:

  • Según la página de ayuda de Google, se especifican ejemplos de lo que los creadores no necesitan revelar y de lo que sí deben revelar.
  • Entre los ejemplos que no necesitan revelarse están mostrar a una persona montando un unicornio, representar a alguien flotando en el espacio con pantalla verde, ajustes de color o filtros de iluminación, filtros de efectos especiales como desenfoque de fondo o efecto vintage, generar o mejorar esquemas de video, guiones, miniaturas, títulos e infografías con herramientas de IA, generación de subtítulos, mejora de nitidez del video, upscaling o reparación, reparación de voz o audio, y generación de ideas.
  • Entre los ejemplos que sí deben revelarse están música generada artificialmente, usar una voz clonada de otra persona para narración, generar artificialmente tomas adicionales de un lugar real, videos que hagan parecer realista un partido entre tenistas profesionales reales, hacer que parezca que alguien dio consejos que nunca dio, alterar digitalmente el audio para que parezca que un cantante famoso desafinó durante una presentación en vivo, hacer que parezca que un tornado u otro fenómeno meteorológico que nunca ocurrió se desplaza hacia una ciudad real, hacer que parezca que personal de un hospital rechazó a pacientes enfermos o heridos, hacer que una figura pública parezca haber robado o haber admitido un robo, o hacer que parezca que fue arrestada o enviada a prisión cuando no ocurrió.

• Resumen del tercer comentario:

  • Estas normas buscan cumplir con la nueva ley de IA de la UE.
  • El contenido generado por IA debe poder identificarse, y el texto generado por IA publicado para informar sobre asuntos de interés público debe etiquetarse como generado artificialmente. Esto también aplica al contenido de audio y video que constituya deepfakes.

• Resumen del cuarto comentario:

  • Se menciona como ejemplo interesante alterar digitalmente el audio para que parezca que un cantante desafinó durante una actuación en vivo.
  • Esto sería lo opuesto a un caso reciente durante el Super Bowl, relacionado con que la NFL corrigió discretamente una 'nota ronca' de Alicia Keys en su presentación.

• Resumen del quinto comentario:

  • Una representación realista de un evento importante que nunca ocurrió, por ejemplo mostrar un tornado avanzando hacia un pueblo real, es un ejemplo de contenido que requiere divulgación.
  • Esto se parece a una situación común en las miniaturas actuales de YouTube; no se limita a la IA, pero implica que será difícil vigilarlo.

• Resumen del sexto comentario:

  • De forma similar a cómo los bancos exigen trámites formales aunque esperan que los delincuentes mientan, no hay una consecuencia clara por mentirle a Google, pero podría usarse como una señal para volver más sospechosa a una cuenta que miente.

• Resumen del séptimo comentario:

  • Modificar imágenes de eventos o lugares reales, por ejemplo hacer que un edificio real parezca estar en llamas o que un paisaje urbano real luzca distinto de lo que es, es contenido que requiere divulgación.
  • Más allá del artículo sobre el contenido real del video, también se plantea el problema de las imágenes de vista previa exageradas para atraer clics.

• Resumen del octavo comentario:

  • Se cuestiona si YouTube sabe que el equipo de Google Photos está recomendando activamente alterar videos y fotos para representar escenas que en realidad no ocurrieron.

• Resumen del noveno comentario:

  • En el pasado, Google habría ofrecido un filtro de búsqueda avanzada para contenido 'no generado por IA', pero ahora está ocupado vendiendo herramientas de IA para calmar las quejas de Wall Street, sin considerar cómo el video con IA empeorará aún más el problema de buscar una aguja en un pajar.

• Resumen del décimo comentario:

  • Se señala que los responsables de políticas de YouTube enfrentan la tarea casi imposible de interpretar casos ambiguos durante los próximos años.