Se prevé que la situación empeore para la IA creativa

Panorama sombrío para la IA creativa

• Los sistemas de IA creativa se entrenan con materiales protegidos por derechos de autor y pueden generar material que potencialmente infrinja esos derechos.
• OpenAI no es transparente sobre qué materiales se usaron para entrenar sus sistemas.
• Los usuarios pueden infringir derechos de autor sin información sobre el origen de las imágenes generadas.

Limitaciones del sistema

• Sistemas como DALL-E y ChatGPT son esencialmente una “caja negra”, y por ahora carecen de la capacidad de rastrear o proporcionar las fuentes.
• Hasta que se desarrolle una nueva arquitectura capaz de rastrear las fuentes, las infracciones de derechos de autor continuarán independientemente de la intención del usuario.

Riesgos legales y financieros

• La demanda de The New York Times es solo la primera de muchas contra la IA creativa, y aun si se resuelve, se espera que su valor supere los millones de dólares.
• No solo OpenAI, sino también Microsoft, que usa DALL-E a través de Bing, enfrenta riesgos legales.

Opinión de GN⁺

• El avance de la tecnología de IA creativa está aumentando el riesgo de infracción de derechos de autor, lo que plantea un problema importante en la tensión entre la tecnología y el marco legal.
• El hecho de que los usuarios no puedan conocer el origen del contenido generado es un elemento clave que impulsa el debate sobre ética y transparencia en la IA.
• Este artículo ofrece una perspectiva interesante sobre los efectos secundarios imprevistos que puede traer el rápido avance de la tecnología de IA y su impacto en las industrias relacionadas.

[GN⁺]

Comentarios de Hacker News

• Resumen del primer comentario:

  • Una de las razones del éxito de Disney es que adaptó historias preexistentes, como los cuentos populares transmitidos de generación en generación.
  • La cultura es patrimonio de la comunidad y evoluciona y crece mediante la narración compartida y la reinterpretación.
  • El debate actual sobre la IA y la infracción de derechos de autor tiende a pasar por alto este aspecto fundamental de la evolución cultural.
  • No se deben ignorar las implicaciones legales ni el contexto histórico de la narración cultural para entender la esencia de una sociedad creativa.

• Resumen del segundo comentario:

  • En la Unión Europea (UE), los artículos 3 y 4 de la "Directiva sobre derechos de autor en el mercado único digital" ya regulan este tema.
  • Todos, incluidos los desarrolladores comerciales de machine learning (ML), solo pueden usar obras legalmente accesibles cuando los titulares de derechos no hayan reservado explícitamente su uso para fines de minería de texto y datos.
  • Se está discutiendo usar algo parecido a un "robots.txt" para marcar lo que no debe usarse para entrenamiento, y los usuarios finales deben tener cuidado con el uso del contenido generado.

• Resumen del tercer comentario:

  • Ya se sabe que una IA entrenada con material con derechos de autor puede producir resultados similares.
  • Las grandes empresas ya adoptaron este enfoque, y ahora estamos en una situación que no se puede revertir.
  • Como el público general no entiende bien cómo se crea la IA ni el tema del copyright, la pregunta importante ahora es: "¿y ahora qué hacemos?"

• Resumen del cuarto comentario:

  • La responsabilidad de garantizar que no se infrinjan derechos de autor recae en quien publica la obra.
  • Suponer que ChatGPT u otras herramientas no generarán contenido con derechos de autor es una idea ingenua.

• Resumen del quinto comentario:

  • El propósito central del arte y la publicación debería ser influir en la cultura y la sociedad, no solo ganar dinero.
  • Las obras creativas necesitan protección, pero su paso al dominio público debería ocurrir mucho más rápido para alimentar la creatividad y la inspiración.

• Resumen del sexto comentario:

  • Resolver este problema no parece tan difícil.
  • Expresiones como "plomero de videojuegos" son abreviaturas que apuntan a una entidad específica, y la mayoría de la gente las asocia con "Mario".
  • No sería difícil usar herramientas de IA para describir imágenes similares a Mario y eliminar esos resultados cuando se pida un "plomero de videojuegos".

• Resumen del séptimo comentario:

  • El precedente legal para la IA generativa es similar a cuando Google scrapea sitios web para indexarlos en su buscador.
  • Nadie dice que sea una infracción de derechos de autor que Google muestre el contenido original de un sitio web tal cual.
  • Si la IA generativa tuviera que eliminar todas las referencias culturales y toda la propiedad intelectual (IP) popular, se volvería inútil.

• Resumen del octavo comentario:

  • Se plantea el tema de la infracción de derechos de autor cuando se contrata a músicos de sesión para tocar partes de una canción famosa y luego se usan como sample.
  • Surge la pregunta de quién debería asumir la responsabilidad por la infracción de derechos de autor.

• Resumen del noveno comentario:

  • Se menciona un hilo relacionado en curso donde The New York Times exige la destrucción de todos los modelos de lenguaje grandes (LLMs) entrenados con sus datos.

• Resumen del décimo comentario:

  • Un experimento sobre qué tan bien el modelo Llama2 comprime texto encontró que el modelo contiene en gran medida el primer capítulo de un libro de Harry Potter.