Mi voz fue robada por la IA

Un enlace de video recibido por correo electrónico

• Contenido del video: video promocional de Elecrow usando la voz de Jeff Geerling
• Señalamiento del problema: Jeff Geerling afirma que nunca usó su voz en ese video

Sospecha de clonación de voz con IA

• Sospecha: Elecrow habría introducido videos de YouTube de Jeff Geerling en una herramienta de clonación de voz con IA para usar su voz
• Caso anterior: se menciona el caso en que OpenAI clonó la voz de Scarlett Johanssen
• Problema legal: faltan precedentes legales sobre la clonación de voz con IA sin autorización

Medidas de respuesta

• Situación actual: la relación previa con Elecrow no había sido mala
• Respuesta legal: tomar acciones legales es costoso, y tampoco está claro si esto viola los términos de servicio de YouTube
• Solicitud: envío de un correo a Elecrow pidiendo que eliminen el video

Actualización

• Correo enviado: se envió un correo a Elecrow preguntando su intención al usar una voz con IA y solicitando la eliminación del video
• Registro de correos previos: existen más de 43 correos intercambiados con Elecrow, y en el pasado incluso hubo propuestas de alianzas pagadas

Reacciones en los comentarios

• Jimmy: es claro que usaron IA, y eso es una conducta muy inapropiada
• Gary Hayman: le gustan los videos reales de Jeff, y este incidente es muy grave
• Kayla: pudo darse cuenta de que era una voz de IA por algunos errores de pronunciación en el video
• BC: plantea la posibilidad de que hayan usado ElevenLabs como herramienta de clonación de voz con IA
• Mike Robinson: recomienda un episodio del pódcast Tech Life de la BBC
• George: sostiene que la voz del video no se parece a la de Jeff
• mam: considera que la situación no está clara y recomienda contactarlos directamente antes de tomar medidas legales
• John: recomienda consultar con un abogado especializado en entretenimiento
• Derek: declara que ya no comprará productos de Elecrow
• Oh No: una situación irónica en la que quienes defienden la libertad de información ven su propio contenido apropiado por otros

# Resumen de GN⁺

• Problema de la clonación de voz con IA: el avance de la tecnología de IA ha hecho posible la clonación de voz sin autorización, lo que puede generar problemas éticos
• Dificultad de la respuesta legal: la falta de precedentes legales sobre la clonación de voz sin autorización dificulta responder a este tipo de casos
• Protección de los derechos de los creadores de contenido: usar la voz o la imagen de creadores de contenido sin permiso puede ser problemático tanto ética como legalmente
• Alternativa propuesta: en lugar de recurrir a la clonación de voz con IA, sería preferible contratar a un actor de voz real o colaborar con el creador de contenido
• Caso similar: se menciona el caso de la clonación de la voz de Scarlett Johanssen por parte de OpenAI y la recomendación de un episodio del pódcast Tech Life de la BBC

[GN⁺]

Opiniones de Hacker News

• Si la IA imita la voz de una persona para hacer declaraciones blasfemas, podría provocar hechos de violencia

  • En algunos países, la blasfemia ha provocado linchamientos violentos
  • A medida que avanza la tecnología de IA, es posible que este problema se extienda aún más
  • Más allá de la reputación, la seguridad o los derechos de autor, esto puede poner en riesgo la vida de las personas
  • Hay pocas herramientas para controlarlo

• Usar IA para clonar una voz difícilmente escapará al caso Midler vs. Ford

  • Usar IA para clonar una voz es más difícil de defender que contratar a otro actor de voz

• Los precedentes importan, pero el avance tecnológico exige nuevos principios

  • Cuando la tecnología introduce nuevas capacidades, hay que establecer límites para usarlas en beneficio de las personas
  • De lo contrario, podríamos terminar en un mundo donde los fuertes hacen lo que quieren y los débiles sufren

• Si los LLMs son la máquina definitiva de remix, quien tenga RAG puede convertirse en un DJ digital

  • Esto hace preguntarse qué significa realmente robar información digital
  • Ante la falta de precedentes legales, la propiedad intelectual y el derecho de autor se sienten como el viejo oeste
  • Si incluso Scarlett Johansson no tuvo más remedio que escribir una carta dolorosa por la imitación de OpenAI, uno se pregunta cómo podría responder una persona común
  • Como Geerling, no queda más que sentirse triste y enojado, y decir: "por el bien de todo lo bueno, sean amables y sigan un código de honor"

• Incluso dejando de lado la parte de la IA, tergiversar la opinión de Jeff o usar su imagen sin permiso está mal

  • Usar su voz para crear un respaldo implícito (y manipulado) al producto está muy mal
  • Ya deberían existir leyes para tratar este tipo de casos

• Soy un pequeño youtuber de tecnología y he tenido contacto con Elecrow

  • No solo Elecrow: cuando sus empleados aseguran alianzas de largo plazo y colaboraciones en video, reciben compensaciones, ascensos y comisiones
  • Probablemente alguien pensó que sería una idea inteligente clonar la voz de Jeff
  • Eso no es buena PR para Elecrow
  • Me pregunto si admitirán que fue intencional

• No me parece que suene tan parecido

  • Se parece un poco, pero es distinto
  • El tono es algo más alto, más nasal, y la entonación también es un poco diferente

• Tenemos cientos de herramientas para clonar voces

  • Por supuesto que va a aparecer contenido con voces clonadas
  • Igual que con las imágenes usadas sin autorización, las plataformas y sus equipos de moderación tienen procedimientos para denunciarlas y retirarlas
  • Hace falta algo similar para las voces

• Cuando los abogados dicen siempre que esto cuesta mucho dinero: yo haría este trabajo totalmente gratis

  • Pero probablemente tú no estés en el estado donde tengo licencia
  • Si tu problema es lo bastante interesante, puedes encontrar un abogado pro bono
  • Este es <i>el problema más interesante de nuestra era</i>

• Elecrow parece ser una empresa china

  • Si es así, no esperaría ninguna respuesta