Mi voz robada por la IA

• Jeff Geerling descubrió una narración muy parecida a su voz en un tutorial promocional de Elecrow en YouTube, pero nunca dijo personalmente esas frases
• La voz en cuestión parece haberse usado en varias series de videos sobre ESP32 y RP2040, y Jeff sospecha que sus videos de YouTube pudieron haber sido utilizados para una herramienta de clonación de voz por IA
• Como Jeff había reseñado antes la CrowPi 2 de Elecrow y la empresa fabrica accesorios para Raspberry Pi y productos electrónicos, el contexto de la relación es más complejo que una simple disputa con un proveedor externo
• Aunque no está claro el precedente legal sobre la clonación de voz por IA sin autorización, el problema de usar la voz de otra persona sin consentimiento en trabajos comerciales se relaciona con el caso Midler vs. Ford
• Antes que pedir la eliminación por vías formales o tomar acciones legales, Jeff envió un correo a Elecrow para pedir explicaciones y que retiraran los videos; considera que las empresas deberían resolver esto contratando actores de voz o colaborando formalmente con creadores

---

Una voz similar a la de Jeff Geerling en videos de Elecrow

• Jeff Geerling escuchó un clip de YouTube de Elecrow y concluyó que la narración le sonaba bastante familiar, muy parecida a su propia voz
• El video no era del canal de Jeff Geerling, sino de Elecrow, y Jeff afirma que nunca pronunció las frases que aparecen allí
• Alguien le envió por correo el enlace del video de Elecrow para decirle que el audio sonaba extraño, y Jeff cree que, como su canal trata temas similares, algunos espectadores pudieron pensar que él había aceptado participar con su voz en el video de Elecrow
• Elecrow es una empresa que fabrica productos electrónicos y accesorios para Raspberry Pi, y Jeff ya había reseñado antes la CrowPi 2 de Elecrow
• No había tenido una mala relación con Elecrow anteriormente, por lo que Jeff todavía no está 100% seguro de que esto haya sido intencional
• En la versión en video de esta publicación se puede comparar directamente el clip de Elecrow con la voz natural de Jeff

Sospecha de clonación de voz con IA y respuesta

• Jeff considera, aunque admite que es difícil demostrarlo, que es muy probable que Elecrow haya metido sus videos de YouTube en alguna herramienta de clonación de voz por IA y luego usara esa voz para narrar varios tutoriales promocionales
  • Como ejemplo menciona la serie de ESP32 y la serie de RP2040
• Después del caso en que OpenAI supuestamente replicó de facto la voz de Scarlett Johansson, Jeff esperaba que las empresas fueran más cuidadosas con las voces de IA usadas en demos de producto o tutoriales, pero este caso contradice esa expectativa
• Hasta donde Jeff sabe, no existe un precedente legal claro sobre la clonación de voz con IA sin autorización, pero menciona Midler vs. Ford como precedente de que no se debe usar la voz de otra persona sin consentimiento en trabajos comerciales
• Actuar por medio de abogados cuesta dinero, y tampoco está claro si la clonación de voz sin consentimiento viola los términos de servicio de YouTube
• Las exigencias de Jeff son claras
  • No se debe robar la voz ni la imagen de otras personas para pegarlas a productos o videos
  • Las marcas deberían contratar actores de voz o pagar a los creadores de contenido para colaborar formalmente
• Jeff envió un correo a Elecrow pidiendo que bajaran al menos 2 series que contienen una voz de IA parecida a la suya
  • Preguntó si esa voz fue creada intencionalmente para sonar como él
  • También pidió confirmar si entrenaron la voz con sus videos o con su contenido de audio
• Antes de pedir que YouTube eliminara los videos o de iniciar acciones legales, quiso comenzar por correo electrónico, y dado que no habían tenido problemas antes, deja abierta la posibilidad de que haya sido un error honesto
• Aun así, está claro que Elecrow conocía el canal de Jeff
  • Desde 2020 hasta hoy ha intercambiado más de 43 correos con 5 personas del equipo de marketing de Elecrow
  • De esos, 22 correos son de este año
  • El 2 de abril de 2024, una persona de marketing de Elecrow le envió un correo diciendo que quería hablar sobre una alianza pagada
• En la actualización del 23 de septiembre, el CEO de Elecrow respondió, y Jeff publicó una entrada posterior con esa respuesta y sus reflexiones sobre la clonación de voz por IA