Sam Altman está dejando ver quién es realmente
(slate.com)- OpenAI suspendió temporalmente el uso de Sky, la asistente de voz mostrada en la demo de GPT-4o, después de que creciera la controversia porque su voz se parecía a la de Scarlett Johansson
- Johansson afirmó que en septiembre de 2023 rechazó una propuesta para prestar su voz a ChatGPT 4.0 de Sam Altman, y que recibió una nueva solicitud dos días antes de la presentación, pero el sistema se lanzó antes de que pudieran hablar
- OpenAI respondió que Sky tiene la voz natural de otra actriz profesional, pero el tuit de Altman con “her” intensificó aún más las comparaciones con la película Her
- Este episodio, sumado a las demandas por copyright, los contratos que limitaban las críticas de exempleados, la salida del equipo de seguridad y la investigación de la SEC, hace que se ponga en duda la promesa de transparencia de Altman
- La controversia de Sky se amplió hasta convertirse en un problema de confianza sobre cómo OpenAI trata a creadores, empleados y las fuentes de sus datos de entrenamiento
El inicio de la controversia por la voz de Sky
- En la presentación de GPT-4o, OpenAI mostró un modelo de interacción multimodal centrado en la asistente de voz Sky
- El tono de voz de Sky provocó reacciones porque sonaba muy parecido al de Scarlett Johansson
- Johansson declaró en un comunicado enviado a Bobby Allyn de NPR que Altman le propuso en septiembre de 2023 encargarse de la voz del sistema actual de ChatGPT 4.0
- Rechazó la propuesta por motivos personales
- Nueve meses después, amigos, familiares y el público le dijeron que Sky sonaba muchísimo como ella
- Dijo que al escuchar la demo pública sintió “shock, enojo e incredulidad”
- Después, Johansson contrató abogados y envió una carta a Altman y OpenAI, y dijo que OpenAI “aceptó de mala gana” cambiar la voz de Sky
La explicación de OpenAI y Altman
- Tras recibir preguntas sobre Sky, OpenAI publicó en X que estaba trabajando para suspender temporalmente su uso
- En una entrada de blog, OpenAI dijo que una voz de IA no debe imitar deliberadamente la voz distintiva de una celebridad
- Afirmó que Sky no es una imitación de Scarlett Johansson, sino la voz de otra actriz profesional hablando con su entonación natural
- Altman dijo a NPR que la actriz de voz de Sky había sido elegida antes de contactar a Johansson
- Afirmó que dejaron de usar Sky en el producto por respeto a Johansson
- Dijo que lamentaba “no haberse comunicado mejor” con Johansson
Los indicios que alimentaron la comparación con Her
- Durante la presentación de GPT-4o, Altman tuiteó la palabra “her”
- Eso remitía a la película de 2013 Her, en la que Johansson interpretó a una asistente de voz al estilo Siri
- Altman ya había dicho antes que Her era una de sus películas favoritas
- Después escribió en su blog personal sobre GPT-4o que “se siente como la IA de las películas”
- Johansson afirmó que dos días antes de la publicación de la demo de ChatGPT 4.0, Altman volvió a contactar a su agente para pedirle que lo reconsiderara
- El sistema ya había sido presentado antes de que ambas partes pudieran hablar
- Nitasha Tiku, de The Washington Post, dijo que en una demo en vivo de OpenAI en septiembre de 2023 sintió que la voz de Sky sonaba como Johansson y preguntó a un ejecutivo si era intencional
- En ese momento, los ejecutivos negaron que lo fuera
La presión alrededor de OpenAI
- GPT-4o fue presentado como una de las principales actualizaciones de OpenAI y, tras su lanzamiento, vino acompañado tanto de un fuerte aumento en los ingresos de la app móvil de ChatGPT como de polémicas sobre spam usado para entrenar funciones en chino
- La controversia con Johansson surgió apenas unos meses después de que actores, preocupados por el impacto de la IA en la industria cinematográfica, llegaran a un acuerdo sindical tras una huelga
- SAG-AFTRA expresó públicamente su apoyo a la postura de Johansson frente a OpenAI
- OpenAI ha recibido críticas por no ofrecer suficientes disculpas ni transparencia sobre los grandes volúmenes de datos usados para entrenar y operar apps como ChatGPT y DALL-E 3
- La empresa ha reconocido que entrenar modelos sería “imposible” sin usar en gran escala libros, obras de arte y artículos con copyright
- Autores y medios de noticias han demandado a OpenAI por esta práctica
- 404 Media informó que OpenAI presentó una “queja de copyright” por el uso del logo del subreddit de OpenAI
La destitución de Altman y la salida del equipo de seguridad
- La mayoría del directorio de OpenAI expresó en noviembre de 2023 una moción de desconfianza contra Altman y lo despidió de forma repentina
- En ese momento, el directorio dijo que Altman “no había sido consistentemente sincero” en su comunicación con ellos
- Después, la disputa se convirtió en un conflicto entre Altman y los ejecutivos que lo apoyaban, y quienes estaban preocupados por el desarrollo y despliegue acelerados de productos y su posible mal uso
- Ilya Sutskever fue una de las figuras clave del episodio de noviembre y, según reportes, cuestionó la honestidad de Altman, pero se informó que no había vuelto activamente a la empresa en los meses posteriores
- La semana pasada, OpenAI anunció la salida de Sutskever
- Jan Leike, responsable del equipo de Sutskever, también anunció su renuncia unas horas después
- Dijo que durante mucho tiempo tuvo desacuerdos con el liderazgo de OpenAI y con las prioridades centrales de la empresa, y que finalmente había llegado a un límite
- Vox reportó que desde noviembre al menos cinco empleados más enfocados en seguridad se fueron o fueron desplazados de OpenAI
- Uno de los exempleados dijo que perdió gradualmente la confianza en el liderazgo de OpenAI
Confidencialidad, contratos de salida y disputas legales
- Vox informó que los empleados de OpenAI debían firmar contratos de salida muy restrictivos para conservar su participación accionaria
- Esos contratos les impedían criticar públicamente a la empresa de por vida
- Incluso les prohibían reconocer la existencia misma del NDA
- Altman dijo en X que no conocía esa cláusula sobre las acciones, que estaban reescribiendo el contrato y que también lo corregirían para los exempleados que ya lo hubieran firmado si se ponían en contacto con él
- MIT Technology Review reportó anteriormente que OpenAI estaba obsesionada con el secreto, la protección de su imagen y la lealtad de sus empleados
- The Information informó que en abril de 2024 OpenAI despidió a dos empleados por presuntas filtraciones de información
- En el proceso de la demanda de Authors Guild salieron a la luz documentos que indican que OpenAI eliminó dos datasets de más de 100 mil libros publicados usados para entrenar modelos GPT iniciales
- Los empleados que organizaron esos datos ya no están en OpenAI
- OpenAI se negó a revelar el historial de sus datos de entrenamiento hasta antes de la demanda
- El abogado principal en la demanda de The New York Times envió una carta al tribunal diciendo que OpenAI estaba retrasando el proceso de descubrimiento al alargar la negociación de órdenes de protección y no entregar con rapidez información básica
- La SEC está investigando las comunicaciones de Altman en relación con si él y otros altos directivos de OpenAI engañaron a inversionistas
El problema de confianza que dejó el caso Sky
- Altman ha hablado de la importancia de la transparencia, ha dicho que es tolerante con los disidentes dentro de OpenAI y también ha buscado contacto con el gobierno para presentarse como un administrador responsable de la IA
- Sin embargo, la controversia de Sky refuerza las sospechas de que existe un choque entre las declaraciones públicas de Altman y el funcionamiento interno de OpenAI, el trato a sus empleados y su forma de manejar la confidencialidad
- El hecho de que se publicara una voz similar después de que Johansson rechazó participar sacude la confianza en que OpenAI haya manejado de buena fe el proceso de entrenamiento y selección de la voz de Sky
1 comentarios
Opiniones en Hacker News
Altman intenta hacer creer que fue un malentendido inocente, pero en realidad no lo dice así: “La actriz de voz que interpreta la voz de Sky fue contratada antes de contactar a Johansson”.
Esa frase parece querer dar la impresión de que la empresa no intentó hacer que sonara parecida a ella sin permiso. Es una oración que, como escrita por un abogado, es técnicamente cierta pero en la práctica deja una impresión falsa; es la típica forma de hablar para zafarse. No deberíamos darle tanto poder sobre nuestro futuro a alguien tan astuto, evasivo y deliberadamente engañoso.
Sam, ¿querías pagarle su tarifa? Normalmente uno intenta no pagar esa tarifa, y por eso es muy probable que hayan contratado a la actriz de voz antes de contactar a Johansson.
“La voz de Sky no es la de Scarlett Johansson ni se pretendía que se pareciera a la de ella. La actriz de voz de Sky fue contratada antes de contactar a Johansson. Por respeto a Johansson, hemos pausado el uso de la voz de Sky en nuestros productos. Pedimos disculpas a Johansson por no habernos comunicado mejor”.
Dudo que eso sea cierto, pero al menos es una negación clara y sin rodeos.
Esta es la mentalidad clásica de moverse rápido y romper cosas. Solo que contradice de frente lo que Sam venía diciendo sobre actuar “con cuidado”, y al final esas palabras parecen una cortina de humo.
Siendo realistas, nadie va a detenerse para desarrollar AGI con cuidado; esto se está impulsando como una carrera por desarrollar la bomba atómica. La historia muestra que al final se avanza a toda velocidad y sin frenos. ScarJo es apenas el caso más reciente de alguien pisoteado en el proceso, y parece que al final van a pisotear a mucha más gente.
Hay muchas personas con una voz parecida a la de Scarlett Johansson. Si SJ no quiere ser la actriz de voz de OpenAI, no veo por qué OpenAI no podría buscar y usar una voz similar.
SJ no tiene derechos exclusivos sobre todas las voces parecidas a la suya. Una persona con una voz así tiene el mismo derecho que SJ a ganar dinero con esa voz, y de hecho alguien ejerció ese derecho. Incluso comparando la voz de Sky con la de SJ, no son iguales. El error de OpenAI fue ceder ante SJ. Deberían haber mantenido Sky y decirle a SJ que se fuera al diablo. Si les caía una demanda, bastaba con demostrar que usaron a otra actriz de voz y plantear el argumento legítimo de que SJ no tiene un monopolio sobre las voces parecidas.
Creo que como Scarlett es famosa, los medios lo están cubriendo mucho. No parece que este caso haya indignado a la gente más de lo habitual; a juzgar por los comentarios, no difiere mucho de los sentimientos que ya tenían sobre OpenAI. Solo que ahora todos tuvieron una excusa para decir lo que piensan al mismo tiempo. Actúan como si la empresa literalmente hubiera robado algo. Que OpenAI haya retirado la voz de Sky tampoco ayudó. Si no tenían nada que ocultar, ¿por qué la retiraron? Claro, la respuesta es que Scarlett es una persona famosa y rica que puede iniciar una demanda carísima contra OpenAI aun sin fundamentos. Aun así, OpenAI debió asumir ese costo, porque ahora parece que los atraparon con la mano en el frasco de galletas. Y sin embargo nadie puede decir con precisión qué galleta fue robada.
Me da curiosidad cuánto durará este hilo en HN
¿Cuánta influencia tiene @sama por aquí hoy en día? Para que conste, a mí nunca me impresionó. No conozco ni una sola cosa importante que haya hecho o creado realmente, aparte de llevarse el crédito por el gran trabajo de los científicos e ingenieros de IA de OpenAI. La empresa se siente como un vehículo para su ambición y su legado, y no mucho más
Declaración de Scarlett Johansson sobre la voz “Sky” de OpenAI - https://news.ycombinator.com/item?id=40421225 - mayo de 2024, 970 comentarios
Jan Leike renuncia a OpenAI - https://news.ycombinator.com/item?id=40363273 - mayo de 2024, 391 comentarios
Ilya Sutskever deja OpenAI - https://news.ycombinator.com/item?id=40361128 - mayo de 2024, 780 comentarios
Más exempleados de OpenAI: ¿por qué los ex empleados no pueden hablar? - https://news.ycombinator.com/item?id=40393121 - mayo de 2024, 961 comentarios
Todos fueron hilos enormes. A veces en HN se discute mucho primero un tema, un periodista lo ve y escribe un artículo, y luego un usuario vuelve a enviar ese artículo, creando otro hilo en HN. No necesitamos ese ciclo de retroalimentación. Cuando al contenido repetido le falta diversión, la mente tiende a compensarlo con indignación (https://hn.algolia.com/?dateRange=all&page=0&prefix=true&sort=byDate&type=comment&query=mind%20amuse%20by:dang), y los hilos anteriores ya fueron lo bastante indignados y repetitivos. La influencia de @sama es 0. Incluso cuando dirigía YC, nunca pidió ningún cambio relacionado con HN, y mucho menos después. Como referencia, Sam fue quien publicó https://www.ycombinator.com/blog/two-hn-announcements/. Personalmente, recuerdo haber oído comentarios de este tipo sobre Sam desde los días de Loopt. Tengo la hipótesis de que el hecho de que pg lo elogiara tanto en público provocó en los lectores una sensación de “¿por qué él y no yo?”. Irónicamente, cuanto más lograba Sam, más crecían las quejas. Liderar OpenAI durante el mayor boom tecnológico desde el iPhone es, de forma bastante evidente, algo enorme. Siento que aunque Sam unificara la gravedad con la teoría cuántica, mediara la paz en Medio Oriente y curara el cáncer, estas quejas continuarían. No parecen basarse en logros objetivos ni en su ausencia, sino que se ven como una especie de fenómeno de segundo orden, lo cual es interesante. Al menos si uno no es Sam
Es interesante cómo el hilo que hablaba de copyright y licencias pasó a ser “qué es mejor, GPT o Google”
A todos los artistas e ingenieros que contribuyeron al conocimiento general: perdieron. Todo lo que hicieron para ayudar a otros ahora forma parte de los modelos, y no hay forma de revertirlo. ¿Qué pasó con aquel ataque por copyright que los artistas supuestamente iban a lanzar contra las empresas de IA? Se siente como si hubiera sido hace 100 años
No debería sorprender que los litigios tomen tiempo. Hasta que los tribunales ordenen los temas en disputa, OpenAI y los de su tipo se están moviendo en una zona gris legal
[0]: https://www.sagaftra.org/sag-aftra-statement-regarding-scarlett-johansson-and-openai-chat-gpt-4o-%E2%80%9Csky%E2%80%9D
Un artista no se define por sus obras pasadas ni por productos dispersos, sino por su punto de vista y su creatividad. Esto tampoco es una revelación nueva. La IA no cambia eso; es solo un medio para un fin. El verdadero problema es legal, y lo demás es exageración
¿Alguien más piensa que todo este asunto se infló demasiado? De verdad no entiendo la reacción negativa que viene del sector tecnológico sobre este tema.
Sam Altman intentó algo, ScarJo presentó una demanda y ChatGPT retiró la voz. Eso es todo. El sistema funcionó como se supone que debe funcionar. Pero me cuesta entender que por esto digan que él es una persona horrible. Esto está lejos de ser una situación tipo #MeToo. Ella es una actriz rica y famosa de Hollywood, va a estar bien.
¿Y si sacamos a la IA de la ecuación? ¿La actriz de voz A, que hizo la voz de Sky, no debería poder hacer ningún trabajo de voz solo porque suena demasiado parecida a SJ?
Supongamos que la productora que hizo la película Her quiere hacer Her 2, pero SJ rechaza hacer la voz. Entonces, ¿no podrían contratar a A para hacer la voz? Si la productora volvió a preguntarle a SJ, ella volvió a negarse y aun así hicieron la película con A, ¿sería una falta de respeto? Me gustaría saber dónde traza la gente la línea.
Los actores no aparecen en películas sin contratos detallados, así que las reglas generales no necesariamente se aplican igual en ese escenario. Los productores de Her podrían haber tenido derecho a usar la imagen de SJ en materiales relacionados. En cualquier caso, si hicieran una secuela con una voz parecida, esa actriz de voz no sería “A”, sino que aparecería con su nombre en los créditos, y no habría confusión sobre de quién es la voz.
Es muy probable que entre la productora y Scarlett Johansson hubiera un contrato que definiera qué hacer si ella no quería participar en una secuela. Entre OpenAI y Scarlett Johansson no existe ese contrato.
Contrataron a una actriz de voz para la voz de Sky.
Si OpenAI pierde, ¿esa actriz de voz ya no podrá trabajar porque por casualidad tiene una voz parecida a la de otra actriz? ¿La actriz de voz de Sky también puede demandar a Johansson por las películas en las que aparece, diciendo que Johansson le copió la voz?
La violación del derecho de publicidad no es simplemente una similitud de voz.
Puede sonar a difamación, pero ¿alguien más siente que Sam Altman se acerca cada vez más a un desastre reputacional ridículamente cercano al de Sam Bankman-Fried? También vi varias veces esta postura en Twitter/X.
Da una sensación escalofriante, como si la escena de “no consiento” de Ghost in the Shell se estuviera desarrollando en la vida real.
https://getyarn.io/yarn-clip/e913bd02-2582-4258-819f-2d5a00b1db6d