Meta distribuyó por torrent y sembró un dataset de 81.7 TB que incluía datos con copyright
(arstechnica.com)- Correos internos desclasificados y documentos judiciales detallan la acusación de los autores de que Meta descargó por torrent un dataset de libros pirateados para entrenar IA y que incluso sembró parte de ese contenido
- La disputa se centra en si el volumen de datos obtenido desde Anna’s Archive, LibGen y otras fuentes llegó a al menos 81.7 TB, y en si el proceso fue más allá de la simple descarga hasta convertirse en distribución
- Mensajes internos muestran preocupación por usar torrents desde laptops corporativas y direcciones IP de Meta, por lo que los autores sostienen que Meta era consciente del riesgo legal
- Los indicios de que Meta intentó evitar el uso de servidores de Facebook y cambió configuraciones para minimizar el seeding son una prueba clave para determinar si buscó evitar el rastreo de descargas y siembra
- Meta responde que el entrenamiento de IA basado en LibGen es uso justo y afirma que los demandantes no han demostrado casos reales de descarga por parte de terceros
Los puntos clave del litigio revelados por los correos desclasificados
- En la demanda por copyright presentada por autores de libros contra Meta, los correos desclasificados se están usando como prueba clave en contra de la empresa
- Los autores afirman que Meta entrenó sus modelos de IA con libros pirateados
- El mes pasado, Meta admitió que descargó por torrent el controvertido gran dataset LibGen, pero hasta la desclasificación no estaba claro el método concreto ni la escala
Escala del torrent y origen de los datos
- Según documentos judiciales de la parte demandante, se alega que Meta descargó por torrent al menos 81.7 TB desde varias shadow libraries a través de Anna’s Archive
- De ese total, al menos 35.7 TB correspondían a datos de Z-Library y LibGen
- También se incluye la acusación de que Meta ya había descargado por torrent 80.6 TB desde LibGen
- La parte demandante califica la escala del torrent de Meta como “sorprendente” y presentó ante el tribunal ejemplos en los que la piratería de un volumen mucho menor de datos —equivalente al 0.008% de las obras que afirman que Meta copió— derivó en remisiones para investigación penal
Cómo afecta el seeding a la acusación de infracción directa
- Los autores se centran en si el uso de torrents por parte de Meta implicó seeding además de la simple descarga
- Como el seeding puede llevar a compartir archivos de torrent con terceros, este punto refuerza la teoría de distribución dentro de la acusación de infracción directa de copyright
- Meta se opuso a los intentos de los autores de revisar sus datos de torrent y seeding, y anteriormente el tribunal rechazó esa solicitud de revisión
- Después, los autores obtuvieron pruebas por separado y sostienen que documentos internos muestran que empleados de Meta eran conscientes del riesgo legal del uso de torrents
Preocupaciones legales reflejadas en mensajes internos
- El ingeniero de investigación de Meta Nikolay Bashlykov escribió en un mensaje de abril de 2023 que “no se siente bien usar torrents desde una laptop corporativa” y expresó preocupación por “cargar pirate content mediante torrent” usando direcciones IP de Meta
- En septiembre de 2023, Bashlykov consultó directamente al equipo legal y subrayó que usar torrents implica seeding de archivos, es decir, compartir contenido con terceros, por lo que “podría no estar bien legalmente”
- Los autores consideran que esos correos prueban que Meta conocía la ilegalidad de esa conducta
- Según la parte demandante, Meta intentó ocultar lo más posible el uso de torrents mientras descargaba y sembraba datos a escala de terabytes desde varias shadow libraries hasta abril de 2024
Sospechas de ocultamiento del seeding y respuesta de Meta
- La parte demandante sostiene que Meta evitó usar servidores de Facebook para descargar el dataset con el fin de evitar el riesgo de que los “seeder/downloader” pudieran rastrearse hasta esos servidores
- Un mensaje interno del investigador de Meta Frank Zhang describía ese trabajo como stealth mode
- Según el testimonio del ejecutivo de gestión de proyectos Michael Clark, Meta cambió la configuración para minimizar el seeding en la medida de lo posible
- Los autores afirman que la nueva información contradice testimonios previos y que deben volver a interrogar a empleados de Meta involucrados en la decisión de descargar LibGen por torrent
- Mark Zuckerberg sostuvo que no participó en la decisión de usar LibGen para entrenar modelos de IA, pero los autores creen que los mensajes desclasificados muestran que la decisión se tomó después de escalarla previamente a “MZ”
Argumento de uso justo y pasos pendientes
- Durante el litigio, Meta ha seguido sosteniendo que el entrenamiento de IA con LibGen constituye uso justo
- En su solicitud de desestimación del mes pasado, Meta argumentó que los demandantes no pudieron presentar ni un solo caso en que un tercero hubiera descargado realmente parte de un libro a través de los torrents de Meta, ni demostrar que sus libros fueron distribuidos por Meta
- Mientras el descubrimiento probatorio limitado avanza sobre el tema del seeding de Meta, la empresa actualmente no está impugnando esa parte de la reclamación por infracción directa de copyright
- Meta dijo al tribunal que corregirá el expediente en la etapa de juicio sumario y refutará que esa acusación tenga fundamento
1 comentarios
Opiniones en Hacker News
Al ver que los LLM conocen obras con copyright como si fueran enciclopedias, creo que todos hicieron algo parecido.
Visto de forma más amplia, YouTube al principio también era una ciudad fantasma; creció cuando empezaron a subir programas de TV con copyright. Google también creció indexando datos ajenos sin compensación, y la biblioteca musical inicial de Spotify también era pirata.
Las empresas defienden agresivamente su propia propiedad intelectual, pero no tienen reparos en violar los derechos de otros; los individuos, en cambio, no tienen ese privilegio. Si conectas una laptop en un clóset del MIT y descargas papers, pierdes la vida.
No paguen por bienes digitales. Si Netflix sube los precios, todos los shows están en torrents; si Spotify sube los precios, toda la discografía de tus artistas favoritos está en torrents; si una empresa de videojuegos quiere cobrar precios del mundo real por ropa digital, busca un crack y juega en un servidor privado.
Las empresas de miles de millones de dólares ya demostraron que no les importas, y a quienes se quejen de perder su sueldo basta con responderles: “gracias por pagar”. Si quieres apoyar directamente a los creadores, ve a sus conciertos o mándales un cheque; si no puedes identificar a una persona concreta que realmente vaya a salir perjudicada, no hace falta que te preocupes.
A estas alturas casi no creo en el argumento de que “el copyright incentiva la creación”. El copyright incentiva la creación de las grandes empresas, igual que la publicidad; pero, igual que la publicidad, en general también incentiva creaciones de poco valor.
Lo que necesita una persona creativa no es copyright, sino una red de seguridad que le dé libertad para dedicar tiempo a la creatividad que surge de manera natural. Si el objetivo es fomentar la creación, el copyright es un sustituto pésimo y caro de un ingreso básico.
Cofundador de Reddit y activista, enfrentaba 35 años de prisión y una multa de 1 millón de dólares solo por haber descargado muchos artículos académicos de JSTOR, y por esa presión terminó quitándose la vida. Que descanse en paz.
Raspar sitios web públicos para crear un índice de búsqueda no es lo mismo que crear un LLM capaz de reproducir el texto original tal cual, incluso sin atribución. Dicho eso, sí hay espacio para debatir el carácter transformativo final de los LLM.
La biblioteca musical de Spotify tampoco era una versión ofrecida al público en general, y parece que lo hicieron con permiso de los titulares de derechos.
Incluso antes de eso, el Imperio británico despegó robándole oro a España, mientras España explotaba a los aztecas y a los pueblos originarios de México.
Siempre ha pasado, pero la cultura no funciona como un widget físico, así que no deberíamos permitir que dispositivos de escasez artificial como DRM, copyright y patentes hagan que unos pocos se roben los beneficios de la copia digital.
Cuanto más sabemos sobre cómo las empresas de IA entrenaron sus modelos, más claro queda que los demás fuimos unos ingenuos.
Creíamos que la ley importaba, que nunca debíamos tergiversar ni ocultar lo que hacemos en el trabajo, y que debíamos respetar nuestros términos y los términos de otros sitios y productos.
Pensábamos que, al registrarnos en un sitio web o contenido, siempre debíamos usar el correo de la empresa para que la otra parte pudiera decidir razonablemente si permitirnos el acceso o no; pero en realidad debimos haber avanzado desde el principio con una actitud YOLO. No es ilegal hasta que te atrapan, y si creces lo suficiente antes de que te atrapen, las reglas no se te aplican.
Lamentablemente, a veces la recompensa por actuar de forma ética es solo la satisfacción personal. Pensando en los ejemplos que los niños ven a su alrededor, criar hijos en este entorno debe ser realmente difícil.
Aunque sea por respeto a uno mismo, hay que actuar con moralidad e integridad. Nunca tuve la ilusión de que las grandes tecnológicas respetaran la ley, pero eso es un asunto aparte de mí.
Parece que fueron tanteando un experimento de growth hacking tras otro, sin mucha evaluación de riesgos ni conciencia ética.
Es ilegal solo cuando te atrapan y eres el tipo de persona equivocado. Si eres el tipo de persona correcto, ni siquiera te dan un tirón de orejas.
No entiendo por qué se cuestiona si Meta entrenó su LLM con material con derechos de autor. Eso está escrito en su artículo
En el artículo de LLaMA [Touvron et al., 2023] dice: “incluimos dos corpus de libros en el conjunto de datos de entrenamiento: Gutenberg Project y la sección Books3 de ThePile”
Si sigues esa referencia, dice que Books3 es un conjunto de datos de libros derivado de una copia del contenido del tracker privado Bibliotik publicada por Shawn Presser. (Presser, 2020) apunta a https://twitter.com/theshawwn/status/1320282149329784833 y, curiosamente, también referencia esta política de DMCA: https://the-eye.eu/dmca.mp4
Además, dijeron que también entrenaron con GitHub, páginas web y ArXiv, todos con contenido protegido por derechos de autor. La pregunta clave es si es legal entrenar, usar y distribuir modelos de IA, pesos y resultados entrenados con material con derechos de autor; el hecho de que entrenaron con material con derechos de autor es indiscutible
[Touvron et al., 2023] https://arxiv.org/pdf/2302.13971
[Gao et al., 2020] https://arxiv.org/pdf/2101.00027
Eso es una infracción independiente, aparte del debate sobre los LLM entrenados
La primera es entrenar con material protegido por derechos de autor pero accesible públicamente. Si escribes un poema y lo subes a internet para que todo el mundo lo lea, es tu propiedad intelectual y otros no pueden tomarlo y venderlo, pero sí son libres de leerlo e inspirarse. En este caso, la legalidad del entrenamiento se está discutiendo en tribunales y, hasta ahora, parece favorecer a los LLM
La segunda es entrenar con material protegido por derechos de autor que no es público. En la práctica, son copias piratas o material obtenido por vías alternativas para evitar pagar. Si un poema detrás de un muro de pago llega a un LLM sin compensación, simplemente es ilegal, porque legalmente hay que pagar para ver la obra. Dicho eso, podrían analizarse condiciones como comprar acceso a un archivo y luego entrenar con todo lo que contiene
Si un usuario hackea el modelo para extraer fragmentos de datos sin procesar a los que fácilmente puede cambiarles el estilo y hacer que se parezcan, me pregunto si eso realmente es infracción de derechos de autor. ¿Y si hacen falta dos modelos?
Tal vez ahora debamos aceptar que la capacidad humana para detectar intentos de plagio ya llegó a su límite. Como cuando cuesta distinguir la voz de Sky de la voz de Her
Recomiendo enfáticamente leer el discurso sobre derechos de autor de Thomas Babington Macaulay. Explica de forma muy lógica el propósito, la duración y los riesgos del copyright
En particular, solía argumentarse que cuando un autor moría dejando a su familia en la pobreza, extender los derechos de autor era una forma justa de evitarlo, pero en la mayoría de los casos la familia sobreviviente nunca había tenido esos derechos
Al principio, el autor vendía el derecho de reproducción a una editorial, y la editorial dejaba la obra guardada sin publicarla hasta que el autor, empujado por la pobreza, terminaba cediendo por completo el copyright a precio de remate. En esos casos, extender el copyright solo beneficia a la editorial y, de hecho, aumenta el incentivo para expropiar esos derechos
¿Ese tipo nos va a enseñar sobre derechos de autor? Paso
Venda o no venda sus derechos, el autor y su familia están igualmente mejor cuando existe el copyright
Libgen es un proyecto civilizatorio que debería apoyarse, no procesarse judicialmente
Espero que algún día la gente mire hacia atrás y vea lo tontos que fuimos hoy al rechazar la mayor colección de obras literarias de la historia de la humanidad
Tiene una página dedicada en el sitio y, si pagas, te permite descargar todo el conjunto de datos a alta velocidad
Cuando Metallica demandó a Napster, la reacción de mucha gente fue: “Un momento, ¿puedo descargar música gratis?”
Porque les genera dinero a los fabricantes de GPU o porque, como OpenAI, ellas mismas ganan dinero con servicios pagos
Probablemente tu biblioteca local también participe en un sistema de préstamo interbibliotecario y puedas solicitar gratis libros de cualquier biblioteca del país
LibGen solo da acceso a un conjunto de obras mucho más pequeño que esas dos opciones y es apenas un poco más conveniente. La mayor diferencia es que no compensa en absoluto a los autores. Simplemente ve a una biblioteca de verdad
A todos les encanta odiar a las grandes empresas, especialmente a Meta, y parecen tomar esto como una oportunidad para pedir que las castiguen.
Pero una dirección más inteligente sería abogar por cambiar la ley de propiedad intelectual.
https://en.wikipedia.org/wiki/Aaron_Swartz#United_States_v._...
https://en.wikipedia.org/wiki/Aaron_Swartz#Death
Aaron Swartz fue hostigado hasta ser empujado al suicidio, mientras que estas empresas saldrán caminando libres y ganarán miles de millones. Creo que habría que darles a todos los CEO de empresas tecnológicas el trato estilo Swartz y luego cambiar la ley.
Las grandes empresas son demasiado grandes y simplemente no deberían existir. Cuando una empresa se vuelve más poderosa que los gobiernos estatales más grandes, eso no es una funcionalidad, es un bug.
Es posible que la ley de propiedad intelectual necesite revisarse. Pero no ayuda decir que hay que eliminar la ley porque las grandes empresas están por encima de ella. Primero hay que deshacerse de las grandes empresas y después pensar en leyes justas. Aunque cambiemos la ley ahora, estas empresas ya están por encima de ella, así que nada cambiará.
Aun así, si tienen que arder, deberían arder por las razones correctas. Haber descargado datos que deberían estar disponibles al público no es una de ellas.
No sirve de nada quejarse ante Meta o Zuck. Meta actúa tal como fue diseñada. Si no te gusta, hay que votar por más regulación.
Me recuerda a aquella gente loca de Internet de antes que pensaba que las leyes de copyright eran demasiado estrictas y que limitar así el acceso de la humanidad al conocimiento dejaba a todos rezagados para beneficio de unos poquísimos.
Es decir, demandas, penas de cárcel y multas de millones de dólares. Y eso solo por la parte de la piratería; también están las mentiras y el fraude.
Curiosamente, un proyecto neerlandés de LLM recibió una exigencia de cese después de que el lobby local de copyright se enterara de que había entrenado con un montón de ebooks pirateados. Es una lástima que no pudieran pelearlo en tribunales, y me habría gustado ver si ese lobby podía hacer caer también a ChatGPT y a las demás empresas de IA que hicieron lo mismo.
Tienen recursos de miles de millones de dólares; ¿no había nadie dispuesto a usar siquiera una parte para digitalizar datos nuevos? Incluso Google hizo eso.
Es increíblemente raro encontrar personas que de verdad sostengan ideales que perjudican su propia vida.
Más allá de la descarga y distribución ilegal de contenido con copyright, el artículo también dice que los empleados de Meta parecen haber mentido al respecto en sus testimonios.
Potencialmente, eso podría incluir al propio Mark Zuckerberg.
Es una reacción ligera, pero demasiada gente rinde culto en el altar de los creadores de empleo y cree que estas personas son ciudadanos morales y ejemplares.
Si yo lo hubiera descargado por torrent y lo hubiera seedeado, aunque fuera para entretenimiento personal y no con fines comerciales, los grandes titulares de derechos vendrían tras de mí.
¿Cuando lo hace Meta está bien porque tiene mejores abogados? Podría convertirse en un precedente interesante.
En este momento me viene a la mente Aaron Swartz.