La ley NO FAKES se endurece… una amenaza aún más seria para la expresión en internet y la innovación
(eff.org)- La NO FAKES Act, que busca evitar los daños causados por réplicas generadas con IA, está creciendo en una dirección que crea un nuevo derecho de propiedad intelectual y una infraestructura de censura, por lo que recibe críticas por poder enfriar la expresión en internet y la innovación
- Su alcance se expande más allá de las réplicas en sí para incluir herramientas, apps y servicios que puedan crearlas, lo que podría exponer a desarrolladores y proveedores de hosting al riesgo de responsabilidad solo por las afirmaciones de un titular de derechos
- A los proveedores de servicios no solo se les exigiría eliminar el material o la herramienta notificados, sino también impedir su re-subida, por lo que en la práctica podrían terminar asumiendo una obligación de filtrado
- Incluso con una citación emitida por un secretario judicial y no por un juez, se podría exigir información para identificar usuarios, lo que podría desalentar expresiones legales como la crítica anónima, la parodia y el comentario
- Los costos de cumplimiento y el riesgo de eliminación pueden dificultar que los nuevos servicios compitan contra Big Tech, y también reducir los incentivos para invertir en el desarrollo de herramientas creativas legales
De respuesta a réplicas generadas por IA a un amplio régimen de derechos
- La NO FAKES Act es la sigla de Nurture Originals, Foster Art and Keep Entertainment Safe Act, un proyecto de ley que busca crear un nuevo derecho de propiedad intelectual para abordar la preocupación por las “réplicas” creadas por IA generativa
- EFF critica que, desde su versión original, el proyecto no era una salvaguarda dirigida específicamente a expresiones falsas dañinas, sino un enfoque que expandía a nivel federal un régimen de licencias sobre imágenes
- La razón, dice, es que no logra equilibrar la necesidad de proteger la parodia, la sátira y otras expresiones legales
- La versión revisada refuerza aún más ese enfoque y exige una nueva infraestructura de censura que incluya no solo las imágenes, sino también los productos y servicios usados para crearlas
Una estructura que también apunta a herramientas y servicios
- La primera versión se centraba en las réplicas digitales, pero la nueva amplía el objetivo hasta incluir herramientas que puedan crear imágenes de personas o titulares de derechos no autorizadas por ellos o por la ley
- Quienes creen, comercialicen o alojen esas herramientas también podrían ser responsables
- Sí existen algunas limitaciones
- La herramienta debe haber sido diseñada principalmente para crear imágenes no autorizadas, o
- debe tener usos comerciales limitados distintos de la creación de imágenes no autorizadas
- Sin embargo, EFF considera que esas limitaciones difícilmente ofrecen protección suficiente, porque un desarrollador podría convertirse en objetivo con solo una afirmación
- Esta disposición recibe críticas por poder producir, en la práctica, un derecho de veto sobre la innovación como el que los titulares de derechos han querido en los debates de copyright
Avisos de eliminación y obligación de filtrado
- La versión anterior de NO FAKES creaba un sistema de aviso y retirada similar al DMCA, y EFF consideraba que incluso ese esquema tenía menos salvaguardas
- La versión revisada apunta a más proveedores de servicios y exige no solo bajar el material o la herramienta, sino también impedir futuras re-subidas
- El resultado es una estructura en la que podrían perder la exención de responsabilidad si no implementan filtros amplios
- Los filtros de copyright ya están causando varios problemas
- En teoría, solo deberían marcar para revisión humana los casos en que una subida parece una copia completa de una obra
- En la práctica, también pueden marcar contenido parecido pero no idéntico, como cuando distintas personas interpretan la misma música de dominio público
- También hay casos en que unos pocos segundos de coincidencia bastan para marcar algo como infracción
- Y a veces no reflejan adecuadamente contextos que podrían estar permitidos legalmente
- Hoy los filtros de copyright no son una obligación legal, pero NO FAKES podría convertir esa obligación de filtrado en ley
- El proyecto contempla excepciones para parodia, sátira y comentario, pero para quienes no pueden pagar el costo de un litigio, eso difícilmente ofrece protección real
La cláusula de citaciones que amenaza la expresión anónima
- El texto actual permite que cualquiera obtenga una citación de un secretario judicial, y no de un juez, para obligar a un servicio a entregar información de identificación de un usuario
- EFF señala que este procedimiento no exige ningún tipo de prueba
- Ya ha habido abusos de mecanismos similares en casos de copyright
- Personas incómodas con una crítica consiguen citaciones para silenciar a sus críticos
- Esa crítica a menudo incluye como evidencia las propias declaraciones del demandante, algo que puede ser un caso típico de uso justo
- Aun así, la citación se emite y, salvo que el servicio responda de forma muy agresiva, la identidad del usuario puede quedar expuesta
- La exposición de identidad puede desalentar expresiones posteriores y causar al usuario daños reputacionales o personales
Carga para la innovación y la competencia
- EFF sostiene que muchas personas están descontentas con el estado actual de Big Tech, sienten que se les obliga cada vez más a usar a las grandes tecnológicas y que la calidad de los servicios empeora
- NO FAKES podría dificultar que nuevos servicios desafíen a Big Tech, porque aumenta de forma importante la infraestructura necesaria para cumplir la ley
- EFF considera que quizá no sea casualidad que algunas grandes empresas vean con buenos ojos esta nueva versión de NO FAKES
- Las exigencias de retirar herramientas, apps y servicios también podrían frenar la innovación
- Pueden perjudicar a quienes usan esos servicios para creaciones legítimas
- Disminuyen los incentivos para invertir en herramientas o servicios que podrían quedar fuera de línea solo por una simple acusación
- EFF señala que hace unos meses el Congreso aprobó Take It Down, centrada en imágenes con contenido íntimo o sexual
- También considera que esa ley presiona a las plataformas para vigilar activamente la expresión en línea, incluso la que hoy está cifrada
- Si al Congreso le preocupan los daños a la privacidad, su postura es que debería esperar a ver los efectos de la regulación anterior antes de avanzar con más regulación de internet
- EFF critica que NO FAKES, más que proteger a las víctimas de réplicas digitales dañinas, es un proyecto de ley que concentra el control sobre el uso comercial de imágenes digitales
2 comentarios
Lo leí y aun así no entendía qué quería decir, así que me puse a investigar un buen rato.
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Parece que la probabilidad de que se implemente la ley enmendada es del 5%.
Es absurdo.
Opiniones en Hacker News
La nueva versión de NO FAKES parece estar estructurada para obligar a casi todos los operadores de puertas de acceso a internet a bajar expresiones cuando reciban una notificación, seguir impidiendo que se vuelvan a publicar, introducir filtros de réplica inevitablemente excesivos encima de filtros de copyright que ya son muy defectuosos, bajar y filtrar incluso herramientas que quizá se hayan usado para crear una imagen, y exigir que se revele la identidad de quien subió el contenido solo con la afirmación de alguien de que “lo replicaron”
Parece un sistema que las empresas chicas no pueden implementar y que a las grandes no les importaría implementar con cuidado
Por este tipo de captura regulatoria, las empresas que al principio, cuando hacían “innovación disruptiva”, odiaban la regulación, tienden a pasarse al bando pro regulación cuando superan cierto tamaño y nivel de ingresos
Pero parece mucho peor que eso. Es infraestructura de tiranía de manual
Es una estructura para reprimir las expresiones de quienes se oponen al régimen, quitarles megáfonos e imprentas, exigir que se identifique a los opositores y se los entregue al régimen, e infundir miedo a sanciones en cualquiera que el régimen pueda considerar que ayuda a opositores, ya sea por acción u omisión
Hace mucho que la EFF dejó de interesarse por los grandes temas de la libertad en internet, y ahora parece limitarse a una marcha de titulares estilo Big Tech Bad
Después de décadas en las que Big Tech sigue siendo un administrador bastante moderado de la información social, y al mismo tiempo amigos MAGA de veintitantos, sin supervisión, suben todo el gobierno federal a sus MacBook, esa actitud se ve extremadamente desconectada
El fin de la privacidad tecnológica ya llegó, pero la EFF sigue quejándose de Meta y ByteDance para alimentar el flujo de clics. Como todos los demás en internet, parece que eso es lo que de verdad les importa al final
Hace 15 años habría sido algo impensable, pero ahora ya es como patear a un caballo muerto
Personalmente, siento que el mundo se acerca cada vez más a una pelea por la supervivencia y, al mismo tiempo, a una actitud de “yo ya me arreglé, tú no me importas”
Ahora eso se usará tanto contra la propia izquierda como contra disidentes de derecha que se oponen a las narrativas de cuento de hadas del orden establecido
Me parece que todo esto presupone que ese tipo de medios se comparten en redes sociales
El texto de esta ley parece no tener sentido dentro de comunidades privadas. Tal vez sea lo que queríamos y todavía no se concretó: el fin de las redes sociales
La solución es exigir que el gobierno obligue a las empresas de redes sociales a introducir un coeficiente de fricción algorítmica
Pero los incentivos económicos relacionados están eliminando la voluntad política para generar ese cambio
La clase dominante se beneficia del desorden, la división y el caos que difunden las redes sociales en su forma actual. Les gusta bastante tal como están
Entre los estudios relacionados, Aral & Eckles (MIT, 2019) dijeron que introducir fricción reduce la difusión de desinformación sin limitar la libertad de expresión; investigaciones de Mozilla y Stanford (2020~2022) estimaron que fricciones como inducir a cancelar el compartir reducen la propagación de noticias falsas hasta en 50%; y en un experimento de Twitter de 2021, al mostrar avisos de verificación de datos antes de publicar, los usuarios modificaron o eliminaron el tuit en el 25% de los casos
Mejor que directamente prohíban mentir y creen un Ministerio de la Verdad
Los intentos de regular las mentiras no son más que un envoltorio para imponer narrativas favorables a determinadas posturas políticas
En este asunto quizá no esté para nada de acuerdo con quien escribió el artículo. Hace varias afirmaciones bastante audaces, como compararlo con la DMCA, pero no parece ofrecer muchas pruebas
Contraargumento: https://www.recordingacademy.com/advocacy/news/no-fakes-act-...
A mí también podrían engañarme fácilmente con una entrada de blog así
Habrá que pasar todas las imágenes por filtros de réplica, pero la IA hace demasiado fácil generar imágenes bastante distintas incluso con un solo prompt. Entonces ahora hará falta una IA que infiera el “significado” de la imagen
En conjunto, suena como una muy buena noticia para los fabricantes de chips y las generadoras de electricidad
Realmente hace falta una explicación en inglés sencillo de lo que hace esta ley en la práctica, sin lobby ni alarmismo propagandístico
¿Esta ley significa que las empresas ponen marcas de agua en su contenido para impedir que otra empresa cree contenido secundario basado en él? ¿Cómo funciona exactamente?
Parece algo tipo DMCA para imágenes, herramientas y obras derivadas, e incluiría todos los registros necesarios para rastrear a creadores, herramientas y publicadores
Pero, como dije, solo lo hojeé
Permite que cualquiera, sin pruebas, presente una queja por cualquier contenido alojado en cualquier lugar, impone a quien aloja ese contenido la carga legal de probar un hecho negativo —que no es “falso”— y establece la exigencia legal de retirar el contenido tan pronto como sea técnicamente posible, en la práctica de inmediato
Así que es explotable de forma parecida a la DMCA, pero el alcance de las exigencias es más amplio y demostrar legitimidad es casi imposible, porque crea una categoría nueva y vagamente definida de propiedad legal sobre el contenido
En resumen, es una excelente razón para mover el hosting fuera de Estados Unidos
Tennessee pondrá en vigor el 1 de julio varias leyes de IA generativa y, curiosamente, quizá porque la legislatura estatal entendió mal los términos, esta prohibición general es tan amplia que en la práctica tiene el efecto de prohibir hasta poseer una GPU
Es una situación tipo: “Oye, ¿tienes licencia para ese tensor core?”
Aun así, al menos también están prohibiendo más la marihuana a nivel nacional, más allá de lo permitido por la Farm Bill federal de 2018, así que qué alivio /s
El sensato gobernador del vecino Texas vetó un proyecto de ley similar por su inconstitucionalidad y la posibilidad de impugnaciones legales