Reforma a la ley NO FAKES… una amenaza aún más grave para la expresión en internet y la innovación

• La ley NO FAKES fue reformada y se convirtió en una amenaza grave para la libertad de expresión en internet y la innovación
• La versión revisada va más allá de regular simples réplicas digitales y exige bloquear y filtrar herramientas, servicios y apps
• Se introduce un sistema coercitivo que permite bloquear de inmediato contenido, herramientas e incluso revelar la identidad de quien sube contenido solo con una denuncia
• Con el debilitamiento del derecho a la expresión anónima y la creación de una nueva infraestructura de censura, tanto usuarios comunes como desarrolladores quedan en riesgo
• Favorece más a las grandes empresas tecnológicas y eleva de forma importante las barreras de entrada al mercado para servicios nuevos y desarrolladores

---

Resumen de la ley y cambios principales

• La NO FAKES (Nurture Originals, Foster Art and Keep Entertainment Safe) Act originalmente buscaba resolver el problema de las réplicas digitales basadas en IA generativa
• Esta reforma crea un nuevo y amplio régimen de propiedad intelectual (IP) y, en lugar de limitarse a prevenir daños, exige censura a escala de todo el sistema de internet
• La propuesta original se enfocaba en un sistema de licencias de imágenes, pero la versión revisada amplía el alcance regulatorio a imágenes, herramientas, servicios y apps, es decir, todos los elementos usados en la generación

Órdenes de bloqueo para herramientas y servicios

• La NO FAKES revisada pone bajo regulación a cualquier empresa que ofrezca, distribuya o aloje herramientas, servicios o apps para generar imágenes ilegales
• Si una herramienta se usa principalmente para ese fin, o si su uso comercial es limitado, puede bloquearse solo con una denuncia
• El simple desarrollo de herramientas innovadoras corre el riesgo de detenerse a partir de una sola denuncia, reforzando en las disputas de derechos de autor una especie de “derecho a vetar la innovación” para los titulares de derechos

Expansión del sistema de denuncias y filtrado

• Con protecciones aún más débiles que las de la DMCA, se puede bloquear de inmediato contenido y herramientas solo por una denuncia
• Se vuelve obligatorio el filtro para impedir re-subidas (Replica Filter), con bloqueo automático incluso de casos similares
• También se pueden eliminar herramientas, apps y servicios, e incluso revelar la identidad de quien subió el contenido únicamente por denuncia
• Aunque existen excepciones para parodia, sátira y comentario, en la práctica su efectividad es baja por el costo real de litigar

Riesgos para la expresión anónima y la privacidad

• Sin aprobación de un juez, basta con un secretario judicial para emitir una subpoena from a court clerk (orden de entrega de información) y exigir datos de identidad de quien subió el contenido
• Ya han ocurrido muchos casos de abuso de sistemas similares para reprimir expresiones críticas
• El solo hecho de revelar la identidad ya genera preocupación por daños reales en reputación, privacidad y otros ámbitos

Amenaza a la innovación y a los nuevos servicios

• Al exigir nueva infraestructura legal y técnica, las barreras de entrada al mercado para startups y servicios emergentes se disparan
• Las grandes tecnológicas ya establecidas salen beneficiadas, mientras que el desarrollo y lanzamiento de nuevas herramientas y servicios innovadores se ve frenado
• Como la estructura permite bloqueos con solo una denuncia, también se vulneran la creación legítima y los derechos de los usuarios

Objetivo regulatorio y efecto real

• Recientemente, el Congreso de EE. UU. también aprobó medidas como Take It Down para regular imágenes sexuales, reforzando la presión por una vigilancia online excesiva
• El objetivo real de NO FAKES no parece ser proteger a las víctimas, sino más bien concentrar el control comercial sobre las imágenes digitales
• Como resultado, tanto usuarios comunes como desarrolladores salen perjudicados, con efectos negativos sobre el ecosistema de innovación en internet

[crawler]

Lo leí y aun así no entendía qué quería decir, así que me puse a investigar un buen rato.
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Parece que la probabilidad de que se implemente la ley enmendada es del 5%.
Es absurdo.

[GN⁺]

Opiniones en Hacker News

• La nueva versión de NO FAKES incluye que casi todos los gatekeepers de internet a) bajen contenido rápidamente cuando reciban una denuncia, b) estén obligados a aplicar filtros de copias además de los ya problemáticos filtros de copyright para impedir subidas repetidas, c) filtren y bajen incluso herramientas que podrían haberse usado para crear imágenes, y d) revelen también la identidad del uploader solo con que alguien afirme que fue “copiado” Este tipo de sistema es de los que las empresas pequeñas no pueden implementar y a las grandes no les quita mucho el sueño

  • Este tipo de regulación más bien parece el resultado de que las grandes empresas hacen lobby para subir las barreras de entrada a competidores pequeños Ese fenómeno de captura regulatoria hace que, al pasar cierto tamaño o nivel de ganancias, incluso empresas que antes hablaban de innovación terminen pasándose al bando pro regulación
  • Las grandes empresas sí tienen recursos para cumplirlo, y esta regulación en sí termina funcionando como un foso imposible de cruzar para las empresas pequeñas Pero el problema es mucho más grave que eso: este sistema en sí podría convertirse en la infraestructura típica de control social de un régimen autoritario Existe el riesgo de quitarle voz a la disidencia, arrebatarle los espacios de expresión y los medios de publicación, entregar identidades al gobierno y hacer que incluso solidarizarse con la oposición dé miedo
  • De hecho, en las grandes plataformas que operan comunidades online importantes, es probable que estos sistemas se usen aún más para silenciar voces que no le gustan al gobierno
  • En esencia, podría ser un sistema diseñado para etiquetar todo como “falso” con tal de detectar y reprimir voces consideradas impuras para el régimen
  • Es cierto el señalamiento de que las empresas pequeñas tendrían dificultades para implementarlo Pienso que la EFF (Electronic Frontier Foundation) ya casi no se interesa por la verdadera esencia de la libertad en internet, y se convirtió en una organización enfocada solo en titulares de “Big Tech es mala” Ya desde hace décadas Big Tech ha sido, en la práctica, una administradora benevolente de la información social, y al mismo tiempo, en una época como esta donde veinteañeros sin supervisión copian datos del gobierno federal a sus MacBook, este tono se siente fuera de época Lo que vivimos es una catástrofe de privacidad en toda regla, y la EFF solo regaña el clickstream de Meta y ByteDance

• Hace apenas 15 años esto parecía impensable, pero ahora se siente como una discusión ya superada

  • En realidad el punto de quiebre fue hace como 25 años, y desde 2001, con leyes como el PATRIOT Act que desmantelaron la privacidad, la situación ya se volvió irreversible
  • No sorprende El capitalismo de vigilancia lleva tanto tiempo siendo la base del funcionamiento social que esto ya se volvió la realidad normal Deprime pensar que el mundo actual es un ‘juego de supervivencia’ donde cada quien se salva como puede y solo cuida su propio interés
  • Sin darnos cuenta, hasta la izquierda terminó apoyando activamente sistemas de censura con el argumento de las “fake news” y de evitar daño emocional, y al final la ironía es que ese mismo sistema se les regresa y se usa tanto contra críticos de izquierda como de derecha

• En el fondo, este debate parte del supuesto de que ese medio se comparte socialmente como “red social” En comunidades cerradas o espacios privados, uno se pregunta si estas leyes no resultan inútiles Hasta da para pensar que quizá lo que realmente queríamos era el fin de las redes sociales

  • En la academia ya saben que la clave es un problema de diseño de plataforma Más que una discusión superficial entre libertad y responsabilidad, la verdadera solución sería que el gobierno obligue a las redes sociales a introducir fricción algorítmica Pero por los intereses económicos reales, en la política no existe ninguna voluntad de hacer ese cambio Al contrario, el caos, la división y la confusión de la estructura actual benefician a las élites gobernantes Estudios de referencia: • MIT Aral & Eckles (2019): introducir fricción reduce notablemente la propagación de desinformación sin restringir la libertad de expresión • Mozilla/Stanford (2020~2022): fricciones como “confirmar antes de compartir” reducen hasta 50% la difusión de fake news • Twitter (2021): mostrar prompts de verificación antes de publicar hizo que cerca del 25% eligiera editar o borrar el tuit
  • En la práctica, definir legalmente la categoría de “red social” sería extremadamente difícil

• ¿Por qué no simplemente prohibir la mentira y crear de una vez un “Ministerio de la Verdad”? Intentar regular la mentira en realidad termina empujando solo ciertas narrativas según el gusto del poder

• Aunque pases todas las imágenes por un filtro de copias, con IA puedes generar cientos de resultados completamente distintos usando el mismo prompt, y ahora además pretenden que la IA determine hasta el ‘significado’ de una imagen Al final, buenas noticias para los fabricantes de chips y las eléctricas

• Personalmente puede que esté en desacuerdo con la postura del autor original Comparar NO FAKES con la DMCA me parece poco fundamentado Como otra perspectiva, ver este artículo: https://www.recordingacademy.com/advocacy/news/no-fakes-act-introduced-in-the-senate

  • Estas empresas (actores con intereses políticos) tienen tanta influencia que podrían venderle piel de serpiente a un elefante Qué fácil caigo en este tipo de artículos promocionales

• Quiero un resumen de una sola línea, muy simple, sin lobby ni alarmismo Quiero entender exactamente si esta ley legaliza el uso de marcas de agua de contenido para impedir transformaciones derivadas de obras, o si en realidad se trata de otra cosa Quiero saber con precisión hasta dónde llegaría su aplicación real

  • No tiene nada que ver con marcas de agua Cualquiera puede afirmar sin ninguna prueba que cualquier contenido alojado es “falso”, y el host tendría la carga legal de demostrar que es auténtico La eliminación inmediata sería la regla, y el potencial de abuso es parecido al de la DMCA, pero mucho más amplio Se agrega un nuevo concepto de derecho, y en la práctica demostrar la propiedad legítima de los datos sería casi imposible En conclusión, solo aumenta los incentivos para mover servidores fuera de EE. UU.
  • Leí por encima el texto original y me da la impresión de que es como una versión DMCA para imágenes/herramientas/obras derivadas, pero además exige registros para rastrear al creador, las herramientas y el publicador

De todos modos, no domino bien el contexto completo del proyecto de ley

• En Tennessee, desde el 1 de julio entran en vigor al mismo tiempo varias leyes que abarcan toda la IA generativa El problema es que, ya sea porque la legislatura estatal no entendió bien los términos, el texto quedó tan absurdamente amplio que casi equivaldría a volver ilegal la mera posesión de una GPU Ejemplo: hasta bromean con “¿traes licencia para usar tensor cores?” Además, a nivel nacional también se impulsan leyes para regular la marihuana con más dureza incluso que el Farm Bill federal En cambio, el gobernador de Texas ya rechazó adecuadamente una ley similar por problemas constitucionales y legales

• No estoy de acuerdo con la idea de que “esta ley va a acabar con Reddit” ¿Da miedo que exista un espacio donde cualquiera pueda hablar libremente? En un lugar así, a veces inevitablemente aparecen opiniones ‘indeseables’

  • Lo importante es distinguir entre una plataforma que hace curaduría exactamente como la quiere el usuario y una plataforma que recomienda contenido nuevo de forma arbitraria por su cuenta Salvo cosas claramente ilegales como CSAM, la plataforma no debería decidir qué poner frente a los ojos del usuario
  • Con esa misma lógica, Hacker News también tendría que desaparecer
  • Vale la pena seguir citando el artículo “You are Wrong About Section 230”: https://www.techdirt.com/2020/06/23/hello-youve-been-referred-here-because-youre-wrong-about-section-230-communications-decency-act/ El punto clave es que en la propia Section 230 no existe en ninguna parte una distinción entre publisher y platform Esa distinción y ese significado solo se inflaron como tema de debate, pero no tienen una base real