- La Corte de Apelaciones del Tercer Circuito de EE. UU. determinó que TikTok no puede evitar una demanda basándose únicamente en la inmunidad de la Section 230 en el caso en que su algoritmo de recomendaciones mostró a la niña de 10 años Nylah Anderson un video del “Blackout Challenge”
- La cuestión central no era si la plataforma simplemente alojó publicaciones de terceros, sino si el acto de seleccionar y recomendar videos en la “For You Page” con base en edad, interacciones y metadatos constituía una expresión propia de TikTok
- El fallo reutiliza, en sentido inverso, la lógica de Moody v. NetChoice: si una plataforma invoca protección de la First Amendment sobre un feed curado, entonces esa curaduría también puede considerarse discurso propio de la plataforma bajo la Section 230
- En una opinión concurrente, el juez Paul Matey sostuvo que TikTok debe considerarse distribuidor (distributor) del video del challenge, no su publicador, y que fue un error que la jurisprudencia inicial sobre Section 230 borrara la distinción entre publicador y distribuidor
- Este fallo deja abierta, dentro del Tercer Circuito, la puerta a demandas por responsabilidad derivada de recomendaciones algorítmicas, y podría tener impacto directo en una apelación ante la Corte Suprema, legislación del Congreso, modelos de negocio de plataformas y estrategias de litigio de los demandantes
Decisión del Tercer Circuito sobre el algoritmo de recomendaciones de TikTok
- La Corte de Apelaciones del Tercer Circuito de EE. UU. consideró que TikTok no puede eludir responsabilidad con base en la Section 230 y revocó la desestimación de la demanda por parte del tribunal inferior
- El punto central del caso es que TikTok, mediante su algoritmo, recomendó y promocionó un video subido por un tercero en la “For You Page” personalizada de Nylah Anderson, de 10 años
- El video mostraba el “Blackout Challenge”, que incita a los espectadores a filmarse asfixiándose a sí mismos
- Tras ver el video, Nylah intentó imitar el challenge y murió ahorcada accidentalmente
- La madre de Nylah, Tawainna Anderson, demandó a TikTok y a empresas vinculadas con ByteDance por responsabilidad por producto, negligencia y muerte injusta bajo la ley de Pensilvania
- El tribunal inferior desestimó las reclamaciones al considerar que TikTok solo había alojado expresiones de terceros y no había emitido una expresión propia
- En la sentencia, el juez Paul Matey criticó que TikTok “lee la sección 230 de la Communications Decency Act como si significara que puede ser indiferente ante la muerte de una niña de 10 años”
Cómo se amplió la Section 230
- La Section 230 fue promulgada en 1996 para abordar si servicios de foros en línea como Prodigy o CompuServe eran responsables por comentarios de usuarios
- Su estructura básica es que un interactive computer service no responde por expresiones de otras personas cuando las aloja, sino solo por sus propias expresiones
- También estableció que las plataformas no fueran responsables cuando, de buena fe, restringen el acceso a material que consideran obsceno, pornográfico, excesivamente violento, acosador u objetable de otro modo
- Desde entonces, Internet creció hasta incluir redes sociales y publicidad de vigilancia basada en datos que no existían en 1996, y los tribunales ampliaron el alcance de la Section 230 a ámbitos como el comercio en línea y los sitios de reservas hoteleras
- Desde Zeran v. America Online, fallo de 1997 del Cuarto Circuito, ocho cortes de apelaciones de circuito siguieron una interpretación expansiva, formando una línea jurisprudencial en la que las plataformas no responden incluso si facilitaron daños
La doble protección que han obtenido las plataformas
- Las grandes plataformas, cuando buscan evitar regulación, afirman que sus actividades son discurso y exigen protección de la First Amendment; cuando se les atribuye responsabilidad por difamación o discurso ilegal, alegan que solo son recipientes de expresiones ajenas y reclaman inmunidad bajo la Section 230
- Esta estructura ha sido criticada por crear lo que un tribunal llamó una “lawless no-man’s-land”
- Los casos de daños mencionados en relación con la inmunidad de la Section 230 abarcan múltiples áreas
- Un caso en que Grindr habría facilitado agresiones sexuales
- Un caso en que una agencia de reportes crediticios intentó evitar regulación por errores en informes de crédito
- Un caso en que Facebook habría fomentado violencia étnica
- Un caso en que, en 2023, el IRS marcó más de un millón de declaraciones de impuestos como fraude de identidad, con información recopilada principalmente de LinkedIn o sitios de Meta
- Casos de estafadores en Facebook que se hacen pasar por militares para cometer fraudes románticos a distancia
- Casos de empresas de redes sociales que dirigen a personas con adicción al juego hacia apps de “social casino”
- En 2022, Clarence Thomas criticó la interpretación expansiva de la Section 230 y señaló que Facebook no impidió que traficantes de personas usaran su servicio debido a la pérdida de usuarios e ingresos publicitarios
Un fallo que devuelve la lógica de NetChoice a la Section 230
- En años recientes, los tribunales comenzaron a limitar la Section 230 en casos como Lemmon v. Snap, tratando funciones dañinas de plataformas tecnológicas desde la perspectiva de la responsabilidad por producto, no desde la ley de expresión
- En 2023, la Corte Suprema analizó Gonzalez v. Google y Twitter v. Taamneh, pero no fijó una postura sustantiva sobre la Section 230 en sí
- En Moody v. NetChoice, la Corte Suprema consideró probable que fueran inconstitucionales las leyes con las que Florida y Texas buscaban impedir que grandes plataformas discriminaran por puntos de vista políticos
- Determinó que la discreción editorial de las plataformas al excluir discurso político de feeds curados está protegida por la First Amendment
- Sin embargo, distinguió que, cuando un feed solo responde al comportamiento en línea del usuario y le entrega contenido que desea sin un criterio independiente de contenido, no es discurso y puede regularse
- La Corte de Apelaciones del Tercer Circuito aplicó esta lógica a la Section 230
- Si el algoritmo de una plataforma refleja un juicio editorial al agrupar expresiones de terceros de la manera que desea, entonces es expresión propia de la plataforma protegida por la First Amendment y también constituye discurso primario bajo la Section 230
- Dado que el algoritmo de TikTok curó y recomendó un conjunto personalizado de videos en la FYP con base en la edad del usuario, datos demográficos, interacciones en línea y otros metadatos, puede tratarse como discurso propio de TikTok
La lógica de responsabilidad de distribuidor del juez Paul Matey
- Aunque coincidió en revocar la decisión del tribunal inferior, el juez Paul Matey planteó una lógica separada que reduce aún más el alcance de la Section 230
- Su punto central es que TikTok debe considerarse publicador (publisher) del video del challenge, sino distribuidor (distributor)
- Tradicionalmente, en ámbitos como la venta de material obsceno, se distinguía la responsabilidad del autor o editor que creó el material de la responsabilidad de distribuidores como librerías, bibliotecas o puestos de periódicos
- La jurisprudencia inicial sobre Section 230 eliminó esa distinción entre publicador y distribuidor, y Matey consideró que esa línea jurisprudencial fue errónea
- Sostuvo que TikTok, al realizar amplificación algorítmica, se entiende mejor como distribuidor desde una perspectiva tradicional de common carriage, un enfoque conectado también con las preocupaciones de Rohit Chopra y varios jueces de la Corte Suprema
Un panorama regulatorio transversal y sus posibles consecuencias
- El poder de las Big Tech y los problemas de expresión no se dividen de manera simple por líneas partidistas
- En la Corte Suprema, Clarence Thomas y Ketanji Brown Jackson a veces quedan en un lado distinto de Brett Kavanaugh y Elena Kagan, mientras Amy Coney Barrett es descrita como voto bisagra
- Tanto Trump como Biden son hostiles a la Section 230
- Reguladores republicanos y demócratas como Brendan Carr, Rohit Chopra y Lina Khan llevan años preocupados por el uso indebido de la Section 230
- En este caso del Tercer Circuito, la jueza nombrada por Obama Patty Shwartz y el juez nombrado por Trump Peter J. Phipps coincidieron en el fondo, mientras que el juez nombrado por Trump Paul Matey sostuvo que la Section 230 debe reducirse aún más
- El fallo hace que el Tercer Circuito se aparte de la interpretación de la Section 230 de muchos tribunales, y es muy probable que el caso sea apelado hasta llegar a la Corte Suprema
- Si la Section 230 deja de operar como escudo, podrían aumentar las demandas para responsabilizar a plataformas por fraudes de suplantación de militares en Facebook, asistencia a violaciones de leyes estatales de juego, robo de identidad a gran escala, agresiones sexuales, abuso infantil y reclamaciones ordinarias por difamación
- Silicon Valley podría preparar lobby para que el Congreso legisle una “reforma” de la Section 230, y algunos ejecutivos podrían considerar modificar sus modelos de negocio para adaptarse a un entorno en el que las plataformas respondan por sus propios actos
1 comentarios
Opiniones de Hacker News
La reacción actual parece inclinarse a que este fallo significa el fin de las redes sociales o que llevará a la censura gubernamental, pero creo que es difícil afirmarlo de forma tan categórica.
El punto central es que las redes sociales no son neutrales y seleccionan lo que la gente ve. Si no son una parte neutral que simplemente aloja contenido, la lectura del fallo parece ser que esa selección no deja de generar responsabilidad solo porque se haga mediante algoritmos.
En términos amplios, también podría verse como una especie de neutralidad de la red. Hoy las plataformas sociales impulsan ciertos contenidos y degradan otros; si la gente interactúa mayormente a través de feeds, el fenómeno se parece al problema de prioridades entre ISP y sitios web.
Personalmente quiero ver qué cambios trae este fallo. Casi todas las redes se han vuelto tan horribles que ya no tengo cuentas en sitios sociales aparte de HN, y quizá las redes sociales puedan volver a ser tolerables.
Pero según este fallo, por el acto de moderar, HN podría ser responsable de todas las publicaciones, y tal vez solo habría dos opciones: dejar de moderar y volverse como 4chan, o reforzar mucho más la moderación bloqueando cuentas anónimas, haciendo que los términos impongan con fuerza la responsabilidad a quienes publican, o aprobando manualmente todos los comentarios.
No tengo muy claro cómo sería posible operar un sitio web que modera contenido de usuarios y aun así evita la responsabilidad por contenido ilegal.
La ley original creaba una estructura en la que, si una plataforma moderaba aunque fuera un poco, podía ser responsable de todo lo que publicaran los usuarios, y Section 230 fue diseñada para que, aunque eliminaras o bajaras de prioridad spam, pornografía o trolling, no te pudieran demandar por otro contenido separado que no hubieras logrado eliminar.
Siempre me cuesta entender la idea de que la curaduría en sí sea el problema. La opción de publicar directamente en la web, sin redes sociales, siempre existe, pero la gente ha elegido repetidamente usar menos esa opción. En el extremo, este fallo podría dejar solo esa alternativa.
Sin embargo, no creo que eso ocurra realmente; es más probable que suban los costos operativos y se reflejen en las tarifas publicitarias. El ecosistema podría reducirse, pero lo seguro es que el puente levadizo sobre el foso de las grandes empresas sociales subirá aún más, con menos competencia como resultado.
En vez de buscar como ideal un medio sin sesgos, prefiero que se transparenten los sesgos. Que me cuenten lo suficiente sobre sí mismos y digan hacia dónde están sesgados, para que yo pueda juzgar.
No es muy distinto del razonamiento del tribunal. Editar es expresión, y la página “For You” también está editada y, según esa lógica, es expresión propia de TikTok. Dicho eso, sí estoy de acuerdo con la crítica general de que las redes sociales son espacios desagradables.
Este asunto depende de qué sabía TikTok.
El fallo dice que, antes de que Nylah viera el video, TikTok sabía que 1) el mortal Blackout Challenge se estaba propagando en la app, 2) su algoritmo lo estaba sirviendo específicamente a niños, y 3) varios niños habían muerto después de verlo en sus For You Pages. Aun así, TikTok no tomó ninguna medida, o tomó medidas totalmente insuficientes, para frenar su difusión e impedir que se mostrara a niños, y siguió recomendándolo a niñas y niños como Nylah.
Para ver qué “sabía” TikTok, habría que consultar los documentos “App. 31–32”. Puede que se necesite una cuenta de Pacer, y también me da curiosidad si ignoraron reportes de abuso.
Un tema similar llegó hasta la Corte Suprema en Gonzales vs. Google (2023). Era un caso sobre si recomendar videos que alentaban a apoyar la yihad del Estado Islámico hizo que alguien se uniera y muriera; el tribunal rechazó los reclamos relacionados con terrorismo y no abordó la cuestión de Section 230.
https://en.wikipedia.org/wiki/Gonzalez_v._Google_LLC
Ese proceso de revisión se desarrolló para cumplir con estándares de expresión mucho más estrictos del mercado chino, pero aquí más bien abre la posibilidad de una mayor responsabilidad.
No puedo volver a encontrar el artículo relacionado; está enterrado entre diagramas de flujo del tipo “cómo hacer que un video se vuelva viral”, y esos materiales omiten la decisión de “cuándo se prohíbe”.
https://storage.courtlistener.com/recap/gov.uscourts.ca3.118...
El resto de los documentos está aquí:
https://www.courtlistener.com/docket/67500541/tawainna-ander...
TikTok, mediante su algoritmo, recomendó y promocionó videos publicados por terceros en la “For You Page” personalizada de Nylah Anderson, de 10 años, y uno de ellos era el “Blackout Challenge”, que incitaba a los espectadores a grabarse realizando autoasfixia.
Tras ver el video, Nylah intentó imitar el reto y murió al ahorcarse accidentalmente — https://cases.justia.com/federal/appellate-courts/…
En la práctica, el algoritmo indujo accidentalmente a una niña a ahorcarse. Muchos sitios web ejecutan código que recomienda artículos para leer según la demografía de los usuarios, pero ese código no incluye mecanismos para impedir que se recomienden a menores artículos relacionados con la autoasfixia.
Al final, depende de la suposición de que los clientes que usan ese software no publiquen ese contenido, que personas con demografías similares no lo lean y que, aunque un menor reciba la recomendación, no lo lea ni lo imite. Si esa suposición falla, ¿deberíamos ser responsables yo o mi empleador?
No se debe esperar inmunidad automática solo porque es un algoritmo, mientras se hace algo de lo que se obtiene una recompensa sin preocuparse por sus consecuencias. Disfrutar de las ganancias evitando la responsabilidad es una conducta cobarde e infantil, y las conductas infantiles necesitan supervisión adulta.
Se afirma que antes de que Nylah viera el video, TikTok sabía que el Blackout Challenge se estaba propagando en la app, que el algoritmo se lo estaba sirviendo a menores y que varios niños que lo habían visto en sus For You Pages habían muerto. Aun así, no tomó medidas, o no las suficientes, para detener su difusión o impedir que se mostrara a menores, y siguió recomendándoselo.
¿Crees que este tipo de conducta debería ser legal? Si supieras que menores están muriendo directamente por el contenido que distribuyes, ¿no harías nada?
Dicho eso, esa plataforma trata de recomendaciones de artículos, y quizá no sea un servicio para grabarse siguiendo tendencias populares. Puede que los menores no sean el público objetivo, o que ni siquiera sean usuarios. En muchos aspectos, la situación es distinta a la de TikTok.
El tribunal consideró que, si el algoritmo de una plataforma refleja un juicio editorial al reunir expresiones de terceros de la manera que desea, entonces es el propio “producto expresivo” de la plataforma y está protegido por la Primera Enmienda.
La lógica es que, dado que la Corte Suprema sostuvo que una plataforma realiza una expresión primaria protegida cuando selecciona, mediante un algoritmo expresivo, un conjunto de contenidos ajenos, es natural considerar que eso también es expresión primaria bajo la Section 230.
Estoy de acuerdo desde hace mucho. No se trata de un “resultado natural” como el orden cronológico, los hilos, o un ordenamiento ponderado por recomendaciones o moderación de usuarios finales fuera del control del sitio, sino de una cuestión de elección.
Si mi foro trata un tema estrecho, como el off-roading 4×4, y borro una publicación claramente escrita por una persona pero gravemente fuera de tema, como política estadounidense, ¿eso también me hace responsable por todas las publicaciones que no borré?
¿Dónde está esa línea para quienes no tienen enormes equipos legales como las empresas de Silicon Valley?
Para hablar de la intención de la Section 230 o de hasta qué punto la Section 230 se aplica a las recomendaciones dirigidas basadas en algoritmos, conviene leer el escrito presentado por Ron Wyden y Chris Cox, coautores de la Section 230, en Google v. Gonzalez (2023).
Según el comunicado de prensa de Wyden, “la Section 230 protege las recomendaciones dirigidas en la misma medida que otros métodos de mostrar contenido, y esta interpretación cumple el propósito del Congreso de fomentar la innovación en la presentación y moderación de contenidos”. También sostiene que la transmisión en tiempo real de contenido generado por usuarios se convirtió en la base de la actividad en línea, y que las protecciones de la Section 230 son tan esenciales hoy como lo eran cuando se promulgó.
[PDF] https://www.wyden.senate.gov/download/wyden-cox-amicus-brief...
https://www.wyden.senate.gov/news/press-releases/sen-wyden-a...
Cox escribió que la jurisprudencia ha establecido que, si un sitio web conspiró de alguna manera en la creación o el desarrollo de contenido ilegal, la Section 230 no puede servirle de escudo. En FTC v. Accusearch, aunque los registros telefónicos los había creado otra persona, el tribunal consideró que el sitio web había convertido información privada en un producto público, lo que constituía “desarrollo” de la información y le hacía perder la inmunidad.
Luego explicó que, al crear la Section 230, la intención era que las reglas legales del mundo offline siguieran aplicándose en internet. Es decir, toda empresa, ya sea en línea o en una tienda física, debe responder por sus propias obligaciones legales.
Sin embargo, al final, en este caso la intención original no importa mucho; quienes interpretan la ley son los tribunales. De hecho, la Section 230 forma parte de la Communications Decency Act, que fue anulada en gran medida por la Corte Suprema.
https://jolt.richmond.edu/2020/08/27/the-origins-and-origina...
No me opongo a crear nuevas leyes que la sociedad crea que reducen el daño que sufren los usuarios en línea, en especial los niños.
Pero si el rumbo es que desaparezca la Section 230, ¿no terminaría favoreciendo solo a las grandes empresas tecnológicas, que ya cuentan con enormes recursos legales y capacidades de moderación basadas en aprendizaje automático o manuales? Las barreras de entrada para las startups se volverían imposibles de afrontar.
Suena como si las empresas existentes hubieran obtenido, en la práctica, vía libre frente a la responsabilidad por contenido aportado por usuarios, hubieran crecido lo suficiente, y ahora el gobierno estuviera pateando la escalera.
Es bastante buena la interpretación de que el problema de fondo no es si hay que regular a las grandes plataformas tecnológicas como hablantes. Más bien, son intermediarios.
Esta perspectiva se apoya en conceptos legales previos a internet, como distribuidores y productores. Existe la idea de que, como las estructuras legales y gubernamentales no fueron diseñadas para lidiar con la era de internet, habría que rehacerlas por completo; pero este asunto también es relevante e importante como contraejemplo de eso.
Excelente artículo. Parece que el autor hace bastantes suposiciones sobre cómo se desarrollará esto, pero comparto su entusiasmo por el fin de la era de internet como una “tierra de nadie sin ley”.
También encaja bien con el momento actual, en el que esperamos la catástrofe del contenido de IA generativa. Es como cambiar una catástrofe por otra un poco más amable y humana.
Internet existía antes de la CDA y, si mal no recuerdo, era bastante genial. También puede existir después. Si las grandes corporaciones no gastan enormes cantidades de dinero todo el día tratando de estimularnos la amígdala con tonterías, quizá se convierta en un espacio mucho menos saturado, menos tóxico, menos estimulante y menos adictivo.
El punto central del juez Matey es que la Section 230 no otorga inmunidad a TikTok por sus actos, salvo por alojar el video del Blackout Challenge en sus servidores.
Definido así, surge un problema técnico complicado que los tribunales tendrán que resolver. Trabajando en la web, entiendo “hosting” como el acto de guardar un archivo en algún lugar. ¿Lo verá así también el tribunal? ¿O incluirá servirlo, cachearlo, indexarlo, enlazarlo, formatearlo y renderizarlo? Si el editor es responsable siquiera por una parte de eso, la industria terminará en un lugar muy distinto al de 1995.
El fallo en sí dice que esto no trata sobre toda la Section 230, sino sobre la selección y agrupación específicas de videos por parte de TikTok.
TikTok sería responsable no por el contenido de usuarios en sí, sino por la parte en la que configuró la sección “For You”. Tiene sentido, en tanto no está bien manipular a las personas, sea con fines políticos o de la forma en que lo hacen Facebook o Twitter. Así que la Section 230 no terminó.
Ojalá desaparecieran “For You” o las recomendaciones de YouTube. Las líneas de tiempo cronológicas son lo mejor y devolverían algo de cordura. Si no te gusta, no lo sigas.
El fallo consideró que el algoritmo de TikTok que recomendó el Blackout Challenge en el FYP de Nylah era una “actividad expresiva” propia de TikTok, y que, dado que la información en la que se basa la demanda no fue proporcionada por un tercero sino que fue la recomendación algorítmica del FYP de TikTok, la Section 230 no bloquea la reclamación.
Si no hay ningún tipo de filtrado, eso también es un algoritmo que puede usarse para manipular a la gente, y lo único que se vería serían montañas de páginas SEO. Dejar abierta la responsabilidad de esta manera es un pantano que difícilmente traerá buenos resultados para internet.
Aunque las recomendaciones de YouTube o el algoritmo de TikTok me “manipulen”, en lo personal no me molesta en absoluto.
Básicamente, parece que nos acercamos cada vez más al control gubernamental de las redes sociales. Parece una tendencia global, y los gobiernos terminarán definiendo las reglas bajo las cuales operan los servicios de comunicación y las redes sociales.
Sin embargo, si Facebook intentara seleccionar y destacar cierto contenido, ahí surgiría una posible responsabilidad.
La conducta cuestionada en esta demanda es que TikTok sabía, o debería haber sabido, que estaba dirigiendo a menores desafíos que probablemente les causarían daño si los niños los imitaban. Eso va mucho más allá de una simple moderación, y también es el tipo de conducta que varias empresas de redes sociales han sostenido en tribunales que constituye expresión propia de la compañía.
Se reconoce que elegir qué mostrar es una forma de libre expresión que puede tener consecuencias; no es un intento de controlar esa expresión.
La directiva correspondiente es la 2000/31/EC y ya tiene 24 años. Es la precursora de la DSA de la UE y, al igual que la DSA, la 2000/31/EC también tiene alcance extraterritorial.
Por ejemplo, no permitimos anuncios de tabaco, alcohol o cannabis dirigidos a niños. Ahora las empresas también deben asumir las consecuencias de enviarles a niños estupideces como el “Blackout Challenge”.
Que “algún idiota lo subió a nuestra plataforma” y que la empresa lo promocionó, lo avaló y se lo envió a todo el mundo son cosas completamente distintas. Las empresas deben hacerse responsables de sus propios actos.