- Los fiscales generales de 14 estados de EE. UU. presentaron una demanda alegando que TikTok causa daños graves a niños y adolescentes
- Documentos internos y declaraciones de empleados revelan algoritmos adictivos, problemas de salud mental, explotación sexual y exposición a pornografía infantil
- TikTok ha dejado estos problemas sin resolver pese a conocerlos, priorizando los ingresos y la participación de los usuarios
- El sistema de filtrado de contenido y las funciones de control parental son muy ineficaces, y también falla la verificación de edad para impedir el acceso de menores
- Muchos usuarios de la generación Z también reconocen que “están enganchados pero no pueden dejarlo”, y en conjunto el beneficio neto para la sociedad es muy negativo
El daño de TikTok a los niños a escala industrial
Próximo fallo de la Corte Suprema de EE. UU. sobre la ley que prohíbe TikTok
- La Corte Suprema de EE. UU. decidirá si interviene respecto a la ley que prohíbe TikTok
- Si la ley entra en vigor, el servicio se suspenderá en Estados Unidos a menos que ByteDance venda TikTok
- Sin embargo, las pruebas sobre daños reales como salud mental, explotación infantil y adicción han quedado fuera de la revisión legal
- Por eso se subraya la importancia del juicio público (la opinión pública)
Testimonios de personas internas de TikTok y documentos filtrados
Principales demandas de fiscales generales y documentos
- Los fiscales generales de 14 estados, incluidos Kentucky, Utah, Nebraska y Nueva York, presentaron demandas
- Se hicieron públicos numerosos chats internos de Slack, documentos de planeación y datos experimentales
- Se confirmó un diseño y una estrategia algorítmica dirigidos intencionalmente a adolescentes
- En el caso de documentos censurados, bastó con cubrirlos con simples recuadros negros, por lo que fue fácil restaurarlos
Clúster de daños 1: adicción e inducción al uso compulsivo
- TikTok señala explícitamente que los adolescentes son el objetivo que puede aportar más tiempo y participación
- Induce al uso compulsivo mediante algoritmos adictivos, scroll infinito, reproducción automática y diseño de notificaciones
- Los adolescentes son especialmente sensibles a las recompensas sociales (likes, comentarios, etc.) y tienen poca capacidad de autorregulación
- Empleados internos también expresaron su preocupación: “nuestro producto es perjudicial para el desarrollo infantil”
- El informe ‘TikTank’ menciona que los usuarios adolescentes en particular sufren efectos secundarios como fallas de autorregulación, alteraciones del sueño y deterioro de la capacidad de aprendizaje
Clúster de daños 2: problemas de salud mental y burbuja de filtros
- El uso compulsivo provoca ansiedad, depresión, autodesprecio, autolesiones e impulsos suicidas
- Cuentas de prueba cayeron en apenas 20 minutos en una burbuja de filtros llena de contenido sobre depresión, suicidio y trastornos alimentarios
- TikTok sabe que sus filtros de apariencia provocan distorsión de la autoimagen y baja autoestima, pero lo ha dejado pasar
- Los moderadores de contenido no logran bloquear adecuadamente contenido sobre autolesión/suicidio debido a la incapacidad de interpretar el lenguaje, la falta de contexto y la ambigüedad de los criterios
Clúster de daños 3: circulación de pornografía, violencia y contenido sobre drogas
- A cuentas de menores se les recomiendan automáticamente pornografía, anuncios de drogas y videos violentos
- El sistema de filtrado de contenido de TikTok no procesa bien el lenguaje codificado implícito
- Documentos internos muestran que TikTok sabe que en TikTok LIVE ocurren tráfico de drogas, prostitución y lavado de dinero
- Durante la investigación, el fiscal general de Utah presentó un caso en el que un hijo fue contactado directamente por un traficante de drogas
- Entre el 30% y el 100% del contenido gravemente dañino queda sin filtrar y expuesto
Clúster de daños 4: explotación sexual, CSAM y prostitución infantil en transmisiones en vivo
- TikTok decidió deliberadamente no implementar tecnología de detección de material de abuso sexual infantil (CSAM)
- Niños de 13 a 15 años ofrecen contenido sexual en transmisiones LIVE a adultos que les envían regalos (moneda virtual)
- TikTok lo sabe y aun así lo ha dejado pasar por razones de rentabilidad y para mantener la participación
- También existen transmisiones en las que niños aparecen sosteniendo mensajes como “helado = bulto” y “universo = quitarse la ropa”
- La función LIVE es muy dañina para los niños, pero dentro de TikTok se dijo que “es demasiado rentable como para restringirla”
Clúster de daños 5: desprecio por los límites de edad y falta de respuesta
- TikTok tiene restricciones de edad, pero no sanciona aunque sabe que hay inscritos menores de 13 años y uso infantil
- La verificación de edad es prácticamente inútil, y los menores pueden mentir fácilmente sobre su edad
- La función de control parental (Family Pairing) casi no se usa y no ofrece una protección real
- Existen documentos internos según los cuales TikTok usa las funciones de seguridad solo como una “coartada” para el gobierno y los medios
- Mantener el DAU (usuarios activos diarios) y la tasa de participación es el objetivo central de todas las decisiones, y la seguridad queda fuera de las prioridades
El arrepentimiento y la dependencia de los usuarios jóvenes
- Muchos usuarios de TikTok responden: “sé que soy adicto, pero no puedo dejarlo”
- En experimentos, muchos respondieron que lo dejarían con gusto si todos lo dejaran al mismo tiempo
- En una encuesta de Harris Poll, TikTok tuvo el porcentaje más alto entre las redes sociales, con 47% diciendo “ojalá nunca hubiera existido”
- TikTok es una plataforma con adicción conductual y adicción social al mismo tiempo, y los propios usuarios reconocen que les hace daño
Conclusión: necesidad de regular TikTok para proteger a los niños
- Los daños que ocurren en TikTok no son simples accidentes, sino resultados diseñados
- Millones de niños estadounidenses están sufriendo graves daños mentales y físicos incluso con un uso normal
- Bajo las políticas actuales de algoritmo y contenido, TikTok es una plataforma que vulnera la propia infancia
- Incluso para el conjunto de la sociedad estadounidense, la suspensión del servicio de TikTok el 19 de enero podría ser un cambio positivo
1 comentarios
Opiniones de Hacker News
Haidt no es precisamente la persona más cuidadosa con el análisis de datos, pero durante la última década sus afirmaciones principales en general han ido en la dirección correcta
Cuando la oficina del fiscal general de Kentucky publicó el informe sobre TikTok, tapó el texto con rectángulos negros, pero se podía copiar con el cursor y leer el texto oculto. Una situación muy graciosa
Aunque no tiene hijos, comparte una experiencia personal sobre cómo son posibles otras maneras de relacionarse con la tecnología y los niños
Le sorprende que sea común que mujeres jóvenes y adolescentes reciban solicitudes de regalos y comentarios sexualizados. Esto puede tener un gran impacto en personas menores de 18 años
Se pregunta por qué los informes internos escriben cosas que la dirección no quiere escuchar
Le parece divertida la manera inapropiada en que la oficina del fiscal general de Kentucky manejó la censura
Cree que sería bueno que los padres bloquearan ciertos sitios en los dispositivos de sus hijos. No habría sido necesario ampliar la censura y la vigilancia
Comparte su experiencia de haber tenido que bloquear por su cuenta las redes sociales por lo adictivas que son. Desde una perspectiva educativa, ver videos puede ser útil, pero conviene usar resúmenes de LLM para identificar el contenido útil