No conviertan la protección infantil en control del acceso a internet

• Los sistemas de verificación de edad que se están expandiendo en todo el mundo van más allá de la simple protección infantil y están reconfigurando la propia estructura de acceso a internet
• Este sistema funciona como una arquitectura de control de acceso basada en la idea de “demostrar la identidad antes de acceder”, y en algunos casos se está ampliando hasta una capa de identidad a nivel del sistema operativo
• Al confundir la moderación de contenido con el rol de los tutores, se está deformando en una estructura de control centralizada en la que las plataformas y el sistema operativo sustituyen el criterio de los padres
• Aunque es fácil evadirlo técnicamente, todos los usuarios terminan pagando el costo en forma de recolección de datos y barreras de acceso, y existe el riesgo de que esta infraestructura de control se extienda a la verificación de otros atributos
• El verdadero riesgo está en los sistemas de recomendación y los diseños adictivos, y la protección infantil debe lograrse reforzando el control local y manteniendo una estructura de internet no basada en permisos

---

La confusión entre verificación de edad y control del acceso a internet

• Los sistemas de verificación de edad se están extendiendo más allá de los sitios para adultos hacia los principales servicios en general, como redes sociales, mensajería, juegos y búsqueda
  • En varias regiones como Europa, Estados Unidos, Reino Unido y Australia, su legislación está en marcha
  • El punto clave del debate no es si se expandirá, sino cómo este sistema está cambiando la estructura de internet
• Técnicamente, la verificación de edad no funciona como una simple función de protección infantil, sino como una arquitectura de control de acceso
  • Se pasa de una estructura existente de “acceso permitido por defecto y bloqueo como excepción” a una de “necesidad de demostrar la identidad antes de acceder”
  • Cambia hacia un sistema en el que el usuario debe demostrar su información antes de recibir el contenido
• En algunas propuestas de Estados Unidos, la verificación de edad se desplaza hacia una capa persistente a nivel del sistema operativo (OS)
  • El OS proporciona una interfaz del sistema que mantiene el estado de edad del usuario y lo expone a las apps
  • En este caso, la verificación de edad deja de ser un medio limitado de protección y se expande a una capa de identidad para todo el dispositivo
  • También ha habido presión sobre el ecosistema Linux, con casos en los que se añadió un campo birthDate a userdb de systemd

Distinguir entre la moderación de contenido y el rol de los tutores

• El error central del debate actual está en confundir la moderación de contenido (content moderation) con el rol de tutela (guardianship)
  • La moderación de contenido es un problema de clasificación y filtrado: decidir qué contenido bloquear, mostrar o retrasar
  • El rol de tutela es la responsabilidad de adultos de confianza como padres, maestros o escuelas de juzgar y orientar según el contexto
  • La moderación es técnica, mientras que la protección es relacional, local y situacional
• La legislación sobre verificación de edad combina estos dos problemas en una sola solución centralizada
  • Se deforma en una estructura en la que plataformas, navegadores, tiendas de apps, OS e intermediarios de identidad sustituyen el criterio de los tutores
  • Es una abstracción equivocada que reduce problemas educativos y sociales a un problema de autenticación

Limitaciones técnicas y efectos secundarios

• Los mecanismos de evasión son claros: VPN, cuentas ajenas, credenciales compradas, información falsificada, evasión de sistemas de estimación de edad, etc.
  • Evadirlo es fácil, aplicarlo es costoso y el efecto real de protección es mínimo
  • Como resultado, existe el riesgo de que termine ampliando la recolección de datos por parte de las empresas
• Todos los usuarios pagan el costo
  • Más verificación de identidad, metadatos, registros, intermediarios y fricción de acceso
  • Para quienes no tienen dispositivos o documentos adecuados, o carecen de habilidades digitales, esto se convierte en una barrera de acceso
  • No es una simple función de seguridad, sino una nueva capa de control sobre la red
• Una vez construida, esta infraestructura puede extenderse fácilmente a atributos distintos de la edad
  • Puede reutilizarse para ubicación, ciudadanía, estatus legal, políticas de plataforma, etc.
  • Una verificación limitada puede deformarse en un sistema general de puertas de acceso

Un enfoque alternativo

• Es necesario separar los problemas
  • La moderación de contenido debe realizarse cerca del endpoint (navegador, dispositivo, red escolar, listas locales de confianza)
  • El rol de tutela debe recaer en padres, maestros y comunidades locales, que puedan hacer juicios contextuales, permitir excepciones y realizar ajustes continuos
• El sistema operativo debe funcionar solo como una capa de políticas locales controlada por el usuario y los tutores
  • No debe evolucionar hacia una capa que difunda universalmente información de edad a apps y servicios remotos
  • Esa línea es un límite arquitectónico

El origen del verdadero riesgo

• La mayor parte del daño en línea no proviene de la mera existencia del contenido, sino de los sistemas de recomendación, los dark patterns, las métricas adictivas y los modelos de negocio centrados en la amplificación irresponsable
  • Si el objetivo es proteger a los menores, la regulación debe centrarse en esa área

• La protección infantil es necesaria, pero internet no debe convertirse en un sistema basado en permisos

  • Para reducir el daño, en vez de intentar identificar a todo el mundo, es importante reforzar el control local sin convertir la red en una serie de puestos de control

[GN⁺]

Comentarios de Hacker News

• Hay que separar la protección infantil del control de internet. Para evitar que el pretexto de “protejamos a los niños” termine convirtiéndose en control de todo internet, se proponen tres funciones que serían posibles incluso sin nuevas leyes

  1. Plataformas como Discord o Gmail deberían ofrecer una función de bloqueo adicional con contraseña al cambiar la información del perfil, especialmente la edad. Los padres podrían establecer la edad en el dispositivo de sus hijos y protegerla con una contraseña
  2. Los desarrolladores de sistemas operativos deberían añadir un interruptor protegido con contraseña para controlar la instalación y actualización de apps. Funcionaría como sudo en Linux, permitiendo a los padres controlar qué apps pueden ejecutarse en el dispositivo de sus hijos
  3. Los fabricantes de dispositivos deberían hacer de código abierto los drivers y el firmware, y permitir que el usuario bloquee/desbloquee el bootloader con una contraseña personalizada. Así los padres podrían instalar un SO amigable para niños basado en open source. Apple y Samsung han obstaculizado durante mucho tiempo este tipo de intentos
  • En resumen, se entiende como una estructura donde los padres establecen la edad del menor y las apps usan esa información a través de una API del SO. Esto es similar a la ley de California
  • También se podría empezar ampliando la función 2 con un método simple: si el servidor envía un encabezado de “mayor de 18 años”, bloquear ese sitio web
  • Pero para implementar realmente este tipo de funciones, “una semana” ni de cerca alcanzaría. La integración a nivel de sistema es casi una guerra cultural

• Los sectores que gritan “protección infantil” en realidad buscan que las plataformas eviten responsabilidad legal. El objetivo sería reducir la moderación de contenido y recortar costos

  • Esto forma parte de un movimiento para reforzar la censura y forzar la exposición de la identidad. Algunos dicen que Meta lo impulsa, aunque incluso ellos podrían ser solo peones de fuerzas mayores
  • La expresión “fue a una isla” suena conspiranoica. No todos los que apoyan el proyecto de ley son de ese tipo
  • En realidad, la causa principal es el lobby de Meta. Las narrativas exageradas no ayudan
  • Controlar los medios equivale a controlar el mensaje. Una estructura de vigilancia al estilo 1984 se está volviendo realidad
  • También hay respuestas burlonas preguntando: “¿Qué isla?”

• El verdadero problema no es la verificación de edad, sino la verificación de identidad real del usuario. Es un intento de vincular toda actividad en internet con la identidad personal

  • Sin embargo, sí se está permitiendo la verificación de edad basada en ID digital + pruebas de conocimiento cero (ZKP). Ver el blog relacionado de Google
  • Los efectos secundarios de la anonimidad también son reales. Las filtraciones de información ya amenazan la vida y el patrimonio. No se puede ver solo como un “giro fascista”, y también es problema que el sector tecnológico no haya presentado alternativas realistas. Hay más víctimas adultas que niños. Internet no es un lugar para que los niños anden solos

• Cuando era niño, tuve acceso ilimitado a internet. Como eso tuvo un gran impacto en mí, no pienso darles esa misma experiencia a mis hijos.
  En Brasil se volvió obligatorio el uso de reconocimiento facial y verificación de identidad para sitios para mayores de 16 años, lo que implica un alto riesgo de filtración de datos biométricos. Es una ley contradictoria que al mismo tiempo incluye una cláusula de “prohibición de vigilancia” y otra de “auditabilidad”.
  Cuanto menos familiarizada está la gente con la tecnología, más fuerte suele apoyar estas leyes, y si uno se opone, lo acusan de “defender el abuso infantil”. La responsabilidad de proteger recae en los padres

  • Por el contrario, yo crecí gracias a un internet sin filtros y me convertí en programador y emprendedor. La libertad y la autonomía fueron lo que me formó. Mis pares más controlados parecen, más bien, menos conscientes del mundo
  • También aparece la pregunta de “¿qué impacto concreto tuvo esa experiencia en ti?”

• Ya es demasiado tarde. “Protección infantil” es otro nombre para la recolección de datos y el refuerzo de la vigilancia. Las generaciones jóvenes están perdiendo incluso la noción de privacidad

  • Aun así, mientras siga existiendo el espíritu hacker y la desobediencia civil, no se puede renunciar
  • También podría ser no solo ignorancia, sino una generación con valores distintos
  • La decadencia moral de la industria tecnológica también es un problema. Justifican construir sistemas de vigilancia por unas cuantas RSU
  • En realidad, casi nunca ha existido privacidad total en internet. Desde inicios de los 2000, las agencias de inteligencia ya vigilaban
  • Pero los casos reales de crimen digital son graves. No se puede absolutizar la privacidad, como muestra el caso de una chica de 17 años atraída y asesinada a través de Discord y Roblox. Toda la sociedad tiene la responsabilidad de proteger a todos los niños

• Si fuera un sistema que controlara ambos extremos, estaría bien. Sueltan una broma de efecto boomerang tipo “no puedes entrar por ser demasiado viejo”

• Desde otra perspectiva, se conecta la Dead Internet Theory con la caída de los ingresos publicitarios. La hipótesis es que se impulsa una internet con identidad real obligatoria para demostrar que uno es una persona real

  • Antes eran los gobiernos los que exigían escaneos de identificación, pero ahora lo quieren los anunciantes y las empresas. Dentro de la lógica capitalista, esa diferencia es importante

• Los grupos religiosos usan como argumento la prevención de la trata infantil para impulsar restricciones al acceso al porno

  • Algunos grupos buscan frenar el contenido LGBT+. La Heritage Foundation sostiene que “bloquear contenido trans es proteger a los niños”. Ver este artículo relacionado
  • También hay respuestas de gente que quiere saber qué grupo religioso hace este tipo de actividades y dónde
  • Otros sostienen que “esta vez Meta está detrás de todo”
  • Otra persona menciona que los programas para refugiados son aprovechados como ruta para la trata de personas

• Se propone “un internet que, si no haces nada, se considere por defecto en modo infantil y bloquee el rastreo, la publicidad y los feeds”.
  Si uno quiere, podría pagar para desbloquear anuncios y feeds mediante ID digital + ZKP

  • Pero este tipo de propuestas no significa nada para los gobiernos que no se preocupan sinceramente por “proteger a los niños”, sino que quieren construir una red de vigilancia. Incluso las democracias occidentales están erosionando la libertad en internet mediante una concentración gradual del poder. El eslogan emocional de “piensen en los niños” es una estrategia para paralizar el juicio racional. Que internet libre haya sobrevivido tanto tiempo ya era un milagro

• Quienes impulsan estas leyes son los mismos sectores que intentan censurar bibliotecas. En vez de dialogar, son malos padres o padres incapaces que quieren imponer por ley sus valores conservadores