La vigilancia no es seguridad: declaración sobre la más reciente amenaza a la privacidad en el Reino Unido [pdf]

• Exigir que se escanee todo el contenido de todos los dispositivos vendidos o usados en el Reino Unido con un criterio de detección de desnudez no es protección infantil, sino una medida que pone en riesgo la privacidad y el derecho a comunicarse de todas las personas
• Combinar verificación de edad y escaneo de contenido para exigir a todas las personas residentes en el Reino Unido que prueben su edad o permitan el escaneo completo de su contenido crea una estructura que impone condiciones peligrosas al ejercicio de derechos básicos de comunicación
• Las capacidades de vigilancia y censura a gran escala, una vez creadas, no se quedan dentro de un alcance limitado, sino que se expanden como herramientas para censurar y vigilar aquello que se considere una amenaza o contenido dañino en el Reino Unido y en el extranjero
• La promesa de que se ejecute en el dispositivo tampoco es una protección suficiente, y el alcance del escaneo queda sujeto a la discreción del gobierno, pudiendo pasar de la detección de desnudez de hoy al discurso político de mañana
• La seguridad infantil real depende de una financiación suficiente para la educación, servicios sociales sólidos y salvaguardas significativas para la tecnología de IA y las plataformas; una infraestructura invisible de vigilancia activada por defecto no es la alternativa

---

Postura central

• Los niños deben ser protegidos y criados de forma segura, y no deben convertirse en objeto de vigilancia, recortes presupuestarios ni encubrimiento
• Todas las personas, incluidos los niños, tienen el derecho humano a la privacidad, y las exigencias del gobierno del Reino Unido avanzan en una dirección que vulnera ese derecho
• Las exigencias del gobierno del Reino Unido implican escanear todo el contenido de todos los dispositivos vendidos o usados en el Reino Unido con un criterio de detección de desnudez
  • Este enfoque combina verificación de edad y escaneo de contenido
  • No protege a los niños y pone en riesgo a todo el mundo
  • Refuerza el dominio de mercado y el control sobre la información personal de Apple, Google y Microsoft

Medidas propuestas y riesgos

• Es una propuesta peligrosa crear una estructura en la que todas las personas residentes en el Reino Unido deban probar su edad o someter todo su contenido a escaneo para ejercer derechos básicos de comunicación
• Las capacidades de vigilancia y censura a gran escala son una tecnología que no permanece dentro de límites estrechos, por muy sinceras que suenen las promesas de quienes la impulsan
  • Una vez creadas, tienden a expandirse
  • Son una herramienta peligrosa para censurar y vigilar aquello que se considere una “amenaza” o “contenido dañino” en el Reino Unido y en el extranjero
• La promesa de que el sistema solo se ejecutará en el dispositivo no es motivo suficiente de tranquilidad
  • Ya sea dentro del dispositivo, en la propia cámara o en cualquier otro lugar, su alcance estará determinado por el criterio del gobierno y por las normas de prohibición
  • Hoy puede ser detección de desnudez; mañana, detección de discurso político
• Históricamente, este tipo de tecnología sigue una tendencia de expansión autoritaria del tipo de contenido y de las personas sujetas a vigilancia
  • Estas herramientas pueden usarse para denunciar automáticamente a las personas ante las autoridades gubernamentales
  • Las fuerzas del orden ya han pedido facultades de alcance similar, y en un entorno político cada vez más inestable son poderes con alto potencial de abuso
• La seguridad infantil se acerca más a una educación bien respaldada, servicios sociales sólidos y salvaguardas significativas para la tecnología de IA y las plataformas
• Lo que quiere el gobierno del Reino Unido es una infraestructura invisible de vigilancia activada por defecto
  • Una estructura en la que la legislación podría acelerarse bajo un pretexto cínico
  • Un enfoque que considera poco las necesidades reales de los niños, a quienes dice proteger, y las consecuencias horribles y generalizadas que seguirían en la práctica

[GN⁺]

Opiniones de Hacker News

• A veces me pregunto si la gente de la industria tecnológica que creó cosas como arranque seguro, atestación y DRM vio este desenlace como la inevitabilidad que los defensores del software de código abierto siempre vieron
  Al trasladar por medios técnicos la decisión final del usuario a las empresas, ¿de verdad pensaron que los políticos no podrían trasladar por medios políticos ese control hacia sí mismos?
  Mientras bloqueaban plataformas para exprimir la comisión del 30% de las tiendas de apps, imponían reglas mediante la revisión de apps e incluso mostraban censura de sitios como Tumblr, ¿creían que los políticos no querrían ese mismo poder de fijar reglas y censurar?
  ¿Pensaron que los empleadores impedirían esa transición, que corporaciones valuadas en billones se volverían guerrilleros al estilo de Che Guevara para derrocar el sistema que las convirtió en corporaciones de billones?

  • Me da la impresión de que quienes pueden hacer ese tipo de cosas tienden a aceptar el mundo tal como viene. Algo como: “Así es como funciona el mundo, así que hacen falta restricciones digitales y ahora hay que implementarlas”
    No es tanto que yo pueda decidir si el DRM o la atestación remota son prácticas empresariales estándar o no; es más una actitud de asumir que esa es simplemente la realidad
    Se parece a los dos tipos de personas ante la ley. Unos dicen “esta es la ley, así que hay que seguirla”, y otros dicen “esta ley no tiene sentido, así que hay que cambiarla”
    También es como la diferencia entre quien ve el semáforo peatonal y cruza cuando está en verde, y quien mira si vienen autos y cruza si no viene ninguno. El primero dice que hay que seguir las reglas de tránsito; el segundo piensa que, si solo hubiera mirado el rojo/verde legal, no habría sobrevivido. La luz verde no significa seguridad, y aunque esté en rojo, si no vienen autos no hay razón para no cruzar
  • Al final son empleados. Su empleador los contrata para escribir el código que quiere, y si no lo hacen, los despide y contrata a otra persona para que lo haga
    Por muy éticamente dudoso que sea, sigue siendo muy raro que alguien renuncie a su trabajo para defender su postura
  • Está muy bien dicho
    Creo que uno puede aprender más sobre este problema leyendo a gente inteligente y capaz de las grandes tecnológicas. Su marco suele ser un tradeoff con presiones sociales lentas pero inevitables que, según ellos, se mitigan a costa de ceder libertad
    Así que no creo que desconozcan el punto de arriba. Más bien, se acercan a pensar que ni la tecnología, ni las empresas, y quizá ni la gente común, ven una forma realista de avanzar hacia algo mejor, más rico o más sofisticado sin ese compromiso
    Es como si hubieran visto una bifurcación del futuro y sintieran que, ya sea que lo hagan ellos o que la situación empeore y lo haga alguien más, ningún camino termina sin restricciones técnicas
  • La gente que crea funciones como arranque seguro, atestación y DRM lo sabe perfectamente, pero no le importa. Porque consideran que los beneficios que les presentan —menos hackers, menos malware, menos tráfico de bots— pesan más que los posibles daños para la sociedad en general
  • Recuerdo haber alzado la voz sobre estas cosas hace años. Pero siempre había excusas
    Era algo como “el arranque seguro se puede desactivar, así que no hay problema”. Y sí, es verdad, pero entonces cada vez habrá más cosas que no funcionen. Por ejemplo, no poder usar apps de iOS en una Mac. Al final, como ya pasa en los teléfonos, quedarse dentro del cómodo jardín amurallado será el estándar, y si te sales, las apps que hacen cosas útiles simplemente te bloquearán
    También está la lógica de la atestación de que “las empresas tienen que verificar que realmente eres quien dices ser”. Sí, pero si pueden sacar provecho de ese poder, lo van a abusar

• En orden, esto sería así

  1. Antes de ver contenido para adultos, una tercera parte debe poder verificar la edad, así que la computadora necesita una cámara
  2. Esto se aplica también a las redes sociales
  3. También se aplica al sistema operativo
  4. Si no se hace verificación de edad, la ley terminará exigiendo que la computadora sea lo bastante potente como para ejecutar IA o que esté conectada a internet para enviar fotos privadas a un tercero. Así se podrán detectar y prohibir desnudos. Para que funcione también en llamadas como FaceTime, probablemente tendría que poder ejecutarse en tiempo real
     El siguiente paso probablemente sea volver prácticamente ilegales la mayoría de los sistemas operativos y los dispositivos antiguos. Es una gran noticia para Google, Apple y Microsoft, y una mala noticia para Linux y los sistemas operativos alternativos. Hay que recordar cuando en las escuelas repartían Raspberry Pi
     Además, como nadie entiende cómo funciona la ingeniería de software, están exigiendo que esto se implemente gratis en 3 meses. Tremenda forma de trabajar
  • Ni siquiera haría falta llegar a “el siguiente paso es ilegalizar la mayoría de los sistemas operativos y los dispositivos antiguos”
    En cambio, basta con crear una tecnología nueva, de hecho obligatoria, que no pueda correr en dispositivos viejos. Actualízate o deja de existir socialmente
    Los teléfonos móviles y el correo electrónico ya parecen estar cerca de ser ese tipo de “obligatorios”. Lo digo como usuario de internet que personalmente no usa teléfono móvil ni correo electrónico. Cuando respondo “no tengo teléfono ni correo”, nadie me cree. Soy la persona más libre del mundo que sigue con vida, pero que no me crean ya es problema suyo
  • Este no es solo un problema de tus fotos. Es todo el contenido que se muestra en tu dispositivo, todo lo que capta la cámara, todo. Es recolección total. En GCHQ deben estar encantados
  • ¿La ley de verdad exige una tercera parte? Si fuera una función dentro del dispositivo que los padres pudieran configurar, no sonaría tan terrible
  • Si la presión fascista crece lo suficiente, quizá Usenet vuelva a verse bien. Solo haría falta encontrar una forma de filtrar desde el spam el contenido bueno y conocido, y parece que podría resolverse con identidades OpenPGP
    O, para la gente paciente, siempre están Tor y un gestor de descargas. También podrían existir galerías de fotos y videos generadas de forma estática, repartidas entre miles de sitios pequeños
    La desventaja de empujar a la gente hacia rincones oscuros es que desaparece toda regulación y también una parte de la recaudación fiscal. La pérdida de ingresos fiscales podría ser justo la manera de captar su atención

• Signal tiene que plantarse con firmeza. Algo así estaría bien decirlo
  El gobierno quiere meter un soplón en cada teléfono, poner dispositivos de escucha en cada dormitorio y ponerse a husmear en cada hogar todas las noches. En cada consultorio médico, en cada sala de consejería, en cada pub, en cada calle, en cada tienda
  Cuando ese soplón reporte a casa, la policía podría llegar a tu casa por algo que le escribiste a tu pareja
  Habrá una Stasi artificial en cada desktop, laptop, tablet, cámara y teléfono. Estará en cada esquina y en cada sala. No habrá excepción a su mirada
  ¿Tu aspiradora ya está lista para reportar a casa?

  • ¿Te refieres a la app/plataforma de mensajería Signal? Lo curioso es que en China Signal casi no funciona bien ni usando VPN. Enviar multimedia o imágenes es imposible
    A veces queda bloqueado durante semanas enteras. Otras cosas más o menos funcionan usando VPN
  • Si Signal no se planta, va a perder a los clientes a los que sí les importa la privacidad, y por ahora no perderá a los que no. Pero una fractura alrededor de nuevas soluciones se vuelve casi segura, y aparecerán otras opciones que tus amigos tech o la gente cool de estos días recomendarán a los usuarios comunes
    Ya pasamos por esto antes. La única forma de ganar este juego es no jugarlo. Especialmente con el gobierno: en el momento en que empiezas a jugar, ya perdiste
  • No es muy distinto de The Witness de la novela Gnomon de Nick Harkaway

• La vigilancia reemplaza amenazas personales y periféricas, que se exhiben de cara al público, por una amenaza clara, peligrosa, amplia y prácticamente irreversible. Esa amenaza sigue acumulando una palanca centralizada sobre todos los aspectos directos e indirectos de nuestras vidas
  El conocimiento es poder. Obligar a que nuestra vida interior quede expuesta pone a cada persona en una posición vulnerable
  Incluso “si no se abusa”, la amenaza potencial en sí misma nos quita de verdad la libertad de pensar y actuar
  Esto es un abuso extremo
  El Estado pasa a funcionar como una amenaza unidireccional maximizada contra todos los ciudadanos, y destruye la sensación de que el Estado trabaja para la gente
  El análisis combinado con IA multiplica exponencialmente esa amenaza y los daños pasivos y activos
  Una de las ideas éticas y de seguridad más sabias de la historia es esta: “No se violará el derecho del pueblo a la seguridad de sus personas, viviendas, papeles y pertenencias contra registros e incautaciones irrazonables”
  Una democracia que instala la palanca del totalitarismo pleno es la mayor distorsión y amenaza contra la democracia. La democracia solo funciona mientras reconozca que el gobierno es la mayor amenaza para la libertad. La única defensa es limitar estrictamente el poder del gobierno sobre los ciudadanos

• El gobierno ha venido empujando la vigilancia desde los primeros días del internet de consumo
  El ejemplo más antiguo que recuerdo es el Clipper Chip. Murió tres años después de ser propuesto
  Esta idea estúpida va a fracasar de forma parecida. También la propone un primer ministro que ascendió a embajador, contra la recomendación de la burocracia, a un amigo muy cercano del pedófilo más infame de los últimos tiempos
  ¿Implementar un cambio gigantesco en todos los sistemas operativos del planeta en 3 meses? No suena ni remotamente plausible

• No me desagradaba mucho Starmer, pero con esto por fin me subí al bando anti-Starmer
  Es un legado terrible para dejar. Es un triste intento de lograr el mayor efecto al menor costo. ¿Y además 3 meses? Tal vez ese sea el tiempo que él mismo espera seguir siendo primer ministro

  • Probablemente la gente de Palantir le está haciendo una oferta imposible de rechazar. Es el último empujón antes de jubilarse y desaparecer hacia el atardecer

• Es un trinquete que aprieta cada vez más. Inspección del lado del cliente, atestación remota para garantizar que esa inspección del lado del cliente funcione correctamente, identidad digital, etcétera

• Es digno de elogio que Signal se haya puesto rápido del lado correcto en este tema. Ojalá esta postura se difunda pronto como respuesta a la narrativa demasiado fuerte de que una ley improvisada y hecha a martillazos es el mejor siguiente paso
  El verdadero avance debería ir hacia entender y crear soluciones para la erosión de la comunidad, la confianza y la empatía hacia los demás. Da la impresión de que estas cosas podrían ser síntomas de la falta de inversión, de políticas y de gobernanza para una sociedad sana. Aunque quizá no haya que hablar de exigir responsabilidades, no sea que suene cínico con la política

• ¿Cuándo se enterará la gente de que los políticos se dejaron una cláusula de excepción para ellos mismos y para los aparatos de seguridad? Ojalá esta vez mi pesimismo esté equivocado, pero no es pesimismo sin fundamento

  • Ya es casi una cláusula estándar. Todos se están copiando la tarea entre sí

• “La vigilancia no es seguridad”
  Puede que no lo sea, pero mientras la persona promedio piense eso, en la práctica sí lo será

  • ¿De verdad la persona promedio piensa eso? La percepción sobre lo que otros pensarán no siempre coincide con lo que realmente piensan
  • https://xkcd.com/610/
  • Aun así es un meme excelente. Habría que usarlo más
  • Ojalá la persona promedio tuviera las herramientas y la autoridad para acceder a toda esa información
  • Más bien, ¿no será que esto se cumple mientras el multimillonario promedio piense así?
    La persona promedio no es quien está empujando esto