- El proyecto de ley de escaneo de CSAM de la UE podría obligar a los servicios de mensajería a inspeccionar automáticamente las comunicaciones de los usuarios, expandiendo el debate más allá de las medidas de protección infantil hacia un cambio en los límites de los derechos fundamentales en una sociedad democrática
- Podría exigirse la detección de CSAM conocido y desconocido, así como la detección de grooming en tiempo real, y los críticos temen que las comunicaciones privadas de todos los usuarios queden dentro de una red de vigilancia no dirigida
- La cuestión legal no se limita a la proporcionalidad, sino que se extiende a si se vulnera la esencia misma de los derechos fundamentales; Frederik Borgesius considera que el acceso masivo al contenido de las comunicaciones podría dañar la esencia del derecho a la privacidad
- La detección con IA y el escaneo en el lado del cliente no están listos para un despliegue a gran escala y, por los falsos positivos, la evasión y la posibilidad de manipulación, podrían causar daños no intencionales tanto a niños como a adultos
- Como alternativas se mencionan la protección del cifrado de extremo a extremo, investigaciones dirigidas, rastreo de material disponible públicamente en la web y el refuerzo de la prevención, el apoyo a víctimas y la cooperación policial; los legisladores de la UE están ante la necesidad de reescribir de fondo la disposición sobre órdenes de detección
Puntos clave de la propuesta de escaneo de CSAM en la UE
- El proyecto de ley de escaneo de CSAM que se debate en Europa podría exigir a los servicios de mensajería inspeccionar el contenido de las comunicaciones de los usuarios
- El alcance incluiría CSAM conocido, CSAM desconocido e incluso detección de grooming en tiempo real
- En las apps que reciban una orden de detección, todas las comunicaciones de los usuarios podrían quedar vigiladas de forma automática y no dirigida
- En un seminario organizado por el European Data Protection Supervisor, más de 20 ponentes se opusieron a la propuesta
- El seminario duró unas 3 horas
- Ylva Johansson, de la European Commission, fue invitada pero no asistió, y tampoco hubo otros representantes de la Commission
- La Commission ha sostenido que la propuesta es una respuesta proporcional y focalizada a un problema creciente
- También se señaló que recientemente se habrían usado anuncios de microtargeting para promocionar el plan
- En la UE también avanza una propuesta legislativa separada para limitar el uso de microtargeting político
El EDPS advierte sobre un punto de inflexión para la privacidad
- Wojciech Wiewiórowski, del EDPS, advirtió que si se aprueba una ley que obligue a una vigilancia masiva y sistemática de la mensajería privada, la UE podría llegar a un punto de no retorno
- La propuesta no trata solo de “proteger a la infancia”, sino que sacude el fundamento de cómo funciona la privacidad en una sociedad democrática
- Si se aprueba sin cambios, podría transformar de forma fundamental la naturaleza de internet y de la comunicación digital
- Hace un año, el EDPS y el European Data Protection Board ya habían señalado en una opinión conjunta que esta iniciativa legislativa genera serias preocupaciones sobre protección de datos y privacidad, incluido el cifrado
Proporcionalidad legal y esencia de los derechos fundamentales
- La Commission presentó el borrador del proyecto de ley sobre CSAM en mayo de 2022, y desde entonces han crecido las objeciones sobre su impacto en derechos humanos y su legalidad
- La legislación de la UE exige que las restricciones a derechos fundamentales como la privacidad y la libertad de expresión sean necesarias y proporcionales
- Está prohibido imponer a las plataformas online una obligación general de monitoreo de contenidos
- Una ley que, por diseño, convierta los mensajes de cientos de millones de europeos en objeto de vigilancia podría chocar con ese principio
- Frederik Borgesius, de Radboud University, considera que la propuesta no es una forma proporcional de limitar derechos fundamentales
- Puso como comparación los casos de retención de datos vinculados al terrorismo, y señaló que el máximo tribunal de la UE ha invalidado repetidamente el almacenamiento general e indiscriminado de metadatos de europeos
- Esta propuesta va más allá, porque no trata de metadatos sino del análisis del contenido de las comunicaciones
- Borgesius considera que, desde la perspectiva de la Carta de Derechos Fundamentales de la UE, si se vulnera la esencia de un derecho fundamental, la medida puede ser ilegal incluso sin pasar la prueba de proporcionalidad
- Si las autoridades pueden acceder de forma masiva al contenido de las comunicaciones, eso se relaciona con una vulneración de la esencia del derecho a la privacidad
El objetivo de proteger a la infancia y el riesgo de daño real
- Varios ponentes criticaron que la propuesta no encaja con la complejidad social del abuso sexual infantil
- Una parte importante de las imágenes sexuales relacionadas con menores que circulan online puede provenir del sexting consentido entre menores
- En esos casos, la ley podría terminar investigando o criminalizando a niños que están explorando su propia identidad sexual
- Es difícil determinar si algo es CSAM basándose solo en la imagen; el contexto importa
- Arda Gerkens, de Países Bajos, considera que escanear las comunicaciones privadas puede detectar situaciones problemáticas, pero no es la solución al abuso sexual infantil
- Sí apoya un escaneo limitado de CSAM conocido en sitios web de alojamiento de imágenes para impedir su difusión
- Pero lo entiende como una herramienta para frenar la propagación, no para perseguir penalmente
- Gerkens señaló que la propuesta de la Commission se concentra demasiado en las comunicaciones privadas y en el enjuiciamiento posterior, más que en los sitios de alojamiento de imágenes
- El volumen de imágenes podría desbordar los sistemas actuales y aumentar la presión sobre sistemas policiales ya frágiles
- Una mejor inversión podría ser fortalecer la cooperación entre países de la UE y los sistemas de aplicación de la ley
Cifrado de extremo a extremo y un enfoque centrado en la prevención
- Susan Landau, de Tufts University, considera que la propuesta de la Commission no distingue entre los diferentes tipos de abuso y explotación sexual infantil que ocurren en internet
- Un enfoque centrado en investigación y procesamiento penal puede topar con límites en muchos casos
- En una gran mayoría de los casos de prostitución basada en internet, el agresor es alguien cercano a la víctima, y la víctima puede no querer denunciar
- Lo que se necesita son espacios seguros para niños, espacios comunitarios, educación en seguridad online, educación en seguridad y diseño seguro
- Landau considera que hay muchas maneras de prevenir e investigar el abuso sexual infantil que no se ven afectadas por el cifrado de extremo a extremo
- El cifrado de extremo a extremo es una tecnología que protege tanto a niños como a adultos
- Helen Charles, de WhatsApp, dijo que la plataforma de mensajería propiedad de Meta apoya el objetivo de combatir el abuso sexual infantil, pero considera que el enfoque de la Commission no se ajusta bien al problema y puede tener grandes consecuencias no intencionales para usuarios web de todas las edades
- Escanear el contenido de mensajes cifrados de extremo a extremo debilita los derechos fundamentales
- Se necesitan condiciones razonables y proporcionales para que los servicios puedan actuar contra el CSAM sin acceder al contenido de los mensajes
- Charles propuso permitir que, bajo la ePrivacy Directive de la UE, las plataformas aprovechen mejor los datos de tráfico, es decir, los metadatos, con fines preventivos
- La excepción temporal vigente de ePrivacy solo cubre la detección, denuncia y eliminación de CSAM en mensajes no cifrados de extremo a extremo, y no incluye la prevención
- Meta dijo que, donde es legal, identifica conductas problemáticas mediante técnicas que incluyen datos de tráfico
Limitaciones técnicas de la detección con IA y del escaneo en el lado del cliente
- Jaap-Henk Hoepman, de Karlstad University, señaló que la tecnología de detección de CSAM es propietaria, por lo que es difícil verificar de forma independiente las afirmaciones sobre su precisión
- PhotoDNA de Microsoft y NeuralHash de Apple no son algoritmos abiertos que puedan investigarse públicamente
- Por eso hay que depender de las cifras de efectividad que entregan las empresas
- Hoepman dijo que investigaciones que hicieron ingeniería inversa a PhotoDNA revelaron fallas básicas
- Se mencionó evidencia de que es fácil evadir la detección de huellas de CSAM conocido rotando la imagen o invirtiéndola horizontalmente
- Un atacante también podría manipular imágenes aparentemente inocuas para que fueran detectadas como CSAM, incriminar a personas inocentes o saturar el sistema de detección
- Alexander Hanff advirtió que, si se escanean decenas de miles de millones de comunicaciones al día, incluso una tasa de error de 0.1% podría generar millones de falsos positivos o falsos negativos diariamente
- Claudia Peersman, de University of Bristol, presentó la evaluación del Rephrain Centre
- Cinco proyectos de prueba de concepto para escanear CSAM en entornos E2EE, desarrollados con apoyo del gobierno británico, no cumplieron los criterios de evaluación
- No se opone al desarrollo de herramientas de protección infantil online apoyadas por IA, pero considera que no están listas para desplegarse a gran escala en mensajes privados dentro de entornos cifrados de extremo a extremo
- Matthew Green, de Johns Hopkins University, dijo que la investigación sobre escaneo en el lado del cliente está en una etapa muy temprana
- El primer artículo de ciencias de la computación sobre este tema apareció en 2021, y menos de dos años después ya se estaba discutiendo una ley para volverlo obligatorio
- Los investigadores siguen encontrando maneras de romper estos sistemas, lo que puede resultar en violaciones de confidencialidad del usuario, falsos positivos e inyección de datos maliciosos
- Hace falta tiempo para estudiar si puede implementarse de forma segura
Una legislación que deja fuera los derechos y la voz de la niñez
- Varios ponentes criticaron que los legisladores no están abordando suficientemente las opiniones y derechos de la niñez
- Gerkens dijo que se está juzgando lo que hacen los niños online sin haberlos incluido realmente en el proceso legislativo
- Sabine Witting, de Leiden University, evaluó que la propuesta afecta negativamente la privacidad infantil, la protección de datos personales, la libertad de expresión y el derecho de acceso a la información
- El General Comment No. 25 del Comité de los Derechos del Niño de la ONU considera que la privacidad es esencial para la seguridad infantil
- La privacidad no es un obstáculo para la seguridad infantil, sino una condición previa importante
- Witting considera que, si mensajes privados entre adolescentes son capturados por el escaneo de CSAM, la propia investigación puede ser dañina
- Especialmente para jóvenes de comunidades marginadas, como niños LGBTQ+, podría derivar en exposición indebida, mayor marginación y, en el peor de los casos, persecución política
- El escaneo de comunicaciones privadas, la revisión adicional por parte del sector privado y del gobierno, y la intervención policial constituyen una grave vulneración del derecho a la privacidad infantil
- Ella Jakubowska, de EDRi, mencionó una encuesta representativa a adolescentes de 13 a 17 años en 13 Estados miembros de la UE
- Si las autoridades pudieran vigilar las comunicaciones digitales con el fin de escanear CSAM, 80% dijo que no se sentiría cómodo con actividades políticas ni con la exploración sexual
Vigilancia digital sin orden judicial y temor a la expansión de misión
- Iverna McGowan, de Center for Democracy and Technology, considera que las órdenes de detección equivalen a registros sin orden judicial en el mundo digital
- Así como no aceptaríamos que las fuerzas del orden entraran a una casa o a un espacio privado para revisarlo todo sin orden judicial ni sospecha razonable, tampoco debería permitirse en el espacio online
- McGowan cree que la disposición sobre órdenes de detección debe reescribirse desde la raíz
- Debe ser lo suficientemente precisa para que no se aplique a personas que no son sospechosas de ningún delito
- Se necesita aprobación de una autoridad judicial independiente y verificación del propósito y la base de la sospecha
- También debe incluir una evaluación independiente de proporcionalidad
- Varios ponentes expresaron preocupación por una posible expansión de misión alrededor de Europol
- Según documentos obtenidos por la prensa, Europol habría querido acceso sin filtros a los datos obtenidos bajo la propuesta de escaneo de CSAM
- La eurodiputada Saskia Bricmont considera que Europol busca convertirse en un hub de datos y ampliar y reforzar su misión
- La propuesta inicial de la Commission exigía que todos los reportes que no fueran “manifiestamente infundados” se enviaran al mismo tiempo a Europol y a las autoridades nacionales
- Bricmont considera que Europol presionó para ampliar la detección más allá del CSAM hacia otras áreas delictivas
Problemas de confianza entre la Commission y sus críticos
- El seminario se celebró dos días antes de que Ylva Johansson compareciera ante una audiencia del comité de libertades civiles del European Parliament
- Los críticos consideran que Johansson y la Commission no han mostrado suficiente transparencia ni rendición de cuentas sobre esta propuesta controvertida
- Bricmont cuestionó que se esté usando un tema tan sensible como el abuso sexual infantil para impulsar un plan de vigilancia integral con gran impacto sobre los derechos fundamentales de cientos de millones de europeos
- Dijo que hace falta saber más sobre la investigación periodística de BalkanInsight y sobre posibles conflictos de interés
- También considera que la ausencia de la Commission alimenta la falta de diálogo y la sospecha
- En una entrada de blog, Johansson criticó los ataques personales contra ella y las acusaciones de lobby opaco
- Señaló que EDRi, la mayor ONG europea de derechos digitales, recibe financiamiento de Apple, sugiriendo que la oposición de la sociedad civil podría representar intereses de Big Tech
- Jakubowska considera que la Commission plantea falsamente una elección entre privacidad y seguridad
- La privacidad y la seguridad se refuerzan mutuamente
- También advirtió de riesgos para el secreto profesional, por ejemplo la confidencialidad abogado-cliente, y de posibles obstáculos para que sobrevivientes accedan a la justicia
Alternativas: investigaciones dirigidas, depuración de material público y diseño seguro
- El eurodiputado Patrick Breyer ha descrito esta propuesta como algo “sin precedentes en el mundo libre” y la ha llamado “Chatcontrol”
- Considera que, en lugar de polarizar el debate, hay que conservar aquello en lo que todos pueden estar de acuerdo y sumar enfoques nuevos y eficaces
- La dirección que propone Breyer pasa por eliminar las órdenes de detección, núcleo de la controversia, y apostar por la focalización
- El escaneo de comunicaciones debe limitarse estrictamente a personas de quienes se sospeche participación en explotación sexual infantil
- La detección voluntaria no dirigida presenta los mismos problemas de proporcionalidad que la detección obligatoria
- El escaneo en el lado del cliente, que convierte los dispositivos personales en escáneres, debe excluirse explícitamente
- Como alternativa a la vigilancia masiva, se propone el rastreo previo de material públicamente accesible
- Se mencionó que esto ya se hace en Reino Unido y Canadá
- El nuevo EU Centre podría enfocarse en la depuración de la web pública, la prevención del delito, el apoyo a víctimas y las mejores prácticas policiales
- Breyer considera que el foco debe estar en el diseño seguro y no en la verificación obligatoria de edad
- Planteó preguntas de diseño como si los perfiles deberían ser privados por defecto, si cualquier persona debería poder enviar fotos a usuarios nuevos o si los usuarios deberían poder elegir si ver imágenes de desnudos
- Para prevenir el abuso sexual infantil no basta con un enfoque técnico; las soluciones no técnicas son importantes
- Si los legisladores no logran una reforma razonable, podrían llegar a su fin la mensajería privada verdaderamente confidencial y el cifrado seguro, y abrirse la puerta a métodos autoritarios sin precedentes en una democracia
1 comentarios
Opiniones de Hacker News
“El hecho mismo de que personas vean estas imágenes es precisamente el acto que la Comisión intenta combatir, y en sí mismo es una forma de abuso. Así que, si toman una foto inocua compartida entre personas que dieron su consentimiento y, como parte de un procedimiento de investigación, la exponen potencialmente a cientos de personas, al final en realidad están creando más víctimas”
Este es el punto central. Este plan no es que tenga muchos efectos secundarios: en realidad dañará a las mismas personas que pretende proteger
Hablando en serio, cada vez que alguien justifica una acción con apelaciones emocionales simplistas como “piensen en los niños” o “piensen en los terroristas”, no puedo verlo como otra cosa que manipulación barata
Creo que quienes están a favor deberían respaldar sus argumentos de seguridad con cifras concretas. Nos están pidiendo renunciar a demasiado sin asumir responsabilidad, y no creo que el daño sea menor que el beneficio
Por ejemplo, la Patriot Act no produjo una ola de persecución del terrorismo; más bien facilitó violaciones masivas de derechos humanos, pero los derechos arrebatados no volvieron. Lo mismo con el enorme endurecimiento de la seguridad en los aeropuertos: no sé cuántos terroristas han atrapado llevando un cortaúñas, pero parece que la mayoría de los intentos de atentado pueden disuadirse con métodos menos invasivos
Un nivel peor que eso es el de las personas que tienen que buscar en publicaciones de redes sociales los tipos más horribles de violaciones a los términos de servicio: imágenes de violencia extrema, sangre y atrocidades. Muchas personas en esos puestos necesitan mucha terapia para soportarlo, pero lamentablemente parece que muchas veces no tienen acceso a ella
¿Tener que mirar CSAM sospechoso todo el día y decidir si se permite o no? Es difícil siquiera imaginar qué efecto tendría eso en una persona
CSAM no es más que una cortina de humo. El objetivo es la vigilancia, y si logran imponer esto a la fuerza, pronto se ampliará rápidamente para abarcar absolutamente todo
Sinceramente, ya no veo a la UE como un bien público. En realidad hace bastante tiempo que no; ha degenerado en una tecnocracia burocrática
Antes de que alguien intente decir “puedes votar por el Parlamento y puedes votar por uno de los miembros de la Comisión, así que todo está bien”, lo sé. Aun así, eso no mejora nada. En la implementación actual, la democracia es tan indirecta que casi podrían eliminarla por completo. Proyectos de ley como este seguirán saliendo uno tras otro hasta que alguno pase. No puedo apoyarlo
Hay que detenerlo, pero temo que al final ocurra en algún sitio. Una vez que se implemente en algunos países occidentales, otros países tendrán un plano para copiarlo. La ciudadanía está siendo engañada en todas partes, y mucha gente, tanto no técnica como incluso técnica, cree que esto es algo bueno. Amigos míos en Estados Unidos, el Reino Unido y Australia también aplauden que cosas como esta lleguen a sus países. Porque es por los niños
Lamentablemente, nadie se toma este problema con suficiente seriedad como para lanzar campañas masivas de publicidad y televisión en los Estados miembros para educar a la gente de que esto es malo para todos y que tampoco ayuda a los niños
Creo que este intento de escaneo del lado del cliente se va a caer, y más aún, espero que así sea. No solo porque destruye claramente las libertades civiles en la UE, sino porque, incluso si se implementa, está destinado a fracasar
La idea básica no es efectiva contra CSAM ni contra ningún escenario de usuarios adversarios. Pero mis esperanzas no tienen un historial demasiado bueno frente a la realidad legislativa
No se puede confiar en el cliente. Dejando de lado que muchísimos servicios existentes y futuros simplemente no lo implementarán, será relativamente fácil acceder a versiones de apps que eliminen esa telemetría. Por ejemplo, algo así como que surja WhatsAppium respecto de WhatsApp, como VScode y VScodium
También hay que pensar en la posibilidad de spoofing. Alguien podría enviarle un mensaje a otra persona para obtener su ID de cliente y luego reportar que ese cliente detectó el peor CSAM imaginable
Hay que pensar en los falsos positivos. Hay que pensar en los costos. Hay que pensar en los niños. Hay que pensar en los niños cuyos padres no abusivos se vean acosados por sospechas de CSAM por enviarse entre sí fotos normales pero que puedan confundirse, y algunos de los cuales serán separados de sus hijos
Aprobar esta ley sería una enorme pérdida de tiempo que los legisladores podrían usar mejor. Implementar esta directiva consumirá una enorme cantidad de dinero y know-how para construir un sistema defectuoso y explotable. En la aplicación de sus resultados se generará un sufrimiento incalculable que no tendrá nada que ver con CSAM. Y después de atrapar a los primeros delincuentes, lo más probable es que los actores adversarios simplemente empiecen a usar otros canales
Pero para entonces, el tema de conversación ya se habrá desplazado al escaneo del lado del cliente de los pensamientos
Me pregunto cómo creen que un falso positivo llevaría a la separación de los hijos
Incluso las personas que son condenadas de verdad por posesión de CSAM actualmente no pierden necesariamente el derecho de acceso a sus hijos
“CSAM conocido y desconocido”
Viendo hasta dónde ha llegado actualmente la IA de imágenes, esto sin duda generará una cantidad enorme de falsos positivos. De hecho, si todavía no es así, pronto será imposible filtrar los falsos positivos. Este plan parece estar peleando la guerra pasada justo cuando se avecina un problema mucho más grande y diferente
Como resultado, mucha gente será marcada por fotos de sus propios hijos, porque casi todos los padres tienen en algún lugar alguna foto de sus hijos desnudos
Creo que las discusiones sobre por qué este tipo de medidas no sirven para reducir el CSAM, o sobre si tienen demasiados falsos negativos o demasiados falsos positivos, pasan por alto el punto central.
Aunque a los legisladores probablemente sí les interese reducir el abuso infantil, sobre todo lo usan como pretexto para aumentar la vigilancia y el control sobre la ciudadanía. Esto no es más que un intento de imponer software del lado del cliente que va en contra de los intereses de los dueños del hardware.
Una vez instalado ese software, ampliar el alcance de las exigencias a cosas que la gente común no aprobaría, ya sea por vías legales o mediante turbios acuerdos por detrás, se vuelve un paso mucho más pequeño.
El escaneo del lado del cliente no puede funcionar, y no va a funcionar.
No hay ningún escenario en el que el escaneo del lado del cliente funcione, salvo que se impida a los usuarios modificar cualquier cosa del sistema. No deberían poder modificar ni las imágenes ni el software.
Conviene recordar esto. Lo único que esto hará bien es identificar a ciudadanos honestos y respetuosos de la ley que tengan causas políticas que no encajen con el gobierno de turno. Si esto se aprueba, la democracia real —la que puede poner fin a leyes impopulares aprobadas por el gobierno, como las leyes racistas o la prohibición del alcohol— morirá en la UE.
La European Commission está embriagada de poder.
Hay un dicho: no desperdicies una buena crisis. Está bien documentado que las crisis son la oportunidad ideal para que los gobiernos impulsen abiertamente leyes antidemocráticas y contrarias a la ciudadanía. Esas leyes erosionan las libertades y transfieren riqueza de los pobres a los ricos, y las crisis ofrecen el pretexto perfecto para saltarse el proceso democrático normal, largo y exhaustivo, en el que todos se toman el tiempo de diseccionar, analizar y debatir.
Últimamente hubo muchas crisis: Covid, inflación, olas de refugiados, la guerra en Ucrania, la guerra en Israel.
“Pobre contribuyente, no pienses demasiado. De todos modos no entiendes este tema. Es demasiado complejo y, además, estás tan distraído y preocupado por el virus/la inflación descontrolada/el costo de vida/la guerra que ni tienes tiempo para pensar en asuntos menores como la privacidad. Así que siéntate tranquilo y preocúpate por la renta; nosotros protegeremos tu privacidad en línea, ¿de acuerdo?”
A las agencias de investigación les encanta que gran parte de nuestra vida esté ahora en manos de terceros y sea más fácil de acceder, y desde que una persona promedio pudo usar cifrado en sus comunicaciones, los ataques contra el cifrado no han dejado de ocurrir.
Además, si desarrollas software de privacidad, este es un problema con el que tarde o temprano tendrás que enfrentarte si te tomas en serio tu objetivo. Si la herramienta es lo bastante fuerte como para proteger a periodistas bajo regímenes hostiles, o a cualquier grupo oprimido que prefieras, también será lo bastante fuerte como para proteger a criminales que hacen cosas que personalmente detestas.
Las organizaciones que impulsan este tipo de cosas atraen naturalmente a personas hambrientas de poder, que ven a la mayoría no como pares, sino como sujetos a los que deben gobernar.
Funciona igual en todas partes. No es un problema exclusivo de Europa.
Toda la lógica puede resumirse así:
Con la tecnología actual, es imposible hacer que una foto o un video deje de existir por completo. Mientras exista internet y la gente pueda acceder a material prohibido, ese material prohibido seguirá circulando.
Para combatirlo, el Estado debe recibir facultades extraordinarias para mirar dentro de los dispositivos y las cuentas de las personas y ver sus archivos, de modo que pueda procesar a quienes posean material prohibido. Y el Estado promete, de verdad de verdad, que lo único que vamos a prohibir es la pornografía infantil y absolutamente nada más. Por supuesto, cuando más adelante intente ampliar esos poderes, en la práctica no habrá forma de impedirlo. Y claramente lo haremos.
Este es un intento de resolver un problema correcto, el abuso sexual infantil, pero por supuesto el enfoque está mal.
Es parecido a decir, hace 30 años, “como la gente graba ese tipo de abuso en cintas VHS, si hablamos con Sony y Scotch de alguna forma se puede impedir”. En realidad, la situación actual es un poco más realista, pero aun así es lo mismo. La prevención del abuso sexual infantil debería ser una prioridad enorme y muy alta para todos los gobiernos y todos los ciudadanos.
Si hubiera un método seguro y garantizado, habría que hacerlo mañana mismo sin importar el costo.
Pero en la práctica no sabemos bien cómo. Es un problema que requiere combinar una reforma de salud mental, una reforma educativa a gran escala y una reforma del bienestar social infantil, para que los niños que realmente están en peligro sean protegidos y, al mismo tiempo, esa protección significativa se extienda a todos los niños.
Si alguien tiene una idea inteligente, me interesa.
Para nada.
Si se anuncia una nueva ley o programa en nombre de combatir el terrorismo, el abuso infantil o las drogas, pero su alcance real va más allá del terrorismo, el abuso infantil y las drogas, te están manipulando para que votes contra tus propios intereses. 100% de las veces.
“Garantizamos la privacidad mediante algoritmos inteligentes en el dispositivo. Los datos de sus hijos nunca se subirán a menos que la IA del dispositivo detecte una situación de abuso. ¿Y quién, aparte de un abusador, querría impedir que esos datos se suban?”
Se haría que el reloj verifique constantemente si fue quitado y, si se lo quitaron, que suba los últimos 30 segundos de video para identificar quién lo quitó.
Si lo quitó el niño o sus padres, se multaría a los padres y el niño tendría una entrevista obligatoria con los organismos de protección infantil para descubrir la “verdadera” razón por la que se lo quitó.
Se podrían entregar dos por cada niño para cargarlos. Uno estaría siempre cargándose y el otro en uso. Si el reloj en uso detecta que el otro reloj no se está cargando, enviaría una alerta al usuario. Si no se corrige dentro de cierto plazo, se trataría como una infracción.
Las infracciones repetidas por quitárselo o por “descargas accidentales de batería” llevarían a multas cada vez más altas y, potencialmente, a separar al niño de sus padres.
Todo esto es posible con la tecnología actual. Solo hace falta fabricar consentimiento mediante algunos casos de alto perfil en los que un smartwatch haya salvado a un niño de padres abusivos, o en los que la policía haya recuperado a un niño en un intento de secuestro gracias al rastreo del smartwatch, para crear la lección de que “todos los niños necesitan este tipo de rastreo”.
¿De verdad? ¿Castigar la posesión de CSAM realmente afecta la tasa de abuso sexual infantil?
No digo que criminalizar el CSAM no sea correcto, pero ¿hay siquiera algún dato que muestre que castigar al tipo de personas que serían atrapadas escaneando almacenamiento en la nube realmente influye en la cantidad de niños víctimas?
Si no, lo único que logra esta medida es la acción reconfortante de meter pedófilos a la cárcel. Pero lo que preocupa no son los pedófilos, sino los violadores de niños y los productores de pornografía infantil que efectivamente cometen delitos contra menores.
No sé qué efecto tendrá rastrear a los usuarios finales sobre la cadena de suministro. En cambio, sí veo un millón de formas en que, si se permite rastrear a los usuarios finales, el Estado obtiene el poder de registrar a las personas por casi cualquier delito que haya decidido que es importante. Si se permite esto, la probabilidad de que se expanda más allá del CSAM en unos pocos años es del 100%.
Además, para empezar, ni siquiera hace falta que exista “material”. Grabar es solo opcional, y no veo nada que aborde ese problema.
La propuesta actual no será aprobada tal como está. Varios Estados miembros, incluidos Países Bajos, España y Polonia, se oponen, y probablemente sea ilegal.
Para que sea aprobada, tendría que modificarse a fondo. Esos cambios probablemente harán aún más inútil una propuesta que ya es inútil, pero al menos espero que esta vez nos salven de la puerta trasera de privacidad/cifrado.
No debe aprobarse bajo ninguna circunstancia; debe rechazarse en su totalidad. No hay margen para compromisos.