- La propuesta regulatoria de la UE sobre material de abuso sexual infantil, chat control, vuelve a una fase en la que podría obtener la aprobación de los gobiernos de la UE debido a un posible cambio de postura de Francia
- El borrador del 28 de mayo de 2024 pregunta a los usuarios de apps y servicios de chat si aceptan la posibilidad de escaneo automático y denuncia de imágenes, fotos y videos privados, y si se niegan, restringe el envío y la recepción de fotos, videos y enlaces
- Incluso servicios con cifrado de extremo a extremo como WhatsApp y Signal tendrían que implementar una búsqueda automática antes del envío, por lo que en la práctica funcionaría como escaneo del lado del cliente
- Aunque se eliminan el escaneo de texto por indicios de grooming y el escaneo de comunicaciones de voz del borrador anterior, se prevé excluir del alcance los chats del personal de seguridad y militar
- El Council Legal Service consideró que el escaneo indiscriminado de personas no sospechosas viola derechos fundamentales, pero varios gobiernos de la UE planean continuar las discusiones el 4 de junio
Qué cambia el borrador de “upload moderation”
- La controvertida propuesta para regular el material de abuso sexual infantil, conocida como chat control, vuelve a estar en una situación en la que podría ser aprobada a nivel de los gobiernos de la UE
- Según un reporte de Euractiv y documentos internos, Francia podría renunciar a su veto previo
- Francia considera en principio la nueva propuesta de “upload moderation” como una opción viable
- El borrador más reciente del 28 de mayo de 2024, Council document 9093/24, se aplica a apps y servicios con funciones de chat
- A los usuarios se les preguntará si aceptan la posibilidad de escaneo indiscriminado y propenso a errores, así como de denuncia, sobre imágenes, fotos y videos que compartan de forma privada
- Incluso imágenes y videos no identificados previamente quedarían sujetos a revisión mediante tecnología de inteligencia artificial
- Los usuarios que rechacen el escaneo no podrán enviar ni recibir imágenes, fotos, videos ni enlaces
- Incluso los servicios con cifrado de extremo a extremo como WhatsApp o Signal tendrían que implementar una búsqueda automática antes de enviar mensajes
- El borrador trata esto como escaneo del lado del cliente en el Article 10a
- Patrick Breyer critica que este enfoque debilita el cifrado de extremo a extremo seguro existente y convierte los smartphones en herramientas de vigilancia
Lo que queda fuera y los puntos que siguen en disputa
- En el borrador más reciente se eliminan algunos alcances de escaneo que estaban en la propuesta inicial
- Está previsto eliminar el escaneo de mensajes de texto por indicios de grooming, que hasta ahora casi no se ha usado
- También está previsto eliminar el escaneo de comunicaciones de voz, que nunca se ha aplicado hasta ahora
- Como concesión a Francia, los chats del personal de agencias de seguridad y del ejército podrían quedar excluidos del chat control
- En la última discusión del 24 de mayo, el Council Legal Service señaló que el escaneo indiscriminado de chat control sobre personas no sospechosas sigue estando previsto y constituye una violación de derechos fundamentales
- Aun así, varios gobiernos de la UE muestran intención de seguir adelante
- Los gobiernos de la UE planean continuar las discusiones el 4 de junio
- El eurodiputado Patrick Breyer criticó que la Belgian proposal implementa intacto el núcleo de la propuesta inicial de chat control de la EU Commission
- Considera que en el siglo XXI no es una opción usar los mensajeros solo para texto puro
- Señala que eliminar elementos excesivos que en la práctica no se usan es solo maquillaje
- Advierte que los chats privados y las fotos de ciudadanos inocentes podrían ser examinados y filtrados mediante tecnología no confiable
- Cree que si los gobiernos de la UE entran a las negociaciones de trilogue con esta postura, existe el riesgo de que el Parliament abandone gradualmente su posición inicial en negociaciones a puerta cerrada y acepte un compromiso que ponga en peligro la seguridad en línea
3 comentarios
En este caso sí parece un problema realmente serio, pero da la impresión de que lo van a imponer de todos modos.
Me gusta lo que la UE le hizo a Apple, pero esto sí me parece que se pasó demasiado.
Tal vez lo que le hicieron a Apple desde el principio ya estaba mal... :(
Opiniones de Hacker News
Si "los chats del personal de seguridad y del ejército también quedan excluidos del control de chats", entonces ¿no significa que justamente quedan fuera los ámbitos de seguridad y militar, donde habría más posibilidades de que realmente haya que revisar conversaciones privadas?
Entonces, si lo alojas por tu cuenta como en [1], no tendrías que cumplir esta ley.
Pero entonces, ¿significa que un funcionario de seguridad podría usar un servicio público en vez de una infraestructura autoalojada y, bajo la premisa de que está exento, enviar datos confidenciales?
Y como dijo @WA, ¿eso significa que habrá que entregar las listas de contactos de estos funcionarios a todas las organizaciones con fines de lucro?
De verdad parece una broma estúpida.
[1]: See third row at https://www.patrick-breyer.de/en/posts/chat-control/#current...
Incluso si eso fuera cierto, ¿para qué sirve entonces una función que deja fuera a ciertos grupos? A menos que la idea sea darles una excepción para que puedan crear y distribuir material de abuso sexual infantil, no tiene explicación.
La conclusión más creíble es que sus afirmaciones sobre privacidad y limitación del propósito son falsas.
Cuesta creer que piensen que esta medida siquiera vaya a retrasar algo. Algunas leyes pueden verse como un equilibrio entre seguridad y libertad, pero en este caso ni siquiera veo qué se les volvería más difícil a los criminales.
Si en estas plataformas se puede compartir algo problemático junto con texto, también se pueden compartir enlaces. Incluso en plataformas que "no permiten enlaces", la gente crea nuevas convenciones de escritura y los comparte como texto normal. O simplemente usan otra plataforma, así que no veo dónde estaría el efecto disuasorio.
Al final esto no es más que una regulación molesta hecha por gente que no entiende la tecnología.
Claro, no vas a atrapar al 100%, pero casi ninguna ley o medida lo hace. Y las medidas que sí llegan a ese nivel suelen venir acompañadas de enormes falsos positivos.
Tampoco es difícil escanear enlaces, y no es realista esperar que subir material de abuso sexual infantil "porque sí" a cualquier parte no vaya a causar problemas al final. Si hablamos de alguien que sabe exactamente lo que hace, entonces volvemos al párrafo anterior.
Es difícil negar que esta ley atrapará a alguien y no a cero personas, y es imposible saber de antemano exactamente a cuántos. Eso no significa que sea una buena ley, pero el contraargumento de "no atrapará a nadie" es un mal argumento.
Primero, hacer que parezca que alguien está haciendo algo. Los votantes no aceptan que sus representantes no tienen poder para resolver ciertos temas candentes. Aunque una nueva ley o regulación tenga poco o ningún efecto, si los legisladores pueden lograr que "expertos" digan cosas favorables, muchos votantes que no entienden el tema quedan más o menos satisfechos.
Segundo, seguir construyendo y normalizando tecnología de vigilancia hasta volverla cotidiana. Cuantas más cosas obliguen a hacer que las personas del gobierno no pueden hacer por su cuenta, más fácil será para ellos hacer casi cualquier cosa que quieran.
Claro, otra cosa es qué tan accesible sea eso desde un celular, pero no parece tan difícil.
También se puede escanear contenido público como parte de una defensa en profundidad.
Cuando los responsables con poder se sienten impotentes para cumplir con su responsabilidad, entran en pánico y empujan a personas inocentes a situaciones incómodas o dañinas, poniendo a todos en riesgo. Eso pasa en vez de atrapar al grupo relativamente pequeño de agresores que realmente causa el problema.
Durante años hemos visto demasiados ejemplos de eso, y cuanto mayor es la indignación pública, mayor termina siendo el daño para el público en general que para la pequeñísima minoría involucrada o responsable. Ellos apenas cambian un poco su forma de actuar y siguen, mientras el público queda perjudicado.
En vez de tercerizar esto al gobierno o a empresas públicas, sería mejor darles herramientas y educación a los padres para que puedan proteger a sus hijos.
Por eso los ciudadanos que eligieron a la gente que hace estas cosas deberían despedir a esos políticos en la próxima oportunidad y decirles por qué los despiden. La policía es un escorpión, y el escorpión actúa según su naturaleza. Hay que echar a los idiotas que hacen las leyes que ellos aplican, y la fuente real de estas nuevas leyes no es la policía, sino ellos.
La clase de confusión que puede crear una ley así sería algo como esto
https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
https://news.ycombinator.com/item?id=32538805
El verdadero problema es que el soporte de Google es notoriamente inexistente o difícil de entender. A eso se le suma un tratamiento de blanco o negro como el "bloqueo de por vida", combinado con una estructura donde es difícil apelar ante una instancia razonablemente independiente. Hay muchísimas razones inocentes por las que una cuenta puede ser bloqueada, y esta es solo una de ellas
Cualquier servicio que permita que cualquiera suba o envíe cosas se vuelve una trampa para moscas que atrae a lo peor de la humanidad. De verdad hace falta algún tipo de protección
Yendo un paso más allá, si ofreces una plataforma gigante que se entrelaza con muchos aspectos de la vida, quieras o no tienes que asumir cierta responsabilidad. Como mínimo, debes ofrecer un soporte aunque sea medianamente útil, y no convertirte en un host masivo de material de abuso sexual infantil
Cuando trabajaba como técnico de reparaciones, una vez hice clic en cualquier cosa en la portada de Google Video para ver si Flash Player funcionaba, y me apareció un video de un hombre volándose la cabeza. En sitios como Kazaa o páginas de warez también era bastante común toparse con cosas tipo "Alice de 12 años presume orgullosamente sus pechos pequeños", incluso sin buscarlo a propósito
Es difícil decidir dónde poner el punto de equilibrio en todo esto, pero fingir que ese equilibrio ni siquiera existe no ayuda
El consejo está empujando esta propuesta, pero todavía se puede influir en el resultado final. Basta con votar por partidos que no se hayan metido en esta basura para que la rechacen. El EU Pirate Party todavía aparece en algunas boletas locales
Si esto llega a convertirse en ley, mi predicción es el regreso del arte ASCII
No se trata de compartir fotos de vacaciones con amigos, sino de cosas como estas
"Aquí está el enlace que explica cómo manejar los impuestos de una organización sin fines de lucro", "Aquí está el nuevo logo de la escuela", "Aquí está el enlace con el calendario del torneo de fútbol"
Un poco fuera de tema, pero me preguntaba si alguna vez la UE ha desregulado algo. ¿Solo agregan nuevas leyes y cláusulas? ¿Les pagan por cantidad de líneas de código? ¿Qué ejemplos hay de leyes derogadas o de desregulación?
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
Aquí hay un resumen: http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
Esta directiva derogó varias leyes nacionales sobre el volumen de los productos. Por ejemplo, en Francia se podía vender shampoo en botellas de 250 ml o de 500 ml, pero no de 295 ml; y los champiñones se podían vender en cajas de 250 g o 500 g, pero no de 230 g o 490 g
Ahora eso ya es posible, y como resultado fue una desregulación que hizo posible la reduflación
Para mí, la forma en que la UE y Estados Unidos manejan la seguridad alimentaria resume bien la filosofía de ambos lados. En la UE, para que un alimento sea permitido hay que demostrar que es seguro; en Estados Unidos, para que un alimento sea prohibido hay que demostrar que no es seguro
Hoy en día la desregulación no es muy popular, pero de vez en cuando sí ha ocurrido aquí y allá
Entonces, ¿qué pasa con nuestro derecho fundamental, el Artículo 7?
Yo apoyaría toda esta ley, pero con una sola adición
Dentro de la UE, todos los datos compartidos por políticos, funcionarios y sus familias deberían hacerse públicos, analizarse para investigaciones de corrupción y conservarse permanentemente
Si a todos nos van a considerar pedófilos, entonces todos los políticos son criminales
Claro, algunos serán acusados injustamente y todos perderemos la libertad, pero al menos en cada elección habrá una pequeña posibilidad de que el gobierno anterior sea auditado y se destape la corrupción y otros delitos
Suena como un intercambio que vale la pena
Viéndolo por el lado positivo, la reacción impulsará a la nueva generación a mandar a esos fósiles anticuados al basurero de la historia
https://youtube.com/watch?v=-wntX-a3jSY
Cuanto más fuerte aprieten, más sistemas estelares se les escaparán entre los dedos
Claro, no es muy distinto de generaciones anteriores, pero definitivamente no es una gran ola antiautoritaria
A cualquier edad, la gente solo se rebela de forma constante cuando realmente sufre las consecuencias. La mayoría aceptará la vigilancia y volverá a compartir memes tontos. Al menos hasta que ya sea demasiado tarde
Estas propuestas siguen regresando porque hay preocupaciones legítimas que la autorregulación de la industria no ha podido resolver
Si nadie quiere hablar de buenas medidas, los políticos volverán a intentarlo, aunque sean políticos nuevos
Lo que el despliegue irresponsable de la IA generativa está haciendo en este ámbito es realmente terrible. Pero todos lo despachan con un "de todos modos no se pueden detener las matemáticas, así que no haremos nada", o implícitamente con que "el fin justifica los medios, así que se puede sacrificar a algunos niños para obtener AGI". La imagen hacia afuera es pésima
Si la industria tecnológica no asume responsabilidad por sí misma, la privacidad morirá pronto. Los políticos solo tienen que ganar una vez
Solo hay que esperar a que los primeros cientos de falsos positivos y sus historias salgan en las noticias, y ver qué impacto tienen en la siguiente elección. Algunos partidos harán campaña con eso
[1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
Para implementar esta ley, ellos solo tienen que lograrlo una vez, y entonces se quedará para siempre. Nosotros tenemos que lograr derogarla cada vez y no podemos fallar ni una sola vez