- La propuesta de reglamento CSAM de la Comisión Europea ha sido criticada como una propuesta de vigilancia masiva que escanearía automáticamente conversaciones, fotos y videos de la ciudadanía en apps de comunicación como WhatsApp, iMessage, Instagram, TikTok y X
- Como podría alcanzar incluso a ciudadanos sin sospecha de delito, académicos, autoridades reguladoras de privacidad y expertos jurídicos internos del Consejo de la UE han señalado problemas de violación del derecho a la privacidad y fallas técnicas
- Después de que el 14 de septiembre de 2023 surgieran indicios en el Consejo de la UE de que no había apoyo suficiente, al día siguiente la comisaria de Asuntos de Interior Ylva Johansson lanzó anuncios pagados en X dirigidos a países que se oponían o mantenían reservas
- Los anuncios superaron los 4 millones de visualizaciones y, según el informe de transparencia de X, usaron microtargeting para excluir a usuarios interesados en Julian Assange, Brexit, AfD y el cristianismo
- La exclusión publicitaria basada en creencias políticas y religiosas entra en conflicto con la política publicitaria de X, la Digital Services Act y el GDPR, lo que alimentó críticas de que la Comisión presionó a la opinión pública de forma manipuladora
La estructura de vigilancia de comunicaciones que busca imponer el reglamento CSAM
- La Comisión Europea impulsa el reglamento CSAM para convertir apps de comunicación digital como WhatsApp, iMessage, Instagram, TikTok y X en herramientas de vigilancia masiva
- El escaneo abarcaría las comunicaciones digitales de la ciudadanía de la UE en general, incluidas conversaciones en tiempo real, fotos y videos
- Incluso las comunicaciones de ciudadanos que no son sospechosos de delito podrían ser escaneadas automáticamente
- Cientos de académicos, autoridades reguladoras de privacidad y expertos jurídicos internos del Consejo de la UE critican la propuesta por violar el derecho a la privacidad y por estar basada en una tecnología con fallas fundamentales
- La inteligencia artificial no puede detectar con precisión actividades delictivas, por lo que podría reportar erróneamente como sospechosos a millones de ciudadanos inocentes
- Los delincuentes podrían eludir fácilmente el sistema borrando la app o mudándose a la dark web
- La propuesta ha sido criticada por significar el fin de las conversaciones digitales privadas y por no ser compatible con la libertad de comunicación ni con el principio de presunción de inocencia
La campaña de anuncios en X iniciada justo después de la falta de apoyo en el Consejo
- El 14 de septiembre de 2023 se hizo evidente en el Consejo de la UE que la propuesta no tenía apoyo suficiente
- Al día siguiente, el 15 de septiembre, la comisaria europea de Asuntos de Interior Ylva Johansson encargó una campaña de anuncios pagados en X
- Los anuncios se dirigieron a países que, según el acta filtrada de la reunión del 14 de septiembre, no pensaban apoyar la propuesta en su forma actual
- Países Bajos
- Suecia
- Bélgica
- Finlandia
- Eslovenia
- Portugal
- Chequia
- La campaña obtuvo más de 4 millones de visualizaciones
- Los anuncios usaban la imagen de una niña pequeña, hombres de aspecto amenazante y música siniestra, ejerciendo presión emocional al sugerir que quienes se oponían a la ley no querían proteger a los niños
Problemas con las encuestas y la forma de presentar el apoyo
- Los anuncios afirmaban que la ley propuesta contaba con el apoyo de la mayoría de los europeos
- La encuesta utilizada como base fue criticada por destacar solo las ventajas del proyecto y no presentar sus desventajas
- Encuestas de YouGov y Novus sí presentaron también las desventajas y mostraron que casi no había apoyo entre la ciudadanía europea para esta propuesta
- Más tarde, la metodóloga Dr. Vera Wilde publicó un artículo detallado sobre los resultados de la encuesta usados en la campaña publicitaria
- Evaluó que la herramienta de encuesta estaba sesgada y que el estudio no era válido
- Consideró que quienes realizaron la encuesta violaron estándares profesionales y éticos ampliamente aceptados, así como códigos de conducta relacionados
- Concluyó que los promotores del programa representaron incorrectamente los resultados
- Evaluó que esta encuesta y su presentación formaban parte de una campaña de desinformación que inducía a error a participantes y lectores
El microtargeting en X y los conflictos legales
- Según el informe de transparencia de X, la Comisión usó microtargeting para impedir que ciertos grupos vieran los anuncios
- Entre los excluidos había personas interesadas en la privacidad y usuarios con inclinaciones euroescépticas
- Personas interesadas en Julian Assange
- Personas interesadas en nexit, brexit y spanexit
- Personas interesadas en Viktor Orbán, Nigel Farage y la AfD alemana
- Por motivos poco claros, también se excluyó a personas interesadas en el cristianismo
- Tras excluir a grupos políticos y religiosos críticos, el algoritmo de X quedó configurado para encontrar entre el resto a usuarios propensos a interesarse por el mensaje del anuncio
- Como resultado, se considera que se creó una cámara de eco sin críticas donde disminuyeron las respuestas críticas
- Este tipo de microtargeting basado en creencias políticas y religiosas entra en conflicto con lo siguiente
- La política publicitaria de X
- Digital Services Act Article 26(3)
- General Data Protection Regulation
- En particular, la Digital Services Act es una ley cuya supervisión corresponde directamente a la propia Comisión
El procedimiento democrático y las exigencias hacia la Comisión
- La postura es que, si el proyecto no cuenta con apoyo suficiente, la respuesta democrática sería retirarlo o modificarlo para conseguir respaldo suficiente, como propuso Alemania
- En este contexto se menciona una modificación que no introduzca un “telescreen” inconstitucional
- La forma en que la Comisión intentó cambiar la opinión pública en Estados miembros que dudaban, mediante publicidad manipuladora, estadísticas engañosas y microtargeting basado en religión y creencias, ha sido criticada por recordar a las campañas de desinformación durante las elecciones en Estados Unidos y el Brexit
- Se considera que apartar los valores europeos para imponer una ley muy controvertida perjudica no solo a la ciudadanía, sino también a las bases de la propia Unión Europea
- Se exige a la Comisión que retire esta campaña publicitaria y que detenga la campaña manipuladora de desinformación con la que intentó torcer la opinión pública europea mediante anuncios ilegales en redes sociales
Actualizaciones posteriores y materiales
- Tras la publicación del artículo, se actualizó que la cuenta @DannyMekic y sus tuits habían dejado de aparecer en el motor de búsqueda de X/Twitter
- Más tarde se recuperó el acceso a la cuenta, pero se indicó que no se sabe por qué, cómo, para quién o si fue una decisión propia de X
- El informe de transparencia de X relacionado parece haber sido eliminado de X/Twitter al 14 de noviembre de 2023, y hay un archivo espejo en GitHub
- El texto también proporciona una lista de enlaces a publicaciones de EUHomeAffairs y al informe de transparencia de X relacionado
1 comentarios
Opiniones de Hacker News
La forma en que los políticos intentan aprobar estas leyes polémicas me parece realmente equivocada
Los políticos sacan temas polémicos influidos por lobbies a los que les importa poco el interés público, y para frenarlos muchos ciudadanos tienen que dedicar tiempo y energía a organizarse
Pero cuando las cosas se calman, los mismos políticos y lobistas vuelven a traer lo mismo cambiándole el nombre o colándolo en otra ley; y después de un caso que movilizó muchas emociones, también es más fácil conseguir apoyo popular sin contexto
A los políticos y lobistas les pagan por hacer esto, pero a los ciudadanos no, así que al final, mientras la ciudadanía sacrifica su vida, ellos pueden seguir empujando la misma estupidez una y otra vez
Antes también intentaron aprobar las patentes de software en una reunión de ministros de Agricultura; en aquel momento la delegación polaca lo impidió, pero al final la industria terminó obteniendo lo que quería
Por un lado, siento que esta locura se acabaría; por otro, temo que durante unos meses se intentaran cosas como la vigilancia total y partir a alguien en dos como método de pena de muerte
Aun así, tendría la ventaja de que las malas leyes podrían corregirse mucho más rápido
Muchas victorias de derechos —como el sufragio femenino, los derechos civiles, los derechos de las personas homosexuales o el cannabis medicinal— también fueron resultado de que políticos y lobistas las presentaran una y otra vez, perdieran una y otra vez, hasta que un día se aprobaron y quedaron establecidas
Personalmente creo que gobiernos locales más pequeños y descentralizados son la mejor forma de reducir el daño, pero eso obligaría a todos los grupos a repetir la misma lucha en múltiples lugares, lo cual también causa su propio daño
No se me ocurre una forma de derrotar permanentemente las malas leyes sin perjudicar del mismo modo a los movimientos de derechos del pasado
Normalmente, para impedir una acción se necesita control total o incentivos fuertes, y el desarrollo de funciones en los navegadores tiene la misma dinámica
Agregar cosas es fácil, pero impedir que se agreguen es difícil, y al final se termina diciendo que sí incluso a cosas que perjudican a la mayoría
Mucha más gente apenas se informa un poco y no hace nada, y un grupo aún mayor se queja en foros y solo pide que otros lo hagan
Con muy poca gente se puede generar cambio, pero en la realidad se mueve incluso menos gente que eso, así que no pasa nada
Quienes nos movimos, como yo, acabamos cansados, desesperanzados y con la sensación de haber desperdiciado una parte bastante grande de nuestra vida
Si solo unas pocas personas más hubieran participado, quizá habría sido distinto, pero eso no ocurrió
Si quieres un cambio, puedes conseguirlo, pero la mayoría no lo hará
Al margen del debate más amplio sobre privacidad y vigilancia, si la European Commission usó publicidad dirigida sofisticada para moldear la opinión pública y excluyó deliberadamente a personas interesadas en la privacidad y a euroescépticos, es muy preocupante
Si una institución como la EC empieza a impulsar su agenda mediante cámaras de eco cuidadosamente construidas y a dejar fuera de la discusión a grupos demográficos concretos, desaparece el espacio común de debate político público
¿Será gerrymandering digital?
No tiene nada de nuevo; solo que ahora no lo hacen únicamente los populistas de derecha
Hoy en Twitter, por alguna razón, ese populismo de derecha se volvió algo totalmente aceptable
Por ejemplo, cuando se hace promoción dirigida a Belgium o NL, las personas que llevan allí varias generaciones a menudo son simpatizantes de partidos de derecha
Quienes siguen el espíritu de la ley con frecuencia no están registrados localmente, como los estudiantes en Estados Unidos
Al final se crea un bucle de retroalimentación en el que otro tipo de contenido llega al feed de personas similares a las que produjeron el Brexit
Estoy de acuerdo con el autor en que, si la ley propuesta no tiene suficiente apoyo, la respuesta democrática correcta es retirarla
Estoy harto del modelo de política pública tipo fraternidad universitaria, que sigue preguntando hasta obtener el sí deseado de quienes no bloquearon la posibilidad de escuchar
Me enteré hace poco de que las votaciones antiguas del Congreso de EE. UU. eran votaciones anónimas, en el sentido de que se publicaba el conteo de votos, pero se mantenía en secreto quién había votado qué
Luego, con el argumento de aumentar la transparencia, se hicieron públicos los votos individuales reales, lo que tuvo el efecto de parecer más abierto a la ciudadanía, pero también terminó mostrando a los lobistas exactamente qué legisladores votaban a favor o en contra de sus intereses
Como resultado, el dinero empezó a fluir hacia los legisladores favorables al lobby y el círculo vicioso se aceleró
Esta charla en video trata ese proceso y sus efectos con mucho más detalle: https://www.youtube.com/watch?v=Qz27n1tNNMg
Además, recuerdo una historia sobre un organismo político real que experimentó con votación pública y secreta sobre una misma ley, y obtuvo resultados completamente distintos. Creo que quizá fue el Parlamento italiano
European Parliament es probablemente la mejor institución que tenemos en Europa, y de ahí salen buena parte de los cambios positivos y los nuevos derechos.
En cambio, la European Commission está cerca de ser lo peor que podríamos tener.
Está completamente corrompida, como en el caso de la vicepresidenta que recibió bolsas de efectivo de Qatar y otros, o al menos moralmente corrompida por el lobby.
Además, nadie eligió a esas personas con tanto poder.
También vale la pena preguntarse por qué EE. UU. obtuvo acceso compartido a todas las transacciones financieras de los ciudadanos europeos, pero lo contrario no aplica.
Así que eso debilita el argumento original.
Por ejemplo, EE. UU. asume la mayor parte del costo de la defensa europea.
Además, aunque no tenía ninguna credencial, por alguna razón era vicepresidenta a cargo de AI y Blockchain.
El problema tanto de la EC como del EP es la falta de rendición de cuentas, y el sistema es muy indirecto.
No hay nada nuevo en la EU Commission.
Es la institución menos democrática de la UE, y hasta el nombre le queda muy bien, porque commission viene del commissar de la Soviet Union.
Basta ver cómo ataca a los países que tuvieron el valor de elegir fuerzas contrarias a sus patrocinadores, principalmente grupos de interés alemanes y Rusia como actor delegado.
Redefine palabras como Estado de derecho para apuntar contra Poland, gobernada por un partido opositor al EPP, el partido gobernante de la UE, mientras ignora por completo la terrible corrupción de Bulgaria, que está de su lado.
No reacciona ante la enorme corrupción del Court of Justice of the EU, y hoy ese tribunal está más bien del lado opuesto al Estado de derecho, pero esa es una historia larga.
Mientras tanto, intenta ampliar sus competencias en contra de los tratados, eliminar el derecho de veto e impulsar leyes como esta.
Es aún más triste porque la UE en sí era una gran idea, y cualquier cosa puede corromperse.
Me interesan las opiniones de quienes hayan reflexionado a fondo sobre el papel del anonimato en la democracia.
Me parece interesante que muchas personas con la actitud de “si no hiciste nada malo, no debería importarte que te vigilen” apliquen esa filosofía en una sola dirección.
He visto gente enojarse porque Snowden expuso actividades del gobierno, pero mostrarse indiferente ante el hecho de que lo revelado era que el gobierno vigilaba a sus propios ciudadanos.
¿Eso significa que el gobierno tiene derecho a la privacidad, pero los ciudadanos no?
Tengo la intuición de que la privacidad individual es importante para sostener la democracia, pero también la intuición de que el secreto institucional del gobierno es dañino para la democracia.
Por supuesto, la mayoría diría que para la seguridad nacional se necesita un nivel razonable de secreto gubernamental, y yo preferiría el mínimo indispensable, pero la mayoría de quienes me rodean no está de acuerdo.
Quisiera explorar ambos lados y encontrar argumentos que vayan más allá de la intuición, así que agradecería enlaces o referencias con razonamientos desde distintas posturas.
una de las obligaciones del gobierno es la defensa militar, el gobierno debe proteger a la población, y la realidad de la guerra exige mantener cierto grado de secreto.
No reconocerlo podría equivaler a abandonar una obligación del gobierno.
En cambio, los particulares no pueden hacer la guerra, y la razón por la que el gobierno debe proteger a la población es precisamente que se prohíbe a los individuos hacer la guerra por su cuenta.
Por lo tanto, el argumento de la realidad de la guerra justificaría los secretos del gobierno, pero no los secretos privados de los individuos.
La refutación sería que, históricamente, especialmente en el siglo XX, decenas de millones de personas fueron asesinadas por sus propios gobiernos.
Puede que el gobierno necesite algunos secretos para proteger eficazmente a la población de amenazas externas, pero la población también necesita el derecho a guardar secretos frente al gobierno para protegerse de una amenaza interna igual de real y preocupante: el propio gobierno.
Para cooperar, las personas necesitan alguna forma de presión social, que puede ser retroalimentación positiva de sus pares o retroalimentación negativa, como la vergüenza.
Aquí la autenticidad es importante, y los pares deben poder dar retroalimentación positiva y negativa precisa.
El anonimato rompe este modelo, porque permite que la gente finja sostener ciertas posturas para obtener recompensas y, al mismo tiempo, evite la retroalimentación negativa por conductas antisociales.
Basta ver a los comentaristas seudónimos de internet para notarlo.
Incluso personas comunes pueden comportarse de forma totalmente horrible en línea porque pueden ocultar su conducta a quienes podrían imponer consecuencias sociales.
Si descubres que un amigo cercano muestra la crueldad cotidiana de un troll en línea, quizá cortarías esa amistad.
Claro que no todos los beneficios de la privacidad son malos, y las personas vulnerables reciben una gran ayuda de la privacidad, sobre todo en entornos hostiles.
Pero en entornos menos hostiles, como la democracia directa o indirecta, la respuesta quizá no sea más privacidad, sino una cultura que juzgue menos.
Otro marco es la confianza.
El anonimato debilita la confianza, pero la acción colectiva requiere confianza.
Desde esta perspectiva, resulta bastante claro que la democracia y la protección de la privacidad persiguen objetivos opuestos.
También respecto al voto, no creo que sea buena idea crear incentivos para mentir, o peor aún, promover activamente eso como algo positivo.
Si hacer público el voto genera externalidades negativas, quizá haya soluciones distintas a permitir que la gente mienta sobre cómo votó.
Es realmente espantoso.
El Reino Unido también está intentando este tipo de cosas con el pretexto de proteger a los niños.
Pero ni siquiera apoya a las organizaciones civiles que hacen bien ese trabajo, y sus acciones reales muestran que el control tiene una prioridad mucho mayor que la protección infantil.
Incluso dejando de lado la obsesión general por el control y la pérdida de libertades, me pregunto si se ha estudiado cuánto ayuda esto realmente a detener a agresores sexuales infantiles.
Sospecho que es mucho menos eficaz que las organizaciones civiles que combaten el abuso sexual infantil, y al final parece un intento de imitar a China para controlar a la población.
Los burócratas están abrumando a la ciudadanía con una cantidad enorme de texto
Aquí incluso se regula la expresión de opiniones, cuando bastarían unos cuantos principios
El principio más importante debería ser que toda persona pueda expresar libremente su opinión
https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CEL...
Esto tampoco es algo nuevo
Cualquier país puede establecer protecciones más fuertes para la libertad de expresión si así lo desea, y las instituciones de la UE no pueden impedírselo
La lógica original no tiene sentido
La mayoría de los países de la UE tienen leyes que prohíben explícitamente el discurso de odio, como el nazi o el antisemitismo
Nadie llora porque se limite su opinión, ni debería hacerlo
No sirve discutir con palomas
Eso es justo
La difamación es un delito castigado por la ley en todo Occidente, pero eso no significa que se te prohíba decir lo que quieras
Una democracia sin el contrapeso de un sistema judicial no es una democracia en el sentido moderno
Creo que no hay una democracia real ni en la European Union ni en ninguno de sus Estados miembros
No hay separación de poderes, y el Ejecutivo y el Legislativo intentan controlarlo todo como si fueran uno solo
Se puede ver en las leyes que eluden el sistema judicial al censurar contenido en internet
No son los jueces quienes deciden si prohibir Russia Today o Twitter
Es como ver desplegarse ante nuestros ojos la ley de hierro de la oligarquía de Michels
Ellos hacen las leyes, las ejecutan y castigan a quienes no las acatan
Vi por primera vez esta iniciativa en un sitio web de VPN hace casi un año
Lo que más preocupa es que este asunto casi no aparece en la prensa
¿Cómo puede la gente protestar contra algo de lo que ni siquiera ha oído hablar?
Más escalofriante que la propuesta en sí es el poder hegemónico que, bajo el pretexto de una burocracia compleja, la contención de la prensa y la protección infantil, socava en secreto los derechos fundamentales no solo de los europeos, sino de todos
Combatir el material de abuso sexual infantil y otras actividades delictivas es absolutamente importante, pero la vigilancia masiva no es la respuesta