- La Defensora del Pueblo Europea determinó que la European Commission incurrió en “maladministration” al ocultar la existencia de una lista de empresas de las que recibió asesoría técnica al responder a una solicitud de documentos sobre la propuesta de regulación CSAM
- Consideró que dicha lista estaba claramente dentro del alcance de la solicitud del ICCL, ya que se refería a las entidades consultadas sobre si era posible detectar CSAM sin debilitar el cifrado
- Tecnólogos de interés público y más de 450 académicos advirtieron que la tecnología para detectar CSAM en contenido cifrado no está madura actualmente y probablemente tampoco lo estará en los próximos 2 a 5 años
- La regulación CSAM propuesta ha sido criticada por su posible vigilancia masiva, el debilitamiento del cifrado y su potencial conflicto con la prohibición, bajo la legislación de la UE, de la vigilancia general e indiscriminada de las comunicaciones
- Al no identificarse la lista, la parte solicitante no tuvo oportunidad de impugnar las razones para negar su divulgación, lo que agrava las preocupaciones sobre la transparencia del debate regulatorio
Decisión de la Defensora del Pueblo y lista de asesoría oculta
- La European Commission no divulgó la lista de empresas a las que consultó sobre si podía detectarse CSAM sin comprometer el cifrado, al responder a una solicitud de documentos relacionada con la toma de decisiones sobre la regulación CSAM propuesta
- La European Ombudsman concluyó que esta lista “clearly fell within the scope” de la solicitud presentada por el Irish Council for Civil Liberties
- La Commission admitió ante la EU Ombudsman que sí poseía la lista de expertos, pero no informó de su existencia al Dr. Kris Shrishak
- Como la lista no fue identificada como un documento comprendido en la solicitud, la parte solicitante no tuvo la oportunidad de cuestionar las razones mismas de su no divulgación
- La decisión de la Ombudsman puede consultarse aquí
La controversia central sobre la tecnología de detección de CSAM
- La cuestión más sensible en las negociaciones de la regulación CSAM es si realmente es posible una tecnología que detecte material de abuso sexual infantil dentro de comunicaciones con cifrado de extremo a extremo
- Numerosos expertos advierten que esa tecnología aún no es viable en la práctica
- Tecnólogos de interés público y más de 450 académicos advirtieron públicamente que “la tecnología para detectar CSAM en contenido cifrado no está madura actualmente y no lo estará en los próximos 2 a 5 años”
- Esta postura contrasta fuertemente con la de los expertos en los que se apoyó la Commission, pero la Commission no está revelando sus nombres
- El ICCL presentó una queja ante la European Ombudsman alegando que en diciembre de 2022 la Commission se negó a entregar la lista de expertos que ayudaron a redactar el documento sobre posibles soluciones para detectar CSAM en comunicaciones con cifrado de extremo a extremo
- La regulación CSAM propuesta, además de las preocupaciones por la vigilancia masiva y el debilitamiento del cifrado, podría entrar en conflicto con la legislación vigente de la UE que prohíbe vigilar de forma general e indiscriminada las comunicaciones de las personas
- Estas preocupaciones han sido expresadas por diversas organizaciones, incluido el propio servicio jurídico del European Council, el European Parliamentary Research Service, la United Nations High Commissioner for Human Rights y el European Data Protection Board and Supervisor
1 comentarios
Comentarios de Hacker News
No sé si alguna vez se ha examinado bien la teoría del daño cuando se distribuye material de abuso sexual infantil (CSAM) en comunicaciones privadas
No me queda claro qué daño real les causa a los niños el simple hecho de que se copien bytes en secreto
Crear pornografía infantil de manera intencional está claramente mal, pero eso ya es ilegal y esa gente suele tener una seguridad informática ridículamente mala
Si uno ve los casos en que atraparon verdaderos “estudios” de producción de CSAM, o bien las fuerzas del orden son tan incompetentes que cualquier criminal apenas inteligente puede evadirlas, o bien los criminales son menos hábiles técnicamente de lo que parece
En cualquiera de los dos casos, las herramientas para atrapar a los delincuentes sexuales infantiles reales parecen efectivas y suficientes
Es bastante plausible que la producción y distribución del contenido original de abuso infantil dé una recompensa social a los pedófilos y, como resultado, los incentive a continuar o escalar su conducta
También podría servir como base de un sistema de “reputación” que mantenga unidas a las comunidades en línea de abusadores infantiles
Así como en un foro de autos se ve genial a la primera persona que hizo cierto tuneo, en esas comunidades la persona “genial” puede ser la que abusó de un niño que nadie había visto antes, o la que lo hizo de una manera nueva y creativa
Aparte, que atrapen a criminales con una seguridad informática ridículamente mala no implica que no existan delincuentes con una seguridad operativa (OPSEC) excelente que sigan ocultos con éxito
No hay que dejarse arrastrar por cortinas de humo ni por puntos de discusión sembrados; la conversación debe mantenerse fija en el problema básico de la privacidad y evitar toda la batería habitual de argumentos sobre CSAM, infracción de copyright y terrorismo
Si yo hubiera sido abusado en la niñez, no querría que esas imágenes siguieran circulando y que alguien las viera
Es parecido a las leyes contra la pornovenganza, y yo querría tener control sobre mis imágenes desnudo
Aun así, no estoy de acuerdo con estas leyes
Hacen más mal que bien
Además, hacia adelante es posible que el CSAM generado por IA sea más interesante y satisfactorio para quienes lo quieren, y eso abre una discusión completamente distinta
Se trata de usar las huellas digitales de material existente ya identificado por las fuerzas del orden
El material “nuevo” todavía no tendría huellas digitales
Por definición, son gente que cometió errores en algún punto, ya sea en seguridad informática o de alguna otra forma
Recomiendo leer la decisión completa de la defensora del pueblo: https://www.ombudsman.europa.eu/en/decision/en/176658
Muestra qué desastre burocrático absoluto es todo esto
Los gobiernos nacionales normales ya son demasiado, pero se sostienen de algún modo mezclando un poco de nacionalismo y tribalismo; la UE se ha pasado tanto de la raya que al final la gente va a rebelarse o quienes tengan cabeza simplemente se irán
Lamentablemente, esto no es nuevo
Gobiernos de todo el mundo están tratando de evitar el escrutinio público de lo que hacen
Me recuerda al Acuerdo Transpacífico de Cooperación Económica (TPP) hace unos 8 años
Muy pocas personas podían ver el texto del tratado [1], pero los representantes de la población tenían que ratificar algo que sus propios votantes no podían ver
Wikileaks y otros filtraron borradores y, como la gente esperaba, eran malos
Sus defensores dicen que las negociaciones comerciales deben hacerse en secreto para no debilitar la posición negociadora
En realidad, eso significa “no queremos darle al público la oportunidad de oponerse”
Ahora la UE también está buscando pretextos absurdos para trabajar en las sombras
[1]: https://www.npr.org/sections/itsallpolitics/2015/05/14/40667...
Para que este sistema funcione, la base de datos de CSAM tendría que ser administrada por consenso entre rivales geopolíticos
Es decir, también tendrían que incluirse Russia y China
Solo así podría garantizarse que los gobiernos occidentales no abusen en el futuro del acceso para vigilar en masa a grupos disidentes
Es imposible partir de la idea de que se puede confiar en que NCMEC no será vulnerado
Si fuera un sistema en el que las policías china, rusa, estadounidense, británica, etc. acordaran que en la base de datos solo hay CSAM, entonces sí se podría confiar
Un crimen cometido contra una parte de la población no justifica este nivel de alboroto
Ni siquiera se les presta tanta atención a los niños asesinados
Este tema no va a unir a los rivales internacionales ni más que un asteroide viniendo hacia la Tierra
Es un asunto que solo le importa a Occidente, así que fuera de Occidente cualquiera puede convertirlo fácilmente en un arma
En vez de poner una puerta trasera en todos los dispositivos del planeta, una solución más realista podría ser quitarles los teléfonos a los niños y amarrarlos al radiador
O sea, si quieres proteger a los niños del CSAM, tendrás que encerrarlos
No me gusta admitirlo, pero hay que ver la realidad
Desde la perspectiva del Estado, los niños son propiedad
Igual que otros activos, ganado o armas, los niños pueden ser “retirados” de ti y “entregados” a otra persona, y en el proceso se generan dividendos
Pensándolo bien, eso también explica el propio acto de la trata de personas
Uno no deja abiertas las puertas de todas las demás casas para proteger la suya
Esa clase de “solución” te convierte a ti mismo en una amenaza social real
¿No sería mejor argumentar simplemente que no se cree todo ese sistema?
¿Con eso bastaría para cumplir el criterio?
En la sección de “propuesta de mejora”, dice que, como la Comisión no pudo identificar la lista de expertos pese al claro interés del complainant, esto debe registrarse como una nueva solicitud de acceso público a documentos y tramitarse conforme al Reglamento 1049/2001
Entiendo que el Defensor del Pueblo no tiene poder real y solo puede emitir recomendaciones, pero da la impresión de que bien podrían haber añadido algo como “quienes rechazaron la solicitud inicial deberían ser multados, despedidos o encarcelados”
Esa idea de “podemos ignorar la ley hasta que alguien supere obstáculos considerables para presentar una queja de que ignoramos la ley, y solo entonces cumplirla” no le hace bien a la democracia
¿En New Zealand y Australia no es ilegal almacenar, ver o publicar el video del tiroteo en New Zealand?
Entonces también podrían meter ese hash en la lista
Si usan la misma lógica retorcida de esta cruzada, ¿no debería aplicarse no solo a violaciones sino también a videos donde matan a personas?
¿O hay alguna rareza puritana particular que hace que con el CSAM sí se permita que el Estado invada todos nuestros dispositivos?
¿Si Auschwitz hubiera quedado cubierto por una carretera pavimentada y hablar de eso fuera ilegal?
La lista secreta de expertos ya se publicó
https://news.ycombinator.com/item?id=38205743#38205787
https://netzpolitik.org/2023/geheime-liste-wie-der-sicherhei...
Más inquietante que el hecho de que el ocultamiento de la lista secreta de “expertos” relacionada con la regulación CSAM de la UE se considere mala administración es que en esa lista hay muy pocas instituciones y empresas europeas
Representantes de la Comisión dijeron que muchas de las empresas que participan en el EUIF tienen preocupaciones de seguridad y de imagen pública
También dijeron que muchos de los temas debatidos en el EUIF son sensibles y de carácter operativo, por lo que si se hacen públicos actores maliciosos podrían aprovecharlos para eludir los mecanismos de detección y los esfuerzos de coordinación de las empresas
También sostienen que revelar las estrategias y tácticas de las empresas, así como enfoques técnicos concretos, podría enseñarles a los delincuentes cómo evitar la detección
Pero si el objetivo de esas empresas es impulsar que se instalen dispositivos de escucha secretos en todos los dispositivos y apps de mensajería, entonces sí deberían preocuparse por su imagen pública
También deberían preocuparse por los derechos humanos y por la brújula moral individual
Ya es hora de sacar a esta gente a la luz
Lo que pasa aquí es que la UE no quiere dar la imagen de haber consultado con ese tipo de gente, así que inventa razones arbitrarias para ocultarlo
Están usando a los niños como arma política para hacer que la ciudadanía acepte cualquier cosa
Y embarran la reputación de cualquiera que se oponga a su vigilancia total, tratándolo como si apoyara a criminales atroces
https://news.ycombinator.com/item?id=38205743#38205787