1 comentarios

 
GN⁺ 2024-10-31
Comentarios de Hacker News
  • Solo con una coincidencia de hash, Google podría haber tenido causa probable suficiente para que la policía obtuviera una orden para revisar directamente los archivos de Maher
    Tiene mucho sentido concluir que Google puede marcar una cuenta por material de abuso sexual infantil, pero que la policía aún necesita que un juez emita una orden judicial para ver los archivos reales. También es bueno que se haya considerado incluso el valor hash

    • Eso significa que será así de ahora en adelante. La condena de Maher se mantiene aunque se basó en una búsqueda sin orden judicial
      Porque el tribunal consideró aplicable la excepción de buena fe y aceptó la decisión del tribunal de distrito de que los agentes que hicieron la búsqueda sin orden judicial creían de buena fe que en ese momento no se necesitaba una orden
    • Traté de pensar en un ejemplo práctico. No me gusta que aparezca otro resquicio legal para acceder a los datos de la gente, pero este enfoque se siente razonable y como un objetivo que vale la pena perseguir
      Por ejemplo, se parece a una situación en la que alguien vio un estuche con la misma forma que una ametralladora, avisó a la policía, y la policía fue a verificar si estaba registrada. Eso parece bastante razonable, aunque me gustaría escuchar contraargumentos
    • Si fuera un caso en el que la policía “quería ver”, entonces sí, pero si les avisaron que ese material existía, me parece que la policía no necesitaría una orden judicial
    • No. Lo que envío por correo electrónico es entre Dios y yo
    • ¿Es esto razonable? Aunque el hash hubiera sido MD5, la probabilidad de una colisión accidental con un archivo de imagen válido es muchísimo menor que la probabilidad de que la otra evidencia presentada al juez fuera falsa o se hubiera malinterpretado
  • Parece que gran parte del fallo depende de que Google comparó hashes de imágenes con hashes de imágenes conocidas de abuso sexual infantil, pero no exigió que un empleado viera la imagen real antes de reportarla a la policía
    Si Google hubiera confirmado visualmente que la imagen sospechosa según el hash realmente correspondía, no habría hecho falta una orden judicial, pero el juez aparentemente consideró que una coincidencia de hash de imagen no es lo mismo que una confirmación visual. Dependiendo del método de hash, puede haber cierta duda sobre la posibilidad de colisiones, y con algunas estrategias de hash las colisiones podrían ser extremadamente improbables o casi imposibles
    Claramente no sería deseable exigir que un empleado de Google vea directamente material de abuso sexual infantil identificado por hash de imagen antes de avisar a una autoridad como la policía. Así que la solución práctica probablemente sea que la policía obtenga una orden judicial después de recibir el reporte y antes de pedirle a Google los datos originales
    En la página 4, el juez no deja establecido como precedente si una coincidencia de hash de imagen constituye causa probable suficiente para emitir una orden. Personalmente me parece una causa probable sólida, pero a veces jueces o tribunales interpretan la tecnología de manera particular, y dejarlo a interpretaciones individuales puede producir resultados contradictorios

    • Los hashes usados para este propósito, al igual que en el emparejamiento automático por copyright, no son hashes criptográficos sino hashes perceptuales(https://en.wikipedia.org/wiki/Perceptual_hashing)
      Los falsos positivos son bastante comunes, y los ataques contra hashes perceptuales ya se usan para manipular resultados de motores de búsqueda. Un ejemplo de artículo relacionado está en https://gangw.cs.illinois.edu/PHashing.pdf
    • Las funciones hash usadas para este fin normalmente no son hashes criptográficos. Son hashes perceptuales que permiten coincidencias aproximadas incluso si hay redimensionamiento de imagen o cambios de brillo. https://en.wikipedia.org/wiki/Perceptual_hashing
      Estos hashes no tienen resistencia a colisiones
    • Incluso si fuera un hash criptográfico, esta clase de certeza matemática casi absoluta sería una condición necesaria, pero no suficiente. Como en la criptografía usada para confidencialidad o integridad, las matemáticas no garantizan el resultado; lo más importante es la implementación
      Por ejemplo, cada entrada en una base de datos de hashes ilegales depende de que alguien haya clasificado la imagen original como ilegal. No existe una fórmula matemática que defina una imagen ilegal, y esa clasificación puede ser inexacta. También hay que confiar en la integridad de la base de datos, en la aplicación del usuario y su implementación, e incluso en la calculadora de hash
      Si yo fuera el juez, querría saber solamente si alguien realmente vio material de abuso sexual infantil. Puede ser desagradable, pero arrestar a una persona por sospecha de material de abuso sexual infantil puede causar daños graves incluso sin condena: detención, fianza o espera de juicio, trato como delincuente sexual infantil, y puede destruir su vida y su reputación
    • Parece que hace falta jurisprudencia sobre qué requisitos debe cumplir un hash de imagen para ser aceptado como causa probable para emitir una orden judicial. Claro que un hash de imagen puede hacerse tan bueno o tan malo como sea
      No me opongo en absoluto a que los jueces empujen la idea de “por favor, primero consigan una orden judicial”
      Tampoco me opongo a que Google busque este tipo de contenido en su propio almacenamiento en la nube. Muchas veces me desagrada que un proveedor de nube ande buscando posibles ilegalidades, pero en este caso me parece aceptable
      Lo que sí rechazo firmemente es que una empresa busque contenido dentro de dispositivos que me pertenecen con fines de detección de ilegalidades sin causa probable ni orden judicial. Del mismo modo, me opongo a que casi todo lo que hago en mis dispositivos se transmita a la nube de forma amplia y casi invisible
      Dicho de otro modo, quiero conservar el control de custodia de mis cosas, la posesión física de mis cosas debería estar protegida por la Cuarta Enmienda y no debería ser objeto de registros corporativos. Si yo voluntariamente se lo entrego a un proveedor de nube para que ellos lo almacenen, me parece bien una búsqueda limitada y la notificación necesaria a las autoridades. La línea de base es sobre en manos de quién están realmente los bits físicamente
  • Dejando de lado la discusión sobre la regla de usar el título original, me gusta esta cita de la primera página del fallo:
    Explica que un “hash” o “valor hash” es “una cadena normalmente corta generada a partir de una cadena de datos mucho más grande, por ejemplo una imagen electrónica, usando un algoritmo, y calculada de modo que sea muy poco probable que otro conjunto de datos produzca el mismo valor”.
    Me parece curioso que, para explicar qué es un hash, se cite un caso de la Corte Suprema en vez de un libro de texto. Tiene sentido si piensas en cómo funciona el sistema judicial, pero igual sigue siendo interesante que los tribunales tengan su propio sistema de literatura de ciencias de la computación.
    Alguien podría publicar un libro de CS para jueces que enseñe la mayor cantidad posible de ciencias de la computación solo a partir de jurisprudencia. Pensándolo bien, hasta podría ser realmente útil. Aunque la definición de hash que aparece aquí, como ya señalaron otros comentarios, necesita más contexto y, en particular, hay que distinguir entre hashes de redes neuronales y hashes tradicionales como MD5 cuando se habla de la “posibilidad de que otro conjunto de datos produzca el mismo valor”.

    • ¿Un libro de “CS para jueces”? Se siente como si por fin hubiera aparecido una forma de participación cívica que además de útil fuera interesante.
      Aunque me preocupa que una buena parte de lo necesario no sea fácil de presentar solo con precedentes ya firmes. El asesoramiento directo o los comentarios incidentales quizá no estén permitidos dentro de un caso porque no forman parte de un procedimiento contradictorio. Aunque sea sobre temas informáticos, hacerse una nueva carrera como perito experto suena bastante aburrido.
    • Ese libro probablemente terminaría con un contenido bastante raro, como eso de escribir que los trolls de patentes inventaron toda clase de cosas obvias.
    • ¿Y por qué sería raro? La literatura de ciencias de la computación no tiene ningún tipo de fuerza legal vinculante. Es natural que un juez prefiera citar fallos previos de otros jueces antes que libros de texto o materiales como Wikipedia.
  • Si esto significa que “como las autoridades tenían una base de buena fe para creer que no necesitaban una orden judicial cuando abrieron el archivo subido, la excepción de buena fe a la regla de exclusión respalda el rechazo de la moción de Maher para excluir la prueba”, ¿entonces esta condena se mantiene, pero en el futuro podrían revertirse casos similares sin orden judicial?

    • Esa “excepción de buena fe” es tan absurda que cuesta creer que exista de verdad.
      Se espera que los ciudadanos comunes entiendan todas las leyes y las cumplan al pie de la letra, pero ¿a las fuerzas del orden les basta con creer que lo que hacen es legal, aunque en realidad no lo sea?
      Esto parece menos una parte racional del sistema judicial y más el remate de un chiste de Chapelle[1].
      [1] https://www.youtube.com/watch?v=0WlmScgbdws
    • En ese momento nadie había resuelto judicialmente esa cuestión, así que se consideraba que lo que hicieron era legal.
      Ahora ya existe un precedente que declara que es ilegal.
      Este fallo es del tipo: “hemos estado permitiendo esto, pero no debimos hacerlo, así que a partir de ahora ya no se permitirá”.
      No soy jurista, pero es la mejor forma en que puedo explicarlo. La manera en que el sistema judicial aplica el derecho es enormemente compleja e inconsistente.
    • Sí, esta condena específica probablemente se mantenga. Pero este fallo no dice por sí mismo si futuras condenas serán revocadas o no.
      Solo significa que, si en una situación similar se obtuvo prueba incriminatoria sin orden judicial, a los fiscales de primera instancia en el futuro les será más difícil apoyarse en la excepción de buena fe de la regla de exclusión. Si el gobierno intenta presentar esa prueba en juicio, el acusado se opone y aun así el juez la admite, entonces ahí sí habría una base concreta para apelar.
      Este fallo solo refuerza el espíritu de la Cuarta Enmienda: “mejor consigan una orden judicial”.
    • En términos generales, sí, eso significa.
  • No tiene sentido que algunas de las personas más peligrosas con las que uno se cruza regularmente puedan hacer lo que quieran con solo creer que pueden hacerlo.
    La excepción de buena fe parece una de las normas más fascistas que existen hoy en el derecho.
    En ningún otro contexto o profesión uno puede decir “pensé que estaba permitido” y librarse de hacer cualquier cosa. A los policías debería aplicárseles un estándar más alto, no la ausencia de estándares.

    • Especialmente en cuestiones legales, en nuestro sistema judicial no es una defensa válida que un particular viole la ley y alegue “no sabía que estaba mal”.
      A las fuerzas del orden, que reciben formación, debería aplicárseles ese mismo estándar con mayor rigor, no con menos. De lo contrario, es un doble rasero.
    • ¿“Si creías que podías hacerlo, podías hacerlo y salirte con la tuya” no es el lema del capital de riesgo? Me hace pensar en casos como Uber, AirBnB y WeWork.
    • Eso no significa eso. Lo que puede evaluarse es si esa creencia era razonable, es decir, si podía justificarse mediante algún proceso de razonamiento.
      En este caso, el argumento para aplicar la excepción de buena fe es que la probabilidad de un falso positivo en una coincidencia de hash perceptual era lo bastante baja como para considerar legal abrir la imagen y verificar si realmente era material de explotación sexual infantil. Después, con ese resultado de verificación, obtuvieron una orden para registrar su cuenta de Gmail y su casa.
    • Las leyes del buen samaritano suelen funcionar de manera parecida.
    • No es “basta con decir que pensabas que estaba permitido”, sino “había evidencia razonable de que se estaba cometiendo un delito”.
      Aquí la razonabilidad es que “Google lo dijo”, y además resultó ser cierto.
      Si la policía llega a una casa por una denuncia de violencia doméstica y escucha gritos pidiendo ayuda, ¿no sería también una actuación de buena fe tumbar la puerta y entrar?
  • De verdad no sé cómo debería entenderse la excepción de buena fe.
    Siento que cuanto menos entiendan la ley los policías, más fácilmente podrán creer que la están cumpliendo, así que el incentivo parece ir en esa dirección.

    • Exactamente. De hecho funciona así, y por eso muchos policías saben menos de derecho que un ciudadano cualquiera elegido al azar.
      En una sociedad mejor, el estándar de conocimientos esperados de un policía sería más alto, y para ser contratado se exigiría algo como una licenciatura de 4 años en justicia penal o pre-derecho, en vez de poner límites máximos de IQ o preferir experiencia previa en ejercer violencia.
    • No es tan laxo. Está limitado a situaciones en las que una persona razonable, sabiendo exactamente lo que dicen la ley y la jurisprudencia existente, podría concluir que cierta conducta era legal.
      En este caso, otros tribunales federales de apelación ya habían considerado legales actos similares.
    • La excepción de buena fe exige que esa creencia sea razonable. Ignorar una ley claramente establecida no es razonable.
      Tiene que tratarse de un caso en el que la ley fuera ambigua, hubiera interpretaciones en conflicto, o una persona razonable pudiera interpretarla del modo en que lo hizo la policía.
  • El problema del internet de hoy es que unas cuantas megacorporaciones están creando sus propias leyes.
    A menudo incluso chocan con la legislación local, pero nadie puede enfrentarlas. Por ejemplo, alguien crea contenido, otra persona lo sube y obtiene una puntuación más alta mientras al autor original lo bloquean. O unos niños tocan en concierto una pieza para violín y el audio se elimina por sospecha de infracción de copyright. No hay forma de apelar, y nadie en su sano juicio llevaría eso hasta los tribunales. Simplemente así siguen las cosas.

  • La Cuarta Enmienda no ayudó aquí. No sé si eso es bueno o malo.
    Aun así, 25 años de prisión por posesión de material de abuso sexual infantil suena durísimo.

    • La severidad de la condena no es por el simple hecho de guardar las imágenes, sino por el daño individual y social que se genera al consumir ese tipo de contenido.
  • Hay una parte que dice: “La doctrina del registro privado permite a agentes del gobierno repetir, sin orden judicial, un registro que ya realizó un particular”.
    No soy abogado, pero ¿eso significa que si alguien entra a mi casa buscando drogas, encuentra una parte, la roba, luego lo atrapa la policía y confiesa todo, la policía después puede registrar mi casa sin orden judicial?

    • Yo tampoco soy abogado, pero por lo que leí, los tribunales son especialmente cautelosos con los registros de viviendas bajo la Cuarta Enmienda.
      Al menos un tribunal de apelaciones puso límites a aplicar la jurisprudencia sobre registros privados a espacios habitables, y ese caso trataba de una habitación de hotel[0].
      A diferencia del paquete de Jacobsen, la habitación de motel de Allen no era un objeto que contenía solo contrabando, sino un alojamiento temporal con pertenencias personales. Allen tenía un interés de privacidad legítimo y significativo sobre el contenido de la habitación del motel, y el hecho de que el gerente hubiera visto una parte de eso no significaba que todo ese interés de privacidad hubiera sido vulnerado. Jacobsen, que midió el alcance del registro privado respecto de un paquete postal, tiene hechos distintos, y este tribunal dijo que no extendería ese criterio a casos de registros privados en viviendas.
      Así que, en ese supuesto, la policía podría examinar “tus drogas” incautadas al ladrón y usar ese resultado para solicitar una orden de registro de la casa, pero un registro sin orden judicial sería ilegal.
      [0] https://casetext.com/case/us-v-allen-167
    • Me parece que el registro privado en sí tendría que ser legal.
  • “Eso no significa, sin embargo, que Maher tenga derecho a ser eximido de su condena. Como correctamente determinó el tribunal de distrito de manera alternativa, al momento en que las autoridades abrieron sus archivos subidos existía una base de buena fe para creer que no se necesitaba una orden judicial, por lo que la excepción de buena fe a la regla de exclusión respalda el rechazo de la solicitud de Maher para suprimir la evidencia”.
    “El acusado fue condenado en el Tribunal de Distrito del Norte de Nueva York, tras declararse culpable, por recibir y poseer aproximadamente 4,000 imágenes y 5 videos que representaban material de abuso sexual infantil”.
    Es una victoria para Google, para el sistema judicial de EE. UU. y para los derechos constitucionales, y una derrota para un abusador infantil.

    • No es que los derechos constitucionales hayan ganado del todo. Si se violan los derechos constitucionales, debería ser simplemente que al acusado lo dejen libre sin más, y punto.