- En febrero de 2021, era fin de semana y estábamos en plena pandemia, así que para la atención de urgencia una enfermera dijo que si enviaban video/fotos, el médico podría revisarlos por adelantado
- Como la parte lastimada del bebé era una "zona íntima", tomó y envió fotos para que se viera bien, y tras revisarlas el médico recetó antibióticos rápidamente, por lo que el problema se resolvió pronto
- Pero por esas fotos, el algoritmo de Google lo señaló como una persona que intercambiaba CSAM (material de abuso sexual infantil) y su cuenta de Google fue suspendida
- Llevaba más de 10 años usando Gmail y Google Calendar, tenía sus fotos y videos respaldados en la nube de Google, y su teléfono usaba Google Fi
- Incluso el propio afectado, Mark, era ingeniero de software en una empresa tecnológica que desarrollaba herramientas automatizadas para eliminar contenido de video marcado por usuarios
- Por eso pensó que detrás de estas cosas había personas para evitar que las computadoras se equivocaran, y que si alguien revisaba el caso el problema se resolvería
- Envió un correo explicando la situación, pero Google respondió que no restauraría la cuenta sin dar más explicaciones
- Perdió todo su historial de correos, fotos y contactos, y también tuvo que cambiar de número telefónico
- Aunque Mark no lo sabía, el equipo de revisión de Google ya había denunciado las imágenes que tomó, por lo que la policía de San Francisco comenzó a investigarlo
- Algo parecido también le ocurrió en Texas a una persona llamada Cassio
- En 2021, Google hizo más de 600 mil reportes de CSAM y desactivó 270 mil cuentas
- En 2009, Microsoft desarrolló la tecnología PhotoDNA, y en 2018 Google desarrolló una herramienta de IA capaz de reconocer imágenes de CSAM
- Varias empresas, incluida Facebook, usan esta tecnología
- En diciembre de 2021, Mark recibió una carta de la policía de San Francisco
- Incluía una copia de la orden de cateo entregada a Google junto con la notificación de que había sido investigado
- Se investigó todo lo que había en la cuenta de Google de Mark: búsquedas en internet, historial de ubicación, mensajes, documentos, fotos, videos, etc.
- Ese cateo se realizó apenas una semana después de que tomó las fotos en febrero
- Cuando Mark se puso en contacto con el investigador, le dijeron que el caso ya había sido cerrado sin cargos
- El investigador quiso comunicarse con Mark, pero no pudo localizarlo ni por teléfono ni por correo electrónico (porque estaban suspendidos)
- Mark preguntó si podía restaurar su cuenta de Google a través del investigador, pero le dijeron: "tiene que hablar con Google"
- Presentó este reporte policial a Google, pero no sirvió de nada
- El problema de Cassio también se resolvió del mismo modo, pero tampoco fue posible recuperar su cuenta de Google
- ¿Puede una IA distinguir entre imágenes médicas e imágenes de abuso?
8 comentarios
Parece que al final también salió en las noticias nacionales citando al New York Times.
"Google acusó como delincuente sexual a un padre que fotografió los genitales de su hijo pequeño para recibir atención médica"
Así como hace 70 años, al ver la bomba nuclear, los científicos comenzaron a ejercer una autorregulación sobre la ciencia, quizá también haya llegado el momento de que los desarrolladores ejerzan una autorregulación frente a las grandes tecnológicas.
¿Esto ya no amerita una demanda..?
Según el artículo original archivado, parece que Mark también consultó con un abogado para ver si podía demandar a Google, pero al enterarse de que costaría unos 7 mil dólares, aparentemente desistió.
Parece una situación en la que ni siquiera bastaría con arrodillarse y suplicar....
Vaya, en este caso más bien parece que deberían recibir una compensación por el daño causado; ¿estarán actuando así para intentar encubrir ese tema?
La respuesta y el manejo de Google están a un nivel muy bajo..
Apple incorpora nuevas funciones de seguridad para la protección infantil
Apple lamenta la polémica por el "escaneo del iPhone"