Los micrófonos de detección de disparos de Flock ahora también empezarán a detectar voces humanas

• El nuevo micrófono de detección de Flock ahora incorpora la capacidad de escuchar voces humanas e incluso señales de angustia
• El dispositivo antes se usaba para la detección de disparos, pero ahora también busca detectar situaciones de emergencia de la ciudadanía
• Surgen posibles problemas legales, como violaciones a la privacidad y controversias por intercepción ilegal de comunicaciones
• En algunas ciudades ya se ordenó rescindir contratos con Flock y retirar equipos, mientras los conflictos se agravan por reinstalaciones repetidas
• Crece la preocupación por el aumento del riesgo para ciudadanos inocentes y la afectación de libertades civiles

---

Los micrófonos de detección de disparos de Flock incorporan detección de voz humana

Flock Safety y la nueva función

• Flock Safety es una empresa de tecnología policial con una red de lectores automáticos de placas vehiculares (ALPR) en todo Estados Unidos
• El nuevo producto presentado es la serie de micrófonos Raven, que usa detección acústica en espacios públicos para identificar señales de “angustia humana”
• Antes se usaba con el objetivo de detectar disparos y alertar a la policía, pero recientemente también se promociona su función de detección de “situaciones de emergencia” (como gritos)

Incertidumbre y preocupaciones sobre la nueva función

• En el material publicitario de Flock se muestra que se envía una alerta a la policía cuando se detectan voces de angustia, como un “grito”
• Sin embargo, no se ha explicado con claridad el método real de detección y clasificación de voz, por lo que su funcionamiento sigue siendo opaco
• Incluso los sistemas existentes de detección acústica de disparos tenían frecuentes fallas por ruidos como explosiones de autos o fuegos artificiales
• Existe la posibilidad de conflictos legales con normas como las que prohíben la intercepción de comunicaciones y la grabación de conversaciones privadas (la llamada eavesdropping law)

Problemas legales y tropiezos que ya ocurrieron

• En el pasado, en Illinois, Flock fue demandada por presuntamente violar la ley estatal y compartir datos vehiculares con ICE
• En 2023, en el estado de North Carolina, se ordenó prohibir la instalación de equipos por operarlos sin licencia
• En la ciudad de Evanston, incluso después de la cancelación del contrato con Flock, la empresa reinstaló equipos por su cuenta, y esos dispositivos fueron cubiertos temporalmente con cinta negra

Dudas sobre la utilidad de la tecnología

• Según un informe de un comité ciudadano de vigilancia en Illinois, más del 99% de las alertas de Flock no derivan en una acción policial real
• Ya se ha vuelto una realidad la posibilidad de que la policía responda a alertas erróneas de disparos y ponga en riesgo a ciudadanos inocentes (por ejemplo, el caso de ShotSpotter en Chicago)
• La expansión hacia la detección de “angustia” podría aumentar riesgos legales, de derechos humanos y físicos que no se habían previsto

Resumen general

• La expansión de la tecnología de detección de audio de Flock Safety es una causa importante del aumento de violaciones involuntarias a la privacidad y controversias sociales
• Debido a los problemas legales y éticos, en algunas comunidades ya avanzan la cancelación de contratos y el retiro de equipos
• También crecen las exigencias de una explicación técnica clara y mayor transparencia sobre la nueva función
• Se extiende un clima de revisión crítica sobre la utilidad del producto y su aporte real a la prevención del delito

[GN⁺]

Opiniones en Hacker News

• Es muy deprimente que ahora todo parezca estar reemplazando los valores tradicionales de Estados Unidos con un utilitarismo centrado en las ganancias; en la industria tecnológica casi ya no se habla de valores ni del tipo de sociedad que queremos construir, y da la impresión de que todo se reduce a "mejora un poco un problema y da dinero"; al final, este es el mundo que nos espera
  • Lo llamé utilitarismo centrado en las ganancias, pero ni siquiera merece ese nombre; a mí me parece casi corrupción criminal; estas empresas en realidad ni siquiera pueden ganar dinero, así que sobreviven a la fuerza con contratos gubernamentales; si tuvieran que competir en el mercado privado, quizá quebrarían este mismo año; además, detrás de todo esto hay una dirección muy clara; tienen una visión definida y están dispuestos a hacer lo que sea para lograrla; por eso creo que es importante hacer cumplir las leyes antimonopolio; ahora las empresas "demasiado grandes para quebrar" se han vuelto la norma
  • Me recuerda al caso de los "detectores de vapeo" que usan en las escuelas; se pueden configurar para detectar ruido o ciertas palabras, pero en la práctica se escudan diciendo que solo hacen coincidencia de patrones con audio almacenado brevemente en memoria, y así esquivan por encima los problemas de violación a las leyes de escuchas
  • Da la sensación de que, una vez que algo se implementa de verdad, ya no queda espacio para la controversia ni el debate; la discusión apenas empieza cuando los resultados ya están ahí
  • Me pregunto si alguien ha leído <i>The Technological Republic</i>; lo que acabas de decir se parece muchísimo a lo que sostiene el CEO de Palantir en ese libro; él decía que hacía falta discutir qué significa una "buena vida"; irónicamente, parece haber llegado a una conclusión algo distinta sobre la vigilancia
• Leí la publicación en X de Garry Tan (CEO de YC) que dice algo como "parece que están pensando en la vigilancia al estilo chino, pero la vigilancia al estilo estadounidense puede ayudar a las víctimas"; respeto a Garry, pero no entiendo por qué cree que cruzar la línea esencial es una línea con la que todos deberíamos estar de acuerdo; al final, todas las armas se han usado para dañar a la humanidad
  • Llevo años esforzándome muchísimo para impedir que Flock se implemente en mi comunidad, y la opinión dentro de la comunidad está fuertemente dividida; donde vivo es uno de los pocos municipios más progresistas de Estados Unidos, y aun así el debate en torno a Flock no es simplemente una cuestión de trazar una línea; en realidad, la gente está profundamente enfrentada sobre esta tecnología
  • Vi la publicidad exagerada de que "Flock Safety resuelve el 10% del crimen nacional"; no hay datos que lo respalden; a mí también me llegó una multa por exceso de velocidad por culpa de este sistema, así que me pregunto si eso también cuenta como crimen resuelto; es cierto que la vigilancia puede ayudar a las víctimas, pero al mismo tiempo también puede amenazar las libertades civiles; al final necesitamos el derecho de decidir por nosotros mismos hasta qué punto vamos a ceder nuestra libertad; siento que quizá vi demasiado Person of Interest enlace
  • No sé bien qué trae Garry ni me importa, pero esa lógica es pura sofistería; es una discusión nacida de la contradicción fundamental del negocio al que pertenece; si de verdad fuera sensato, se habría quedado callado desde el principio
  • Dijiste que respetas a Garry, pero cuando uno escucha este tipo de retórica, cada vez cuesta más decir algo así; la lógica de "mi bomba solo mata a los malos" es, en esencia, ignorante o maliciosa
  • Esta lógica puede aplicarse en ambos sentidos; existe el caso de la disuasión nuclear (MAD), donde la guerra misma se redujo mucho y de hecho se salvaron más vidas; reconozco el riesgo de cola pesada de la violencia, pero no creo que la lógica de Tan sea irracional; también basta ver al Reino Unido, que está lleno de CCTV, para notar que una sociedad puede seguir siendo razonable incluso bajo cierto grado de vigilancia
• Como dice eso de "hoy el sufrimiento humano, mañana todo lo humano", Flock terminará vigilándolo todo en cuanto resuelva sus limitaciones técnicas; esta empresa solo busca dinero y tiene apagada cualquier brújula moral; está lista para venderle a la policía y al gobierno cualquier cosa que quieran; cada vez que veo noticias así, siempre dono $20 a la EFF o a la ACLU
  • También es un problema que "el gobierno nos imponga la carga y al final compre esto con nuestro propio dinero"; nos trasladan el costo por la fuerza
  • Me imagino que pronto oiremos la excusa de que "si escuchamos las conversaciones comunes, podremos prevenir delitos graves"; estas cosas siempre empiezan poco a poco, de manera gradual
• La pendiente resbaladiza hacia el infierno es muy empinada; siento que se vienen tiempos más oscuros; quisiera preguntarles a los defensores de la tecnología: si la NSA y Palantir ya nos han estado vigilando, ¿por qué la tasa de terrorismo aleatorio ha aumentado en vez de bajar? ¿No se supone que el propósito central de estos sistemas de vigilancia era impedir eso de antemano?
  • Me pregunto si de verdad es cierto eso de que "la tasa de terrorismo aleatorio subió después de la vigilancia de la NSA y Palantir"; según yo, desde los 90 hasta antes de 2020 el crimen más bien disminuyó; después de 2020 el mundo cambió tanto que ya es difícil comparar algo
  • Me interesa el escenario contrafactual; mientras no sepamos cuántos ataques se evitaron de antemano gracias a estas herramientas, tampoco podemos conocer la línea base
  • No es razonable esperar privacidad en espacios públicos, y eso incluye tanto grabaciones de video como de audio
  • También me parece raro el término terrorismo aleatorio (stochastic terrorism); en esencia, el terrorismo ya es violencia aleatoria por definición
• Aclaro que es Flock (YC 2017)
  • Ya casi no se pone la generación de YC en el título de los envíos; Launch HN es la única excepción
  • Hay muchas ideas que son malas para la sociedad en general, pero buenas para las empresas; para YC, el negocio siempre va primero
• El Estado de vigilancia de la novela 1984 hasta parece suave; si la tecnología sigue avanzando, en poco tiempo cada movimiento de cada persona será vigilado en tiempo real; la cuestión ahora es quién tendrá acceso y control sobre esos datos
• Me sorprende que alguien realmente crea que una tecnología así jamás se va a usar mal
  • De verdad lo prometieron; quién sabe, tal vez hasta hicieron promesa de meñique, (y los hackers también prometieron nunca robar datos)
• El siguiente paso lógico es reemplazarlo por el micrófono de bolsillo que todos llevamos todos los días enlace de YouTube
  • En 1960 todos habrían dicho que era imposible proponer que "todos los ciudadanos lleven un rastreador de radio encima", pero en 2012 eso ya era realidad con el "¿dos iPhones?"
• "Ahora todos estaremos vigilados y grabados todo el tiempo, así que todos se portarán de la mejor manera" enlace de YouTube
• Nos están grabando en la calle, en los semáforos, con patrullas y drones, en los parques, e incluso con cámaras de timbre en las puertas; no lo digo en broma, pero de verdad parece que no falta mucho para la época de las pantallas gigantes de 1984 vigilándonos
  • Ahora que ya existen LLM realmente sobresalientes, ni siquiera hace falta que una persona vigile o escuche directamente; los flujos de datos pueden analizarse y resumirse automáticamente para detectar conductas o palabras no deseadas, señales sospechosas o hasta alucinaciones; en una era en la que agentes enmascarados detienen por la fuerza a ciudadanos dentro y fuera del país, y en el extranjero hay bombardeos con drones autónomos, el futuro no se ve prometedor; al menos por ahora siguen siendo semi-autónomos
  • Al menos consuela saber que no hay dispositivos de escucha dentro de la casa
  • Siento que necesitamos herramientas más pacíficas de defensa ciudadana
  • Varios magnates tecnológicos, incluido Larry Ellison, están promoviendo la lógica del Estado de vigilancia de que "si todas las conductas quedan registradas y vigiladas todo el tiempo, todos se comportarán de manera ejemplar"; Ellison, Vance, Musk, Thiel, Luckey y Zuckerberg quieren construir sus propios Estados de vigilancia, y ya llevan bastante avance; la pregunta es qué vamos a hacer para detenerlo artículo relacionado
  • Estamos llegando a un punto en el que hasta con señales Wi‑Fi se puede detectar la frecuencia cardíaca, así que pronto hasta las primas de seguro podrían variar segundo a segundo; "¡cuando el gobierno y las grandes empresas te vigilan juntos mediante rastreo intrusivo, eso sí es una distopía positiva!" (medio broma, medio en serio) artículo sobre medición del pulso por Wi‑Fi