Ya se sabía “desde el principio” del bug de Horizon de Fujitsu que envió a personas inocentes a prisión
(arstechnica.com)- La falla del sistema contable Horizon de la oficina postal del Reino Unido era conocida desde las primeras etapas de su despliegue, y ese error influyó en el procesamiento y las condenas de administradores inocentes de sucursales postales
- Entre 1999 y 2015, los datos contables defectuosos hicieron parecer que faltaba dinero, lo que llevó al procesamiento y condena de más de 900
sub-postmasterypostmistresspor cargos de robo o fraude - Los tribunales no conocieron 29 bugs identificados desde 1999, y han surgido testimonios y reportes de que Post Office sostuvo que el sistema funcionaba correctamente mientras intervenía en la modificación de declaraciones judiciales de empleados de Fujitsu
- Hasta ahora, solo se han revertido 93 condenas; algunas víctimas fueron a prisión, otras pagaron dinero a Post Office para cubrir faltantes inexistentes, y miles siguen esperando compensación
- Fujitsu reconoció una obligación moral de contribuir a compensar a las víctimas, y el gobierno británico prepara una nueva ley para exonerar rápidamente y compensar a quienes fueron condenados injustamente
La falla de Horizon era conocida desde las primeras etapas del despliegue
- Paul Patterson, co-CEO de la división europea de Fujitsu, declaró en la investigación pública que los bugs del software Horizon eran conocidos “desde el inicio del despliegue”
- Patterson dijo que “los bugs y errores eran conocidos desde hacía muchísimo tiempo en varios niveles”, y afirmó que desde el inicio del despliegue del sistema existían bugs, errores y defectos, y que las partes involucradas lo sabían
- Horizon era un software contable instalado en 1999 por International Computers Limited, subsidiaria de Fujitsu, para la oficina postal del Reino Unido
Procesamientos entre 1999 y 2015 y magnitud del daño
- Los datos contables defectuosos de Horizon hacían parecer que faltaba dinero en las sucursales, y entre 1999 y 2015 más de 900
sub-postmasterypostmistressfueron procesados y condenados por robo o fraude - Algunas personas inocentes fueron a prisión, y otras pagaron dinero a UK Post Office para cubrir faltantes que en realidad no existían
- Según la BBC, hasta ahora solo se han revertido 93 condenas, y miles de personas siguen esperando acuerdos de compensación
Bugs que los tribunales no conocieron y declaraciones modificadas
- Según informó The Guardian, los tribunales que llevaron los casos de empleados de la oficina postal no recibieron información sobre 29 bugs identificados desde 1999 en el sistema de Fujitsu
- Incluso cuando los bugs eran reconocidos, las declaraciones para testimonio judicial de empleados de Fujitsu eran modificadas por Post Office, que mientras llevaba a personas inocentes ante los tribunales intentaba sostener la postura de que el sistema funcionaba correctamente
- Patterson dijo que le sorprendió que esos detalles no aparecieran en una declaración que un empleado de Fujitsu presentó a Post Office, y afirmó haber visto evidencia de que otras personas modificaron las declaraciones
- Cuando Jason Beer KC, abogado principal de la investigación pública, le preguntó si lo consideraba “una vergüenza”, Patterson respondió que era “shameful and appalling”
- Patterson dijo que, según su comprensión de la ley británica, toda la evidencia en la que Post Office se basó para las acusaciones debió haberse presentado a los
subpostmaster
El derecho de acusación privada y posible reforma institucional
- Financial Times informó que la investigación pública escuchó en diciembre de 2023 que abogados de Post Office reescribieron declaraciones de Fujitsu
- Post Office obtuvo 700 de las 900 condenas utilizando el derecho de acusación privada, disponible para empresas privadas en el Reino Unido
- El resto de las condenas provino de casos presentados por la fiscalía escocesa
- Este escándalo podría derivar en una reforma del sistema de acusación privada que permite a organizaciones llevar a personas ante los tribunales
La disculpa de Fujitsu y su responsabilidad de compensación
- A comienzos de esa misma semana, Patterson dijo a parlamentarios británicos que quería disculparse por el papel de Fujitsu en este “terrible error judicial”
- Reconoció que Fujitsu estuvo involucrada desde el principio, que el sistema tenía bugs y errores, y que ayudó a Post Office en los procesamientos contra
sub-postmaster - Patterson dijo que Fujitsu tiene una obligación moral de contribuir a compensar a las víctimas
Reconocimiento del problema desde 1999 y respuesta del gobierno
- Flora Page, abogada de las víctimas, preguntó a Patterson si realmente nadie había visto con claridad en el pasado la conexión entre el código extremadamente malo puesto en operación y los datos extremadamente malos que terminaron en los servicios de apoyo al litigio
- Patterson respondió que esa conexión y la comprensión de qué estaba ocurriendo y dónde ocurría existían tanto en Fujitsu como en Post Office y se remontaban a 1999
- Kevin Hollinrake, ministro postal, dijo a la BBC que obtener compensación y respuestas es su “máxima prioridad”
- Hollinrake dijo que hubo impactos terribles en la vida de las personas, incluidos matrimonios destruidos y suicidios, y que donde sea posible debe haber rendición de cuentas mediante procesos penales
- El gobierno británico planea una nueva ley para exonerar rápidamente y compensar a quienes fueron condenados falsamente
1 comentarios
Opiniones de Hacker News
Es impactante la parte en la que Paul Patterson, co-CEO de la división europea de Fujitsu, dijo que “le sorprende que eso se haya omitido en las declaraciones de testigos que empleados de Fujitsu entregaron al Post Office, y que también vio algunas pruebas de que otras personas editaron las declaraciones de testigos”.
Si lo único que intentaban ocultar era un contrato de software mal redactado, cuesta entender cómo este escándalo puede seguir empeorando.
Ahora uno sospecha si no habrá todavía más conductas indebidas fundamentales que aún no salieron a la luz.
Fujitsu también tiene responsabilidad, pero si el Post Office modificó las declaraciones, queda ambiguo quién tendría que revisarlo.
Cuando presento una declaración escrita a la policía, no debería ser mi responsabilidad verificar hasta el final que la policía no haya cambiado mi declaración.
Claro que, si me entero, debería plantear el problema, pero uno debería poder confiar en que las instituciones relacionadas con los tribunales no van a manipular pruebas.
Estas cosas pasan cuando una organización de nivel inferior intenta tapar su propia responsabilidad y termina exponiendo a toda una organización más grande a un riesgo de costos mucho mayor; o cuando una persona u organización cree que tiene razón y sigue escalando la respuesta; o cuando alguien, por tener poder, cree que puede dejar pasar males mayores para evitar pagar el precio del error original.
No es raro ni siquiera a pequeña escala, y en empresas sin una cultura de confianza e integridad, muchas veces se reprime internamente la información sobre fallas y se acaba cometiendo actos peores y más dañinos.
Además, Fujitsu provee software a muchas instituciones del gobierno británico, como el NHS, así que estaba encubriendo no solo contratos gigantescos, sino también el hecho de que mintieron y que, como resultado, personas fueron a la cárcel e incluso se suicidaron.
Era algo que iba a provocar una enorme indignación política, además de responsabilidad penal y civil, y a poner bajo un foco no deseado la forma en que se adjudican los contratos.
De hecho, personas se suicidaron por la vergüenza, las deudas y la destrucción de sus carreras; este caso produjo muertes.
Cada vez parece sorprendente, absurdo e imposible, pero se sigue repitiendo.
Como en una comedia o una mala película de suspenso, el delito parece seguir escalando.
Si uno mira el artículo de Wikipedia de Paula Vennells, dice que el Post Office procesó a 700 jefes de sucursal entre 1999 y 2015 [0].
Haciendo el cálculo, es aproximadamente una persona cada 8 días; no sé cuál sea la tasa base de jefes de sucursal que cometen fraude o son procesados, pero me parece un número excesivamente alto.
Con una frecuencia de procesamientos tan elevada, el Post Office debería haber hecho una investigación interna.
[0] https://en.wikipedia.org/wiki/Paula_Vennells
Esto no tiene excusa.
Ese fue un período bastante clave, cuando todo esto estaba ocurriendo con fuerza.
Lo señalo en particular porque, después de pasarle el puesto a Vennells, se fue durante varios años a ITV.
Justamente ITV fue quien hizo la serie que volvió a poner este caso ante la opinión pública.
Dicho eso, dejó ITV mucho antes de que empezara la producción de la serie, así que quizá haya sido una elección creativa más que una influencia externa.
https://en.wikipedia.org/wiki/Adam_Crozier
También podría ser un caso extremo de ejecutivos codiciosos e inmorales proyectando sus propios defectos en otros.
Hablando en serio, si alguien fuera delincuente, ¿para qué elegiría el camino engorroso de operar una oficina postal durante años?
Si hubiera millones, 700 podría ser una cifra impresionante.
Hay cosas que siguen ocurriendo incluso ahora.
Los procesamientos siguen en curso, aunque ya no los impulsa el Post Office sino el Crown Prosecution Service.
Fujitsu sigue proporcionando datos al CPS y al Post Office, como lo hizo durante años, y no sé si todavía entrega también declaraciones de testigos.
Los jefes de sucursal siguen quejándose de que bugs del software Horizon provocan errores en los saldos.
Los jefes de sucursal siguen recibiendo multas y teniendo que pagarle al Post Office cuando aparecen faltantes, y esos montos se descuentan automáticamente de sus salarios.
Intenté reunir los hilos de HN sobre este tema
Me pregunto si falta algún artículo importante
Es interesante que hubo un envío en 2012 con un solo comentario, y después de eso parece que casi no hubo nada durante 7 años
Fujitsu CEO Deposition – Post Office Horizon IT Inquiry - https://news.ycombinator.com/item?id=39059302 - ene. 2024 (1 comentario)
Fixing Horizon bugs would have been too costly, Post Office inquiry told - https://news.ycombinator.com/item?id=39039712 - ene. 2024 (59 comentarios)
Fujitsu says it will pay compensation in UK Post Office scandal - https://news.ycombinator.com/item?id=39023695 - ene. 2024 (26 comentarios)
How a software glitch at the UK Post Office ruined lives - https://news.ycombinator.com/item?id=39010070 - ene. 2024 (326 comentarios)
Post Office Horizon scandal explained: Everything you need to know - https://news.ycombinator.com/item?id=38983144 - ene. 2024 (8 comentarios)
A TV Show Forced Britain's Devastating Post Office Scandal into the Light - https://news.ycombinator.com/item?id=38951802 - ene. 2024 (168 comentarios)
British Post Office Scandal - https://news.ycombinator.com/item?id=38937705 - ene. 2024 (149 comentarios)
How the Post Office's Horizon system failed: a technical breakdown - https://news.ycombinator.com/item?id=38931792 - ene. 2024 (4 comentarios)
Ex Post Office CEO hands back award after IT failures lead to false convictions - https://news.ycombinator.com/item?id=38930011 - ene. 2024 (127 comentarios)
Post Office Horizon Enquiry – Fujitsu Report on Eposs PinICL Task Force (1998) - https://news.ycombinator.com/item?id=38926582 - ene. 2024 (1 comentario)
Fujitsu bosses knew about Post Office Horizon IT flaws, says insider (2021) - https://news.ycombinator.com/item?id=38890468 - ene. 2024 (8 comentarios)
Mr Bates vs. the Post Office - https://news.ycombinator.com/item?id=38869011 - ene. 2024 (3 comentarios)
What went wrong with Horizon: learning from the Post Office Trial - https://news.ycombinator.com/item?id=38867712 - ene. 2024 (19 comentarios)
UK Post Office: 700 Horizon software scandal victims to receive £600k each - https://news.ycombinator.com/item?id=37561428 - sept. 2023 (40 comentarios)
After 20 years, the Post Office scandal cover-up is happening in plain sight - https://news.ycombinator.com/item?id=36778486 - jul. 2023 (1 comentario)
The UK post office database scandal – “can't see the bug = user is a thief” - https://news.ycombinator.com/item?id=35837576 - may. 2023 (2 comentarios)
Hundreds of lives ruined by faulty UK Post Office computer system - https://news.ycombinator.com/item?id=35792896 - may. 2023 (4 comentarios)
Exempleados de UK Post Office cuentan a una investigación el estrés del escándalo de TI - https://news.ycombinator.com/item?id=30394685 - Feb 2022 (2 comentarios)
Escándalo de Post Office: una investigación pública examinará condenas injustas - https://news.ycombinator.com/item?id=30329668 - Feb 2022 (149 comentarios)
Escándalo de Post Office: 'Quiero que alguien más sea acusado y encarcelado como yo lo fui' - https://news.ycombinator.com/item?id=30329510 - Feb 2022 (2 comentarios)
Software defectuoso envió a trabajadores postales a la cárcel - https://news.ycombinator.com/item?id=26973583 - Abril 2021 (1 comentario)
Trabajadores condenados de Post Office limpian sus nombres - https://news.ycombinator.com/item?id=26924882 - Abril 2021 (187 comentarios)
Tribunal del Reino Unido absuelve a personal de correos condenado por 'datos corruptos' - https://news.ycombinator.com/item?id=26913037 - Abril 2021 (284 comentarios)
El sistema legal del Reino Unido asume que las computadoras no tienen bugs - https://news.ycombinator.com/item?id=25518936 - Dic 2020 (24 comentarios)
Escándalo de Post Office: los postmasters celebran la victoria contra las condenas - https://news.ycombinator.com/item?id=24661321 - Oct 2020 (2 comentarios)
Bancarrota, cárcel, vidas arruinadas: dentro del escándalo de Post Office - https://news.ycombinator.com/item?id=24440476 - Sept 2020 (1 comentario)
Los postmasters fueron procesados usando evidencia poco confiable - https://news.ycombinator.com/item?id=23454606 - Junio 2020 (2 comentarios)
Fallas en el sistema contable de Post Office llevaron a trabajadores a ser condenados por robo - https://news.ycombinator.com/item?id=21795219 - Dic 2019 (104 comentarios)
Post Office contrata contadores para revisar los reclamos informáticos de los sub-postmasters - https://news.ycombinator.com/item?id=4143107 - Junio 2012 (1 comentario)
Una miniserie de TV reciente generó interés público, y gracias a eso parece que los medios masivos empezaron a cubrirlo ampliamente
Esta lista podría convertirse en un buen trabajo final de curso relacionado con ciencias de la computación o tecnología, o en un buen artículo o serie de Medium/Substack
Para profesores, también sería un buen caso de estudio de ética informática, aunque quizá convenga esperar un poco más para que salgan más detalles
Private Eye ha seguido cubriendo este caso desde que Computer Weekly lo informó por primera vez
Para dejar constancia, también hay un envío y un comentario que publiqué
Computer Says 'Guilty' - https://news.ycombinator.com/item?id=27392724 - Junio 2021 (1 comentario)
En Inglaterra y Gales, la obstrucción de la justicia es un delito que puede castigarse hasta con cadena perpetua.
Personalmente, me parece un castigo adecuado para los abogados que reescribieron esas declaraciones testimoniales.
La colaboración o la edición en sí no necesariamente constituyen un delito; el delito está en firmarlas sabiendo que contienen declaraciones falsas o engañosas.
Es impactante la parte que dice que “las declaraciones testimoniales de empleados de Fujitsu que se presentarían en el tribunal fueron editadas posteriormente por Post Office”.
Quienes hicieron esto deberían recibir penas de prisión y multas considerables.
Si un nuevo sistema de software detectó fraudes que antes no se veían, existe la responsabilidad de verificar, volver a verificar y verificar por tercera vez los resultados antes de arruinar la vida de las personas.
Quienes construyen los clasificadores de IA actuales también deberían tomar nota.
Sistemas así ya se usan, o probablemente pronto se usarán, para seleccionar objetivos de vigilancia, hacer coincidencias faciales y en software legal basado en IA.
No estamos tan lejos de una situación en la que “la computadora dice que eres culpable”; e incluso si la computadora no lo dice directamente, basta con darle a la clase equivocada de personas suficiente justificación para creer que están haciendo lo correcto.
Algo muy parecido ocurrió con la autoridad fiscal de Países Bajos, y sospecho que, si aquí se destapa por completo lo del IND, saldrán a la luz muchos más casos de este tipo.
Hasta cierto punto, también es algo común en la mayoría de los proyectos de software.
Muchas veces se sabe que el software tiene bugs y problemas, pero no se consideran bloqueos suficientes como para retrasar la fecha de lanzamiento; en ámbitos de bajo riesgo, como el desarrollo de videojuegos, eso más o menos funciona.
Pero no funciona con software en el que están en juego la vida y las finanzas de las personas.
Y mucho menos está bien acusar a personas de delitos sabiendo muy bien que el problema podría deberse a bugs del sistema.
Uno podría cuestionar si el enfoque de “moverse rápido, romper cosas e ignorar los bugs que no parezcan lo bastante graves como para frenar por completo el lanzamiento” es correcto, pero la respuesta a nivel empresarial y legal fue claramente errónea, y la mayor parte del problema surgió del comportamiento sospechoso de ejecutivos y responsables de negocio que intentaron encubrirlo.
Quien le endilga un delito a otra persona debería recibir la misma sanción que corresponde a ese delito.
Hay más publicaciones relacionadas:
Fixing Horizon bugs would have been too costly, Post Office inquiry told
https://news.ycombinator.com/item?id=39039712
Fujitsu is sorry that its software helped send innocent people to prison
https://news.ycombinator.com/item?id=39038263