Un mal diseño de software puede hacer que hasta un buque de guerra choque
(imseongkang.wordpress.com)El 21 de agosto de 2017, el destructor Aegis USS John McCain (DDG-56) de la Marina de EE. UU., con un desplazamiento de 9 mil toneladas, chocó en el estrecho de Malaca cerca de Singapur con el petrolero Alnic MC, con una capacidad de carga de 30 mil toneladas, en un accidente en el que murieron 10 tripulantes y 5 resultaron heridos. El accidente ocurrió porque, en una ruta marítima muy transitada, el proceso de transferir la autoridad de control del USS John McCain se retrasó unos 3 minutos. El comandante de la Séptima Flota de la Marina de EE. UU., el vicealmirante Joseph P. Aucoin, a la que pertenecía ese buque, fue relevado de su cargo inmediatamente después del accidente.
El informe de la NTSB de Estados Unidos (Junta Nacional de Seguridad en el Transporte), que investigó el accidente, señaló varias causas, entre ellas el diseño inadecuado del IBNS (Sistema Integrado de Puente y Navegación), instalado en el USS John McCain un año antes del incidente. Durante el proceso de modernización del buque, la interfaz de control para gobernar y propulsar la nave se cambió a un software basado en pantalla táctil, pero la UI general de esa interfaz era inadecuada y aumentó considerablemente la complejidad, creando un entorno en el que era fácil cometer errores humanos y difícil detectarlos de inmediato, lo que contribuyó al accidente. Por ello, la Marina de EE. UU. decidió eliminar la interfaz de control basada en pantalla táctil y volver a los controles mecánicos tradicionales.
A simple vista, esto podría parecer un caso de que adoptar pantallas táctiles fue un error, pero en realidad el problema de fondo fue que una UI mal diseñada elevó la complejidad. En relación con esto, el libro [Meltdown: Why Our Systems Fail and What We Can Do About It](Chris Clearfield y András Tilcsik, 2019) explica, con varios casos, cuán peligroso puede ser que aumenten la complejidad o el acoplamiento de un sistema. El artículo enlazado explica en detalle, centrándose en el diseño de la interfaz de usuario del IBNS mencionado arriba, qué aspectos estaban mal. (Coreano)
5 comentarios
La ironía de volver a interfaces anticuadas debido al fracaso del UI/UX moderno
En el libro [Meltdown] mencionado arriba también aparecen casos de tragedias causadas por problemas de UI/UX. Por ejemplo, el [accidente del vuelo 447 de Air France en el Atlántico] ocurrido en 2009 sucedió porque el copiloto, que tenía poca experiencia, entró en pánico ante una situación repentina y siguió tirando de la palanca de mando; entre los factores que contribuyeron al accidente también estuvo que el piloto que detectó la crisis tomó directamente los controles, pero se dio cuenta demasiado tarde de que el copiloto seguía tirando de su palanca. Sí sonó una alarma indicando que se estaban introduciendo órdenes distintas desde la palanca del capitán y la del copiloto, pero ya había varias alarmas sonando al mismo tiempo, así que cuando notaron ese punto ya era demasiado tarde.
Accidente del vuelo 447 de Air France en el Atlántico:
https://rhfvm1111.blog.me/220275551718
Aunque no es un caso incluido en el libro mencionado, hay varios ejemplos de accidentes provocados por una interfaz de operación o un software mal diseñados, incluso solo dentro del campo de la aviación, como los mencionados arriba. Por ejemplo, en el [accidente del vuelo 140 de China Airlines en el aeropuerto de Nagoya] ocurrido en 1994, una gran tragedia se produjo por la combinación de una operación incorrecta de una palanca que el piloto podía accionar por error con facilidad y la falta de actualización de un software de piloto automático que tenía un bug grave. En el caso del Boeing 737 MAX, que se volvió tema de discusión por los accidentes consecutivos del [vuelo 610 de Lion Air] y el [vuelo 302 de Ethiopian Airlines], la causa central de los accidentes también fue un SPOF (punto único de falla) creado por el software de piloto automático. En el Boeing 737 MAX se añadió, sin suficiente explicación, una función en el software de piloto automático que en ciertas situaciones manipulaba el estabilizador horizontal sin importar la intención del piloto; como esta función usaba solo el valor de uno de los dos sensores instalados en el avión, cuando ese sensor falló la dirección de vuelo quedó forzada hacia una trayectoria de caída, lo que finalmente llevó al accidente. Además, aunque originalmente estaba incorporada una función de advertencia para alertar cuando los dos sensores mostraban valores distintos, Boeing la convirtió en una opción adicional de pago, por lo que los pilotos no pudieron recibir una advertencia adecuada.
Accidente del vuelo 140 de China Airlines en el aeropuerto de Nagoya:
https://rhfvm1111.blog.me/220226606257
Defectos del Boeing 737 MAX:
https://namu.wiki/w/%EB%B3%B4%EC%9E%81%20737%20MAX/%EA%B2%B0%ED%95%A8
Otro caso representativo en el que se combinaron problemas de la interfaz de usuario y error humano es el incidente de 1988 en el que el crucero Aegis de la Marina de EE. UU. USS Vincennes (CG-49) confundió un avión civil iraní con un caza y lo derribó. Al ver que las tensiones entre Estados Unidos e Irán vuelven a escalar, me acordé de esto.
Incidente del derribo del vuelo 655 de Iran Air por el USS Vincennes:
https://namu.wiki/w/…
Qué lamentables son estos casos. Parece que, en los campos donde hay vidas humanas en juego, lo más importante es la confiabilidad y que todo sea intuitivo.
Incluso al mejorar la UI/UX, en este tipo de áreas habría que priorizar eso por encima de la estética y la comodidad.
Recientemente apareció un video de recreación del accidente del vuelo 140 de China Airlines en el aeropuerto de Nagoya. La recreación muestra cómo una combinación de factores —una interfaz de operación propensa a errores, mecanismos de seguridad defectuosos, la tardanza de la aerolínea en corregir esos fallos a tiempo y el hecho de que los pilotos no entendían correctamente las funciones de automatización— terminó en una gran tragedia en menos de dos minutos después de cometer un error.
https://www.youtube.com/watch?v=IN4Y7dWXY1s