Desagües de responsabilidad: Accountability Sinks

• Un accountability sink es un fenómeno institucional en el que el juicio se reemplaza por procedimientos formales: las decisiones se ejecutan, pero se vuelve difuso quién es responsable y ante quién se puede protestar.
• Los procedimientos generan eficiencia, seguridad y memoria organizacional, pero las reglas impuestas desde arriba pueden inducir cumplimiento ciego incluso cuando quienes están en el terreno detectan un problema.
• Los casos de las ardillas terrestres desechadas en un aeropuerto, el personal de puerta de una aerolínea, las restricciones de nombre en tarjetas de crédito, la administración del Holocausto y el reparto de tareas domésticas muestran el vacío de responsabilidad que aparece cuando el juicio queda absorbido por el procedimiento.
• En sentido contrario, la titularidad académica, la protección a la investigación al estilo Xerox PARC, Bell Labs y DARPA, el capital de riesgo y los blameless postmortems de Google SRE reducen la carga de responsabilidad y permiten mejores juicios.
• En una sociedad compleja, los procedimientos no pueden desaparecer; la clave es diseñar instituciones donde el procedimiento no sea un mecanismo para ocultar a las personas, sino una forma de preservar el juicio en el terreno.

---

Estructura básica de un accountability sink

• El libro de Dan Davies, The Unaccountability Machine: Why Big Systems Make Terrible Decisions — and How the World Lost Its Mind, llama accountability sink al fenómeno por el cual el juicio que antes ejercían las personas es reemplazado por procedimientos formales.
• Cuando un asunto que antes requería juicio humano directo se convierte en un procedimiento, deja de parecer una decisión tomada deliberadamente por alguien y pasa a ser algo que el proceso ejecutó.
• Aunque el procedimiento funcione mal, suele desaparecer la persona a quien culpar o ante quien reclamar.
• Las organizaciones tienen fuertes incentivos para convertir el juicio humano en procedimientos.
  • Las decisiones pueden generar controversia.
  • Cuando hay intereses en juego, aparecen resistencias y resentimiento.
  • Un procedimiento impersonal permite aplicar repetidamente la misma decisión sin sensación de responsabilidad ni culpa.

El vacío de responsabilidad creado por los procedimientos

• En abril de 1999, 440 ardillas terrestres que llegaron desde Pekín en un vuelo de KLM al Schiphol Airport, en las afueras de Ámsterdam, no pudieron ser entregadas a un cliente en Atenas porque faltaban los documentos de importación necesarios.
  • Tampoco se pudo corregir el error y devolverlas.
  • Ante el problema documental, el personal del aeropuerto metió a los 440 animales en una trituradora industrial.
  • La orden provino del departamento de agricultura, gestión ambiental y pesca del gobierno neerlandés, y la dirección de KLM declaró más tarde que esa orden era “poco ética por su forma y por la falta de alternativas viables”.
  • El personal actuó “formalmente de manera correcta” en el sentido de que obedeció la orden, pero KLM reconoció que la decisión fue un assessment mistake.
• En la práctica, el único mecanismo de seguridad de ese sistema era la expectativa difusa de que quienes estaban encargados de disponer de los animales quizá se negarían a seguir la instrucción si el resultado les parecía lo suficientemente grotesco.
  • No es habitual que una persona que trabaja en un almacén tenga autoridad para revertir una orden gubernamental por motivos éticos.
  • Esperar que alguien obedezca órdenes el 99% del tiempo y que, en el caso número 100, de pronto ejerza un juicio independiente no es realista ni psicológica ni gerencialmente.
• El personal de puerta de una aerolínea comunica malas noticias a los pasajeros, como negarles el embarque, pero casi no puede cambiar nada por política de la empresa.
  • El cliente habla con una persona, pero en realidad está enfrentando reglas y procedimientos definidos en niveles superiores.
  • Aunque quiera enojarse, es difícil culpar al individuo que tiene enfrente, y la empresa termina hablando con una voz organizacional anónima.
• En el caso de una empresa de tarjetas de crédito, el diseño de la tarjeta plástica solo permitía nombres de hasta 24 caracteres.
  • Los empleados plantearon al equipo de negocio el problema de los solicitantes con nombres largos.
  • El equipo de negocio, argumentando que el porcentaje era muy pequeño, optó por rechazar esas solicitudes en vez de rediseñar la tarjeta.
  • El solicitante no puede recibir la tarjeta aunque tenga buen historial crediticio, no recibe una explicación y tiene dificultades para encontrar a un responsable ante quien reclamar.
  • Una falla técnica quedó cubierta por un procedimiento.
• El caso de una pareja que alternaba por semanas el turno de lavar los platos muestra que el mismo problema puede aparecer incluso a pequeña escala.
  • Si una persona se enferma, los platos se acumulan, pero la otra no siente responsabilidad porque no es su turno.
  • Tampoco queda claro a quién culpar.

La burocracia y los riesgos de los procedimientos a gran escala

• Los investigadores del Holocausto consideran que el exterminio masivo fue posible porque el odio popular se transformó en procedimientos administrativos formalizados.
• Separar a los judíos del resto de la población y concentrarlos en un solo lugar fue un paso clave hacia el exterminio.
  • En Bulgaria, en vez de reunir a los judíos en guetos o “campos de trabajo” locales, los enviaron al campo para ayudar en labores agrícolas.
  • Una vez dispersos por todo el país, fue difícil ejecutar el paso posterior de subirlos a trenes y enviarlos a campos de concentración.
• La tarea de concentrar a los judíos fue importante para el éxito del exterminio, pero los burócratas que la realizaron no sentían que estuvieran matando personas directamente.
  • Creían estar haciendo las tareas administrativas tediosas de todos los días.
• Al observar los juicios de Núremberg, queda la sensación de que “nadie es responsable”.
  • Muchos acusados no solo obedecían órdenes, sino que también actuaban por iniciativa propia.
  • También se vincula con estudios que muestran que las consecuencias para los soldados alemanes que desobedecían órdenes ilegales eran sorprendentemente leves.
  • Aun así, como cientos de miles de personas participaron en la ejecución de la Solución Final, queda una sensación de arbitrariedad sobre por qué solo algunos fueron castigados.
• En una entrevista al historiador Götz Aly se afirma que, si en 1965 se hubieran aplicado los mismos criterios, habría que haber condenado a cadena perpetua por complicidad en asesinato a más de 300.000 hombres y mujeres alemanes.
  • Incluso empleados administrativos como la secretaria de la Wannsee Conference mecanografiaron órdenes, pero en ese momento no se consideró que debieran ir a prisión.

Las ventajas de los procedimientos y la doble cara de eludir responsabilidad

• Los procedimientos formales son útiles en la mayoría de los casos.
  • Aumentan la eficiencia y crean economías de escala al aplicar repetidamente las mismas decisiones.
  • Mejoran la seguridad, como cuando un piloto revisa una lista de verificación antes del despegue.
  • Guardan memoria organizacional al codificar en pasos las lecciones y soluciones aprendidas en casos anteriores.
• Pero en las profundidades de la burocracia, los procedimientos pueden dejar de ser una simple herramienta de eficiencia y convertirse en una técnica para gestionar y evadir responsabilidad.
• El descontento actual en Occidente se conecta con la ira de sentirse atrapado en sistemas que tratan a las personas no como seres humanos, sino como piezas de una máquina.
  • El procedimiento toma las decisiones y, si falla, no hay nadie que explique ni asuma responsabilidad.
  • Si el Estado o las empresas privadas trasladan la responsabilidad a procedimientos impersonales y no ofrecen vías de reparación, la democracia empieza a sentirse como un concepto vacío.
• La reacción contra los expertos, el escepticismo frente a los jueces y la tolerancia hacia la corrupción también se ven de otra manera desde esta perspectiva.
  • Los expertos pueden parecer diseñadores de sistemas impersonales.
  • Los jueces pueden parecer más comprometidos con el procedimiento que con la justicia.
  • La corrupción es mala, pero al menos puede parecer una decisión tomada por una persona con nombre y rostro.
• Las llamadas automatizadas, los menús interminables y las experiencias de soporte al cliente donde nunca se llega a una persona intensifican esta ansiedad.

Cuando aliviar la responsabilidad produce buenos resultados

• Limitar la responsabilidad a veces es una institución deliberadamente necesaria.
• La tenure académica hace que sea, en la práctica, difícil despedir a los científicos, dándoles libertad para hacer investigación riesgosa o poco convencional.
  • El investigador tiene menos necesidad de entregar resultados a tiempo para un gerente o de disculparse por fracasar.
• En instituciones de investigación exitosas como Xerox PARC, Bell Labs y DARPA aparece un patrón similar.
  • Había administradores que protegían a los investigadores de exigencias de utilidad inmediata, vigilancia burocrática y demandas constantes de justificación ante superiores.
• El modelo de capital de riesgo también reduce la responsabilidad de los fundadores de startups.
  • Se espera que los fundadores intenten tener éxito, pero no se les exige rendir cuentas por fracasar.
  • El riesgo de fracaso ya está incorporado en el precio por parte del VC.
  • El VC funciona como una especie de accountability sink entre los dueños del capital y los fundadores.

El terreno donde hubo que romper reglas

• Después del tiroteo masivo de Las Vegas del 1 de octubre de 2017, cientos de pacientes con heridas de bala llegaron de golpe a la sala de emergencias de un hospital.
  • El personal médico respondió rompiendo varias veces reglas y procedimientos establecidos.
  • Según el manual, el triage debe estar a cargo del médico con más experiencia, pero en el terreno se delegó el triage a una enfermera.
  • Cuando el proceso de autenticación de Pyxis obstaculizó el flujo, aseguraron etomidate, succinylcholine y sangre O negative cerca del área de atención.
  • Ante la falta de ventilators, usaron Y tubing para conectar a un mismo ventilator a dos personas de complexión y tidal volume similares.
• Un comentario describió el caso diciendo: “si no hubiera sido un héroe, lo habrían despedido de inmediato”.
• En la experiencia de Gmail SRE, casi no había procedimientos obligatorios durante la respuesta a incidentes.
  • Los SRE responden ante sus superiores por la disponibilidad del servicio, pero durante la gestión de incidentes no existía la exigencia de seguir un proceso fijo.
  • Usaban muchos procedimientos, pero eran más bien guías o recomendaciones elegidas por el equipo que reglas obligatorias.
  • Después de un incidente, ajustar procedimientos era parte de la respuesta tanto como corregir software.
• Los blameless postmortems de la cultura Google SRE limitan explícitamente la responsabilidad individual.
  • Un postmortem debe enfocarse en encontrar las causas que contribuyeron al incidente, sin culpar a una persona o equipo específico por acciones inapropiadas.
  • Se asume que todos actuaron de buena fe e hicieron lo correcto con la información que tenían en ese momento.
  • Si existe miedo al castigo, las personas dejan de revelar los problemas.

Seguridad aérea y reportes honestos

• El 1 de febrero de 1991, en una pista de Los Angeles International Airport, un avión comercial a reacción chocó con un pequeño avión de hélice de transporte regional, causando finalmente la muerte de 35 personas.
• Un artículo de Asterisk trata el caso de la controladora Robin Lee Wascher.
  • Minutos antes de autorizar el aterrizaje del USAir flight 1493, Wascher había instruido al SkyWest flight 5569 a hacer “taxi into position and hold” en la runway 24L.
  • No recordaba haber dado autorización de despegue y se dio cuenta de que ese avión aún podía estar en la pista.
  • Wascher volvió a la torre de control y le dijo a su supervisor que creía que el objeto contra el que había chocado USAir era el SkyWest flight 5569.
• El error de Wascher y el hecho de que ese error derivara en 35 muertes eran claros, pero no fue castigada.
  • Sus colegas hicieron guardia fuera de su habitación de hotel para bloquear a la prensa.
  • Meses después, declaró honestamente sobre sus recuerdos en la audiencia de la NTSB.
  • También recibió la oportunidad de volver a la torre de control, pero la rechazó.
  • Nadie fue acusado penalmente.
• Retirar a Wascher no habría mejorado la seguridad.
  • No era una controladora particularmente mala, sino una controladora promedio con un historial promedio.
  • Sus colegas subrayaron que lo mismo podría haberle ocurrido a cualquiera.
• Si un reporte honesto permite mejoras como comprar un segundo radar terrestre, reubicar luces que estorbaban y eliminar tareas secundarias, eso tiene un impacto mucho mayor en la seguridad aérea que despedir a Wascher.
  • El castigo puede hacer que otros controladores experimentados eviten asumir responsabilidad por cosas fuera de su control, generando finalmente el efecto de reemplazarlos por personas con menos experiencia.

Desviar responsabilidad para destrabar sistemas atascados

• HealthCare.gov se lanzó según lo previsto el 1 de octubre de 2013, pero los visitantes pronto encontraron múltiples problemas técnicos.
  • Según algunas estimaciones, solo el 1% de las personas interesadas pudo registrarse durante la primera semana.
  • El fracaso del sitio podía convertirse en un fracaso de la política central de Obama, y se presenta como el primer caso en que el rendimiento de un sitio web se volvió la máxima prioridad de la Casa Blanca.
• Según Jennifer Pahlka en Recoding America, después el equipo estableció un plan de dos pasos.
  • Reclutar un pequeño equipo técnico con experiencia y habilidades relevantes.
  • Ganarse la confianza de CMS, la agencia responsable de implementar el sitio web.
• Los nuevos técnicos dejaron claro que no venían a exigir responsabilidades, sino a ayudar.
  • En vez de que, como suele ocurrir ante un fracaso, aumentara la supervisión y se redujera el margen de acción, CMS empezó a trabajar con técnicos de confianza.
  • CMS sabía cómo contratar tecnología y servicios, y había adjudicado 60 contratos solo para healthcare.gov, pero ahora el equipo contaba con personas capaces de mirar el código, no solo las condiciones contractuales.
• Dominic Cummings recordó la situación de compras de PPE del NHS durante la crisis de COVID en marzo de 2020.
  • Le dijeron que el PPE encargado no llegaría hasta el verano, pero la demanda máxima sería en las siguientes 3 o 4 semanas.
  • El plan existente era traerlo desde China por barco; él exigió enviar aviones a China para recoger suministros, ya que las aerolíneas estaban paradas.
  • Solo Boris Johnson podía decir que se pasaran por alto la burocracia, las reglas de la UE, las directrices del Tesoro, etc., y que “asumiría personalmente toda responsabilidad legal”.
• Al absorber Johnson la responsabilidad, se redujo la carga sobre los funcionarios y fue posible resolver el problema en vez de quedar detenidos por procedimientos formales rígidos.

El mercado como enorme mecanismo de alivio de responsabilidad

• El libre mercado se trata como el mayor ejemplo de accountability sink.
• Se espera que el gobierno garantice el Estado de derecho, la ejecución de contratos y el cumplimiento tributario y legal, pero que no intervenga en el funcionamiento cotidiano del mercado.
• El mercado se ha descrito muchas veces como un dispositivo de procesamiento de información que reúne datos dispersos por toda la sociedad para optimizar la asignación de recursos escasos.
• La ausencia de responsabilidad permite a los emprendedores asumir grandes riesgos.
  • Si una empresa fracasa, la crítica recae sobre el propio fundador, pero nadie lo persigue para castigarlo.
  • Disminuye la necesidad de actuar siempre de forma segura.
• Entre las causas principales del fracaso de las economías comunistas estuvo ignorar las leyes de la oferta y la demanda, pero la estructura en la que todos los directivos de empresas debían responder ante superiores y ante el Partido Comunista también pudo haber generado aversión al riesgo.
  • De ahí surge la interpretación de que, aunque los científicos descubrieran tecnologías, la implementación de nuevas tecnologías y prácticas de negocio tuvo malos resultados y terminó llevando a un estancamiento económico general.

Distinciones para el diseño institucional

• Los procedimientos formales son beneficiosos en la mayoría de los casos, y la sociedad moderna compleja no puede sostenerse sin ellos.
• No todo procedimiento formal es un accountability sink.
  • Un procedimiento que uno mismo diseña y se impone no exime de responsabilidad cuando algo sale mal.
  • Un procedimiento impuesto desde arriba puede inducir cumplimiento ciego aunque perjudique el objetivo.
• No todo accountability sink conduce a rigidez y encubrimiento.
  • Los procedimientos pueden diseñarse para proteger de la carga de responsabilidad a las personas afectadas sin imponerles soluciones predeterminadas.
  • El blameless postmortem es un ejemplo de ello.
• En situaciones como la del personal de puerta, muchas veces existe cierta capacidad real de escalamiento excepcional, pero públicamente debe sostenerse que no es posible.
  • Como resultado, desde el punto de vista del cliente aparece un efecto secundario: para obtener una excepción, un escalamiento o un trato especial, debe comportarse de forma lo suficientemente desagradable.
• La cita de Atlas Shrugged de Ayn Rand muestra literariamente el mismo problema mediante la escena de personas que no se mueven ante una señal roja por miedo a que les transfieran responsabilidad, y Dagny Taggart asumiéndola al decir “lo digo yo”.