Evasión de responsabilidades

Estructura de evasión de responsabilidades

• En The Unaccountability Machine, Dan Davies sostiene que las organizaciones forman una "estructura de evasión de responsabilidades", un sistema que absorbe o vuelve ambiguas las consecuencias de una decisión para que nadie pueda ser directamente responsable.
• Por ejemplo, si un alto directivo de una cadena hotelera decide reducir al personal de limpieza, eso puede mejorar las cifras en los estados financieros. Pero cuando un cliente intenta hacer check-in, la habitación no está lista y el personal no sabe cuándo lo estará. No hay nadie ante quien presentar una queja, ni forma de hacer saber que esa decisión arruinó los planes del cliente. La responsabilidad desaparece y se pierde para siempre.

Cómo funciona una estructura de evasión de responsabilidades

• Para que una estructura de evasión de responsabilidades funcione, tiene que bloquear la retroalimentación. Es decir, debe evitar que la retroalimentación de las personas afectadas por la decisión influya en el funcionamiento del sistema.
• Cuando un seguro de salud rechaza un procedimiento, una aerolínea cancela un vuelo, una agencia gubernamental declara que alguien no califica para recibir beneficios, o un inversionista ordena a todas las empresas integrar IA en sus apps, la estructura de evasión de responsabilidades está en todas partes.
• Esto supone que efectivamente se tomó una decisión. Otro mecanismo de una estructura de evasión de responsabilidades es que la decisión misma se encadene en una serie de pasos hasta que su origen desaparezca.

El significado de la responsabilidad

• Vale la pena detenerse un momento a pensar qué significa "responsabilidad". Davies propone la "ley fundamental de la responsabilidad": el grado en que se puede cambiar una decisión es el mismo grado en que se puede asumir responsabilidad por ella.
• Según la definición de responsabilidad de Sidney Dekker, la responsabilidad es una explicación de "cómo ocurrió algo, cuáles eran las condiciones que hicieron que ocurriera y por qué esa decisión parecía una buena idea en ese momento". Ese es un requisito previo para aprender a tomar mejores decisiones.

Comparación con la IA

• Delegar decisiones a la IA es una forma conveniente de crear una estructura de evasión de responsabilidades. Sin embargo, organizaciones de cualquier escala, ya sean empresas o gobiernos, ya son muy buenas formando este tipo de estructuras.
• La evasión de responsabilidades que ofrece la IA no es un servicio nuevo, sino una versión ampliada de algo existente. Eso no la hace menos preocupante, pero puede dar una pista útil. Si los esfuerzos por hacer responsables a las empresas han fracasado, es poco probable que tengan éxito con los algoritmos. Hace falta un enfoque nuevo.

Resumen de GN⁺

• Este artículo ofrece una perspectiva sobre cómo las organizaciones forman estructuras para evadir responsabilidades. Es especialmente útil para entender cómo tecnologías como la IA pueden ampliar esa evasión.
• Las estructuras de evasión de responsabilidades funcionan cortando la conexión entre quienes toman decisiones y quienes sufren sus efectos.
• La IA puede facilitar aún más la evasión de responsabilidades, pero no se trata de un fenómeno nuevo, sino de una ampliación de un problema ya existente.
• Este tema puede resultar interesante para mejorar las estructuras de responsabilidad dentro de las organizaciones y encontrar maneras de tomar mejores decisiones.