Las computadoras nunca pueden asumir responsabilidad.

• Una página legendaria de una capacitación interna de IBM de 1979 resulta muy pertinente en la era de la IA

  A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
  Las computadoras nunca pueden asumir responsabilidad.
  THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
  Por lo tanto, una computadora nunca debe tomar una decisión de gestión.

• En Twitter pidieron información sobre la fuente original, y Jonty Wareing respondió:
  • Alguien la encontró entre los documentos de trabajo de su padre, y luego fue destruida por una inundación
  • No pudieron encontrarla en la correspondencia con el archivo de IBM. Era común que las sucursales produjeran materiales que no se archivaban.
• La respuesta que Jonty recibió de IBM
  • La primera vez que la imagen se compartió en línea fue en un tuit de @bumblebike de febrero de 2017
  • Confirmaron que provenía de material interno de capacitación de 1979
  • Otro tuit de @bumblebike de diciembre de 2021: fue destruida junto con la mayoría de sus cosas en la inundación de 2019
  • Preguntaron en una reunión por Zoom del club de jubilados, pero casi no había personas del grupo de edad adecuado

[mammal]

"Nadie que no pueda asumir la responsabilidad de una decisión debería convertirse jamás en gerente."

[GN⁺]

Opiniones de Hacker News

• Se señala que el uso de computadoras se utiliza como un medio para evadir responsabilidades. Se explica con una cita del libro <i>Technopoly</i> de Neil Postman. Se hace que la computadora parezca una verdadera fuente de autoridad, lo que fomenta la tendencia a eludir la responsabilidad

• Se plantea una duda sobre los autos autónomos. La responsabilidad se desplazaría del conductor al fabricante, y se cuestiona si el fabricante querrá asumir esa responsabilidad

• Se afirma que la introducción de las tarjetas con chip tuvo como objetivo trasladar la responsabilidad de los bancos a los usuarios. La seguridad mejoró, pero en la práctica la intención era pasar al usuario la responsabilidad por el fraude con tarjetas de crédito

• Se enfatiza que el robo de identidad también es, del mismo modo, un fraude bancario. Al llamarlo robo de identidad, se transforma de un problema del banco en un problema personal

• Se menciona que a las empresas no les gusta la responsabilidad, y que en realidad a nadie le gusta

• En cierta empresa existe una política por la cual los gerentes evitan tomar decisiones porque podrían ser responsabilizados

• Se señala que la palabra "responsabilidad" ahora se ha convertido en un lenguaje terapéutico sin significado. Un CEO dice que asumirá la responsabilidad, pero en realidad no hay ninguna consecuencia

• Con una cita del libro <i>God & Golem Inc.</i> de Norbert Wiener, se explica que lo que la gente quiere de una calculadora automática no es un cálculo más preciso, sino una caja a la que se le pueda transferir la responsabilidad

• Como principio legal, se sostiene que el operador debe ser responsable. De lo contrario, se usa la analogía de que habría que prohibir los fósforos para prevenir incendios

• Se menciona que esto ya ocurría incluso antes del actual auge de la IA relacionado con los "algoritmos"

• Se explica que el principio usado en la informática forense se aplica al revés. En los tribunales, un perito de informática forense puede testificar sobre lo que se hizo en un dispositivo, pero no puede saber quién lo hizo

• Cuando un experto explica que las computadoras parecen muy deterministas pero que en realidad existe incertidumbre, la gente común se sorprende

• Se menciona el caso socialmente normalizado de cuando suena una alarma de seguridad en una tienda minorista y se dice que la computadora causó el problema. Parece que la computadora provocó el problema, pero en realidad no es así