"Pero así ocurrió." - Comentario de Casey Muratori sobre el discurso de graduación de Eric Schmidt

• El punto central del discurso de Eric Schmidt no está tanto en los abucheos por la IA, sino en una forma de reconocer los efectos secundarios de internet mientras se difumina dónde recae la responsabilidad
• Su etapa al mando de Google coincide con el período en que se consolidaron los modelos de negocio de internet como la publicidad, la recolección de datos, la manipulación del comportamiento y las pruebas A/B
• El marco de que “la misma herramienta” se usó tanto para cosas buenas como malas hace que los patrones oscuros parezcan un subproducto y no una estructura diseñada
• Aunque anima a los estudiantes a entrar en la sala donde se toman las decisiones sobre IA, falta un análisis del fracaso sobre qué salió mal con la tecnología anterior
• Si la IA no quiere seguir el mismo camino que internet, hay que reconocer que las peores partes del pasado no aparecieron solas, sino que fueron construidas por personas

---

La responsabilidad que se diluyó en el discurso de graduación

• El discurso de graduación de Eric Schmidt en la University of Arizona se hizo conocido por el momento en que sus comentarios sobre IA fueron abucheados, pero la parte más importante está en la primera mitad, donde reconoce los efectos secundarios de internet
• Schmidt dice que creyó que conectar a todas las personas del planeta y poner la información del mundo a su alcance llevaría a la democratización del conocimiento, la reducción de la pobreza y una sociedad más sabia y amable
• Al mismo tiempo, reconoce que las mismas herramientas aislaron a las personas, que las plataformas que dieron voz a todos dañaron la esfera pública, y que al recompensar la ira y amplificar los peores impulsos, volvieron más áspera la forma en que hablamos y nos tratamos
• Afirma que nadie quiso crear una tecnología que polarizara la democracia y provocara ansiedad en las generaciones jóvenes, y lo expresa en términos de “no era nuestro plan, pero así ocurrió”
• Mientras habla de los buenos resultados esperados de forma activa, los malos resultados aparecen en voz pasiva, como cosas que simplemente “pasaron”, lo que vuelve borroso dónde está la responsabilidad

Su posición como ejecutivo de Google

• Schmidt ocupó el cargo de CEO de Google y otros roles ejecutivos entre 2001 y 2017, un período que coincide con el desarrollo y la consolidación en la industria de los patrones oscuros del negocio de internet
• Google es presentada como una de las empresas que impulsó los modelos de negocio de internet basados en publicidad, recolección de datos, manipulación del comportamiento del usuario y la práctica de someter todo a pruebas A/B
• Si Steve Wozniak hablara de la época en que construía las primeras computadoras de Apple y dijera que no pretendía crear ecosistemas cerrados o control sobre los dispositivos, eso podría sonar sincero; pero es difícil aplicar la misma distancia en el caso de Schmidt
• Se plantea como problema que Schmidt se vea a sí mismo solo como alguien que creó una “herramienta”, un motor de búsqueda, y separe esa imagen de las capas de empresa publicitaria, empresa de recolección de datos, modificación del comportamiento y patrones oscuros
• El marco de que “la misma herramienta” se usó para un resultado positivo X y uno negativo Y hace que los malos resultados parezcan no una estructura diseñada y construida, sino un subproducto de un propósito noble

Los comentarios sobre IA y los abucheos de los estudiantes

• En la segunda mitad del discurso, Schmidt les dice a los estudiantes que entren en la sala donde se toman las decisiones sobre IA, que hagan oír su voz y que lleven consigo valores y criterio humanos
• Dice que la tecnología, por sí sola, es solo una herramienta, que las personas deciden qué se optimiza, y que durante la vida de estos estudiantes ese “alguien” serán ellos mismos
• Luego sigue un mensaje que llama a elegir la “libertad”, el “debate abierto”, el proyecto lento, desordenado pero hermoso de vivir con personas que piensan distinto, la “igualdad” y las “perspectivas diversas”
• Pero esos estudiantes nunca han vivido, como generaciones anteriores, otra versión de la tecnología: solo conocen una tecnología de patrones oscuros que no pueden poseer, donde sus datos se guardan en manos ajenas, su comportamiento es rastreado, sus datos se venden y se les apunta con publicidad
• Que una figura clave en las decisiones del ciclo tecnológico anterior les diga a esos estudiantes que participen con entusiasmo en la siguiente ola tecnológica tiene un significado más complejo que un simple abucheo por rechazo a la IA

Lo que faltó fue una disculpa y un análisis del fracaso

• Schmidt reconoce que los malos resultados del pasado ocurrieron durante su período de gestión y dentro del espacio de decisiones en el que participó, pero no ofrece una reflexión sobre por qué fracasaron
• Falta una explicación de por qué se permitió que sobre herramientas útiles se construyeran capas tecnológicas y de negocio dañinas, por qué no se detuvieron y en qué puntos corresponde asumir responsabilidad
• El consejo realmente valioso para los estudiantes no era decirles que entren a la sala de la nueva tecnología, sino ofrecer un análisis concreto de qué salió mal con la tecnología anterior y qué decisiones produjeron ese resultado
• El miedo a la IA no proviene de una tecnología abstracta en sí misma, sino del recuerdo de que los responsables de decidir en Silicon Valley ya construyeron versiones llenas de patrones oscuros cuando estuvieron a cargo de la tecnología nueva de la vez anterior
• Sin una disculpa por el pasado, un reconocimiento de responsabilidad y una forma de evitar la repetición, si solo queda la expresión pasiva de que “así ocurrió”, crece la desconfianza de que la IA seguirá el mismo rumbo que internet

La condición para impedir la siguiente repetición

• Las peores partes de internet no aparecieron solas una vez que la herramienta se liberó al público, sino que fueron el resultado de que personas construyeron activamente esas partes dañinas
• Si se quiere evitar que la IA siga el mismo camino que internet, hay que reconocer por qué ocurrió y qué decisiones llevaron a ese resultado
• No solo a los Schmidt de la siguiente generación, sino también a figuras como Schmidt que todavía tienen influencia en Silicon Valley y Washington DC, hay que hacerles entender que las decisiones del pasado construyeron el entorno tecnológico actual
• Sin reconocimiento y reflexión por parte de quienes fueron responsables, existe el riesgo de que el mismo modelo de negocio y los mismos patrones oscuros se repitan en la próxima tecnología
• La conclusión de que la próxima vez debe hacerse mejor no parte del optimismo tecnológico, sino de una manera responsable de enfrentar los fracasos del pasado

[GN⁺]

Opiniones en Lobste.rs

• Hay una transcripción para quienes quieran leerlo

• Estuvo bueno de ver. Casey ya era una persona inteligente, pero este tema era mucho más pesado que los asuntos técnicos que suele tratar

  • De acuerdo. No sabía qué esperar, pero presentó puntos bastante fuertes.
    Schmidt les dice a los estudiantes algo como que “lleven humanidad a la sala donde se toman las decisiones sobre tecnología”, y suena bien al oírlo. Pero viendo cómo están funcionando las cosas ahora, parece que las decisiones sobre tecnologías que afectan a todos, como la IA, las están tomando otras personas, y que el resto ni siquiera está en esa sala

• Como señala el texto, la parte clave es cuando de repente el tono cambia por completo a la voz pasiva. No dice “nosotros construimos esto, hubo malos resultados y fue culpa nuestra”, ni “cometimos errores terribles”, ni “fracasamos de esta manera”.
  Joseph Weizenbaum ya había señalado el mismo problema en 1976 en Computer Power And Human Reason. Incluso los altos directivos se describen a sí mismos como víctimas inocentes de una tecnología de la que no se hacen responsables ni entienden, y así la responsabilidad desaparece con una idea tipo “en la tragedia hubo actos, pero no hubo actores”. El mito de la inevitabilidad tecnológica, política y social funciona como un potente sedante que adormece la conciencia y quita responsabilidad de los hombros de los actores que sí existen.
  Se repiten expresiones del tipo “el sistema es responsable, no las personas”, y hasta desaparece la pregunta de si realmente queremos ese futuro. Solo queda la actitud de que simplemente se viene, no se puede detener y tampoco se puede revertir

  • "Mistakes were made" y "It turns out" son precisamente ese tipo de expresiones para evadir responsabilidad
  • Sobre la parte de “¿por qué el almirante Moorer no preguntó qué efecto estaban teniendo los millones de toneladas de bombas que, según la computadora, se estaban lanzando sobre Vietnam?”, en ese momento sí lo sabían de varias maneras: https://en.wikipedia.org/wiki/Sigma_war_games

• Da escalofríos, pero captó muy bien mis preocupaciones. Yo soy uno de los hijos del internet de esta época, así que este video se sintió como si le hubiera puesto nombre a esa sensación

• Casey se subestimó demasiado. Es un video muy bien hecho, y encaja muy bien con la reacción que yo tuve al ver las escenas principales de ese discurso.
  Y también dio risa la referencia a I Think You Should Leave. Aquí hay demasiada vibra de “todos estamos tratando de encontrar al que hizo esto”

• La actitud de “solo queríamos construir un mundo mejor y de alguna manera terminaron pasando cosas malas” revela muchísimo. Eric Schmidt es literalmente un hipócrita, y como muchas personas que han causado daño con sus actos, está racionalizando lo que hizo.
  Otro eje importante es el tema generacional. La generación de Schmidt concentra demasiado poder político y económico. La gente joven de hoy no es tonta y está viendo lo que pasa. Sus vidas están controladas por personas mayores, que luego les dicen a las generaciones jóvenes que deben cargar con la inseguridad laboral, las dificultades económicas, la tecnología distópica y la crisis ambiental. Y encima dicen que todo eso “simplemente pasó”, pero todos saben que fueron esas personas quienes crearon esa situación. Es totalmente natural que los estudiantes los abucheen. Yo habría hecho lo mismo