Nuevo libro muestra cómo el poder de las empresas vuelve inestable la gobernanza

• Golpe tecnológico: cómo salvar la democracia de Silicon Valley

  • Marietje Schaake, investigadora de políticas en Stanford HAI, advierte que el poder sin límites de las empresas tecnológicas está amenazando el Estado de derecho democrático.
  • Explica que las tecnológicas están invadiendo el papel de los gobiernos y asumiendo un rol excesivo en áreas como la ciberseguridad, los sistemas policiales, las elecciones y la política de defensa militar.

• Cómo las empresas privadas están asumiendo cada vez más el papel del Estado

  • Las empresas, con control de la información y autoridad ilimitada para actuar, están reemplazando funciones del gobierno.
  • Empresas como NSO Group Technologies venden capacidades para hackear dispositivos personales mediante el spyware Pegasus.
  • Estas tecnologías permiten hackear información sensible de opositores políticos, jueces y periodistas, entre otros.

• Cómo las instituciones democráticas pueden recuperar la iniciativa

  • Se necesita conciencia y comprensión sobre el impacto que las empresas tienen en los gobiernos, la democracia y el derecho internacional.
  • También se necesitan claridad legal, mecanismos de rendición de cuentas y medidas de transparencia en el ámbito digital.
  • Hay que aplicar las leyes y regulaciones tradicionales al entorno digital, y reforzar el derecho internacional y la regulación conforme avanza la tecnología.

• Reinventar un nuevo gobierno democrático para responder a los desafíos de la digitalización

  • Los legisladores deben poder entender el impacto de la tecnología con ayuda de expertos técnicos independientes.
  • Debe reforzarse la responsabilidad mediante la ampliación de la rendición de cuentas pública en el proceso por el cual los gobiernos subcontratan a las empresas tecnológicas.

• Tensiones relacionadas con el uso de energía de las empresas tecnológicas

  • Falta transparencia sobre el consumo energético de los centros de datos, lo que dificulta la transparencia en el uso de recursos y una buena gobernanza.
  • Se requieren requisitos estandarizados de transparencia e informes para evaluar el impacto de los proyectos de grandes centros de datos en las comunidades locales.

• El principio de precaución y la IA

  • El principio de precaución exige una pausa temporal para evaluar el impacto de la innovación en la sociedad.
  • Debe aplicarse este principio a innovaciones tecnológicas como la IA para prevenir problemas imprevistos.

• Por qué los estadounidenses han sido lentos para entender la amenaza de las tecnológicas

  • En todo el mundo ya hay daños causados por abusos de poder de las empresas tecnológicas, pero los estadounidenses lo perciben como un problema lejano.
  • Casos como el de Cambridge Analytica también ocurren dentro de Estados Unidos, y el abuso de poder de las tecnológicas afecta a la democracia estadounidense.

• El papel como ciudadanos democráticos

  • Los consumidores pueden tomar decisiones sobre su uso de la tecnología, pero eso no es suficiente.
  • Se necesita supervisión independiente y poder de contrapeso frente al abuso de poder de las empresas tecnológicas.
  • Los ciudadanos deben dar forma a la agenda política y exigir más a sus líderes.

Resumen de GN⁺

• El libro de Marietje Schaake advierte sobre el impacto del poder sin límites de las empresas tecnológicas en la democracia y propone diversas formas de abordarlo.
• El control de la información y la autoridad ilimitada para actuar por parte de las tecnológicas están reemplazando funciones del gobierno, lo que amenaza el Estado de derecho democrático.
• También en el entorno digital se necesitan claridad legal, mecanismos de rendición de cuentas y medidas de transparencia, y debe evaluarse el impacto social de la innovación tecnológica mediante el principio de precaución.
• Los ciudadanos deben exigir supervisión independiente y poder de contrapeso frente al abuso de poder de las empresas tecnológicas, además de dar forma a la agenda política.

[GN⁺]

Comentarios de Hacker News

• Existe la opinión de que en Estados Unidos es importante que la gente haga leyes, además del control del gobierno y de las corporaciones. Sin embargo, en la práctica no es así. Lo importante es preguntarse a quién benefician las leyes. Por ejemplo, hay que considerar si se aprueban leyes favorables para las farmacéuticas que encarecen los medicamentos, o si se controlan los precios de los medicamentos.

  • Con un salario mínimo federal de $7.25, quienes se benefician no son las personas comunes.
  • Existe la opinión de que la ciudadanía debe aprobar leyes que la beneficien, y que es especialmente importante revertir el fallo Citizens United v. Federal Election Commission.
  • Los medios dependen de los anunciantes corporativos, por lo que les resulta difícil oponerse a los excesos de las corporaciones.

• Existe la opinión de que el software está vulnerando los derechos de propiedad, y a esto se le llama "techno feudalism". Las empresas son dueñas del software y la gente lo renta.

• Internet conecta a todo el mundo y permite el libre flujo de información, pero esto está debilitando la confianza entre las personas.

  • La libertad de expresión es importante, pero la gente también puede usarla para engañar o coaccionar.
  • En "Reflections on Trusting Trust" de Ken Thompson se concluye que no se puede construir confianza dependiendo de las computadoras.
  • La sociedad necesita confianza, pero como la información falsa se propaga rápidamente en línea, la gente está perdiendo la confianza natural.

• Existe la opinión de que el gobierno y las corporaciones están actuando en contra de la gente.

  • El gobierno presiona a las corporaciones para que hagan cosas que el propio gobierno no puede hacer.
  • Si una corporación no coopera, enfrenta la amenaza de ser dividida.

• En el debate sobre la regulación tecnológica, se enfatiza la necesidad de contar con expertos técnicos independientes.

  • El Congreso de Estados Unidos operó en el pasado una Oficina de Evaluación Tecnológica, pero fue eliminada en 1995.
  • Existe la opinión de que el monopolio es el problema, y que se necesita una aplicación firme de la Ley Sherman.

• Hay una discusión sobre cómo hacer que las instituciones democráticas vuelvan a tener el control.

  • Se plantea la necesidad de expertos independientes y la duda sobre cómo garantizar su independencia.
  • También se discute si las corporaciones deberían estar obligadas a revelar su consumo de energía o de agua.

• Existe preocupación de que la red eléctrica de Estados Unidos esté llegando a su límite, y de que el aumento de los centros de datos pueda provocar un desastre.

• Existe la opinión de que el modelo geográfico del gobierno no encaja con la era de internet.

  • Antes, los gobiernos podían hacer cumplir las leyes dentro de sus fronteras, pero en internet el problema son los productos y servicios que cruzan fronteras.

• Existe preocupación de que los smartphones estén tomando el control de la seguridad.

  • El acceso a los servicios gubernamentales se ha privatizado por completo, y eso fue a cambio de comodidad.
  • Existe la opinión de que, como la gente renunció a la seguridad y eligió la comodidad, las corporaciones están reemplazando al gobierno.