Cómo la IA destruye los fundamentos institucionales

• El Estado de derecho, las universidades y la prensa, instituciones centrales de la democracia, se describen como estructuras que hacen posible la cooperación, la estabilidad y la adaptación
• Estas instituciones mantienen su legitimidad al evolucionar y adaptarse dentro de jerarquías de autoridad y marcos de reglas
• Las instituciones basadas en la transparencia, la cooperación y la rendición de cuentas apoyan a las personas para que asuman riesgos intelectuales y cuestionen el orden existente
• Sin embargo, la forma en que operan los sistemas de IA debilita y hace desaparecer estas características institucionales
• La IA provoca erosión de la pericia, acortamiento de la toma de decisiones y aislamiento entre personas, amenazando la sostenibilidad de las instituciones cívicas

---

El papel y la estructura de las instituciones cívicas

• El Estado de derecho, las universidades y la prensa libre se presentan como la base de la vida democrática
  • Funcionan como mecanismos que fomentan la cooperación, la estabilidad y la adaptación al cambio en sociedades complejas
• La verdadera fuerza de las instituciones reside en su capacidad de evolucionar y adaptarse dentro de jerarquías de autoridad y marcos de roles y reglas
• Las instituciones orientadas a fines, centradas en la transparencia, la cooperación y la rendición de cuentas, hacen posible que las personas asuman riesgos intelectuales y desafíen el orden existente
  • Este proceso ocurre mediante la interacción de relaciones humanas dentro de las instituciones, lo que lleva a ampliar la perspectiva y reforzar el compromiso con objetivos comunes

El impacto de los sistemas de IA en las instituciones

• Las características funcionales (affordances) de los sistemas de IA debilitan de forma continua los atributos centrales de las instituciones
• La IA provoca erosión de la pericia, acortamiento del proceso de toma de decisiones y ruptura de los vínculos humanos
  • Como resultado, se dañan la evolución, la transparencia, la cooperación y la rendición de cuentas de las instituciones
• Los sistemas de IA actuales se describen como una “sentencia de muerte” para las instituciones cívicas
  • Estos sistemas operan en una dirección que destruye el propósito y la sostenibilidad de las instituciones

Conclusión

• Los sistemas de IA se definen como una estructura incompatible con las instituciones cívicas clave que sostienen la democracia
• Por lo tanto, se debe reconocer y vigilar a la IA como un factor de destrucción institucional

[GN⁺]

Comentarios en Hacker News

• Creo que la IA, más que ser la causa, es un mecanismo que acelera fenómenos que ya estaban en marcha
  Las redes sociales ya estaban aislando a la gente, y los bots de IA están haciendo que eso ocurra más rápido. También se usan para sembrar confusión con fines políticos y, como resultado, están radicalizando más a las personas
  La institución universitaria ya se había convertido en una forma de hacer dinero, y las relaciones humanas siguen existiendo. La IA no cambia eso
  Pero sí está provocando una falta de pensamiento crítico. La gente depende de la IA en vez de investigar por su cuenta o pensar creativamente

  • No estoy de acuerdo con esta opinión. Echar gasolina sobre un montón de hojas secas en llamas puede que no signifique que yo “inicié” el fuego, pero sí significa que lo hice incontrolable
    La IA se siente como un mazo golpeando una estructura que ya estaba agrietada
  • Decir que “la IA solo acelera problemas sociales ya existentes” suena como decir que “la adicción a la heroína solo hace más rápido lo que la sociedad ya venía haciendo”
    A veces el catalizador en sí es el problema. Por eso creo que tanto las redes sociales como la IA necesitan ciertos guardrails
  • “Echarle leña al fuego” probablemente sería la expresión técnica. Eso normalmente es algo muy malo
    Si la IA empeoró la situación, entonces es responsable de que el incendio se haya salido de control. Que una chispa pequeña queme todo el bosque al final es culpa del combustible
  • Creo que la raíz del problema es el sistema capitalista. Toda tecnología se moviliza para “hacer subir los números”, y las externalidades se manejan con impuestos, pero en la práctica sale más barato comprar políticos
    Por eso existen los alimentos sin valor nutricional, el consumo sin sentido, las escuelas que solo te quitan dinero y las redes sociales llenas de publicidad
    Creo que en los próximos años llegará el punto en que el capitalismo accionarial se devore a sí mismo
  • Si los bots están fomentando el caos social, entonces las plataformas son cómplices por no detenerlos
    Técnicamente no es difícil bloquear bots. Si aun cuando la actividad centrada en humanos favorece la confianza en la plataforma y reduce costos las dejan pasar, no queda más que sospechar una colusión con fuerzas políticas

• Decir que “el Estado de derecho, la universidad y la prensa son la base de la democracia” quizá era cierto en el siglo XIX, pero ya no
  La prensa está llena de propaganda, y el Estado de derecho también está a merced de intereses políticos. También es difícil confiar en las universidades
  Si ves el escándalo Varsity Blues, te preguntas si de verdad esto es un pilar de la democracia

  • La alternativa actual a esas instituciones son las redes sociales, y son mucho peores en precisión, imparcialidad y curiosidad
    Por eso yo más bien creo que la IA podría ser un mejor sustituto. La IA y las instituciones podrían estar en una relación de simbiosis
  • Paradójicamente, las instituciones actuales podrían estar en su mejor estado de toda la historia
    Antes confiábamos más en ellas simplemente porque no sabíamos tanto; ahora, por buscar la perfección, estamos perdiendo lo “suficientemente bueno”
    La desconfianza es una cárcel que nosotros mismos construimos
  • La prensa siempre ha sido propaganda. Solo que antes no lo sabíamos porque no había medios alternativos
    La ventaja de la democracia está en que tiene una estructura para discutir y resolver problemas públicamente
  • Si todo esto es cierto, entonces quisiera preguntar cuál debería ser la nueva base de la democracia

• El enlace para descargar el paper está aquí

  • Este paper es un borrador sin peer review. Los ejemplos que pone, como DOGE o los casos de la FDA, también tienen poco sustento
    En particular, la crítica al uso de IA por parte de la FDA se basa en un artículo incorrecto. En realidad se está usando para retiros de productos
    Al final, este paper es más cercano a un artículo de opinión
  • Tiene demasiados errores de ortografía y puntuación como para confiar mucho en él
    Estoy de acuerdo con la afirmación de que “la IA es perjudicial para la sociedad”, pero le falta comprensión de por qué el público usa IA
    Si la salud, la educación y la prensa no cumplen su función, es natural que la gente recurra a la IA

• El problema no es la IA, sino la estructura de confianza de las instituciones humanas
  La mayoría de las instituciones se han sostenido asumiendo autoridad, como si fueran “castas sacerdotales”, pero fueron diseñadas antes de la teoría de juegos, así que son vulnerables a la manipulación
  Ahora la gente ya no trata a las instituciones como estructuras sagradas, sino como estructuras que pueden romperse
  Por ejemplo, la reciente campaña de deportaciones de ICE es el resultado de que una fuerza política lanzara un ataque Sybil contra la democracia estadounidense
  Explicación de Sybil attack

  • Entonces, en ese caso me pregunto dónde están las múltiples identidades falsas

• Soy escéptico con estas hipótesis. Muchas veces el deterioro empieza antes que la causa
  Las redes sociales o Tinder, más que ser la causa de la soledad, solo aceleraron una tendencia que ya existía
  Tecnologías sociales como el Estado de derecho, la prensa y la universidad también llevan mucho tiempo exponiendo vulnerabilidades y siendo explotadas

• El título de “la IA erosiona la experticia” me parece raro
  Si una consulta con un abogado cuesta 500 euros por 30 minutos y la IA es casi gratis, aunque la calidad sea del 80%, la elección económica es la IA
  Es cierto que la IA está cambiando la sociedad, pero cargarle toda la culpa es excesivo. Las instituciones ya no estaban sanas de por sí

  • Hay una visión negativa porque la IA desmantela las estructuras existentes del conocimiento
    Antes dependíamos de expertos, pero ahora cualquiera puede obtener conocimiento con una suscripción a IA
    La sociedad se está moviendo hacia un estado de entropía máxima. En una situación así, uno se pregunta cómo se formarán los valores y el consenso
  • Yo más bien pagaría por consejo confiable cuanto más importante sea el problema
    Un consejo legal que se equivoca en 20% es más peligroso que no tener ninguno. El problema es cuando hasta los abogados empiezan a depender de la IA
  • El problema de calidad surge porque la responsabilidad por el fracaso es distinta. A un abogado lo pueden demandar por un mal consejo, pero la IA queda exenta de responsabilidad

• Al final, parece que los abogados apenas ahora están sintiendo la amenaza. Los próximos 10 años serán una etapa en la que todas las profesiones del conocimiento pelearán contra la IA

  • Los abogados tienen razones para oponerse a la IA no solo por supervivencia, sino para proteger el valor esencial del derecho
    El derecho debe desarrollarse reflexionando sobre sí mismo, pero la IA tiende a fijar el estado actual. Eso choca con el espíritu de la ley
  • “12 Angry Agents”, qué expresión tan ingeniosa
  • Es un problema la actitud de descartar como teoría conspirativa las críticas que dicen que la tecnología vuelve inestable a la sociedad

• Yo ya siento que las instituciones han recibido heridas mortales
  Las redes sociales y el consumo infinito de contenido debilitan a la prensa, paralizan la toma de decisiones y aíslan a las personas

  • Decir que “las redes sociales aíslan a la gente” parece referirse al doomscrolling
    En realidad las redes sociales también crean conexiones. Aunque Facebook quizá sea una excepción

• ¿Por qué no existe desconfianza institucional hacia los dentistas?
  Porque desde los años 90 los tratamientos se volvieron mucho más cómodos y mejoraron la calidad de vida
  En cambio, otros expertos dicen “si nos haces caso, solo te irá un poco menos mal”. Para ganarse la confianza, hay que mejorar de verdad la vida de la gente

  • Pero algunos dicen que los dentistas también están perdiendo confianza por sobretratamiento y prácticas comerciales
    Yo confío en las clínicas dentales privadas, pero las grandes cadenas me parecen difíciles de creer
  • Yo tampoco confío nada en los dentistas. He vivido casos en que intentan ganar dinero con procedimientos innecesarios
    Al final, el problema es una estructura que convierte el tiempo y a los pacientes en dinero. La atención cuidadosa termina volviéndose un privilegio de los ricos