- La tecnología de persuasión basada en IA está avanzando, por lo que el costo para que las élites ajusten con precisión las preferencias de política del público disminuye drásticamente
- La investigación analiza, mediante un modelo dinámico, cómo una élite, al considerar la restricción de la mayoría y los costos de persuasión, reconfigura la distribución de opiniones del público
- En un sistema de élite única, a medida que mejora la técnica de persuasión, la sociedad tiende a converger hacia un estado de polarización extrema
- Por el contrario, cuando dos élites enfrentadas compiten por turnos por el poder, la persuasión puede llevar a la sociedad a un estado ‘semi-lock’ y amortiguar la polarización
- En última instancia, al reducirse los costos de persuasión con IA, la polarización no es un fenómeno espontáneo sino una herramienta de estrategia de gobierno, con implicaciones significativas para la estabilidad democrática
Cambio en la técnica de persuasión en la democracia
- En una democracia, para implementar políticas es necesario garantizar el apoyo del público, y las élites deben formar o cambiar las creencias del público para lograrlo
- En el pasado, dependían de medios lentos e ineficientes como la educación escolar, la televisión pública, la propaganda y las redes de patrocinio
- Debido al alto costo y la baja precisión de esas vías, era difícil manipular la opinión pública a gran escala
- La expansión de la IA cambia esta restricción de raíz
- Los modelos generativos y los sistemas de agentes hacen posible generar contenidos persuasivos personalizados en tiempo real y a gran escala
- Al reducirse el costo de persuasión, la distribución de preferencias del público se convierte en una variable de decisión de la élite
Modelo de élite única: ‘tirón de polarización’ (polarization pull)
- Una élite única ajusta el apoyo del público en cada período para implementar políticas bajo la regla de mayoría
- Cuando existe un costo de persuasión, para la élite es ventajoso mantener a la sociedad en un estado moderadamente dividido, dado que mira a la incertidumbre futura
- Cuanto más cerca está la opinión pública del 50:50, más se minimiza el costo de cambiar apoyos en el próximo período si cambia la dirección de política
- Por eso, la élite tiende a mover la opinión lejos del consenso, es decir, hacia la dirección de la polarización
- A medida que mejora la tecnología de persuasión, se acelera la velocidad de convergencia a la polarización
- El análisis matemático muestra que la élite mueve la opinión hacia el valor mediano (1/2), y solo ocurren ajustes que se alejan del consenso
Modelo competitivo de dos élites: efecto ‘semi-lock’
- Cuando dos élites con preferencias políticas opuestas alternan el poder, cambia el efecto de la técnica de persuasión
- Ambas partes intentan mantener la opinión cerca del umbral de mayoría, pero la polarización extrema implica un riesgo elevado de que el rival la recupere con facilidad
- Por eso cada élite intenta mover la opinión hacia una región de semi-bloqueo intermedio en la que sea difícil para el rival darle la vuelta
- Como resultado, la persuasión puede intensificar o atenuar la polarización según el contexto
- A mayor intensidad de la competencia, existe la posibilidad de un aumento de la cohesión social
Diferencias con la investigación anterior
- La literatura previa analiza la polarización como un resultado de factores exógenos como ingreso, identidad, estructura mediática, entre otros
- Este estudio modela la polarización como un instrumento de política que la élite elige estratégicamente
- Además, vincula cómo el avance de la tecnología de persuasión basada en IA reestructura a largo plazo el equilibrio político y la distribución de la opinión
- Como trabajos relacionados se citan experimentos de persuasión basados en LLM (Salvi et al., Schoenegger et al., Tappin, entre otros) y el impacto de la IA en la economía política (Korinek, 2024)
Implicaciones para la estabilidad de la democracia
- A medida que los costos de persuasión disminuyen, la polarización actúa como una herramienta estratégica de gobierno y no como un fenómeno que surge de forma natural
- Esto puede aumentar la inestabilidad política y el riesgo de manipulación de información
- Al reconfigurar la estructura y los costos de la persuasión política, el avance de la tecnología de IA plantea nuevos retos para la sostenibilidad de las instituciones democráticas
1 comentarios
Opinión de Hacker News
Al leer el ensayo de Converse, me surge la duda de si el público realmente tiene opiniones propias
Por ejemplo, en el tema de los aranceles, las encuestas muestran alrededor de 38% de apoyo, pero si se mira por intereses sectoriales, parecería mucho menor
El comercio minorista, los servicios y la construcción no obtienen beneficios de los aranceles, y la manufactura también es ambigua por su dependencia de materias primas importadas
Al final, quienes los apoyan con fuerza son solo las industrias del acero y el aluminio, que representan cerca del 2% del PIB
Curiosamente, este libro se publicó en 1964 y trata el periodo justo antes de que estallara el descontento social con la guerra de Vietnam, la contracultura y más
Lo ven como el resultado de un análisis costo-beneficio para reducir la dependencia del exterior y aumentar el empleo
La gente cree erróneamente que sabe mucho, y que su opinión debe ser tratada en igualdad de condiciones al momento de definir políticas públicas
En las sociedades occidentales ha crecido una cultura de no cuestionar las ideas de los demás ni exigirles responsabilidad, y eso agrava este fenómeno
El artículo no es una discusión específica sobre IA
La clave es la estructura de costos de la persuasión, y la IA solo se menciona como una herramienta para producir propaganda barata
La misma lógica puede aplicarse a los anuncios dirigidos de Facebook o a las granjas de trolls rusas
Como la IA habla con seguridad, transmite una sensación de autoridad
El verdadero problema es la influencia de los ultrarricos que controlan estos mensajes
Escribí mis ideas al respecto en este post del blog
Los trolls rusos pueden producir 10 veces más contenido mediante automatización, mientras que un movimiento opositor espontáneo no puede escalar al mismo ritmo
Eso trae muchas cosas buenas, pero el problema es que también abarata las malas
La manipulación de la opinión pública por las élites existe desde la época de los periódicos y la televisión
Lo mismo pasaba con los libros de texto y los planes de estudio
De hecho, los LLM podrían ser más resistentes a la propaganda, solo por detrás de las enciclopedias
Como existe competencia comercial, si un modelo se sesga demasiado, los usuarios lo notarán rápido y se irán
Incluso la idea de “cobertura objetiva” nació en realidad como una estrategia comercial para ganar credibilidad
Convertirse en un “pensador libre” muchas veces equivale a volverse “alguien raro”
La multitud puede estar equivocada, pero pensar distinto por cuenta propia tiene un costo social alto
Por ejemplo, yo creo que usar solo el colchón sin base es más cómodo, pero a la mayoría le parece extraño
Al final, nacemos solos y morimos solos, y el reconocimiento ajeno es efímero
Si no hay ventilación puede aparecer moho, y para personas mayores o frágiles resulta incómodo
Un producto diseñado para usarse en el suelo, como un futón (futon), sería más adecuado
Los grandes modelos de IA ya están siendo ajustados (fine-tuning) sobre temas sensibles
Se alinean con lo que acuerdan los equipos legales, de marketing y de gobernanza de las empresas, y millones de personas usan el resultado tal cual
Yo usé IA y logré recuperar 200 dólares del banco
La IA redactó una solicitud formal usando como referencia documentos PDF del banco
Cuando los bancos empiecen a procesar este tipo de solicitudes con IA, llegará la era en que una IA persuada a otra IA
Hace falta un nuevo benchmark de LLM: AI-persuasion™
La manipulación de influencia basada en machine learning ya existía desde hace 10 años
La minería de datos y la segmentación publicitaria son tecnologías maduras
Lo preocupante no es la persuasión improvisada, sino la influencia estructural que moldea creencias desde la infancia
El ejemplo de la “generación iPad” da miedo por eso
La gente acepta como verdadero lo primero que escucha, y si después se lo refutan, reacciona emocionalmente
Los “hechos” inculcados en la infancia son difíciles de cambiar más adelante, y los sistemas automatizados pueden hacer esto a gran escala
Es peligroso porque el costo de manipular converge prácticamente a 0
No tenemos salvaguardas contra una sociedad de vigilancia privada
Lo que realmente habría que resolver son problemas cotidianos como educación, vivienda, alimentación y costo de vida
Durante la mayor parte de la historia humana ha existido una estructura casi feudal en la que una pequeña élite monopoliza la riqueza y el poder
La desigualdad actual es el resultado buscado por el sistema, y va a empeorar
La alfabetización, la participación educativa y la nutrición están mucho mejor que en 1925
Pero el costo de la vivienda y de la vida ha empeorado otra vez en los últimos 20 años
Gracias a las redes sociales y la IA, el costo de repetir una “gran mentira (Big Lie)” se ha desplomado
Por eso un gobierno puede difundir fácilmente mensajes como insistir en que los precios están bajando
La verdadera “Big Lie” requiere la infiltración de unos pocos insiders, y la CIA ya demostró lo eficiente que puede ser eso
Hace casi un siglo, 1984 de George Orwell ya anticipaba esta situación
Describe la pesadilla del control de la información, donde los registros se modifican en tiempo real y el pasado se borra
Ver texto original