- Como en el caso de la controversia heliocéntrica de Galileo, el poder social y los sistemas de creencias no cambian solo con los “hechos”
- La Iglesia, el poder y la ideología explican y legitiman la realidad mediante narrativas y conexiones estructurales entre la Biblia, la cosmovisión, el arte y las normas sociales
- La estructura de las creencias (grafo) está compuesta por nodos clave y conexiones (aristas), por lo que si se sacude una sola parte, toda la cosmovisión se tambalea
- El núcleo de la disputa no son los hechos, sino el funcionamiento psicológico y social de atacar o defender nodos y vínculos dentro del marco estructural (grafo) de cada quien
- Cuanto más fuertes sean la resiliencia estructural, la cohesión interna y la resonancia emocional, más se mantienen las creencias, y los hechos solo ganan influencia cuando logran integrarse en ese marco estructural
No son los hechos, sino la estructura, lo que determina las creencias
- Cuando Galileo Galilei planteó el heliocentrismo, la Iglesia se resistió no solo por simple ignorancia o superstición, sino para defender un sistema de creencias que sostenía el orden social
- Porque la cosmovisión geocéntrica funcionaba como la estructura central de la fe y del orden social
- Ese sistema de creencias conectaba de forma orgánica relatos, símbolos y doctrina para justificar la autoridad y el orden
- Los pasajes bíblicos respaldaban la cosmovisión geocéntrica, vinculándola con una estructura jerárquica social y moral en la que el ser humano ocupa el centro del universo
- Esa estructura se reflejaba con fuerza no en una simple discusión, sino en la cosmovisión completa, el calendario litúrgico, la arquitectura de las catedrales, el arte y las normas de la vida cotidiana
- Cuestionar un concepto no implica tocar solo una idea, sino toda esa red y su autoridad.
- En el momento en que se toca el nodo central (el geocentrismo), toda la estructura queda en riesgo
Ejemplo de una estructura de creencias (grafo)
- Incluso hoy, una estructura de creencias puede explicarse como un “grafo” formado por conceptos (nodos) y conexiones (aristas)
- Por ejemplo, las estructuras de “capitalismo orientado al crecimiento” y “sostenibilidad ecológica” tienen, cada una, lógicas y redes distintas
- Growth-First Capitalism
- innovación→ganancias→rendimiento para los accionistas→poder adquisitivo→competencia→innovación...
- Un sistema en el que cada conexión refuerza a las demás; tiene gran coherencia interna y resiliencia
- Ecological Sustainability
- crisis climática→cambio de políticas→energía renovable→reducción de emisiones→resiliencia comunitaria
- Una estructura de círculo virtuoso basada en conexiones que enfatiza la relación entre el bienestar humano y la salud del planeta, la acción colectiva y la resiliencia
- Las conexiones entre nodos (aristas) de este grafo se refuerzan constantemente por fuerzas psicológicas
- Cuando aparece disonancia cognitiva, el cerebro humano usa razonamiento motivado y racionalización a posteriori para mantener su cosmovisión existente
- Por eso, las estructuras de creencias son muy sólidas y resistentes al cambio
Ataque estructural: sacudir nodos y aristas
- La verdadera “guerra” entre sistemas de creencias en competencia no son los argumentos lógicos, sino los intentos de modificar la estructura del otro
- Se busca influir en la estructura derribando nodos centrales del rival, debilitando las conexiones entre conceptos o absorbiendo los elementos atractivos del otro
- Así ocurre un proceso que va más allá del simple intercambio de opiniones: se transforma la propia estructura de creencias
- Ataque al nodo central (Node Attack): un ataque concentrado contra un nodo central puede debilitar todo el sistema de creencias
- Ejemplo: si se ataca el nodo de “amenaza del cambio climático”, se debilita la motivación para el cambio de políticas, y todo el sistema se vuelve inestable.
- Si el ataque tiene éxito, se derrumban los principales bucles de retroalimentación del sistema y la estructura misma queda en riesgo de desintegrarse
- Ataque a la arista (Edge Attack): se atacan las conexiones (aristas) entre ideas para volver indirecta la lógica del sistema de creencias y debilitar su poder de persuasión
- Ejemplo: si se cuestiona si las “ganancias para los accionistas” realmente conducen a un aumento del poder adquisitivo, se debilita la afirmación de prosperidad generalizada del sistema capitalista
- Si el ataque a la arista continúa, la legitimidad social del sistema se derrumba y este puede ser absorbido con mayor facilidad por una estructura alternativa
- Además de eso, los sistemas de creencias emplean diversas estrategias, como absorber fortalezas de estructuras rivales, evolucionar a través de grietas o ganar resiliencia mediante la autocorrección
Psicología humana y estructura de creencias
- Los sistemas de creencias (memes, ideologías, etc.) solo operan de forma efectiva dentro de la estructura cerebral de las personas
- La estructura de creencias es sostenida y protegida por la arquitectura cognitiva humana, y a veces se entrelaza tan profundamente con la “identidad personal” que cualquier cuestionamiento se siente como un ataque personal
- Se mantiene de forma estable no solo por lógica, sino por mecanismos psicológicos automáticos del cerebro como la disonancia cognitiva y el razonamiento motivado
- El cerebro filtra inconscientemente la información amenazante y, cuando enfrenta evidencia contradictoria, intenta racionalizar para aliviar la disonancia cognitiva
- Esa es la razón por la que las estructuras de creencias resisten con tanta solidez los ataques externos
Competencia estructural y casos reales
- Los debates sociales actuales no tratan de hechos simples, sino de choques entre plantillas de creencias mutuamente incompatibles
- Cada bando tiene su propia estructura de conexiones, ideas centrales y sistema lógico de apoyo, y no puede aceptar con facilidad la lógica del otro
- Cuanto más sólida sea la red de creencias de un grupo y más fuertes sus conexiones, mayor será su resistencia e influencia frente a ataques externos
- En cambio, si internamente se divide o sus conexiones se debilitan, su influencia colectiva cae con rapidez
- Por eso, cuando fuerzas hostiles provocan fracturas internas, también alteran el equilibrio general de poder
Comportamiento inauténtico coordinado (coordinated inauthentic behavior)
- Operaciones en redes sociales donde múltiples cuentas falsas colaboran para manipular la opinión pública
- No se trata solo de difundir desinformación, sino de una estrategia para debilitar sistemáticamente las conexiones clave del grafo de creencias
- Por ejemplo
- La IRA rusa intensificó el conflicto racial dentro de Estados Unidos amplificando al mismo tiempo voces opuestas para sacudir la estructura de conexiones sociales
- BLM-antiblm, posturas a favor y en contra de las vacunas, debates sobre el clima: inducir división debilita las conexiones centrales y vuelve inestable toda la estructura
- Este tipo de ataque de red a gran escala pone más énfasis en debilitar las conexiones estructurales que en una sola línea de desinformación
- Como en el caso de Cambridge Analytica, las técnicas de microtargeting y los mensajes personalizados pueden apuntar con precisión a nodos y aristas vulnerables dentro de la estructura de creencias
- Más recientemente, con los LLM (modelos de lenguaje de gran tamaño), la escala y agilidad de esta manipulación estructural han aumentado de forma explosiva
Cómo proteger nuestra estructura de creencias
- El fact-checking, la refutación y la verdad por sí solos tienen límites. Un sistema de creencias solo gana resiliencia si se fortalecen la “estructura”, “la cohesión interna” y “la empatía emocional”
- La verdad solo sobrevive y se expande de manera sostenida cuando existe dentro de un marco estructural en el que las personas puedan permanecer
- Para frenar la manipulación y la división, se necesitan narrativas duraderas, mayor coherencia estructural y resiliencia del propio sistema de creencias, puentes entre plantillas rivales y narrativas que también resuenen emocionalmente
- Si entendemos el mecanismo de las creencias, cualquiera puede dejar de ser un objetivo pasivo y convertirse en un diseñador activo de estructuras. Es posible diseñar nuevos sistemas de creencias más sólidos, adaptables y abiertos
Conclusión
- No somos simples consumidores de información; podemos convertirnos en arquitectos que diseñan sus propias estructuras de creencias
- Con una comprensión estructural, diseñar sistemas de creencias resilientes y bien conectados es la verdadera respuesta en la era de las guerras culturales y la manipulación de la opinión pública
2 comentarios
Está interesante. Este tipo de textos sobre modelos mentales o memes siempre resultan interesantes.
Opinión de Hacker News
Me gustó esta entrada del blog. Tengo dos ideas al respecto. Primero, muchas veces un hecho contradictorio no es una señal de que debas cambiar tu creencia. A menos que esa creencia sea tan débil que un solo hecho pueda sacudirla, es muy raro que un evento aislado tenga un impacto decisivo. Por ejemplo, aunque supieras que algunos científicos manipularon datos en artículos sobre cambio climático, considerando la enorme cantidad de evidencia sobre el cambio climático, ese hecho por sí solo no sería motivo para cambiar esa creencia. Al final, solo cuando se acumula suficiente evidencia tras examinar con amplitud la información de ambos lados cambia una creencia. Segundo, los “hechos” con los que nos encontramos hoy en día en realidad no representan el contexto completo. En la época pasada de los medios centrados en grandes corporaciones, al menos los periodistas intentaban transmitir de forma equilibrada los hechos principales; hoy, en cambio, los algoritmos curan las noticias de manera que generen más clics y participación. Los productores de contenido que proporcionan esos “hechos” también suelen tener motivaciones o sesgos muy marcados. Ni los algoritmos ni los productores hacen casi ningún esfuerzo por ofrecer información equilibrada
Esto me recordó el concepto de “rational epistemic skepticism” que leí hace tiempo en un famoso blog racionalista. Tal vez no recuerde las palabras exactas, pero la idea va en esa línea. Cuando alguien es intelectualmente muy hábil o ha estudiado muchísimo un tema, la gente común suele sentirse abrumada por esa capacidad intelectual. Pero también todos perciben, aunque sea de forma implícita, que no toda persona inteligente tiene siempre la razón. Como las personas inteligentes también sostienen opiniones distintas, no pueden estar todas en lo correcto. Entonces la gente común desarrolla una actitud defensiva para que sus creencias no fluctúen con tanta facilidad, es decir, una tendencia a no dejarse persuadir fácilmente. Esa postura defensiva resulta, de hecho, racional. Cuando alguien presenta un argumento perfecto, ¿será porque realmente es verdad o porque hay un truco metido ahí? Lo segundo es más común
La mejor forma de mentir no es dar información falsa, sino seleccionar hechos de manera que te favorezcan. Este método también puede llevarte a mentirte a ti mismo o a mentirles a otros sin querer. Muchísimas noticias son así
Sumando al segundo punto, los algoritmos actuales tienen una estructura tan fácil de manipular que países que quieren imponer una narrativa, especialmente Russia y China, pueden abusar de ellos sin problema. En los últimos 8 años, la forma de interferencia electoral de Russian cambió mucho. Antes, ejércitos de trolls se hacían pasar por estadounidenses (o polacos, checos, etc.) y difundían propaganda rusa. Ese método era relativamente fácil de detectar y bloquear, por lo que no duraba mucho. Más recientemente, cambiaron a una estrategia al estilo chino de “ejército de goblins”: ya no se enfocan tanto en difundir mensajes directos, sino en alterar los algoritmos de redes sociales mediante reacciones automatizadas (scroll, upvotes, clics en comentarios, respuestas con LLM, etc.). En la práctica, solo amplifican la difusión cuando usuarios estadounidenses reales comparten mensajes favorables a Rusia o perjudiciales para Estados Unidos. Esta estrategia funciona por dos razones: les da una recompensa de dopamina a quienes publican cosas extrañas o detestables, empujándolos a ser aún más provocadores, y hace que los usuarios que se oponen perciban esas publicaciones como “muy populares”, desmoralizándolos. Referencia: Russian internet outage and the online goblin army
En el famoso ensayo de CS Peirce, "The Fixation of Belief", se explica a través de varios procesos cómo formamos nuestras creencias y cómo estas pueden tambalearse. Ese ensayo puede leerse aquí. Esta entrada del blog también me parece cercana a lo que Peirce llamaba el "a priori method". Primero se decide un marco —por lo general por razones estéticas o emocionales— y luego se interpreta la experiencia de modo que encaje en ese marco. Las conclusiones que salen de ahí se convierten en creencias muy cómodas para quienes comparten ese marco. Según Peirce, toda investigación empieza con la sorpresa. A veces es intencional, pero por lo general nos topamos con la sorpresa sin querer. El problema del enfoque a priori es que al final se parece al “desarrollo del gusto”. El gusto siempre cambia siguiendo las modas, y los filósofos terminan repitiendo discusiones interminables. Como dijo Sir Bacon, al final hay que pasar al verdadero pensamiento inductivo
Entiendo la disputa entre Galileo y la Iglesia como un asunto mucho más matizado de lo que suele contarse. No fue por un literalismo bíblico, como el pasaje de Joshua sobre que el sol se detuvo. En el libro de Paul Feyerabend, "Against Method", incluso se sostiene que la Catholic Church de entonces fue más racional desde una metodología científica clásica, evaluando la evidencia para ambos modelos. El punto importante es que la hipótesis de Galileo fue evaluada como racionalmente inferior frente al modelo existente. Me pareció una lectura bastante interesante
El debate sobre Galileo y la Iglesia suele simplificarse en exceso, pero en realidad existe un contexto muy complejo. Mucho antes de Galileo, figuras como Thomas Aquinas ya aceptaban, con base en Aristotle, que la Tierra era redonda. En tiempos de Galileo, la Catholic Church no era ignorante respecto de la ciencia moderna; al contrario, participaba activamente en filosofía natural y astronomía. El conflicto real era sobre modelos en competencia y sobre el criterio de evidencia necesario para aceptarlos. Si el autor de este texto empezó a escribir sin conocer ese trasfondo, la confiabilidad del texto completo se vuelve dudosa
Como exhistoriador, diría que el episodio de Galileo y la Iglesia es realmente muy complejo. Durante generaciones, distintas personas han reinterpretado los hechos de forma distorsionada para servir a su propia retórica. Feyerabend también usa este episodio para su filosofía de la ciencia tan original, pero su objetividad es discutible. Si a alguien le interesa, la biografía de Galileo escrita por John Heilbron ofrece una visión equilibrada
Hace poco vi una charla sobre este tema y me pareció muy interesante. El modelo geocéntrico del universo usado entonces en Europa había sido refinado a un nivel extremo y en realidad era impresionantemente preciso. Incluso al pasar al heliocentrismo, durante bastante tiempo casi no había una ganancia sustancial. Más bien, el trabajo de Galileo tenía muchísimos errores y problemas matemáticos pendientes de resolver. En última instancia, fue una época en la que había que asumir una enorme deuda técnica y costos de transición pese a que los beneficios directos eran casi nulos
Me da curiosidad cómo explica Feyerabend la razón por la que Galileo terminó bajo arresto domiciliario. Si solo se trataba de un debate racional sobre modelos en competencia, cuesta entender por qué hacía falta una represión tan extrema
Como serie de pódcast sobre Galileo, recomiendo Opinionated History of Mathematics, de Viktor Blasjo: Opinionated History of Mathematics
Sentí que este texto abordó de una forma realmente interesante un tema al que me cuesta acercarme analíticamente. Me hizo pensar en la historia de la hija del fundador de Stormfront (el primer foro supremacista blanco), que fue a la universidad y, a través de cenas repetidas con estudiantes judíos, fue viendo cómo sus creencias eran cuestionadas una por una hasta que terminó abandonando gradualmente por completo su visión racista. Si incluso alguien adoctrinado por su familia durante casi 20 años puede cambiar, eso da esperanza de que cualquiera puede cambiar de creencias. Al mismo tiempo, también deja una sensación amarga porque en la práctica es un método ineficiente y difícil de escalar. Es mucho más difícil aplicarlo a alguien que sigue expuesto a sus fuentes de información previas
También me parece importante que esa persona desde el principio estuviera dispuesta a sentarse a hablar con ellos
En el futuro, los chatbots de IA podrían convertirse en parte de algún tipo de ritual de limpieza de creencias
Creo que eso no pasa de ser autocomplacencia. De hecho, es bastante común que los hijos abandonen rápidamente las creencias de su familia después de entrar a la universidad. Sobre todo si se trata de un sistema de creencias impopular, como el supremacismo blanco, renunciar a él para poder hacer nuevos amigos en la universidad es casi lo normal. Aun después, es probable que esa estudiante siguiera manteniendo algunas creencias que para alguien resultaran polémicas, como la mayoría de sus compañeros. En esencia, simplemente salió de su entorno familiar
También recuerdo que fue en mi primer año de universidad cuando por primera vez formé mi propia visión del mundo. Antes tenía ideas varias sobre Dios y sobre la sociedad, pero en la universidad me volví ateo. Curiosamente, al mismo tiempo mi hermano gemelo se volvió un cristiano devoto. Él se integró bien a su grupo social y terminó la universidad, mientras que yo la abandoné a mitad del camino. Después, al entrar a finales de mis 20 y luego en mis 30, llegué en algún momento a la convicción de que no se puede confiar en nuestro gobierno. Sigo creyendo que el 9/11 fue un trabajo interno. Aunque yo estaba en Nueva York en ese momento, no sentí una gran conexión entre el accidente y mis experiencias cotidianas (por ejemplo, trabajar con documentos del contrato de arrendamiento de las Twin Towers), y simplemente lo dejé pasar. Empecé a pensar más de lo habitual en cómo la estructura de las creencias se relaciona con la sociedad o el grupo al que uno pertenece. Mientras más fuerte es la sensación de estar marginado de la sociedad, más fácil resulta dudar de la autoridad existente. En la competencia entre grupos, es fácil pensar que el grupo contrario es malvado y está equivocado, y esa simplificación introduce distorsiones innecesarias en la estructura de creencias y refuerza creencias peligrosas. Al final, los factores fundamentales detrás de la división entre grupos son elementos estructurales como la geografía, la economía o la etnicidad. Me pregunto si un sistema de creencias más sofisticado y preciso podría resolver la fragmentación social. O si en realidad la estructura social y las redes determinan el núcleo de la identidad. A veces pienso si los seres humanos no seremos por naturaleza algo parecido a una “colonia de hormigas mamíferas”, peleando ferozmente cada vez que escasean los recursos. Si cada lado intenta monopolizar recursos importantes, no solo es imposible una competencia justa, sino que además uno puede terminar pensando que no hace falta que solo nosotros juguemos limpio si la otra parte no respeta las reglas, no es honesta y hasta niega cualquier matiz en la discusión. Al final, aunque sea una esperanza pequeña, queda la idea de que si hubiera más abundancia de recursos también podrían mejorar en esa medida las relaciones civilizadas
Quisiera decirle algo al autor: me gustaron las ideas del blog, pero al leerlo hubo dos cosas que me incomodaron. La primera es que el formato de citas en bloque me pareció confuso e innecesario, sobre todo cuando repetía la frase inmediatamente anterior. La segunda es que el gráfico que se movía al hacer scroll en el celular era incómodo. Creo que sería mejor usar una imagen estática más pequeña o quizá un color de fondo distinto
De verdad agradezco este tipo de comentarios. Voy a intentar reflejar todo eso antes de la próxima publicación
Por añadir algo más: no se podía leer el texto dentro del recuadro blanco del gráfico. La elección de colores me pareció desafortunada
Algunas ideas centrales de este texto me gustan, pero la distinción entre node/edge me parece demasiado ambigua. Por ejemplo, el nodo 'Climate Change Threat' es una “afirmación”, pero ¿'Efficiency' lo es también? ¿Se puede refutar la existencia misma de la eficiencia? Más bien, si se refutara la “utilidad” de la eficiencia, ¿no sería eso un ataque a una edge? Así, los ejemplos de nodos presentados en el texto no parecen del mismo tipo, sino demasiado heterogéneos. Por eso cuesta interiorizarlos y se me van las ganas de seguir leyendo
Recomiendo muchísimo "The Righteous Mind" de Jonathan Haidt. Ese libro fue responsable de cambiar profundamente mi forma de pensar sobre moralidad y política desde una perspectiva social y psicológica. Algunas de sus ideas son estas: las personas son instintivamente colectivistas y quieren ser aceptadas. Primero hacemos juicios emocionales inmediatos y luego buscamos razones para racionalizar esa elección. La razón por la que la derecha tiene más cohesión que la izquierda es que comparte valores más fuertes y definiciones más consistentes respecto a los 5 “receptores morales del gusto” que plantea Haidt (cuidado, justicia, lealtad, autoridad y sacralidad). En cambio, la izquierda tiende a sacrificar eso para mantener la diversidad
A mí también me pareció muy interesante el libro de Haidt, aunque la verdad cada parte se sentía como si fuera un libro distinto. Me gustaría leer también sus otros libros. Sobre la discusión de izquierda y derecha, hace poco escuché una idea curiosa: que la izquierda se mueve por coalición y la derecha por consenso (hablando de política estadounidense). Según la investigación de Haidt, la izquierda se concentra en uno o dos de los 5 grandes receptores morales del gusto, mientras que la derecha presta atención a los cinco de forma más equilibrada. No sé bien cómo se conectan entre sí esas dos características, pero me hace pensar que tal vez exista una estructura en la que se refuerzan mutuamente. Más aún, me da curiosidad si algo parecido podría aplicarse de manera más general a los sistemas políticos
Siento que la afirmación de que políticamente la derecha tiene más cohesión que la izquierda necesita evidencia clara. Podría ser más bien una percepción sesgada, limitada a casos recientes. Incluso en Estados Unidos, la derecha también es una coalición de actores con intereses diversos. Por ejemplo, todavía hoy algunos partidarios de Trump expresan descontento por la falta de transparencia en el caso Epstein, mientras que otros grupos que quieren recortes de impuestos intentan disuadir esas protestas. Dentro de la derecha también hay mucho conflicto, no solo cohesión
En algún momento, al darme cuenta de que entre nodos y edges podría haber infinitos nodos intermedios —al menos según se define en este texto—, la teoría se me volvió mentalmente demasiado compleja. La estructura del colapso de ideas se entiende a grandes rasgos, pero en la práctica me parece difícil identificar cuántos nodos clave hay realmente entre ideas, así que no se siente fácil de aplicar en la vida real. Y además, como cualquier proceso de colapso de un elemento siempre se ve mucho más simple cuando se lo mapea hacia atrás, siento que es difícil evitar el survivorship bias
En realidad, mucha gente ni siquiera tiene siempre una conciencia clara de toda la estructura de sus creencias. El 99% de los temas importantes son mucho más borrosos que lo que muestra este esquema. Aun así, me parece novedosa esta forma de verlo. Un factor más importante que la estructura de creencias es en quién confías de verdad. Solo alguien en quien confías parece tener derecho a llenar los huecos vacíos de tus creencias. Como ganar esa confianza lleva mucho tiempo, mostrar simplemente hechos en conflicto no suele cambiar mucho las creencias. La razón importante no es la estructura de la red (el grafo de creencias), sino “porque no confío en ti”. Hace poco escribí algo parecido sobre esto: No one reads page 28
Creo que hay que alejarse con cuidado de la premisa de “arguments are soldiers”, según la cual los “hechos” se usan en las discusiones principalmente como herramientas para convencer al otro. Investigar qué está pasando en el mundo es algo interesante y valioso en sí mismo, independientemente de mis inclinaciones o mi ideología. Aunque no coincida con mi opinión, si hay evidencia interesante, ese artículo ya tiene valor por sí mismo. Aunque los hechos no cambien fácilmente la forma de pensar de otras personas, creo que aun así debemos apoyar a quienes se dedican a recopilar y reportar hechos