¿Por qué hay tantos cultos en la comunidad racionalista?

• Dentro de la comunidad racionalista han surgido repetidamente pequeños y extraños grupos de creencias, y algunos han estado vinculados con incidentes reales de violencia
• Este fenómeno surge porque el contenido que enfatiza métodos de pensamiento racional (Sequences) promete una técnica para “pensar mejor”, pero en la práctica no logra cumplir esa promesa
• Las personas en posiciones vulnerables tienen más probabilidades de verse envueltas en grupos dañinos dentro de la comunidad, y a menudo quedan aisladas del exterior, lo que dificulta salir de ahí
• La conexión entre las creencias internas del grupo y la conducta, la actitud de tomarse las ideas demasiado en serio y el aislamiento social pueden provocar disfunciones graves
• Es difícil impedir por completo la aparición de cultos racionalistas, pero mantener la conexión con la realidad externa, la diversidad social y estructuras organizativas sanas puede reducir sus efectos negativos

---

Introducción

• La comunidad racionalista es un movimiento surgido de la serie de blogs Sequences, escrita por el investigador de IA Eliezer Yudkowsky
• Esta serie trata sobre cómo pensar racionalmente, por lo que cabría esperar que los miembros de la comunidad fueran ejemplos de pensamiento crítico y escepticismo
• Sin embargo, en la práctica han surgido dentro de la comunidad grupos extraños y dañinos, incluyendo pequeños colectivos que decían comunicarse con demonios, incidentes violentos y grupos que provocaban trauma
• Entre los casos representativos están los Zizians, un grupo vegano, anarquista y transhumanista, además de Black Lotus y Leverage Research
• El autor es miembro de la comunidad y, gracias a entrevistas en profundidad, obtuvo un nivel de acceso y franqueza sin precedentes

El problema de los jóvenes racionalistas

• En general, la comunidad racionalista funciona, pero algunos grupos muestran estructuras profundamente disfuncionales

• Sequences promete “el arte de pensar mejor” y un futuro extraordinario, pero en la práctica esa promesa es imposible de cumplir

• Muchos entrevistados señalan que este tipo de contenido crea la materia prima de los cultos

• Aunque Eliezer Yudkowsky no pone mucho énfasis en construir colectividad, muchas personas que llegan desde afuera suelen anhelar transformación guiada por una figura de autoridad y una misión heroica

• En algunos grupos la disfunción proviene del líder (por ejemplo, Brent Dill de Black Lotus), mientras que en otros surgen dinámicas tóxicas de forma más espontánea desde la base (por ejemplo, Leverage Research)

• Las personas vulnerables tienen más facilidad para quedar atrapadas en grupos aislados, y también más dificultad para salir de situaciones problemáticas

• Al principio, la comunidad ayudaba a miembros menos maduros, pero con el tiempo apareció una tendencia en la que quienes habían tenido éxito retiraban ese apoyo

• Los recién llegados que no reciben apoyo son más propensos a convertirse en blanco de grupos internos dañinos

La seriedad de las creencias

• Dentro de los grupos disfuncionales, más que el aislamiento social o la manipulación por parte del líder, la causa central son las propias creencias

• Por ejemplo, en los Zizians, una forma radical de teoría de la decisión —la creencia de que hay que responder incondicionalmente a las amenazas— se conectó directamente con acciones reales

• Leverage Research intentó comprender la estructura interna de sus miembros y resolver sus problemas mediante una teoría unificada de la psicología llamada Connection Theory

• Tratar de ajustar la propia conducta a este tipo de modelos psicológicos simplificados llegó incluso a provocar problemas mentales

• Brent Dill llevaba a los miembros a interpretar el mundo y a los demás de forma cínica, lo que fomentaba la desconfianza interna y actuaba como el daño más fundamental del grupo

• En su rechazo a confiar en los expertos y en su intento de pensar por sí mismos, los racionalistas corren paradójicamente el riesgo de delegar su pensamiento en líderes carismáticos

• “Tomarse las ideas en serio” y la “agencia” son virtudes en principio, pero mal aplicadas pueden derivar en conductas riesgosas fuera de las normas

Precaución con la psicología

• En los grupos problemáticos, se volvió cotidiano sostener discusiones largas e intensas sobre filosofía, psicología y relaciones dentro del grupo

• En cambio, los grupos sanos y tranquilos se enfocan en actividades externas o logros concretos (programación, juegos, etc.)

• También hubo casos en Black Lotus donde algunos miembros ganaron confianza al asumir papeles realmente importantes

• En Leverage Research, los subgrupos dedicados a proyectos concretos (como desarrollo de criptomonedas) eran más sanos

• El exceso de discusión emocional dentro del grupo y análisis psicológico profundiza la disfunción, la ansiedad, el aislamiento y la desconexión con la realidad

• Cuando un grupo no tiene objetivos externos concretos y las discusiones internas se alargan, las dinámicas dañinas se intensifican

• Si la exploración prolongada de la psicología grupal y las emociones se vuelve rutina, es una señal de que algo va mal, incluso si no se trata de un culto

El riesgo del consecuencialismo

• Si se toma en serio una cosmovisión consecuencialista, puede justificarse una dedicación excesiva al líder y el sacrificio personal
• La narrativa del riesgo de extinción por la AGI (inteligencia artificial general), mencionada con frecuencia en la comunidad racionalista, provoca tensión y obsesión dentro del grupo
• Las personas que sienten que no tienen la capacidad de contribuir a la IA tienden con más facilidad a obsesionarse con proyectos alternativos o grupos pequeños, cayendo en dinámicas disfuncionales
• Una gran causa moral (como una crisis de la humanidad) puede llevar a atribuir un significado excesivo incluso a asuntos cotidianos
• En la práctica, superar una crisis consiste en una sucesión de tareas simples y repetitivas, pero muchos persiguen fantasías heroicas que no encajan con esa realidad

Precaución con el aislamiento

• El aislamiento social, el conformismo dentro del grupo y la desconexión del exterior son claves en el agravamiento de la disfunción
• Que los miembros no salgan de la casa o de la oficina es una de las señales más claras de que podría tratarse de un culto
• Una realidad definida solo desde adentro, la exclusión de los críticos y la vigilancia mutua conducen al pensamiento grupal y al exceso de creencias
• El patrón de vivir en la misma casa y dejar que el grupo cubra todas las necesidades debilita la independencia y la capacidad de desenvolverse en el mundo exterior
• También es problemático el secretismo, incluso entre grupos internos que no comparten información entre sí; las filtraciones y la falta de comunicación alimentan un círculo vicioso

Conclusión y recomendaciones

• La disfunción en la comunidad racionalista no es necesariamente más grave que en otros espacios, sino que aparece de formas “más interesantes”
• Entre sus causas están tendencias propias de la comunidad, como “llevar las creencias a la acción” y “vivir de manera distinta a la sociedad existente”, pero no pueden eliminarse por completo
• A nivel individual y comunitario, estrategias como las siguientes pueden ayudar a reducir la disfunción

Recomendaciones para individuos

1. Si continúan durante mucho tiempo las conversaciones sobre relaciones humanas y emociones dentro del grupo, es una señal de alerta
2. Participar en actividades con criterios objetivos de logro y crear puntos de contacto con la realidad externa
3. Mantener vínculos con grupos sociales diversos
4. Separar trabajo, vivienda y procesos terapéuticos
5. Aunque todos crean en una idea, hace falta validación de personas externas o verificación independiente
6. Si una larga cadena de razonamiento abstracto termina en “está bien dañar a otros” o “todo es menos importante que esto”, hay que sospechar
7. Conviene pensar muy bien antes de entrar a un grupo exigente cuando no se tienen otras opciones

Recomendaciones para la comunidad

• Mantener el vínculo con miembros que hayan entrado en grupos disfuncionales y ofrecer comunicación normal en vez de condena
• Dar a los nuevos miembros expectativas realistas y pensar cómo ampliar el apoyo práctico
• Comunicar con honestidad que no es fácil entrar en áreas como la seguridad de IA, y no devaluar a quienes no logran contribuir
• Fomentar la discusión sobre líneas rojas éticas (cosas que claramente no deben hacerse)