- Hace poco participé en la conferencia racionalista LessOnline y pude conocer en persona e interactuar con viejos conocidos de internet
- Lo que más me impresionó no fueron las sesiones principales del evento, sino las conversaciones profundas y la comunicación entre los asistentes
- Yo mismo señalé como principales diferencias con la comunidad racionalista la obsesión con el riesgo de la IA, ciertos rasgos culturales y una atmósfera de culto
- Con el paso del tiempo, la madurez de la comunidad, su mayor diversidad y su orientación familiar influyeron mucho en mi cambio de percepción
- Al final, terminé reconociendo mi sentido de pertenencia a la comunidad según mis propios criterios, y no por la mirada de los demás
Experiencia en la conferencia racionalista LessOnline
- Hace poco asistí a LessOnline, una conferencia de blogueo racionalista, y volví a ver a conocidos de muchos años como Scott Alexander, Eliezer Yudkowsky, Zvi Mowshowitz, Sarah Constantin y Carl Feynman
- Me alegró mucho conocer en persona por primera vez a muchas personas con las que solo había tratado fuera de línea
- Lighthaven, el lugar del evento, es un espacio singular con una estructura laberíntica y jardines, y se percibe como una nueva “utopía nerd” de Berkeley
- El autor participó en una conversación con Nate Soares sobre la Orthogonality Thesis, además de una sesión de preguntas y respuestas sobre computación cuántica y ciencias de la computación teórica
Conversaciones y ambiente en la conferencia
- Más que las sesiones formales, lo más memorable fueron las conversaciones dinámicas y animadas que cientos de personas mantuvieron por todas partes durante todo el día
- Desde el principio, los organizadores alentaron activamente las conversaciones en grupos pequeños, poniendo el foco en el intercambio colectivo de ideas
- Trasladarse de un edificio a otro podía tomar horas porque todo el mundo participaba activamente en conversaciones
- A mí me detenían con frecuencia con saludos del tipo: “¿Usted es Scott Aaronson?”
Identidad racionalista y razones de la incomodidad
- Durante años tuve intereses y perspectivas parecidas a las de los racionalistas, pero por ciertas razones no me presenté activamente como “racionalista”
- La primera era que me incomodaba la obsesión con que la IA adquiera capacidades sobrehumanas y cambie la condición humana
- Antes era escéptico sobre este tema, pero retiré mis objeciones a raíz del rápido avance reciente de la IA
- Yo mismo ahora estoy contribuyendo en parte a uno de los temas candentes de AI alignment
- La segunda era un factor cultural
- En general, me resultaba ajena la cultura de organizaciones y casas compartidas fundadas directamente por jóvenes de veintitantos que hacen toda clase de experimentos, en contraste con mi propia vida como profesor ya establecido
- Sin embargo, ahora también se observa en la comunidad un cambio más centrado en la familia, con matrimonios, hijos y niños corriendo por ahí
- Los racionalistas tienen hijos por la influencia de libros como Selfish Reasons to Have More Kids o por motivaciones más tradicionales, mientras piensan en un mundo mejor para la siguiente generación
Rasgos de la comunidad y visión sobre los malentendidos
- En el pasado mantuve distancia porque en algunos ambientes se sentía una atmósfera de culto (con Eliezer como una especie de gurú)
- El propio Eliezer ahora está cediendo el paso a una nueva generación y la comunidad se va diversificando
- El principal centro intelectual representativo es el blog que dirige Scott Alexander, junto con la aparición de diversos nuevos líderes
- Pero por mi experiencia real, esta comunidad se parece menos a un “grupo de creyentes” que a una red de ideas y pasión
- Hay discusiones prácticas y sinceras sobre temas diversos como IA, relaciones y crianza
- Por ejemplo, en una reunión impulsada por Jacob Falkovich, hombres debatieron sobre citas y cómo entender a las mujeres, y Gretta Duleba dirigió una sesión sobre conflictos de pareja
- En cambio, frente a críticas externas como “¿Los racionalistas son en realidad de derecha o causan algún tipo de daño?”, en la práctica predominan posturas moderadas de apoyo al Partido Demócrata y debates orientados al bien público
Cambio en el sentido de pertenencia y autopercepción dentro de la comunidad
- El cambio más importante es que ya no me preocupa tanto la mirada de los demás, y empecé a sentir por mí mismo que esta comunidad tiene significado para mí
- Antes sentía inquietud por críticas externas como RationalWiki, SneerClub o artículos del NYT, pero esta vez, al ver en LessOnline el florecimiento y la vitalidad de la comunidad, sus espacios reales y la aparición de integrantes de la siguiente generación, me sentí profundamente impresionado
- En lugar de temer la mirada externa sobre mí, terminé aceptando esta identidad mientras convivo con las personas que me reconocen y valoran, como mi familia, el ámbito académico, la comunidad y los lectores de mi blog
Conclusión
- Sigo manteniendo, como antes, identidades diversas como científico de la computación, académico, judío progresista y bloguero
- La comunidad racionalista ofrece un discurso pragmático y un sentido real de pertenencia en temas amplios como IA, crianza y relaciones
- El cinismo o las críticas externas no coinciden con la realidad, y una vez más confirmé el crecimiento sostenido de la comunidad, su significado y la satisfacción personal que me brinda
Otros avisos
- Puede que tarde un poco en responder comentarios (estoy de viaje en Galápagos con mi hija)
- Participé en una sesión de filosofía y ciencias de la computación teórica en UT Austin (video en YouTube disponible)
- Alon Rosen pidió recomendaciones de candidatos para un nuevo premio de ciencias de la computación teórica (en memoria de Luca Trevisan)
- La sesión de pósters en línea de STOC'2025 acepta registros hasta el 12 de junio, y el autor planea asistir en persona en Praga como ponente plenaria
1 comentarios
Opinión en Hacker News
Al leer este texto, me hizo pensar más a fondo por qué este movimiento me provoca cierta incomodidad.
Siento una tensión esencial entre la actitud de ser "racional", el intento de desarrollar la lógica desde los "primeros principios" y el ambiente de certeza absoluta presente en esta comunidad.
Siempre parecen personas con demasiada seguridad en sí mismas.
Casi no se ve esa humildad de decir: "Pienso esto, pero quizá no he considerado todos los ángulos y podría estar equivocado".
Es típico de gente que considera vergonzoso no tener opinión sobre un tema o decir "no lo sé".
Antes de la era de la IA, esta tendencia era más tolerable, pero hoy esa falta de humildad se vuelve más evidente en la forma en que se entusiasman como si el mundo fuera a acabarse.
Hace falta reconocer que quizá no estamos entendiendo bien el impacto de la IA.
En realidad, puede que no sea tan especial y hasta resulte más aburrida de lo esperado.
Se parecen al grupo de "Effective Altruism".
Se pierden en la lógica pura sin darse cuenta de que sus premisas iniciales son artificiales, llegan a conclusiones extrañas y luego quedan atrapados en ellas.
A veces actúan con arrogancia porque creen que la lógica por sí sola los hace superiores.
Es una forma de pensar en la que uno puede caer temporalmente entre los 10 y 20 años, pero con mucho dinero y el respaldo de internet esa mentalidad puede prolongarse.
También son esta clase de personas las que empezaron a poner frases como "<i>epistemic status: mostly speculation</i>" en sus blogs.
Escriben ensayos sobre los riesgos del exceso de confianza, miden con qué frecuencia fallan sus predicciones y mantienen públicamente listas de "cosas en las que me equivoqué".
Me pregunto si no estaremos generalizando demasiado a todo este grupo.
Siempre he pensado que la preocupación excesiva de los singularitarianos por el problema de la alineación de la IA funciona como una cortina de humo que desvía la atención de riesgos de la IA mucho más reales, como el sesgo algorítmico, el lavado de políticas, el consumo energético o la aceleración de la concentración de riqueza.
En vez de enfocarse en resolver problemas reales de hoy, insisten en problemas hipotéticos del futuro lejano, lo que termina derivando en el longtermism.
El blog de Scott Alexander (Astral Codex X) está lleno de dudas constantes y autoexamen.
De hecho, publica una lista de sus propios errores (https://www.astralcodexten.com/p/mistakes).
Para mí, ese blog es el único punto de contacto con la llamada "comunidad racionalista", y nunca me dio la impresión de arrogancia.
Más bien, lo contrario.
Al final, el concepto de ser "racional" me parece una herramienta para generar y respirar un ambiente de validación mutua hecho por uno mismo y por su entorno, como si produjeran y consumieran su propio gas metano.
A mí también me divertía que me dijeran genio en Stanford, pero a veces pienso que tiene más sentido hacer el bien de forma concreta, ensuciándote las manos en el campo.
La lógica ha sido una herramienta formidable, desde los filósofos griegos hasta las computadoras modernas.
Pero el problema central del racionalismo puro es que hay que examinar muy bien esos "primeros principios".
Si los principios están mal o se omite complejidad, la lógica puede llevarte justo en la dirección equivocada.
Por ejemplo, Aristóteles fue un gran lógico, pero llegó a muchas conclusiones erróneas.
Un ejemplo de complejidad ignorada es que la selección natural surgió del análisis inductivo, no de primeros principios, precisamente porque la realidad era demasiado compleja.
No se trata de ignorar la lógica, sino de insistir en que siempre debe haber una "humildad provisional".
Y soy fan de Scott Aaronson.
(Enlace sobre por qué Aristóteles estaba equivocado)
(Origen inductivo de la selección natural)
Los "racionalistas" de los que se habla aquí no son racionalistas cartesianos, sino empiristas bayesianos.
La probabilidad bayesiana es una extensión continua a los números reales de la lógica booleana que Aristóteles no tenía.
Supongo que se les llama "racionalistas" por el ideal económico del "agente bayesiano racional".
Aun así, entre ellos también existe el famoso lema de que "el universo no puede inferirse fácilmente como una distribución conjunta de probabilidad condicional".
En realidad, saben bien que incluso AIXI es incomputable y que los problemas del mundo real son enormes y difíciles incluso en teoría.
La lógica estudia la "verdad" y la "demostrabilidad".
Idealmente ambas coinciden, pero en la realidad hay muchos sistemas realmente complejos donde algo puede ser "verdadero" pero "indemostrable", o al revés.
Por eso también importa el discernimiento.
Cuando siento algo así como una resonancia de verdad, intento investigar más a fondo, pero procuro no olvidar nunca la duda sobre mí mismo.
Al final, pensar es seductor, pero también puede convertirse en un obstáculo; es importante aceptar que puede ser una "piedra en el camino" necesaria hacia una especie de perfección inconsciente.
Quiero defender un poco a Aristóteles.
Aunque su lógica y su metafísica estaban incompletas, fueron intentos sin precedentes para su época, y su comunidad no ignoró la investigación empírica, ni siquiera en biología.
Creo que el mayor problema fue que las generaciones posteriores lo idolatraron demasiado.
Me identifico muchísimo con la expresión "humildad provisional".
Ojalá nazca un meme con ese término.
Hay que subir más el pH (potencial de humildad).
La lógica es solo una "herramienta".
No es una lanza mágica que atraviesa la verdad absoluta.
Según el contexto, puede ser apropiada o no, así que se trata simplemente de usar la herramienta con calma.
Ahora mismo estoy leyendo "Rationality: from AI to zombies" de Yudkowsky.
En realidad es una recopilación de posts de blog, así que se siente muy repetitivo; antes lo dejé como por el capítulo 50.
Esta vez, como me interesa más el tema, lo estoy disfrutando bastante.
Creo que Yudkowsky sí muestra momentos de verdadera profundidad.
Hay muchas ideas útiles para el pensamiento cotidiano, como 'Belief in Belief', 'Emergence' y 'Generalizing from fiction'.
Antes pensaba que muchas discusiones eran superficiales o simples peleas por matices, pero en muchos casos en realidad eran disputas nacidas de interpretar las palabras de forma distinta.
Me ha resultado muy útil volverme capaz de detectar esas trampas en tiempo real.
Lo recomendaría al menos intentarlo una vez.
El ambiente dentro de la comunidad de racionalidad a veces puede sentirse extraño, pero las herramientas de pensamiento explicadas en esta literatura son realmente valiosas.
Pero hay un punto crucial: en el instante en que piensas "soy racionalista, así que tengo más razón que los demás", en ese mismo momento ya fracasaste como racionalista.
Es muy fácil caer en ese error, y para usar bien las herramientas del pensamiento racional uno tiene que volverse más humilde, no menos.
Un verdadero racionalista debería decir menos "yo tengo razón" y más "oh, ¿y si estoy equivocado?".
Creo que hay un fenómeno en el que personas de STEM sin mucha familiaridad con filosofía, literatura o historia se deslumbran demasiado cuando descubren por primera vez ideas muy básicas de esas áreas.
Más que descubrir algo original, Yudkowsky produce el efecto de presentar como nuevas cuestiones que llevan miles de años discutiéndose.
Este tipo de disputas lingüísticas son lo que Wittgenstein llamaba "juegos de lenguaje".
Si te interesa el argumento central sobre los riesgos de la IA, es mucho más eficiente leer la parte inicial de <i>Superintelligence</i> de Nick Bostrom que el libro de Yudkowsky.
Antes siempre tuve una muy buena opinión de Scott Aaronson y respetaba lo que hacía.
Pero después de leer en este texto la historia de la gente reunida en "Galt's Gulch", pensé: "ah, ya se volvió un rinoceronte".
(Enlace a la obra Rhinoceros)
En broma diría que la diferencia entre un 'rationalist' y un 'rationalizer' son justo los incentivos.
Scott Aaronson me parecía, entre los racionalistas famosos, de los más racionales.
También es curioso que ni siquiera él supiera que era racionalista hasta que Scott Siskind se lo dijo.
Le daría voto positivo a quien compartió la obra 'Rhinoceros'.
Me pareció muy interesante y creo que merecería incluso su propio post destacado.
Como alguien a quien le gustan tanto la comunidad Rationalist como la comunidad Rust, me parece interesante cómo en Hacker News se trata de manera parecida a ambas.
Siempre me impactan el desprecio, la falta de curiosidad y la violencia de las generalizaciones tajantes.
Creo que los comentarios recientes en Hacker News tienen más peso precisamente porque muchos vienen de personas que pasaron años dentro de la comunidad racionalista.
Yo también pasé bastante tiempo con amistades en LessWrong, SSC y lugares parecidos, leyendo muchísimos blogs y textos.
Pero cada vez que uno intenta escribir algo, enseguida lo descartan con un "eres un outsider, no sabes bien".
Les encanta criticar a otros grupos, pero cuando su propio grupo es cuestionado se ponen a la defensiva.
Tanto la comunidad Rationalist como la de Rust son muy activas en el sentido de que realmente construyen cosas.
Pero para quien no hace nada es mucho más fácil criticar la actividad productiva de otros.
En internet se nota más esa psicología de rechazo y resentimiento nacida del miedo a quedarse atrás o salir perdiendo frente al ritmo de los demás.
Creo que el anonimato y la distancia que da internet intensifican todavía más esa dinámica.
Yo pensaba que Hacker News era un sitio al que le gustaba Rust.
De hecho, yo conocí Rust aquí y aprendí Rust.
Si quisiera encontrar fans de Rust, probablemente los buscaría justo en HN.
Por lo que he visto, no es la comunidad de Rust la que se ve más defensiva aquí, sino las de otros lenguajes.
Si vas a hilos sobre Zig, Odin o C++, siempre termina apareciendo la discusión de que Rust es mejor.
(Ejemplo real)
Me sorprende escuchar que la comunidad de Rust recibe tantos ataques aquí.
En realidad, me parece que Go recibió muchas más críticas por la arrogancia con la que rechazó los genéricos.
Personalmente, ni siquiera me convence mucho la idea de una "comunidad de programación".
Se agradece la pasión, pero también les diría que se relajen un poco, vayan a terapia y salgan con alguien.
Lo que se está discutiendo aquí es la "comunidad racionalista" del enlace https://en.wikipedia.org/wiki/Rationalist_community.
Queda claro que se refiere a eso y no a https://en.wikipedia.org/wiki/Rationalism.
Todo el mundo usa mal el nombre.
El movimiento real se llama rationality, o rationality al estilo LessWrong.
No es el rationalism filosófico clásico.
Rationality está mucho más cerca del empirismo.
Como las palabras son demasiado parecidas, esta pelea por el nombre es casi tan difícil como la discusión sobre la palabra 'hacker'.
He estado leyendo de aquí y de allá comunidades como Lightcone y LessWrong, pero todavía no entiendo bien qué es exactamente lo que "hacen".
En una época me interesaba una mujer muy metida en effective altruism/rationalism, así que fui a reuniones.
Mi vena contraria me hizo sentir rechazo, y solo años después entendí que el ambiente era bastante sectario.
Viéndolo en retrospectiva, agradezco que mi rebeldía de ateo edgy me haya impedido encajar con ellos.
Todo este texto fue como una gran aventura.
Me divirtió especialmente la parte sobre la "amenaza" ontológica de Cade Metz.
Pero al final, tomando prestadas las palabras de un gran sabio de Chicago: meterse demasiado en cualquier "-ismo" es mala idea.
Lo importante es no aferrarse a una corriente y confiar en uno mismo.
Una referencia a John Lennon diciendo "no creo en los Beatles, solo creo en mí".
Después de todo, sea yo una morsa o lo que sea, igual me toca depender de alguien más.
Me parece interesante que se ponga atención al elemento de amenaza en Cade Metz.
Los racionalistas a menudo descartan las críticas simplemente con un "yo los conocí y son buena gente".
También pasa que Curtis Yarvin va a una reunión de Vibecamp, se comporta amablemente y luego aparecen defensores suyos.
Ese tipo de impresión subjetiva es justo lo contrario de una actitud racional, y me parece una señal típica de cómo, una vez que aparecen dinámicas de grupo interno y externo, se deja de lado la crítica objetiva.
Cuando uno mira la discusión sobre Cade Metz, de pronto todo se convierte en un esquema de "o estás con nosotros o eres enemigo", y se pierden los puntos que de verdad habría que discutir.
Con la neorreacción, por ejemplo, dicen cosas como "escucha incluso ideas raras por si rescatas algo útil", pero ellos mismos son incapaces de soportar una réplica.
Al final, uno termina viendo que este movimiento quizá no está tan orientado a la búsqueda de la verdad como a reforzar su propia certeza.
Las ideologías son más poderosas cuando la gente cree que no tiene ninguna ideología.
Sinceramente me preocupa que los Rationalists sean anarquistas fascistas sin autos.
Ningún "-ismo" es bueno.
Uno no debería creer en corrientes, sino en sí mismo.
Aunque, según desde dónde lo mires, eso también termina convirtiéndose en varios otros "-ismos", como el solipsismo o el narcisismo.
La antipatía que reciben los Rationalists me parece exagerada en comparación con la realidad.
Pensándolo un poco, veo tres razones principales.
A la gente no le gusta sentirse excluida.
A la gente le molesta escuchar posturas que no coinciden con las suyas.
Es básicamente la misma razón histórica por la que a los nerds siempre se les ha marginado.
La comunidad Rationalist no es para nada excluyente.
Basta con declararte rationalist y empezar a poner "epistemic status" en tu blog para entrar.
No es tanto una comunidad que excluya por pertenencia, sino una cuyo problema es que, aunque presume diversidad, en la práctica sus opiniones se mueven de forma muy uniforme.
Cuando una sola persona lanza una nueva afirmación, enseguida muchos la aceptan como si fuera un hecho.
Por ejemplo, el argumento de que trazas de litio causan obesidad se difundió incluso con apoyo de una beca de Astral Codex Ten, mientras expertos señalaban desde el principio errores de interpretación de artículos, abuso de estadísticas e ignorar variables más importantes.
El problema no es solo que haya opiniones distintas, sino que es demasiado común ignorar la pericia real y abordar todo solo desde "primeros principios", pasando por alto evidencia contradictoria.
Otra razón importante es que los Rationalists son un grupo nacido en internet, así que toda su reputación se decide en línea.
Como internet tiende de por sí a llevar las discusiones hacia lo negativo, eso empeora aún más el fenómeno.
Su afirmación de que la alineación de ASI será difícil solo puede demostrarse después de los hechos.
Por ahora, es como seguir gritando que viene el lobo sin evidencia clara.
Y si el lobo realmente aparece, quizá ya no se pueda hacer nada, así que inevitablemente pierden credibilidad y generan rechazo.
Hacker News juzga la racionalidad de forma extremadamente estricta.
Por ejemplo, si uno ve hilos sobre Mr. Beast, aunque sea una figura polémica, los comentarios más votados suelen ser bastante indulgentes.
En cambio, Scott Aaronson es alguien a quien esta comunidad en teoría aprecia muchísimo, pero cuando se conversa sobre racionalidad recibe un trato menos indulgente que Mr. Beast.
(Ejemplo de comentarios sobre Mr. Beast)
Se usó la expresión "vibe based", pero en realidad es una conclusión basada en múltiples observaciones empíricas.
Al leer en el libro de Yudkowsky una descripción tipo “un físico cuántico que casi siempre gana discusiones en internet porque tiene razón”, pensé: "ah, esta persona encajaría perfecto en la comunidad racionalista".
En realidad, si alguien hablara de verdad así, ya de por sí estaría interpretando un personaje ficticio.
Y si ese personaje existiera de verdad, el ambiente sería todavía más raro.
Hasta el título se siente como una escena de película en la que un personaje mira a la cámara tratando de verse cool.
La verdad, si me encontrara con Scott Aaronson en la vida real, probablemente tendría una reacción parecida.
Es así de inteligente, y nunca he visto a nadie explicar la computación cuántica con tanta claridad.
¿Qué sentido tiene detenerse al inicio del texto y aun así comentarlo?
Esa actitud es justo el tipo de descalificación superficial que las pautas de HN prohíben.
En una reseña de visita se dijo que el ambiente de la comunidad era sectario.
La verdad, cuando vi esa descripción de que "tenía aire de culto", me pareció totalmente creíble.
Tanto la comunidad Rationalist como la comunidad Rust reciben un trato curioso en HN.
Como Rationalist y Rationalism se confunden con frecuencia, hay que entender que Rationality, especialmente la Rationality al estilo LessWrong, es distinta del Rationalism filosófico tradicional.
La comunidad Rationalist sigue una tradición más empirista, y el propio nombre busca marcar esa diferencia.
Pero como las palabras se parecen demasiado, en la práctica esa distinción rara vez funciona.
Incluso leyendo Lightcone, LessWrong y otros espacios similares, todavía se siente ambiguo qué es exactamente lo que esta comunidad hace en la práctica.