¿Qué opinas de Community Notes?
(archive.md)- Community Notes es una herramienta de fact-checking que agrega contexto a los tuits para corregir desinformación; se introdujo por primera vez en enero de 2021 como un piloto llamado Birdwatch y luego se fue expandiendo por etapas
- No depende de un grupo de expertos: cualquiera puede escribir y votar, y qué notas se muestran lo decide por completo un algoritmo open source
- La clave no es un simple promedio, sino priorizar las notas que reciben evaluaciones positivas simultáneamente de usuarios con perspectivas diversas; las notas con consenso más allá de las tribus obtienen mayor puntaje
- El eje político izquierda-derecha no está hardcodeado, sino que se descubre de forma emergente a partir del análisis de usuarios y notas; es posible descargar los datos y el código para verificar los resultados directamente
- Su objetivo no es corregir todos los tuits falsos, sino aportar valor como herramienta educativa que recuerda la existencia de múltiples perspectivas, acercándose al ideal de la "neutralidad creíble" (credible neutrality)
Contexto: una función que creció en medio de la convulsión de Twitter X
- Durante los últimos 2 años, tras la adquisición de 44.000 millones de dólares por parte de Elon Musk, Twitter atravesó cambios masivos en personal, moderación de contenido y modelo de negocio
- En medio de estos cambios polémicos, una nueva función ganó importancia rápidamente y recibió elogios sin importar la orientación política
- El momento de la adquisición coincidió con su etapa de expansión más acelerada
- Aparece con frecuencia en tuits que alcanzan grandes audiencias, especialmente sobre temas políticamente sensibles
- Cuando se adjunta una nota, la percepción de que es útil y valiosa es compartida por personas de distintas orientaciones políticas
- Aunque no es un "proyecto cripto", se considera uno de los casos del mundo mainstream que más se acerca a los "valores cripto" (crypto values)
- No son expertos elegidos centralmente, sino que cualquiera puede escribir y votar
- La decisión de mostrarla o no la toma por completo un algoritmo open source
Cómo funciona el algoritmo de Community Notes
-
Cualquier cuenta de Twitter que cumpla ciertos criterios (más de 6 meses de actividad, sin infracciones recientes de reglas, verificación de número telefónico) puede solicitar participar
- Actualmente las aprobaciones avanzan lentamente y al azar; el plan final es permitir a todos los que cumplan los criterios
- Al principio solo se pueden evaluar notas existentes y, tras acumular suficientes buenas evaluaciones, se puede escribir notas directamente
-
Las notas escritas reciben puntaje según las reseñas de otros participantes
- Las reseñas consisten en votos en una escala de 3 puntos:
HELPFUL,SOMEWHAT_HELPFUL,NOT_HELPFUL, más etiquetas adicionales - Si el puntaje es mayor que 0,40, la nota se muestra; de lo contrario, no se muestra
- Las reseñas consisten en votos en una escala de 3 puntos:
-
Originalidad del cálculo de puntajes
- No es una suma ni un promedio simples: prioriza explícitamente las notas que recibieron evaluaciones positivas de personas con perspectivas distintas
- Si personas que normalmente discrepan en sus evaluaciones coinciden sobre una nota específica, esa nota obtiene un puntaje especialmente alto
- Se construye una matriz usuario×nota M, donde cada celda Mi,j expresa cómo evaluó el usuario i la nota j
- La mayoría de los usuarios no evalúa la mayoría de las notas, así que gran parte de la matriz es 0, pero eso no es un problema
- La matriz se predice con un modelo de 4 columnas que asigna a los usuarios "amabilidad" (friendliness) y "polaridad" (polarity), y a las notas "utilidad" (helpfulness) y "polaridad" (polarity)
- No es una suma ni un promedio simples: prioriza explícitamente las notas que recibieron evaluaciones positivas de personas con perspectivas distintas
-
Significado de las variables
- μ es un parámetro de "ambiente general del público" que refleja qué tan altas son, en general, las calificaciones que dan los usuarios
- iu es la tendencia de un usuario específico a dar calificaciones altas (amabilidad)
- in es la tendencia de una nota específica a recibir buenas calificaciones (utilidad), y es la variable que interesa en última instancia
- fu/fn son la posición en el eje dominante de polarización política (polaridad), donde los valores negativos son aproximadamente de izquierda y los positivos de derecha
- Sin embargo, el concepto de izquierda-derecha no está hardcodeado, sino que se descubre de forma emergente en el análisis
-
Idea central
- Se optimiza la predicción de la matriz mediante gradient descent estándar, y la utilidad asignada a la nota es el puntaje final
- El término de polaridad absorbe los atributos que agradan solo a algunos, mientras que el término de utilidad mide únicamente los atributos que agradan a todos
- Por eso, la selección por utilidad identifica aprobación transversal y excluye notas celebradas por un solo bando
-
Mecanismos adicionales sobre la idea central
- Se ejecuta varias veces agregando "votos simulados" extremos aleatorios, y se compara el límite inferior del intervalo de confianza de ese rango con el umbral de 0,32
- Si muchos usuarios de polaridad similar califican como
Not Helpfulcon la misma etiqueta ("expresión polémica o sesgada", "la fuente no respalda la nota", etc.), el umbral de publicación sube de 0,4 a 0,5 (en la práctica, un cambio muy grande) - Para que una nota deje de estar aprobada después de haber sido aprobada, su utilidad debe caer 0,01 puntos por debajo del umbral de aprobación
- Se ejecuta muchas más veces con múltiples modelos, lo que a veces promociona notas cuyo puntaje original estaba entre 0,3 y 0,4
- El resultado es un código Python complejo de 6.282 líneas repartidas en 22 archivos, todo público y posible de ejecutar y verificar directamente
Cómo funciona en la práctica
-
El concepto más importante que lo diferencia de un promedio simple es el valor de polaridad (polarity), y usa la f de factor porque son dos términos multiplicados (fu, fn)
- La polaridad se asigna tanto a usuarios como a notas; la conexión entre ID de usuario y cuentas reales se mantiene deliberadamente privada, mientras que las notas son públicas
- En el dataset en inglés, la polaridad se corresponde muy de cerca con el espectro político izquierda-derecha
-
Ejemplos de notas cerca de polaridad -0,8
- Una nota sobre cómo Lauren Boebert y otros legisladores conservadores de Colorado amplificaron retórica antitrans (-0,800)
- Una nota sobre cómo Trump socavó explícitamente la confianza de los estadounidenses en los resultados electorales antes de las elecciones presidenciales de 2020 (-0,825)
- Una nota que afirma que las elecciones presidenciales de 2020 se realizaron de forma libre y justa (-0,818)
- Estos tres ítems no fueron seleccionados arbitrariamente: son las primeras tres filas con polaridad (
coreNoteFactor1) menor que -0,8 al ejecutarlo localmente
-
Ejemplos de notas cerca de polaridad +0,8
- Muchas eran sobre política brasileña en portugués o respuestas a críticas contra Tesla, así que se seleccionaron algunas
- Una nota que dice que, al 2021, el 64% de los niños "negros" vivían en hogares monoparentales (+0,809)
- Una nota que afirma que la trata infantil es un problema real y grande, y que Operation Underground Railroad trabaja para enfrentarla (+0,840)
- Una nota que dice que libros infantiles LGBTQ+ prohibidos son obscenos y no están protegidos por la libertad de expresión constitucional (+0,806)
- Como la división izquierda-derecha no está hardcodeada sino que se descubrió de forma emergente, al aplicarlo a otras culturas también podría detectar y conectar automáticamente la principal división política de esa sociedad
-
Notas con mayor utilidad
- Se muestran realmente en Twitter y pueden capturarse directamente
- El segundo ejemplo aborda un tema partidista de forma más directa, pero recibe una alta evaluación por ser claro, de alta calidad y útil
- El algoritmo parece funcionar, y también parece funcionar la capacidad de verificar su salida ejecutando el código
Evaluación del algoritmo
-
Lo más impresionante del análisis es la complejidad: existe una versión académica (vector de 5 términos y gradient descent de una ecuación matricial) y una versión real con muchos coeficientes arbitrarios
- Incluso la versión académica esconde complejidad en su interior: por el término cuadrático fu∗fn y la función de costo de error cuadrático, es una ecuación de cuarto grado
- Las ecuaciones de cuarto grado pueden tener múltiples soluciones, por lo que gradient descent puede llegar a respuestas distintas en cada ejecución
- Pequeños cambios en la entrada pueden hacer saltar entre mínimos locales y cambiar mucho la salida
-
Algoritmo de economistas vs. algoritmo de ingenieros
- La diferencia con trabajos como quadratic funding se siente como la distinción entre algoritmos de economistas y algoritmos de ingenieros
- Algoritmo de economistas: simple y fácil de analizar, demuestra propiedades matemáticas de optimalidad y límites al daño por abuso, y no colapsa por completo ante situaciones inesperadas
- Algoritmo de ingenieros: producto de prueba y error iterativos, práctico y capaz de hacer el trabajo
- La "estética theorycel" de cripto es necesaria para distinguir entre protocolos que realmente no requieren confianza y estructuras que parecen razonables pero que internamente exigen confiar en una entidad centralizada o son fraudes
- El deep learning funciona cuando funciona, pero es vulnerable a ataques de machine learning adversarial, así que una pregunta es si Community Notes puede acercarse más a un algoritmo de economistas
- La diferencia con trabajos como quadratic funding se siente como la distinción entre algoritmos de economistas y algoritmos de ingenieros
-
Caso de pairwise-bounded quadratic funding
- Diseño pensado para cerrar el agujero por el cual, en quadratic funding general, dos participantes que se confabulan pueden extraer todo el fondo mediante un proyecto falso
- Se asigna un presupuesto limitado M a cada par de participantes, y el subsidio de proyectos que A y B apoyen juntos se descuenta del presupuesto del par (A,B)
- Incluso si k personas se confabulan, el máximo que pueden sustraer se limita a k∗(k−1)∗M
- Pero en Community Notes no puede aplicarse tal cual, porque cada usuario vota muy poco y casi no hay votos en común entre dos usuarios
- El objetivo del modelo de machine learning es justamente llenar la matriz con datos escasos, y se necesita trabajo adicional para evitar que pocos votos maliciosos vuelvan inestable el resultado
-
¿Community Notes realmente reduce la polarización?
- Incluso una votación naïve reduce la polarización en cierta medida (una publicación con 200 a favor y 100 en contra queda por debajo de una con solo 200 a favor)
- En abstracto es difícil juzgarlo, así que se ejecutó una implementación simplificada durante 100 rondas
- Grupo 1 (bueno): 0,300; grupo 2 (bueno pero más polarizado): 0,217; grupo 3 (neutral): 0,094; grupo 4 (malo): -0,152
- "Bueno" significa +2 para el mismo bando y +0 para el bando opuesto; "bueno pero más polarizado" significa +4 y -2, con el mismo promedio pero mayor polaridad
- En la práctica, las notas "buenas" obtuvieron una utilidad promedio mayor que las notas "buenas pero más polarizadas"
- Cuanto más se acerque a un algoritmo de economistas, más clara será la ventaja de explicar el principio de penalización de la polarización
Utilidad en situaciones de alto riesgo
-
Hace aproximadamente un mes, Ian Bremmer señaló que una nota crítica adjunta a un tuit de un funcionario del gobierno chino había sido eliminada
- A diferencia de un pequeño experimento de la comunidad Ethereum, se trataba de un asunto político y geopolítico que afecta a millones de personas, por lo que todos asumen el máximo nivel de mala fe
- Como Elon tiene muchos intereses comerciales en China, existen motivos para sospechar una manipulación centralizada
-
Verificación directa vía open source
- Con el ID del tuit original
1676157337109946369, se encontró la fila correspondiente de la nota en los datos descargados y se obtuvo el ID de nota1676391378815709184 - Al buscar en
scored_notes.tsvynote_status_history.tsv, el estado actual esNEEDS_MORE_RATINGS; antes eraCURRENTLY_RATED_HELPFUL- Esto indica que el algoritmo primero mostró la nota y luego la eliminó cuando bajaron sus calificaciones, sin señales de intervención centralizada
- Al ordenar cronológicamente
ratings-00000.tsvy ver los primeros 50 votos, hay 40 votosHELPFULy 9NOT_HELPFUL- La audiencia inicial fue más favorable que la audiencia posterior, por lo que el puntaje empezó alto y luego cayó
- El cambio de estado no fue simplemente por cruzar un umbral, sino porque varios
NOT_HELPFULactivaron una condición de outlier, elevando el puntaje de utilidad necesario- Para que un algoritmo de neutralidad creíble sea realmente confiable, debe mantenerse simple, y los cambios de estado necesitan explicaciones simples y claras
- Con el ID del tuit original
-
Vulnerabilidad a brigading
- Las personas a las que no les gusta una nota podrían movilizar a una comunidad muy participativa o a muchas cuentas falsas para concentrar votos
NOT_HELPFULmediante brigading- Es posible que no se necesiten tantos votos para hacer que una nota baje de "útil" a "polarizada"
- Como mejora, se propone impedir que cualquiera vote cualquier nota y, en cambio, asignar notas al azar mediante el feed "For you", de modo que solo se puedan evaluar las notas asignadas
- Las personas a las que no les gusta una nota podrían movilizar a una comunidad muy participativa o a muchas cuentas falsas para concentrar votos
-
¿Community Notes no es lo bastante "valiente"?
- La crítica principal es que no hace lo suficiente, algo señalado por dos artículos recientes
- Para que una nota se publique, se necesita consenso ideológico a lo largo del espectro político, y en un entorno cada vez más partidista, el "consenso bipartidista sobre la verdad" es casi imposible
- Aun así, la postura es que es mejor dejar pasar diez tuits falsos que publicar una nota injusta
- Un fact-checking valiente del tipo "nosotros conocemos la verdad y un lado miente más a menudo" termina generando una desconfianza amplia hacia el fact-checking en sí
- Tiene valor construir una institución suprapartidaria que todos respeten en cierta medida, y, como en la máxima de William Blackstone, un sistema que cometa más pecados de omisión que de comisión puede conservar ese respeto
- El objetivo no es que todos, ni siquiera la mayoría, de los tuits falsos reciban una nota correctiva
- Aunque menos del 1% de los tuits falsos reciban notas, el servicio puede ser muy valioso como herramienta educativa
- El objetivo es recordar la existencia de múltiples perspectivas y que una publicación que parece persuasiva puede estar equivocada y verificarse con una búsqueda directa
- No es una panacea que resuelva todos los problemas de la epistemología pública, y otros mecanismos, como prediction markets u organizaciones con personal experto, pueden cubrir los vacíos
- La crítica principal es que no hace lo suficiente, algo señalado por dos artículos recientes
Conclusión
- Community Notes es un experimento interesante de redes sociales y un ejemplo de un nuevo género de diseño de mecanismos que identifica la polarización y prioriza tender puentes sobre las divisiones
- Otros ejemplos de la misma categoría son el pairwise quadratic funding usado en Gitcoin Grants y Polis, una herramienta de deliberación que usa clustering para encontrar declaraciones con apoyo amplio
- Se espera que haya más investigación académica en esta área
- La transparencia algorítmica de Community Notes no equivale a una red social completamente descentralizada: si no estás de acuerdo con el algoritmo, no hay forma de ver el mismo contenido con otro algoritmo
- Aun así, es quizá la forma más cercana que las aplicaciones masivas podrán alcanzar en los próximos años, y ya ofrece mucho valor tanto para evitar manipulación centralizada como para que las plataformas que no manipulan reciban una evaluación justa
1 comentarios
Opiniones en Hacker News
Es un texto interesante. Community Notes parece estar construido sobre un modelo matemáticamente bastante sólido
Se ve mucho menos vulnerable a comportamientos grupales sesgados que los sistemas tradicionales de votos a favor/en contra, aunque probablemente no sea completamente inmune a ese tipo de conductas. Como el “sesgo” depende del punto de vista de quien mira, es poco realista esperar que cualquier sistema de evaluación de contenido sea totalmente imparcial
Community Notes y las criptomonedas tienen en común que “son muy potentes gracias a matemáticas complejas, pero completamente opacas para el 95% de la gente”. Dicho eso, en comparación con el espacio que el texto dedica a esa conexión, la relación parece bastante débil. Supongo que, como Vitalik escribe un blog sobre criptomonedas, lo adaptó a su audiencia, pero aun así fue un buen artículo
Me encanta Community Notes. En Brasil se viene usando desde hace un tiempo para verificar publicaciones de políticos que siempre mienten o intentan reescribir la historia
Se siente como una pequeña marca de vergüenza pegada a la publicación, y hasta ahora parece aplicarse a políticos de todo el espectro político
“Deep learning vs. crypto is a clear distinction between rotator and wordcel. The former offends theorycel aesthetics but empirically produces absurd miracles. The latter is a series of insane nerd traps and sky-high ladders of abstraction, but mostly scams”
¿Alguien puede traducir al español esta frase llena de memes?
Además, viniendo de Vitalik, suena como una formulación bastante anticripto
Si los usuarios comunes pudieran saber mágicamente qué tecnologías cripto aportan valor real a este campo y cuáles no, todo el ecosistema sería mucho más saludable
El resto de la frase es más bien una autoironía divertida. Por ejemplo, parece estar consciente de las madrigueras de investigación y abstracciones matemáticas en las que cayó el equipo de Ethereum para hacer funcionar el staking
Si Ethereum no estuviera entre los primeros lugares de todos los exchanges de criptomonedas y Vitalik no fuera una figura relativamente conocida, me pregunto qué tan difícil sería para una persona promedio interesada en cripto distinguir las “insane nerd traps and sky-high ladders of abstraction” de Ethereum de una estafa
“The former offends theorycel aesthetics but empirically produces absurd miracles” significa que, para quienes están profundamente metidos en la teoría, el deep learning parece que no debería funcionar, pero de todos modos produce resultados excelentes
“The latter is a series of insane nerd traps and sky-high ladders of abstraction, but mostly scams” significa que las criptomonedas están llenas de problemas técnicos interesantes, pero sus resultados son en su mayoría estafas
Shape rotator es una persona que puede rotar figuras en su cabeza, usado como una especie de indicador indirecto de inteligencia. Es alguien con buenas habilidades en matemáticas o STEM, pero que siente que ese valor no se le reconoce
Wordcel es alguien hábil con las palabras o la retórica, pero que siente que esa capacidad no se reconoce lo suficiente o no le ayuda demasiado en la vida
Es muy probable que Community Notes tenga, en cierta medida, ventajas y desventajas parecidas a Wikipedia
Community Notes no las escribe ni las cura un grupo de expertos seleccionados de manera centralizada; cualquiera puede escribirlas y votar. No es perfecto, pero se acerca sorprendentemente al ideal de neutralidad confiable
Si ese es el lado optimista, la desventaja es que cuando ciertos grupos demográficos se sienten más atraídos a escribir estas notas, o cuando llegan a dominar Twitter mismo, pueden aparecer problemas de sesgo como los que se ven en temas sociales y culturales de Wikipedia. Sea cual sea el resultado, no será “neutralidad confiable”
En Community Notes cualquiera puede revisar y marcar algo como útil/no útil
Algunas Community Notes que vi fueron bastante buenas. Me gusta que también puedan agregarse a anuncios
Muchos anuncios que aparecen ahora en Twitter tienen Community Notes, porque el anuncio dice una cosa y el producto real hace algo completamente distinto
En cambio, Community Notes aparece en el lugar adecuado, tiene bastante información y en algunos casos parece sorprendentemente detallada
Community Notes es lo único bueno que le pasó a X en todo este proceso
Alguien ya lo insinuó en los comentarios, pero esto se parece mucho a una versión mucho más sofisticada del método de moderación de Slashdot
Ese era mi método de moderación favorito en un sitio. Agregar un juicio meta o una explicación a algo se sentía como un privilegio, no como un derecho obvio.
Creo que el mayor problema es tratar la “polaridad” como un único eje. En la práctica, muchos temas se alinean así, pero los que no lo hacen son importantes
Me gusta ver el esfuerzo hacia una moderación distribuida, pero todavía es demasiado centralizada como para cumplir ese sueño.
El texto intenta repetidamente tranquilizar al lector diciendo que la dicotomía izquierda/derecha no está hardcodeada, sino que aparece “de forma emergente”, pero no entra en detalle sobre cómo ocurre exactamente
Me parece extraño que haya aparecido la distinción izquierda/derecha. ¿Por qué justo izquierda/derecha y no, por ejemplo, basado en la fe/no basado en la fe, o autoritarismo/liberalismo? ¿No hay datos públicos para verificar si esto es correcto, y simplemente hay que confiar en la organización?
Así que cuando decimos izquierda/derecha, no nos referimos a valores fijos ni a valores fundamentales en sí. Todo se mueve constantemente, a menudo incluso de formas contradictorias. Por eso esos términos se convierten en sustitutos de las fracturas que van cambiando dentro de la sociedad. En ese sentido, si se toma una muestra justa de la sociedad, es casi una tautología que terminará dividiéndose siguiendo esos términos.
Si existe un sistema bipartidista, es un resultado casi esperable. Cada partido intenta alinearse con la mayor cantidad posible de votantes, así que es bastante esperable que la división republicanos/demócratas sea un “buen” corte del espacio de alineación
Básicamente, el algoritmo busca explícitamente el eje de polaridad “óptimo” que contiene más información sobre qué contenido le parecerá aceptable a un usuario, y un sistema bipartidista se alinea implícitamente a lo largo de ese eje como una propiedad emergente de la dinámica de la política partidaria.
http://politics.beasts.org/scripts/eigenvectors
Sería interesante repetirlo hoy con las mismas preguntas o con otras.
Twitter también forma parte del mundo real, así que sus usuarios quizá ya llegaron con una tendencia a agruparse en tribus de izquierda/derecha, y luego los mecanismos de formación de burbujas de las redes sociales pueden haber acelerado el proceso de polarización.
Los datos de notas y calificaciones también se publican todos los días: https://twitter.com/i/communitynotes/download-data
Puedes ejecutar tú mismo el código de factorización de matrices sobre los datos e interpretar por tu cuenta las dimensiones latentes que encuentre. Y al leer el código también puedes confirmar que no hardcodea una distinción izquierda/derecha específica, sino que realiza una factorización de matrices.
En un resumen algo poco generoso, sería así: a la mayoría de la gente le gusta Community Notes, y Vitalik quiere que las criptomonedas reciban parte de ese aprecio. Como a las criptomonedas les hace muchísima falta ese aprecio, insiste en que ambas comparten una genealogía filosófica o funcional
En mi opinión no tiene sentido, y parece un intento de atar una vaca muerta a una viva. Aun así, es su blog y puede hacer lo que quiera.
Soy un escéptico total de las criptomonedas, pero no sentí que la breve mención a ellas disminuyera el valor del resto del artículo.
La mayor parte del texto no tiene nada que ver con criptomonedas.
La financiación cuadrática también es interesante por sí misma, y no hace falta usar criptomonedas para implementarla.
El blog de vitalik.ca suele tratar sobre criptomonedas y temas adyacentes, que son el foco actual de la I+D de Vitalik. Lleva más de 10 años escribiendo sobre criptomonedas
Si quiere llamar la atención sobre Community Notes en su blog, probablemente sea sobre todo porque le resulta divertido pensarlo y escribir sobre ello. Dicho eso, como buen efecto secundario, seguramente no le molestaría que los desarrolladores de criptomonedas se inspiraran en Community Notes, especialmente al crear redes sociales nativas de cripto.