El enfoque de moderación por capas de Bluesky
(bsky.social)- Bluesky usa una moderación por capas, que superpone filtros de servicios independientes sobre las protecciones básicas, para que los usuarios ajusten la experiencia social a sus necesidades
- Ozone, recientemente publicado como open source, es una herramienta colaborativa que permite a los equipos revisar reportes, crear etiquetas y examinar contenido de la red atproto
- La experiencia base de la app queda a cargo del equipo de moderación de Bluesky, operativo 24/7, y de sistemas automatizados; los usuarios pueden elegir filtros adicionales y sumarlos encima
- Los filtros de servicios de moderación independientes estarán disponibles primero en la app de escritorio y luego se ampliarán a móvil; se descubren y se suscriben a ellos de forma similar a seguir una cuenta
- Los etiquetadores y servicios de moderación pueden funcionar más allá de la app de Bluesky, en toda la red atproto, lo que permite crear configuraciones de moderación distintas para cada app
Una estructura de moderación ajustada por los usuarios
- Bluesky busca que los usuarios puedan ajustar por sí mismos sus espacios sociales en línea
- Las redes sociales tradicionales conectaron al mundo, pero también concentraron el poder en unas pocas empresas y líderes
- Como es difícil que una sola empresa defina a la perfección estándares de seguridad adecuados para todos los países, culturas y comunidades, Bluesky está construyendo un ecosistema de moderación por comunidad
- Su propio equipo de moderación opera 24/7 para hacer cumplir las Normas de la comunidad
- Al mismo tiempo, ofrece herramientas de seguridad open source y un ecosistema de moderación para que las comunidades puedan crear espacios acordes con sus propias normas y preferencias
Publicación de Ozone y servicios de moderación independientes
- Bluesky publicó como open source Ozone, una herramienta de moderación colaborativa
- Con Ozone, personas y equipos pueden revisar y etiquetar contenido de toda la red
- A partir de más adelante esta semana, los usuarios podrán operar directamente servicios de moderación independientes que se integran con la app de Bluesky
- Los usuarios pueden crear y suscribirse a servicios de moderación adicionales sobre la moderación base que exige Bluesky
- El repositorio de Ozone está disponible en GitHub
Tres principios de diseño
- El diseño de los servicios de moderación de Bluesky sigue tres principios
- Simple and Powerful: mantener sencilla la experiencia predeterminada y ofrecer opciones de personalización a quienes las necesiten
- User Choice: permitir que usuarios y comunidades creen sus propios sistemas de moderación
- Openness: apuntar a un sistema abierto que aumente la confianza en la gobernanza de los espacios digitales
- Bluesky compartió su idea de composable moderation desde antes de llegar a 20.000 usuarios, y hoy presta servicio a más de 5 millones
Elección del usuario sobre los valores predeterminados
- Quienes se registran en Bluesky quedan suscritos de forma predeterminada al servicio de moderación integrado de Bluesky
- Este servicio base combina la gestión de reportes de usuarios por parte de un equipo operativo 24/7 con varios sistemas de moderación automatizados
- Los usuarios pueden instalar filtros de servicios de moderación independientes y apilarlos como bloques sobre la base predeterminada de la app de Bluesky
- En la primera etapa de despliegue, los filtros de servicios de moderación independientes estarán disponibles en la versión de escritorio
- Más adelante también estarán disponibles en móvil, para poder ajustar la experiencia social en varias plataformas
- La estructura técnica se explica con más detalle en el documento de arquitectura de moderación de AT Protocol
Cómo funciona para el usuario
- Bluesky prioriza ofrecer una experiencia predeterminada intuitiva desde el momento en que se instala la app
- Los usuarios que quieran un ajuste más fino pueden buscar, elegir y suscribirse a servicios de moderación independientes dentro de la app de Bluesky
- El modelo de suscripción está diseñado para ser tan sencillo como seguir otra cuenta
- Spider Shield, un ejemplo, podría crearse como un servicio de moderación que bloquea fotos de arañas
- Si un usuario instala este servicio, las fotos de arañas etiquetadas desaparecen de su experiencia
- Si encuentra una foto de araña sin etiqueta, puede pedirle a Spider Shield que la revise mediante el flujo de reportes dentro de la app
Cambios para los moderadores
- Quien quiera ofrecer una capa separada sobre la moderación base de la app de Bluesky no necesita operar mucha infraestructura ni crear su propia app cliente
- Por ahora se requiere cierto conocimiento técnico, pero Bluesky prevé que este proceso se simplificará con el tiempo
- Ya es posible operar listas de silencio o listas de bloqueo a las que otros usuarios pueden suscribirse
- Las listas de bloqueo populares quedan fuertemente vinculadas a cuentas personales y, a medida que crecen, pueden volverse una carga, por ejemplo cuando los usuarios etiquetan directamente al operador dentro de la app
- Ozone permite operar servicios similares a listas de bloqueo con mayor granularidad
- Se pueden etiquetar no solo cuentas, sino también publicaciones específicas
- Se puede acceder a la cola de reportes
- Los usuarios pueden enviar reportes mediante el flujo de reportes dentro de la app
- Se pueden crear etiquetas personalizadas y definir qué acción debe ejecutar cada una
- El servicio no queda atado a un usuario individual y puede ser administrado por varias personas
- En el ejemplo de Spider Shield, el dashboard de Ozone ofrece una cola de fotos de arañas reportadas, reduciendo la necesidad de que la gente etiquete directamente al operador cada vez
- Las etiquetas pueden configurarse de forma distinta, por ejemplo bloqueando fotos reales de arañas y difuminando ilustraciones de arañas
- Varias personas pueden ayudar a gestionar reportes, o el proyecto puede transferirse a otra persona sin molestar a los usuarios
Cómo aplican etiquetas los desarrolladores
- Para etiquetar contenido, los desarrolladores pueden usar software de Bluesky como Ozone o aplicar etiquetas directamente mediante la API
- Ozone es una herramienta que ayuda a personas a revisar reportes de moderación, pero también es posible operar un servicio de moderación con etiquetado automático
- Si se quiere crear Spider Shield como un servicio automático basado en machine learning para detectar y etiquetar fotos de arañas, puede implementarse sin Ozone
- Para modificar Ozone según un objetivo específico, se puede enviar un PR o hacer fork del proyecto
- Bluesky ofrece herramientas de moderación open source para que las apps del ecosistema AT Protocol no tengan que reconstruir desde cero sus soluciones de confianza y seguridad
Etiquetas y escalabilidad en la red atproto
- Las etiquetas están diseñadas para ser genéricas y personalizables
- La funcionalidad inicial de etiquetadores se centra en ocultar, bloquear o difuminar contenido
- Más adelante también podrían usarse para curación o verificación
- Por ejemplo, las etiquetas podrían utilizarse para “verificar” cuentas de naturaleza que no publican fotos de arañas
- Los servicios de moderación no se limitan a la app de Bluesky y pueden funcionar en toda la red atproto
- Si aparece una nueva app para compartir fotos llamada Skygram, el servicio de moderación Spider Shield creado para Bluesky también podría usarse en Skygram
- Esta capacidad de combinación es el núcleo de composable moderation, y permite mezclar componentes incluso entre apps distintas
Opciones fuera de la moderación predeterminada
- Los usuarios de la app de Bluesky usan de forma predeterminada el servicio de moderación de Bluesky
- Todo el contenido que se muestra en la app de Bluesky debe cumplir las Normas de la comunidad de Bluesky
- Si la moderación predeterminada de Bluesky no se ajusta a una necesidad, se puede crear o usar una app cliente separada y conectarle un servicio de moderación propio
- Esta opción requiere una app cliente separada conectada a AT Protocol, pero ofrece la flexibilidad de implementar desde cero un sistema de moderación propio
Una relación servidor-moderación distinta a Mastodon
- La moderación de Bluesky no está atada al servidor como en Mastodon
- La defederation de Mastodon aborda los problemas de moderación bloqueando conexiones entre servidores, pero Bluesky tiene otra capa, por lo que ese enfoque tiene menos relevancia
- Los operadores de servidores pueden definir reglas sobre el contenido que alojan, y las listas de bloqueo y los servicios de moderación se usan para que las comunidades se autoorganicen según sus preferencias de moderación
- La diferencia en la estructura federada de Bluesky se explica con más detalle en el artículo sobre federation
- Es probable que los servicios de moderación comiencen como proyectos comunitarios, igual que los generadores de feeds
- Bluesky tiene más de 40.000 feeds personalizados, y los servicios de moderación también pueden operar como proyectos independientes de personas u organizaciones
- También son posibles servicios de moderación que acepten suscriptores pagos
1 comentarios
Opiniones de Hacker News
Estoy en el equipo que implementó esta función, así que puedo responder preguntas. Para explicarlo brevemente en términos técnicos, en general es un sistema que publica metadatos llamados Labels sobre las publicaciones.
Si un cliente de la aplicación especifica en el encabezado de la solicitud qué servicio de etiquetado quiere usar, esas etiquetas se adjuntan a la respuesta y el cliente puede interpretarlas.
Como es un sistema abierto, el cliente puede elegir qué etiquetador usar; el cliente de Bluesky tiene hardcodeada la moderación de Bluesky, pero otros clientes pueden elegir otro etiquetador predeterminado. Los usuarios pueden agregar etiquetadores de la comunidad, y se intenta que la mayor parte de la moderación se maneje en esa capa. Para contenido ilegal o abuso de la red también existe la “eliminación a nivel de infraestructura” en la capa de servicio, es decir, ejecutada en los relays.
Dentro de la app se ve como una cuenta especial a la que te puedes suscribir para recibir filtros adicionales. Las etiquetas pueden ser neutrales o negativas, así que en la práctica también pueden funcionar como insignias de usuario. A futuro se ampliará para admitir metadatos y acciones más ricas, de modo que también pueda usarse para funciones como notas de la comunidad o restricciones de respuestas basadas en etiquetas.
Me da curiosidad si conoces precedentes. Lo más cercano quizá sea este sitio, aunque aquí es opt-out y no reemplazable. O tal vez los filtros de spam de correo electrónico desde la perspectiva de un administrador de servidor.
Quiero saber si esto también afecta a clientes de terceros, y si es un punto de centralización y una parte abierta a abusos de moderación. O estoy tratando de entender si Bluesky funciona como protocolo de tal manera que, aunque quisiera, no puede bajar nada fuera de su propio cliente.
En particular, aplicar una función al estilo Steam Curator a la moderación de contenido es realmente adecuado, al punto de preguntarme por qué no se me ocurrió antes.
Al releerlo, me parece que no es un comentario muy útil al estilo de HN, así que agrego: creo que una de las cosas más útiles de internet es explorar lugares e ideas con los que normalmente no te toparías ni considerarías. Así como ir al Ártico en un barco de madera, recorrer internet implica riesgos considerables, pero por la posibilidad de crecimiento y cambio personal, esos riesgos pueden valer la pena.
Este modelo de internet es algo anticuado. Hoy internet es mayormente entretenimiento, y Bluesky, igual que TikTok o Instagram, existe para mantener la mirada pegada a la pantalla del teléfono. Bluesky es un poco más intelectual, pero solo un poco.
Como la gente normalmente no disfruta lo que le causa frustración, es comprensible que una empresa de entretenimiento como Bluesky se obsesione con la moderación de contenido para que a los usuarios solo les llegue contenido agradable. En ese sentido, el etiquetado parece útil para informar al consumidor, como las clasificaciones de películas, si algo es adecuado para él.
Así que para Bluesky es excelente. Pero yo, respetuosamente, rechazaré unirme y usaré plataformas con otros propósitos.
Veo muchas ventajas en este enfoque, pero hay un punto sobre el que soy escéptico.
En el artículo se menciona varias veces la moderación por cultura, y me pregunto cuál es la cultura base que asume la moderación de todo el sitio. ¿Estados Unidos?
Me pregunto si el equipo de moderación financiado por Bluesky se encarga de todos los idiomas o solo de las publicaciones en inglés. También es un problema qué significa pertenecer a una cultura que no tiene “soporte oficial”.
Se parece mucho al sistema de servidores de Mastodon. Es como una estructura en la que te unes a un servidor que se ajusta a tus propias políticas, pero aquí cambiar de servidor es mucho más fácil. Es una muy buena idea.
En Bluesky existe una identidad mediante DID. Si usas web DID, tu identidad queda vinculada al nombre de dominio y no hay ninguna conexión con la infraestructura de Bluesky. Está completamente en tus manos, pero no es fácil cambiar el nombre o el dominio. En cambio, si usas plc DID, por ahora usas infraestructura centralizada, pero puedes cambiar fácilmente el nombre o el dominio. En este caso, tienes un DID por cuenta.
Está el PDS o “almacén de datos”, que guarda el contenido de las publicaciones. Puedes alojarlo tú mismo o usar el PDS central de Bsky, y solo puedes usar uno por cuenta.
Hay un indexador que reúne las publicaciones de todos los PDS/almacenes de datos, y eso crea lo que Bluesky llama “firehose”. También hay relays que enrutan y cachean el tráfico.
Está la aplicación real, por ejemplo la vista de app que ofrece Bluesky, y también servicios de feeds que proporcionan los “algoritmos” que determinan cómo se verá la página. Puedes suscribirte a tantos feeds de este tipo como quieras o alojarlos tú mismo.
Por último están los etiquetadores de los que se habla aquí. A diferencia de Mastodon, puedes seguir varios etiquetadores al mismo tiempo. Un etiquetador puede ofrecer advertencias automáticas de contenido o moderación manual. Lo importante es que, haga lo que haga el etiquetador, al final el usuario controla si eso se queda en una advertencia/desenfoque o si realmente oculta el contenido.
En Mastodon todo está ligado a un único servidor/instancia, y el control sobre la moderación termina reduciéndose a “operar tu propia instancia y asumir todo el trabajo de moderación” o “depender de otra instancia sin medios de supervisión”.
No significa que el enfoque de Mastodon no tuviera sentido en su momento, pero como se dijo, la forma de Bluesky tiene mucho más sentido y también hace mucho más fácil que los usuarios se muevan entre opciones.
Es porque la agregación se hace del lado del servidor, no del lado del cliente como en RSS. Además, con solo no bloquear cierto servidor, tu propio servidor puede terminar en una lista negra. Por eso se parece más a un grafo en el que tienes que elegir de forma excluyente una de varias redes aisladas entre sí, más que a una red.
Esta debería ser la forma correcta. Puedo bloquear a quienes publican cosas que no quiero ver, y también a grupos de esas personas. A la inversa, puedo identificar a las personas y grupos que sí quiero ver y dejarlos pasar a mi timeline.
Aunque en teoría parece que podrías crear tu propio cliente, no sé bien cómo funcionaría en la práctica. Probablemente el contenido que a Bluesky no le guste no se almacenará en los servidores de BlueSky.
Tu comunidad no debería ser prohibida por hablar de cosas malas que le ocurrieron. Me pregunto cómo se manejaría un escenario así.
Quizá solo se pondría el contenido en gris. Pero ¿qué pasa con el usuario? Me pregunto si el contenido de ese usuario también se pondría en gris.
Es una idea realmente genial. Me gusta Spider Shield, que dieron como ejemplo. Espero que se use para todo tipo de casos cercanos a la moderación, como spoilers o temas que no quiero leer por un tiempo.
Sinceramente, es bastante excelente. Es una versión oficial y escalable de extensiones de navegador que permitían bloquear personas de forma recursiva, bloquear usuarios de Twitter Blue, bloquear a quienes publicaron en ciertos subreddits o marcarlos como hacía masstagger.
Convertir las listas de bloqueo programables en una función de primera clase es muy bueno.
No creo que te salve de dramas como https://www.techdirt.com/2022/11/02/hey-elon-let-me-help-you..., pero aun así es una función bienvenida. Será interesante ver cómo reaccionan las personas que terminen en listas de bloqueo populares de terceros.
¿Esto realmente alinea bien los incentivos?
En mi opinión, no. Aunque el usuario elija la moderación, debería poder desactivarla temporalmente en cualquier momento y ver una pantalla sin filtros. Debería poder quitarse los lentes cuando quiera. De lo contrario, en un contexto ideológico, la moderación puede convertirse en censura, y BlueSky se vuelve amigo de quienes empujan la opinión pública
Aunque los usuarios puedan quitarse los lentes, la moderación probablemente inhiba la producción de contenido. ¿Para qué hablar si nadie escucha? Pero si se permite que los usuarios experimenten desactivando la moderación, cada persona puede evaluar siempre si la moderación ayuda o si es censura. Entonces, como la moderación puede descubrirse y medirse fácilmente, también se genera presión para que los moderadores actúen de forma razonable
Creo que esto también es bueno para los grupos. Si las reglas de moderación de todo el grupo son definitivas y los usuarios no pueden mirar más allá de ellas, la moderación en sí es una posición poderosa, así que quienes quieren gestionar la opinión pública librarán luchas de poder, como siempre. En cambio, si la moderación siempre se debilita al basarse en el consentimiento, habrá menos juegos en torno al control de la opinión pública
Es mejor que los grupos se gestionen a sí mismos mediante la pertenencia. Puede ser difícil entrar, pero una vez dentro, independientemente de la moderación, la voz de cada quien debería ser escuchada por todos. Una moderación débil aumenta el valor de pertenecer al grupo y facilita establecer condiciones de ingreso que ayuden a confiar unos en otros. Aplicar esas condiciones de forma observable y consistente es otro problema
Si soy sincero, me gustaba mucho la idea de BlueSky y fui usuario temprano. Pero la semana pasada, al ver la noticia de que habían anunciado un equipo de Trust & Safety, o al menos contratado a un nuevo líder, borré la app
En mi cabeza, y para mucha gente, Trust and Safety es sinónimo de censura
Vivimos en una época en la que la censura es un enorme riesgo para la libertad. Una sociedad libre debe poder debatir, y cualquier persona u organización que crea tener la sabiduría para fijar los límites de lo que la gente puede discutir es una amenaza para la libertad
Esperaba que BlueSky eligiera otro camino, pero parece que ya no
Me pregunto si el blog de Bluesky tiene feed RSS
Aunque sí existe este feed (https://bsky.app/profile/did:plc:z72i7hdynmk6r22z27h6tvur/fe...) que reúne todas las publicaciones del equipo de Bluesky. Lamentablemente, tampoco es posible consumir feeds de bsky como feeds RSS. Aun así, las cuentas individuales pueden seguirse por RSS agregando
/rssa la URL del perfil. Por ejemplo, la cuenta que publicó el anuncio original es https://bsky.app/profile/safety.bsky.app/rssUna sociedad extremadamente dividida se va a beneficiar mucho de cámaras de eco configurables
A diferencia del mundo físico, no hay límites de tierra, y el ciberespacio es infinito. No sé por qué personas que no se soportan tienen tantas ganas de meterse en la cara unas a otras
Cualquiera que haya usado foros de internet aunque sea un poco sabe que, en sentido amplio, hace falta algún tipo de moderación. Personalmente, no usaría una red social en la que esté expuesto a transfobia cotidiana. No porque no quiera escuchar “ambas posturas”, sino porque ya tengo una postura lo más firmemente opuesta posible y no necesito escuchar más. Puede que no haya una solución general, pero valoro lo que Bluesky está intentando