- Los puntajes de crédito, las recomendaciones de LinkedIn y las calificaciones de Uber ya funcionan en las apps cotidianas como sistemas de crédito social
- Existe un gran malentendido en Occidente sobre el sistema de crédito social de China, pero en realidad su forma es limitada y descentralizada
- Las sociedades occidentales están construyendo diversos sistemas de puntuación del comportamiento, y también está avanzando la infraestructura que los conecta entre sí
- El intercambio de datos y la colaboración entre empresas y gobiernos, junto con los altos costos de cambio, hacen que en la práctica sea difícil escapar
- Si en el futuro las reglas y los puntajes se vuelven más transparentes, los usuarios también podrán entender las reglas del juego y elegir
El sistema de “crédito social” ya existe
- Los puntajes de crédito, las recomendaciones de LinkedIn, las calificaciones de pasajeros de Uber, las métricas de interacción de Instagram, las reseñas de Amazon y el estatus de anfitrión en Airbnb son sistemas de crédito social que rastrean y puntúan el comportamiento de los usuarios, y con base en eso determinan el acceso, las oportunidades y la posición social
La expansión del concepto de crédito social
- Originalmente, el crédito social (social credit) era un concepto económico para distribuir los beneficios de la industria con el fin de aumentar el poder adquisitivo de los consumidores
- Hoy en día, ha pasado a referirse a cualquier sistema que rastrea y puntúa el comportamiento, y usa ese puntaje para determinar el acceso a servicios y el estatus social
La realidad en la que ya vivimos
- Cada vez que un algoritmo evalúa la confiabilidad, la responsabilidad y el valor social, estamos participando en un sistema de crédito social
- Esa evaluación ocurre de forma invisible en innumerables plataformas y ya se aplica a toda la vida cotidiana
- La diferencia con China es que el gobierno chino lo explica abiertamente, mientras que en Occidente se oculta disfrazándolo de “experiencia de usuario”
Crédito social en China: malentendidos y realidad
- En Occidente se imagina el sistema de crédito social de China como una forma de vigilancia totalitaria, pero en realidad, hasta 2024, no existe un sistema nacional unificado
- Debido a la eliminación de muchos sistemas privados de puntuación y al fin de pilotos locales, hoy está limitado principalmente a la supervisión financiera y corporativa
- La puntuación del comportamiento individual se mantiene en ciudades piloto o experimentos limitados, con un alcance y un impacto muy reducidos
- En la práctica, lo que se rastrea en la mayoría de los casos se limita al incumplimiento de sentencias judiciales (deudas, multas impagas, etc.)
La realidad occidental: puntuación descentralizada e infraestructura conectada
- Existen perfiles de comportamiento por plataforma en sistemas como puntajes de crédito, Uber, Instagram, LinkedIn y Amazon, y estos determinan el acceso a servicios, oportunidades y conexiones sociales
- Algunas entidades de crédito alternativas incluso usan perfiles de redes sociales en sus evaluaciones crediticias
- Las apps de pago y los servicios financieros analizan los patrones de pago y el comportamiento transaccional de los usuarios para construir perfiles de riesgo más amplios
- LinkedIn está reforzando la visibilidad basada en algoritmos y la evaluación de la capacidad de conexión en red, y Amazon e Instagram también están intensificando el uso de datos de comportamiento
- Estos sistemas todavía no están completamente integrados, pero poco a poco se está creando la infraestructura para conectarlos
Transparencia y reglas
- En China, aunque sea de forma descentralizada, en muchos casos los criterios de evaluación se hacen públicos
- En las empresas occidentales, en cambio, los criterios de decisión de los algoritmos están ocultos por completo como una caja negra
Empresas vs. gobierno: diferencia esencial y realidad
- Los altos costos de cambio entre plataformas (por ejemplo, el ecosistema de Google o la red de LinkedIn)
- La información de comportamiento y crédito de cada plataforma se comparte, conecta y coordina cada vez más, ampliando así su influencia
- Los gobiernos también están usando datos empresariales mediante procesos legales y compra de datos, entre otros mecanismos
Por qué se expanden los sistemas de crédito social
- A nivel internacional, los sistemas de crédito social ayudan a resolver problemas de prevención del fraude, fomento de la cooperación e inducción de conductas a gran escala
- Las sociedades occidentales ya avanzan hacia una puntuación del comportamiento más amplia e integrada
- Europa está reforzando la vinculación entre identidad digital y puntuación
- Algunas ciudades de Estados Unidos experimentan con incentivos basados en el comportamiento
- Las grandes plataformas están ampliando el intercambio de datos de reputación, y los servicios financieros están incorporando análisis de redes sociales
El futuro que nos espera y nuestras opciones
- Si el sistema empieza a hacer cada vez más transparentes los puntajes de comportamiento y sus reglas, los usuarios podrán entender qué acciones influyen en su puntaje
- Si las recomendaciones basadas en algoritmos son en realidad evaluaciones ocultas de crédito social, entonces un sistema que revele sus criterios podría incluso ser preferible
- Si entienden las reglas, los usuarios podrán decidir activamente si quieren participar en el juego
Conclusión
- En el futuro, es posible que el sistema de crédito social al estilo chino influya cada vez más en las plataformas occidentales y evolucione hacia una dirección donde las reglas y la estructura de los puntajes de comportamiento sean más visibles
- Ha llegado el momento de entender cómo funciona el sistema y reconocer que uno mismo también es un jugador dentro de ese juego
1 comentarios
Opinión de Hacker News
Señala que en los medios y el discurso de EE. UU. la vida bajo regímenes autoritarios suele describirse de forma muy distorsionada. Comenta que, en muchos países, salvo en situaciones especiales como ser parte de una minoría, activista político o criminal, la vida cotidiana no es tan distinta de la de Occidente. Pero la mayoría de la gente no quiere escuchar eso, porque quiere creer que nunca toleraría una vida así. También dice que en los países occidentales avanza la autoritarización, pero la gente tiende a negarlo porque no la percibe de forma directa. Claro, la vida no es exactamente igual, pero siente que el impacto del autoritarismo se infiltra de manera más sutil de lo que se piensa
Habla de su experiencia viviendo bajo distintos sistemas políticos en varios países, incluso en zonas de guerra. Aun así, dice que la vida diaria era casi siempre parecida. Menciona que ir de compras, trabajar, ver amigos, tomarse algo, salir a comer o asistir a bodas son patrones de vida que en realidad se mantienen de forma similar en muchos lugares. Explica que, cuando en Occidente se describe a países no pertenecientes a la OECD o no democráticos, se fomenta una falsa sensación de superioridad, pese a que enfrentan los mismos problemas: concentración de riqueza, pobreza, minorías perseguidas, participación política meramente formal, policías peligrosos y corrupción. Aclara que no todos los países son iguales, y que las diferencias culturales y geográficas suelen notarse más que las políticas
Dice que, durante un tiempo, cuando se vive como migrante o como extranjero recién llegado, la realidad local no se revela demasiado. Pero a medida que se aprende el idioma y se observa más a fondo, empiezan a aparecer problemas como relaciones familiares poco confiables, jerarquías de sobornos e incompetencia, ausencia de protección legal y sociedades de clase sin esperanza. Y si incluso en tiempos normales ya es así, cuando empieza una guerra la mayoría étnica persigue y expulsa a las minorías
Explica que, aunque a corto plazo todo puede parecer similar, hay una razón por la que tantos migrantes educados de clase media querían emigrar originalmente a Estados Unidos. También enfatiza que la innovación, el poder económico y la capacidad militar de EE. UU. se verían afectados si la corrupción se generaliza, por lo que la corrupción —o la cuestión de la confianza social— debe mitigarse
Aunque la vida pueda parecer similar para quienes no son minorías, activistas políticos ni tienen problemas legales, precisamente por eso dice que prefiere los gobiernos liberales occidentales. Considera que ese ideal es un valor por el que vale la pena criticar a los gobiernos autoritarios y luchar por preservarlo en Occidente
Cuenta su experiencia viviendo en China y dice que, para un ciudadano común, la vida diaria suele estar bastante bien. Claro, hay problemas de equilibrio entre trabajo y vida personal, como en otras partes de Asia, pero no era un entorno de control estatal extremo como la vieja Rusia —la de esos relatos escritos por rusos— o la RDA. Incluso bajo un régimen fascista, si no perteneces a una minoría “impopular” y te mantienes indiferente, la vida cotidiana puede ser tranquila. Aunque eso solo dura hasta que empieza una guerra
Cuenta los problemas con el sistema de crédito que vivió al mudarse de Canadá a California por trabajo. Aunque tenía un salario alto, como no tenía historial crediticio le costó encontrar vivienda, y lo resolvió pagando un año completo de renta por adelantado. Tampoco fue fácil transferir una suma grande de dinero de Canadá a EE. UU. Al comprar un auto, el concesionario rechazó la operación porque su SSN recién emitido no aparecía en el sistema y no podían verificar su identidad. Sin embargo, su historial como cliente de largo plazo de Amex sí fue reconocido en EE. UU., y por eso pudo obtener sin problema una tarjeta de crédito de alto límite. Dice que ya vivimos en un sistema de crédito social operado por corporaciones, y que incluso podría ser mejor para el consumidor que otras alternativas
Considera que la puntuación crediticia originalmente debía medir la solvencia, pero que en la práctica muchas veces termina funcionando como una forma arbitraria de bloquear el acceso
Explica que cuando él también emigró a Canadá hace 15 años vivió casi exactamente lo mismo. Aunque trabajaba en tecnología, no tenía deudas y contaba con ahorros suficientes, durante mucho tiempo no pudo conseguir tarjeta de crédito por no tener historial, y sin aval no podía rentar. Tras vivir experiencias parecidas en varios países, llegó a la conclusión de que muchas comunidades en realidad discriminan a los migrantes. El igualitarismo es ideal, pero en la práctica el amiguismo y los prejuicios están profundamente incrustados en las instituciones
Las puntuaciones de crédito están completamente gestionadas por empresas. Dice que no termina de entender cuál es exactamente el modelo de negocio de esas compañías
Siente que Amex manejó este tipo de problema con bastante flexibilidad. Pudo obtener fácilmente una tarjeta personal incluso sin puntuación crediticia, y cree que ayudó el hecho de que ya usaba una Amex emitida por su empresa
Comparte un viejo comentario de HN que decía que “también existe crédito social en la vida real”. Por ejemplo, si eres grosero con un bartender, tu reputación cae en ese bar; si haces voluntariado, acumulas reputación en esa organización. Incluso sin algoritmos, la gente recuerda
Si quieres, siempre puedes mudarte a otro pueblo y empezar de nuevo. El problema con un sistema centralizado de crédito social es que la reputación te sigue para toda la vida. Si por error queda un registro incorrecto, no hay forma de remediarlo. Entre personas se puede resolver directamente, pero un sistema no funciona así
La reputación del mundo offline —el “crédito social”— suele ser laxa, local y cambia o desaparece con el tiempo. En cambio, el crédito social digital te sigue de por vida mediante una puntuación automatizada y fuerza consecuencias absolutas
Dice que hay gente que cree que los bartenders realmente recuerdan muy bien a sus clientes, pero que en la práctica durante un solo turno ven varios casos peores y ni siquiera les prestan mucha atención. En las organizaciones sin fines de lucro también cambia el personal con el tiempo, y ya no queda nadie que recuerde a antiguos voluntarios. Darle demasiado peso a ciertas cosas se debe al “efecto reflector”
La diferencia de la reputación offline es que todas las relaciones ocurren en lugares físicos y en el momento. Tiene que haber valor real en la interacción. Aunque dejes una mala reputación en un sitio, si te mudas a otro no te persigue
La reputación siempre fue una especie de crédito social; la diferencia moderna está en la escala y la transparencia
Explica con ejemplos la diferencia entre los sistemas de registro de China y los de otros países
Enfatiza que hay una diferencia esencial cuando un solo poder central controla el crédito social y la ley no puede proteger a la persona frente a ese poder. Fuera de eso, dice, la gente siempre se ha evaluado mutuamente de distintas maneras
En cuanto una sola autoridad central controla una “puntuación” de crédito social, deja de ser simple retroalimentación social y se convierte en poder estructural
Subraya que hay que entender con precisión la situación reciente de China. Señala que, incluso en 2024, no existe un sistema nacional de puntuación de crédito personal, y que la mayoría de estos mecanismos siguen siendo herramientas para supervisión financiera y empresarial. Mientras tanto, EE. UU. ha construido un sistema de puntuación crediticia totalmente integrado a las finanzas a través de tres agencias privadas, pero menciona que si se introdujera un puntaje de crédito público al menos habría más transparencia y posibilidad de control. Critica la realidad de que Equifax, Experian y otras filtren datos sin asumir casi ninguna responsabilidad
Claro que las personas siempre evalúan a otras personas, pero si una empresa me evalúa a mí y vende eso como “servicio”, la diferencia es enorme
Da el ejemplo de Amazon para explicar que la proporción entre mis compras y devoluciones no se comparte con otras empresas
Ante la afirmación de que “la diferencia entre el crédito social chino y el teléfono es solo que China te dice honestamente lo que está haciendo”, responde que de teléfonos puedes elegir varios e incluso no usar ninguno, mientras que del sistema de un Estado es imposible escapar por completo. Aunque cambiar entre sistemas corporativos también tenga costos altos, siguen siendo muchísimo menores que los costos de cambiar de país. Cree que el aumento de la cooperación entre sistemas privados también puede ser problemático, pero que sigue siendo algo fundamentalmente distinto del control total de un Estado. Si el gobierno compra datos privados para restringir derechos fundamentales, ahí sí está el verdadero peligro —por ejemplo, el congelamiento de cuentas vinculadas a donaciones a protestas en Canadá—, pero no todo se reduce simplemente a la compra de datos. Finalmente, dice que incluso la propia definición de crédito social es discutible en cuanto a qué es en esencia
Respecto a historias como que “si compras demasiado alcohol en China te bajan la puntuación”, comparte que en su primer viaje a China era menor de edad, pero aun así pudo comprar alcohol sin ninguna restricción. Dice que le pareció mucho más laxo que en EE. UU. También siente que es más eficiente no rastrear por ley la cantidad de alcohol que compra alguien, sino actuar sobre el resultado, por ejemplo si genera problemas por beber en público
Desde su experiencia con una esposa china y familia en China, explica que el consumo de alcohol por menores allí se considera más un asunto familiar. Si un joven de 16 años se emborracha, a quienes más les preocupa la reputación son la familia y los amigos de alrededor, y la policía solo interviene al final. De hecho, siente que en China hay mucho menos desorden por bebida en espacios públicos que en Occidente
Si alguien compra mucho alcohol para preparar una fiesta o aprovechar una oferta, sería irracional que le bajaran la puntuación automáticamente. Comprar no equivale a consumir de inmediato
Enfatiza que en Occidente ya existen sistemas parecidos a los de China, solo que con todavía menos regulación. El crédito social no es un concepto nuevo ni necesariamente una forma de control al estilo Orwell. El problema de que estos sistemas sean abusados por gobiernos o empresas surge porque no los gestionamos, regulamos ni exigimos transparencia. Aceptar la realidad de que estos sistemas ya existen es el primer paso para encontrar un punto de acuerdo social sobre la necesidad de regular la recolección y retención de datos, así como el acceso del gobierno a datos privados. Insiste en que el estado actual solo beneficia al capital y perjudica la democracia y los derechos ciudadanos, por lo que hace falta un cambio
Desde la perspectiva de que los sistemas de crédito o reputación son el resultado natural del desarrollo del mercado, menciona el caso de Suecia y explica que desde hace mucho tiempo las “consultas de crédito” son muy comunes. También comenta que recientemente algunas empresas han desarrollado puntajes de crédito para consumidores, de modo que la propia persona solo puede ver su puntaje si paga una suscripción. Dice que este proceso refleja cómo las empresas intentan simplemente gestionar riesgos y costos, y verificar el valor del consumidor para hacer las transacciones más eficientes
Explica por qué él actúa en comunidades sin insultos ni generar problemas. En la época de UseNet solía publicar mensajes agresivos y hacer trolling, pero fue una experiencia muy negativa. Ahora actúa según su propio criterio de integridad personal y de ser un miembro productivo de la sociedad. Más que por la evaluación o la reputación frente a otros, busca comportarse así por razones que son importantes para sí mismo