Diseconomías de escala: fraude, spam, soporte y moderación
- En las plataformas de gran escala, la proporción de fraude, spam y comportamientos abusivos suele ser mayor que en plataformas más pequeñas.
- Por ejemplo, en Signal nunca recibí mensajes spam, mientras que en WhatsApp los recibo de forma recurrente.
- Al comparar donde leer contenido técnico, foros menos conocidos o sitios como lobste.rs tienen menor proporción de contenido de baja calidad que las plataformas grandes.
- Plataformas de redes sociales medianas y grandes como Reddit, YouTube, Facebook y los resultados de búsqueda de Google presentan más contenido negativo.
- A medida que crece el tamaño de la plataforma, disminuye la probabilidad de recibir buen soporte, y también la probabilidad de recuperar una cuenta suspendida o prohibida por error.
Los problemas de las plataformas a gran escala
- Se cuestiona la idea de que las plataformas grandes hacen una mejor moderación y un mejor filtrado de spam y fraude.
- Ingenieros y pensadores de Google afirman que solo las plataformas a gran escala pueden hacer una moderación efectiva, filtrar spam y detectar fraudes, pero en la práctica, motores de búsqueda pequeños resisten mejor el abuso de SEO.
- A pesar de la percepción de que gestionar el propio correo es imposible por la carga de spam, mucha gente administra su correo y obtiene resultados similares o mejores que con Gmail.
Problemas de moderación de las plataformas masivas
- Mark Zuckerberg ha argumentado que la fragmentación de una gran empresa tecnológica empeoraría los problemas de moderación.
- El argumento de Zuckerberg es que las plataformas grandes pueden moderar mejor porque tienen más recursos, pero en realidad usan esos recursos en otros frentes.
- Por ejemplo, Meta invirtió 50 mil millones de dólares en el desarrollo del metaverso, pero no en la plataforma y tecnología de moderación.
Problemas de soporte
- El soporte al usuario de las grandes plataformas suele ser insatisfactorio.
- Los canales de soporte tradicionales suelen ser ineficientes y muchos usuarios terminan atravesando cartas de rechazo estándar o verdaderas pesadillas de tipo kafkiano.
- Incluso quienes usan soporte pagado reportan una experiencia muy similar al soporte gratuito.
- A medida que las grandes compañías crecen, su soporte se vuelve más barato y orientado a maximizar ganancias, en lugar de volverse más eficiente.
La opinión de GN⁺
- Aunque las plataformas de gran escala tienen más recursos, la calidad de la experiencia de usuario suele ser inferior a la de plataformas más pequeñas porque esos recursos no se usan para mejorar la experiencia de usuario, sino para maximizar ganancias.
- La calidad del soporte al usuario tiende a ser inversamente proporcional al tamaño de la plataforma, debido a la complejidad y sistemas de soporte poco eficientes de estas plataformas grandes.
- Este texto señala las fallas de las plataformas de gran escala y ofrece factores importantes que los usuarios deben considerar al elegir plataformas más pequeñas.
1 comentarios
Opiniones en Hacker News
Creo que el texto subestima el alcance de este problema. Lo menciona de pasada, pero en general he llegado a pensar que el mero hecho de que una empresa se vuelva extremadamente grande es malo, y esto no es solo un problema de moderación de contenido
Las empresas grandes dejan de necesitar preocuparse por cada consumidor individual, y de hecho dejan de hacerlo. Entonces pasan más tiempo defendiendo su posición de mercado que haciendo bien “aquello en lo que eran buenas”, y a veces intentan expandirse a mercados totalmente ajenos, como un conglomerado
Las economías de escala solo son buenas en el sentido de ganar dinero para una empresa individual; si se mira el beneficio para la economía, la sociedad y la humanidad en su conjunto, creo que casi todas las economías de escala son perjudiciales
Las economías de escala son algo natural, como el crecimiento de la hierba o la maleza, pero eso no significa que sean buenas, y para la mayoría de los fines prácticos deberían frenarse activamente. Que una empresa crezca es natural, pero creo que las empresas grandes deberían dividirse periódicamente solo por el hecho de ser grandes
El riesgo moral incluye no solo daños directos a otros, como soporte malicioso o deficiente, sino también daños indirectos por externalidades como contaminación o el deterioro de la economía local. Creo que esa intuición es claramente correcta
El riesgo moral corta los circuitos de corrección social que existían en grupos pequeños como la familia o la aldea, pero al mismo tiempo también hace posible la creación y acumulación de una enorme riqueza. En filosofía, esto se llama el problema de las manos sucias
https://en.wikipedia.org/wiki/Moral_hazard
https://plato.stanford.edu/entries/dirty-hands/
Gracias a las economías de escala en los bienes esenciales, no todos tenemos que dedicarnos a la agricultura de subsistencia, y podemos usar ropa confeccionada
Ambas posturas tienen algo de razón. No quisiera que los clavos se siguieran haciendo a mano, pero también quisiera que cuando llamo a atención al cliente me responda una persona con autoridad real
El problema de las estafas en internet es que casi nunca hay alguien que haga rendir cuentas de verdad a los estafadores. Ahora, en la práctica, lo único que se hace es “expulsarlos”, y después de ser expulsados vuelven a intentarlo hasta que al final casi siempre lo logran
Por eso la industria de la estafa en general es rentable y sigue creciendo
Cuando trabajaba en Blizzard, había muchos mecanismos para detectar transacciones fraudulentas con tarjetas de crédito y cancelarlas antes de que se hiciera el cargo real, pero no existía un proceso para denunciarlos y evitar que al día siguiente hicieran lo mismo otra vez
Probablemente todas las empresas usan una estrategia parecida. Ninguna empresa tiene medios realistas para hacer rendir cuentas a los estafadores e impedirles volver a intentarlo
Por eso el problema del fraude sigue creciendo, se está volviendo inmanejable y se sale de control. Es un problema político que exige que los gobiernos creen organismos dedicados a reducir el tamaño de la industria del fraude, atrapen a los estafadores y les hagan rendir cuentas
Lo más difícil es que cruza jurisdicciones, así que varios gobiernos tendrían que cooperar. Puede parecer imposible ahora mismo, pero hasta que eso pase, creo que el fraude seguirá empeorando
No vas a llamar al FBI por una compra de 20 dólares
Se puede usar como analogía la guerra contra las drogas. Los blancos principales siempre fueron los distribuidores de bajo nivel y los consumidores, porque eran fáciles de atrapar y también era fácil decir que “se estaba haciendo algo”. Pero eso tuvo relativamente poco impacto sobre el negocio de venta de drogas y la oferta en la calle, y apuntar a las causas de fondo es mucho más difícil
Para Blizzard, denunciar el fraude no tiene una recompensa a corto plazo, y es difícil saber si ayuda a largo plazo. Aun así, al final importa hacer lo correcto
“Muévete rápido y rompe cosas” puede ser una gran estrategia, pero no debería usarse sola. Si no, solo deja un rastro de destrucción que nadie limpia. Como es difícil cuantificar el objetivo, toda función objetivo tiende a desviarse, y hace falta que una persona lo vea y corrija el rumbo en la medida de lo posible
Se necesita tanto a quienes empujan rápido como a quienes frenan y reparan, y en esa tensión hay armonía. Elijas el bando que elijas, hay que reconocer que el lado opuesto también tiene valor
Por ejemplo, se me ocurre un sistema donde la empresa pague $X por presentar la denuncia, reciba $X5 si esa denuncia termina en una multa, y pague además $X10 si resulta ser una denuncia absurda. Si la denuncia parecía válida pero no termina en multa, no habría recompensa
Me preocupa que incentivos mal diseñados lleven a denunciar en exceso u otros efectos secundarios
Si de pronto se empieza a judicializar el fraude, eso les va a incomodar a actores con mucho dinero
La verdadera “economía de escala” de este tipo de plataformas no está en ofrecer mejor soporte, moderación o prevención de fraudes, sino en básicamente no hacer nada y apoyarse en su poder de mercado
Si Andy opera un servicio de taxis en un pueblo pequeño y surge un problema de atención al cliente, tiene que resolverlo bien personalmente o quiebra. Si fuera Uber, simplemente lo ignoraría
No se trata de eficiencia, sino de obtener poder monopólico que permite salirse con la suya incluso tratando mal a los clientes. Si a eso se le suma una superficie de ataque más grande, entonces mientras más grande es la plataforma, peor se vuelve en spam, fraude y soporte
Hay muchas quejas sobre Uber, pero la experiencia con taxis antes de Uber era mucho peor. El ejemplar servicio de taxis de Andy en su pequeño pueblo no existía o era una excepción imposible de encontrar de forma confiable cuando viajabas
Incluso en las grandes ciudades, la mayoría de los taxis se tomaban en la calle o se pedían por una central, así que los taxistas individuales tenían pocos incentivos para preocuparse por su reputación. Como no elegías un taxi específico y había pocas transacciones repetidas, el servicio al cliente no era importante
No hace falta preocuparse, y además es poco probable que una demanda colectiva prospere porque el grupo sería demasiado pequeño como para que un abogado la tome
En 2014, cuando Jeff Atwood, es decir codinghorror, pasó de Stack Overflow a crear Discourse, dio una charla relacionada, y recuerdo una frase breve con la que explicó por qué diseñaron así el sistema de niveles de confianza de Discourse
“Lo único que escala junto con una comunidad es la comunidad”
La idea central es que hay que hacer crecer a los usuarios para convertirlos en moderadores. Conseguir moderadores de otra manera no es sostenible
http://discourse.bridgefoundry.org/t/link-to-jeff-atwood-tal...
Usuario: “AI, ¿cuál es mi estado de lectura ahora mismo?” AI: “EveningSurfMood2, con énfasis en StuffFromFriends, y dentro de EclecticTopicsLarge están HighQ Discussion v3 de Dang, Clueful Author Making Coherent Argument Filter de Alice12, y UnusuallyInsightful51 de hugging”
Mientras lee, la AI: “Llegó una solicitud de evaluación de Mastatron. ¿Esta publicación subestima la oportunidad de un híbrido de cómputo humano-AI a gran escala?” Usuario: “Ah, sí”
El autor parece estar confundiendo la ventaja del efecto de selección con capacidad real
Quienes han trabajado en prevención de fraude dentro de plataformas saben que el fraude también tiene una especie de mercado. Dependiendo del beneficio que da explotar cierta vulnerabilidad, del esfuerzo necesario y de cuántas veces puede repetirse, cualquier plataforma termina con un nivel de fraude cercano al equilibrio de mercado
Que en las plataformas pequeñas haya mucho menos fraude se debe sobre todo a que el valor del ataque es mucho menor, y esa causa es precisamente el hecho de ser pequeñas
Las plataformas grandes en realidad tienen capacidades mucho mayores de prevención de fraude y spam, pero su escala de operación es un objetivo tan atractivo que aun así reciben muchísimos ataques
La situación es que estafadores de todo el mundo están atacando a Amazon, Google y Facebook. Es una lucha muy desigual y, visto en conjunto, creo que las plataformas aguantan sorprendentemente bien
Pero responde que, si esa lógica fuera correcta y los sistemas realmente fueran buenos, entonces en términos absolutos debería ser más difícil hacer spam o cometer fraude en Reddit o Facebook que en HN, y en la práctica no parece ser así en absoluto
Esta respuesta parece intuitivamente razonable. Si las grandes empresas de verdad fueran más competentes en prevención de abuso y fraude, los fraudes que se filtraran durante largos periodos deberían ser más sutiles y menos evidentes
Si su modelo de negocio es “escala a cualquier costo” y eso empeora la experiencia del cliente, entonces qué tan competentes sean importa bastante poco
Va unido al modelo de negocio de vender acceso al mayor grupo de usuarios posible
No estoy de acuerdo con la idea de que las grandes plataformas sean mucho más competentes en prevenir fraude y spam. Son incompetentes de manera deliberada. No pueden implementar la verdadera capacidad de ofrecer suficiente soporte humano para manejar el volumen de errores que generan los algoritmos automáticos
No por costo, sino porque hacerlo reduciría el valor que entregan a sus verdaderos clientes: los anunciantes o quienes compran acceso
En general estoy de acuerdo, pero creo que algunos ejemplos no dieron en el blanco.
Reddit no es un mal ejemplo por este efecto; al contrario, es un buen ejemplo. Reddit no es una sola plataforma gigantesca, sino una combinación de miles de subreddits moderados de forma independiente. Los subreddits pequeños son precisamente la razón por la que Reddit se sostiene, porque su escala es reducida.
Operar tu propio servidor de correo tampoco es un contraejemplo; de hecho sí es un muy mal caso. En esencia no estás moderando una comunidad pequeña, sino al mundo entero, solo que dentro de tu propio campo de visión. Cualquiera puede enviarle correo a cualquiera.
Así que te quedas con lo peor de ambos lados. No tienes el presupuesto que viene con una gran escala, y aun así sufres los problemas a gran escala.
No es que yo la esté pasando mal por moderar al mundo entero; es que el mundo entero me está moderando a mí.
Las organizaciones pequeñas no saben bien cómo evitar parecer spam, y además usan antipatrones como las molestas firmas de correo que son comunes en las empresas.
Por eso es mucho más difícil que Gmail llegue a ser tan preciso como mi filtro de spam. Mi filtro solo tiene que aprender las preferencias de unos cientos de personas, mientras que Gmail inevitablemente carga con el riesgo de sobreajuste.
Si se integra todo lo que dice este texto, la conclusión es que hace falta más competencia, sin un líder gigante claramente dominante. Idealmente habría varias empresas de tamaño medio o menor; si el poder no se concentra de un solo lado, aparece el incentivo para ofrecer una mejor experiencia, y para los actores maliciosos también se vuelve más difícil porque tienen varios objetivos.
En términos de regulación y del espíritu de competencia de mercado, creo que deberíamos incentivar la creación de empresas medianas de software cuyo valor combinado supere los 100 mil millones de dólares, en lugar de unas cuantas megacorporaciones valuadas en billones.
El hardware es un poco distinto por las economías de escala, así que no quisiera meterlo exactamente en el mismo argumento, aunque quizá también haya algo ahí.
Rockefeller tenía alrededor del 90% de participación de mercado antes de que comenzara la demanda antimonopolio, pero para cuando salió el fallo esa participación ya había bajado. Eso muestra que incluso si un solo actor tiene el 90%, el mercado puede terminar reduciendo ese tamaño por sí solo.
Al mismo tiempo, Rockefeller también aportó una innovación revolucionaria a la sociedad. Que el capital se concentrara en él al principio fue bueno en la medida en que se usó para hacer avanzar a la sociedad, y que después ese capital saliera de forma natural también fue bueno porque hacía falta en otros lugares.
La centralización actual en torno a empresas gigantes está influida por varios factores; las economías de escala son uno de ellos, pero también lo es en gran medida la legislación de propiedad intelectual. De hecho, creo que la propiedad intelectual no hace falta.
Sospecho que la mayoría de las regulaciones las redactan las propias empresas reguladas y que sirven para bloquear la competencia. Además, creo que la centralización se consolidó de verdad en la Primera y Segunda Guerra Mundial porque al gobierno le resultaba más fácil ordenar a unas pocas personas que fabricaran tanques en vez de automóviles, y también porque era un objetivo estratégico del gobierno de Estados Unidos.
El software y los servicios en línea han sido especialmente malos en esto porque tienen demasiadas formas de esquivar la regulación. El cumplimiento malintencionado de Apple frente a la UE es un ejemplo descarado, y el caso en que Facebook convenció a las autoridades de que el chat y las redes sociales eran mercados distintos para que se aprobara la compra de WhatsApp es más sutil.
Idealmente, el objetivo no debería ser solo impedir el abuso del monopolio, sino impedir el monopolio en sí: https://pietersz.co.uk/2009/11/fix-capitalism
Se puede arreglar fácilmente. Solo hay que hacer que Amazon tenga responsabilidad de garantía por todas las ventas en su plataforma
Amazon afirma que no es el vendedor, sino que el vendedor es una parte anónima que publicó un anuncio en la plataforma. Hubo una demanda sobre este tema en Pennsylvania y, cuando parecía muy probable que Amazon sufriera una gran derrota, llegó a un acuerdo para evitar sentar precedente
En el lado de la publicidad, cualquiera que publique anuncios para un tercero debería poder presentar el nombre y la dirección reales del anunciante cuando se le solicite; si no puede, debería asumir responsabilidad por el contenido del anuncio. Las empresas no tienen derecho a ser anónimas. En la UE y en California ya existen leyes así
El fraude es un problema no porque sea difícil, sino porque las principales plataformas quedan exentas de responsabilidad aunque lo faciliten
Como los anunciantes tienen que cobrar dinero, sorprende un poco que eso no funcione ya así. Aunque sí podría hacer más difícil anunciarse y perjudicar a los negocios pequeños, pero engañar a los clientes también es un problema
A las grandes plataformas no les moverá ni un pelo el costo de la verificación, y los estafadores solo tendrán que volver a intentarlo si se les cae el plan
Para los negocios legítimos, esto solo crea otro dolor de cabeza. En casos especiales, los usuarios pueden quedar atrapados en un limbo burocrático interminable. Incluso si hubiera soporte humano, solo repetirían frases vacías como: “No podemos verificar su identidad con los documentos proporcionados. Este es un requisito de cumplimiento según la Ley de Seguridad de Plataformas en Línea de 2026”
Mientras tanto, los estafadores seguirán produciendo cuentas con KYC completo. La plataforma solo se enfocará en cumplir la nueva regulación y el proceso dejará de tener relación con la seguridad. Amazon seguirá ganando comisión por cada venta, y las grandes plataformas disfrutarán los requisitos de cumplimiento como barrera de entrada para competidores
Al final también llegará el día en que se filtre toda la información personal. Cuando esa brecha quede expuesta ante todos, eso también será un problema que los estafadores no tienen
Si me dieran 1 dólar cada vez que veo un post que dice “esto se arregla fácil usando más gobierno”, ya podría haber armado un fondo de VC. Cuando se trata de personas e incentivos, nunca es tan simple. La sociedad humana no es una base de código a la que puedas ponerle parches para eliminar bugs
Este artículo tiene mucho que desmenuzar, pero el punto central es el mito de lo gigantesco y que lo pequeño es hermoso
No sorprende que Big Tech tenga éxito construyendo sus propios mitos poderosos. Tanto las grandes organizaciones como los Estados-nación crean mitos de capacidad única, infalibilidad y excepcionalidad
Al mismo tiempo, ni siquiera hace falta decir que la escala trae ineficiencia, corrupción, torpeza e insensibilidad. Sin medidas proteccionistas para sostener esos monopolios gigantes, se habrían hecho pedazos bajo condiciones de competencia real
Es fácil pensar en formas en que las economías de escala benefician a los usuarios, pero eso no significa que debamos asumir que, en todos los ámbitos, las economías de escala superan a las deseconomías de escala
Hay que mirar tanto lo que mejora como lo que empeora cuando una empresa crece; no hay que asumir que si algunas cosas mejoran entonces todo mejorará, ni lo contrario
Cuesta entender que Amazon venda tarjetas SD o unidades flash que son claramente falsas. Es muy fácil identificarlas, y además el almacenamiento falso puede hacer que los usuarios pierdan sus datos, así que parecería algo que debería tratarse seriamente
https://a.co/d/auXcxrZ vende 1 TB por 29 dólares y además está marcado como “overall pick”
Porque hay continuidad de control desde el fabricante hasta el estante de la tienda, así que el origen está claro
Lugares como Amazon mezclan los artículos “idénticos” de varios vendedores en un solo gran contenedor de inventario
No parece que puedan detener ese flujo
La gente no técnica a mi alrededor insiste en que necesita 1 TB para todo. Una persona incluso compró un iPad Pro solo para tener 1 TB de espacio. Había usado su iPad anterior durante 8 años y llenó alrededor de 64 GB, pero quería asegurarse de no volver a quedarse corta nunca