La adicción está siendo diseñada
(substack.com/masonyarbrough)- Aunque una nueva plataforma social nazca con la intención de corregir los problemas existentes, en cuanto recibe capital de riesgo y presión por crecer queda atrapada en una estructura que optimiza la participación por encima de la conexión.
- Circliq buscaba crear vínculos reales mediante encuentros presenciales y comunidad, pero llegó a la conclusión de que la lógica de la expansión y la inversión termina exigiendo los mismos incentivos que las redes sociales tradicionales.
- BeReal, Instagram y Twitter comenzaron con autenticidad, compartir fotos y actualizaciones de estado, pero luego cambiaron hacia maximizar los usuarios activos diarios y las reacciones emocionales.
- El detox digital personal o limitar el tiempo de pantalla no basta para enfrentarse al diseño basado en pruebas A/B, psicología conductual y aprendizaje automático que usan TikTok, Instagram y X.
- La solución no está en otra app más, sino en cambiar el modelo de crecimiento basado en publicidad y venture capital, y en cambiar las reglas mismas mediante suscripciones, cooperativas, financiamiento como bien público y transparencia algorítmica.
El camino que repiten las nuevas plataformas sociales
- Las nuevas plataformas sociales aparecen prometiendo resolver los problemas de las plataformas existentes, pero por lo general recorren el mismo camino.
- Empiezan con intenciones puras.
- Reciben capital de riesgo.
- Enfrentan presión por crecer.
- Aumentan la participación mediante manipulación algorítmica.
- Al final, su propósito original se deteriora.
- BeReal prometía autenticidad y Clubhouse prometía intimidad, pero ninguno de los dos servicios estuvo libre de esas mismas presiones estructurales.
- El núcleo del problema no es una falla que pueda arreglarse con una sola app nueva, sino la estructura económica que pone precio a la atención y a las relaciones de los usuarios.
Por qué Circliq se detuvo
- Circliq era una plataforma social que apuntaba al mundo real en lugar del feed infinito, a la conexión offline en lugar de la manipulación algorítmica, y a las relaciones reales en lugar de la adicción.
- Cuando los inversionistas empezaron a preguntar por la forma de escalar, la cantidad de eventos y cómo maximizar la atención de los usuarios, el servicio quedó atrapado en las mismas preguntas que las redes sociales tradicionales.
- Si hubiera levantado capital, era muy probable que Circliq también hubiera caído en el mismo patrón.
- Habría necesitado más usuarios y más eventos.
- Las métricas de crecimiento se habrían vuelto el objetivo central.
- Al final, podría haber dejado de ser quien resuelve el problema para convertirse en parte del problema.
Las etapas del cambio de “conexión” a “extracción”
- La degradación de las plataformas sociales no ocurre porque los fundadores sean malvados o los usuarios sean débiles, sino porque la estructura de incentivos prácticamente determina el resultado.
- Las etapas que se repiten son las siguientes.
- Intenciones puras: conectar personas, compartir momentos auténticos y construir comunidad.
- Mandato de crecimiento: para conseguir inversión se necesitan usuarios, y para conseguir más inversión se necesita crecimiento exponencial.
- Optimización de la participación: el crecimiento exige participación, y la participación exige mantener al usuario más tiempo dentro de la plataforma.
- Manipulación algorítmica: se muestra más contenido que provoca reacciones emocionales intensas como ira, celos, miedo o indignación.
- Desalineación total: la misión original de conectar personas se convierte en manipulación emocional para obtener ingresos y en scroll aislado.
- BeReal prometía autenticidad con fotos simultáneas y sin filtros, pero después de recibir capital de riesgo y escalar, la autenticidad pasó a importar menos que los usuarios activos diarios y las métricas trimestrales.
- Instagram empezó como una app simple para compartir fotos entre amigos, pero después de ser adquirida por Facebook por 1,000 millones de dólares, el feed cronológico fue reemplazado por un algoritmo de optimización de participación.
- Twitter comenzó como actualizaciones de estado de 140 caracteres, pero terminó convirtiéndose en una plataforma que amplifica contenido que genera fuertes reacciones emocionales y propaga declaraciones virales.
Por qué la voluntad individual no basta
- El detox digital, los límites de tiempo de pantalla, la fuerza de voluntad y las apps para bloquear apps se parecen más a intentos de resolver a nivel individual un problema sistémico.
- Las principales plataformas sociales usan equipos de psicólogos conductuales, miles de pruebas A/B y aprendizaje automático para encontrar vulnerabilidades psicológicas.
- Las recompensas intermitentes y variables son más adictivas que las recompensas constantes, como en una máquina tragamonedas, y se aprovechan en el diseño de las plataformas.
- TikTok, Instagram y X se parecen menos a herramientas neutrales y más a máquinas tragamonedas diseñadas para retener al usuario.
- deslizar para actualizar
- pestaña de likes
- scroll infinito
- recompensas aleatorias
- notificaciones sincronizadas para disparar cortisol
- La depresión y la ansiedad en la Gen Z aumentaron con fuerza después de la expansión explosiva de los smartphones y las apps sociales alrededor de 2012.
- Los seres humanos no están hechos para consumir en tiempo real todos los desastres, compararse con cientos de avatares editados y vivir conectados las 24 horas.
Soluciones estructurales que podrían funcionar
- Como las soluciones individuales no bastan, se necesitan soluciones sistémicas que cambien la forma de financiar las plataformas sociales y las reglas bajo las que operan.
- Las posibles soluciones pueden resumirse en cuatro.
- Otras formas de financiamiento: en vez de la máquina de crecimiento basada en venture capital y publicidad, financiarlas como un servicio público o una utilidad.
- Los modelos de suscripción, las cooperativas y el financiamiento público pueden priorizar el bienestar del usuario por encima de las métricas de participación.
- Wikipedia es un ejemplo de un modelo cooperativo basado en donaciones.
- Estos modelos existen, pero no escalan al ritmo que exige el capital de riesgo.
- Algoritmos regulados: así como se regula a las tabacaleras por su carácter adictivo y dañino, la transparencia algorítmica o el control del usuario pueden reducir el diseño adictivo.
- La Digital Services Act de la UE exige transparencia algorítmica a las grandes plataformas.
- Separación estructural: se puede separar a las plataformas que ganan dinero con publicidad del diseño de la interacción social.
- Métricas alternativas: se puede evaluar con base en el bienestar del usuario, la calidad de las relaciones y la conexión en el mundo real, en lugar de usuarios activos diarios y tiempo dentro de la plataforma.
- Otras formas de financiamiento: en vez de la máquina de crecimiento basada en venture capital y publicidad, financiarlas como un servicio público o una utilidad.
- El problema más profundo es que dejamos las relaciones humanas en manos de sistemas diseñados para generar ganancias.
- La conexión real ocurre en conversaciones que no se convierten en datos, en relaciones que no escalan y en momentos que no pueden optimizarse para participación.
- El objetivo podría no ser unas redes sociales mejores, sino un sistema en el que las redes sociales sean menos necesarias.
- Las plataformas sociales actuales también han cumplido un papel positivo al conectar personas a través de continentes, organizar movimientos y amplificar voces necesarias.
- Pero en el momento en que optimizaron la participación por encima de la conexión, el tiempo de permanencia por encima del bienestar del usuario y la extracción por encima de las relaciones reales, se desviaron del rumbo.
- Si no cambia el modelo económico que monetiza la adicción y dificulta la conexión real, los intentos de arreglar las redes sociales volverán a convertirse en parte del problema.
1 comentarios
Opiniones de Hacker News
Después de pasar algunos años en el sector del capital de riesgo, cada vez estoy más convencido de que la inversión externa es la principal razón por la que una empresa pierde su moralidad.
La obligación legal de representar a los accionistas erosiona la moralidad, y cuando quienes dirigen la empresa sienten que están atados a los accionistas y no pueden ejercer su propio criterio, terminan usando la investigación sobre adicciones no como una advertencia, sino como un manual de instrucciones.
Claro, decir esto en un foro históricamente vinculado con YC tiene sus matices, pero hay una conexión bastante clara entre la inversión externa y el diseño de adicciones.
También es lamentable que, con la administración actual, se reduzcan los subsidios y las redes de seguridad, lo que vuelve más difícil fomentar la toma de riesgos, y que la vía más rápida para iniciar o hacer crecer una empresa sea levantar inversión. Creo que es mejor donar a proyectos open source.
Con esa mentalidad, aquello a lo que llamamos “nuestro producto” deja de importar y pasa a verse solo como alimento para engordar a la empresa, que es el producto real. La idea es engordarla lo más posible y luego venderla al matadero más grande.
Esto empieza casi de inmediato, y hasta una ronda A es difícil de conseguir sin un plan de exit.
Siento que la mera existencia de un plan de exit perjudica a los usuarios. A nadie le importan los usuarios; todo se concentra en engordar la empresa y hacerla lucir bien. Por eso terminan alimentándola con comida chatarra para engordarla lo más rápido posible, sin considerar en absoluto la sostenibilidad a largo plazo.
Ojalá la industria tecnológica vuelva a enfocarse en entregar cosas realmente buenas a los usuarios finales. Aún se podría vivir bien de eso, aunque quizá no con los niveles absurdos de retorno que vemos ahora.
Hay que combatir la idea de que enfocarse de manera exclusiva en las ganancias de corto plazo sea un requisito legal, moral o ético. En realidad, es antisocial y claramente destructivo.
Si una empresa recibe al mismo tiempo ofertas de adquisición por 1 millón y 2 millones de dólares, y el directorio acepta la de 1 millón porque recibió un soborno, eso podría ser un problema. Fuera de eso, casi no aparece.
Basta con encontrar un solo precedente en el que un accionista haya logrado imponer su voluntad al directorio o a la gerencia basándose en esa obligación. Tampoco tiene mucho sentido lógico. Salvo en casos de adquisición, casi cualquier acción de una empresa puede justificarse como algo en beneficio de los accionistas.
Por ejemplo, se podría decir que hacer una app demasiado adictiva provoca rechazo social y regulación gubernamental, lo que perjudica a los accionistas, y esa obligación tampoco define un horizonte temporal específico.
El directorio y la gerencia pueden querer complacer a los inversionistas, pero no es por una obligación legal. Un ejecutivo que ignore los intereses de los accionistas puede preocuparse por su reputación como fundador competente, el riesgo de ser despedido o la caída del valor de su propia participación, pero no está ante un riesgo legal.
El ejemplo más astuto es Mozilla. Atrajo a la gente con productos centrados en la privacidad, luego literalmente borró el enfoque en la privacidad de su declaración de misión y empezó el “sacrificio”.
Craigslist es prueba de que se puede incluso a gran escala. Pero ya hay muy pocas personas que tengan al mismo tiempo esos medios y esa moralidad. La parábola de Sodoma y Gomorra es una advertencia de que, si se permite que esto ocurra, la sociedad termina colapsando por sí sola.
Estoy de acuerdo en que la inversión externa puede acelerar con fuerza este tipo de cosas, porque permite a los fundadores externalizar la responsabilidad.
Pero no es la causa principal. Las empresas explotadoras existían mucho antes de que se inventara el capital de riesgo. Al final, todas las empresas existen para ganar dinero, así que son intrínsecamente amorales, y por eso se necesita un Estado que regule el mercado para que las empresas no dañen demasiado a la sociedad.
Esos fundadores no fueron corrompidos por capitalistas de riesgo malvados; simplemente su moralidad nunca fue tan fuerte desde el principio.
[1] https://www.vox.com/2018/6/13/17449118/stanford-prison-exper...
El problema es más fundamental. Si el modelo de ingresos está atado al uso, naturalmente se termina buscando maximizar el uso por encima del beneficio del usuario. Si la función de recompensa está conectada al uso del producto, no puede ser de otra manera
Si lo comparamos con los autos, el modelo de ingresos de una automotriz no depende de cuánto manejo, sino de que yo sienta que el auto es lo bastante útil como para comprarlo. Los gimnasios incluso funcionan al revés. Cuanto menos los uso, más dinero ganan, siempre y cuando no cancele la membresía
Microsoft Office o Mario Kart no necesitan volverme adicto; solo necesitan hacer que compre el software. Incluso Photoshop, que funciona con un modelo de suscripción, no tiene motivo para seguir una estrategia de adicción. Basta con hacerlo lo suficientemente útil como para que siga pagando, y en ese sentido quizá se parece más a un gimnasio
Los productos que necesitan adicción son los que se usan gratis, pero tienen costos para ofrecerse. En muchos sentidos, también tenemos parte de la culpa por esperar que las redes sociales y muchos servicios sean gratis y que se financien con publicidad
Se podría crear una red social sin patrones oscuros y cobrar una suscripción mensual, pero queda la duda de cuánta gente pagaría. Creo que probablemente sería casi 0 y fracasaría. Aun así, yo probablemente pagaría, y eso sería bastante solitario
Personalmente, creo que la solución es simple, pero bastante coercitiva, así que sería difícil implementarla por la resistencia política. Sería prohibir toda la publicidad dirigida
En las plataformas digitales la publicidad podría seguir funcionando, pero el resultado de las heurísticas que eligen los anuncios tendría que ser independiente de los datos derivados del usuario, como datos de sesión, dirección IP, zona horaria, país, historial de visualización, etc.
Una de las decisiones que más agradezco haber tomado con mis cofundadores desde el primer día fue: 1) tener un modelo de ingresos que no dependiera del uso, y 2) no convertir el uso en nuestro objetivo
Es cierto que el mercado al que apuntamos es un poco particular: padres que quieren darles a sus hijos una alternativa sin pantalla en lugar de smartphones y redes sociales. Aun así, esta experiencia me da esperanza de que otros modelos de ingresos también puedan abrir el camino para que prosperen productos sociales no adictivos
Un precio así lo puede pagar mucha gente incluso en países pobres. Si está bien diseñado y les da a los usuarios el poder de hacer algo, la gente pagará por esto igual que paga por otras cosas
[1] https://news.ycombinator.com/item?id=38117385
Yo también estaría dispuesto a pagar. Estoy buscando activamente comunidades humanas online decentes que no vendan mis datos a granjas de IA ni intenten robar mi atención constantemente
Lamentablemente, las redes sociales se tragaron muchos lugares que antes sentía como mi casa
Tiene 20 empleados e incluso moderadores humanos. También está Metafilter, con un modelo pago[2]
[1] https://www.washingtonpost.com/technology/2024/08/10/front-p...
[2] https://www.metafilter.com/
¿No estaremos pensando esto de forma demasiado complicada?
Los viejos sitios especializados siguen vivos, con temas, categorías y discusiones para todo el sitio
Como alguien que cultiva algo de comida en una zona semirrural, disfruto mucho permies.com. Todos los días, algún voluntario publica una pregunta nueva o vuelve a subir un tema relacionado con la temporada o con intereses recientes
Pero ellos no intentan ganar mil millones de dólares, ni siquiera un millón. Por eso es bueno
Recaudan fondos vendiendo libros, tarjetas y videos educativos, y también tienen “anuncitos” no invasivos que se autoparodian
Creo que lo pequeño es hermoso. La Internet actual está dominada por reptiles malvados que quieren arrancarnos nuestro tiempo, datos, privacidad y amigos. “No seas malvado” murió y desapareció
Basta con retroceder el reloj 30 años. Yo lo hice y soy feliz
Es tiempo lejos del flujo interminable de basura nueva de Internet, y además surgen relaciones cara a cara, lo que suma una sensación extra de realidad. Gracias a esas dos actividades también hice muchos amigos con personalidades, orígenes y experiencias de vida muy distintas
No se trata necesariamente de volver 30 años atrás, sino más bien de encontrar muchísimas otras actividades que se pueden disfrutar sin pantalla
En ambas actividades no puedes hacerlo bien si tienes la mente en otra parte. Tienes que “estar presente”. El tenis es técnicamente difícil si quieres jugar bien, y al patinar en línea puedes lastimarte si apartas los ojos y la mente de tu entorno aunque sea por un momento
Esa presencia o concentración única limpia mucho del ruido acumulado en la cabeza. Y tampoco ocurre que mi intención sea manipulada y me desvíe del camino al que originalmente quería ir
Recomiendo Addiction by Design. Es un libro excelente sobre la dinámica del diseño de la adicción en la industria del juego, y se parece mucho a lo que vemos hoy en el mundo de los smartphones/Internet
Gracias al usuario olvidado de HN que me lo recomendó en su momento. Fue uno de los mejores libros que leí en los últimos años, y de los que más van al punto
Me viene a la mente el intento casi agotador de crear una wiki de golf que no sea explotadora como la mayoría de los sitios de golf.
Hacerlo con bootstrap, sin inversión, es pesado pero necesario, y hay que operarlo con costos muy bajos. Lo frustrante es que, en toda red, el flywheel lo es todo.
Cuando el producto llega al teléfono de la gente, el valor se ve fácilmente, pero para meter la app en esos teléfonos hace falta mucho dinero para crear suficiente valor como para que la gente llegue.
Por eso el financiamiento de venture capital es tan dañino, y por eso a proyectos como mastodon, lemmy y pixelfed les cuesta despegar. Casi siempre, lo esencial es la red en sí, más que el producto.
Voy a intentar seguir lento y constante aunque tome 10 años. Si fracasa, sinceramente no importa. Porque sé que quienes se interesan por la arquitectura de campos de golf quieren un lugar donde hablar de los campos que aman.
https://golfcourse.wiki
Hablé con un amigo que es consejero en un campamento de verano pequeño, y me dijo que, de unos 35 chicos del campamento, 4 se fueron porque no podían estar separados de sus dispositivos.
La fuerza del refuerzo intermitente que opera en la vía de entrada a la adicción es aterradoramente potente.
¿Habrá alguna forma de inmunizarnos a nosotros mismos y a las futuras generaciones contra esto?
El autor propone como solución apoyar iniciativas que cambien el juego en sí. El “ayuno de dopamina” de moda o un tiempo semanal sin pantallas podrían servir como herramientas. También podría funcionar aumentar la educación sobre el refuerzo intermitente, o algún programa parecido a D.A.R.E. enfocado en apps. Lo digo medio en broma, pero no del todo.
En productos tecnológicos, un nerd peculiar puede operar un foro activo desde una computadora vieja debajo del escritorio; dos “cofundadores” jóvenes y con empuje pueden crear una empresa desde cero; y HN también, en algún momento[0], pudo sacudir toda la cultura tecnológica con un solo proceso en un solo servidor. Entonces, ¿no sería posible también elegir no crecer?
En la era de los modelos de lenguaje grandes, crear un producto confiable requiere más capital que antes. Aun así, los proveedores están poniendo precios agresivos y, aunque intenten subirlos más adelante, la mitad de los modelos base mejores que los mejores del año pasado son open source.
Si juegas con mucho dinero y buscas mucho dinero, hay mucho dinero circulando tratando de meterte en ese juego. Pero si solo quieres crear algo pequeño, bueno y a escala humana, ¿ha habido un mejor momento que ahora?
El camino hacia miles de millones de dólares puede requerir comportamientos mercenarios para extraer dinero, pero eso no significa que la presión por crecer sea una ley natural inevitable.
No puedo sacarme de encima la sensación de que la gente del Small Web está viendo algo importante.
[0] https://news.ycombinator.com/item?id=5229522
La solución que este texto insinúa, pero no se atreve a decir, es la regulación gubernamental.
“Algoritmos regulados: las tabacaleras están reguladas porque sus productos son adictivos y dañinos. La transparencia algorítmica o darle más control al usuario podría reducir los patrones de diseño adictivos y conservar sus beneficios. La Digital Services Act de la UE ya exige transparencia algorítmica a las grandes plataformas”.
En vez de enseñar a la gente a pensar críticamente y a resistir trampas de dopamina diseñadas, mejor hagamos que burócratas de carrera que buscan “AI” en Wordpad o Internet Explorer redacten las leyes xD
Los psicólogos empleados a los que se pinta como villanos no son la causa de este problema, ni una fuerza imparable que manipula todo lo que hacemos.
Mucho antes de que existiera el concepto de red social en el sentido actual, internet ya era “adictivo”. A mediados de los 90 yo ya pasaba desde el atardecer hasta el amanecer sentado frente a la computadora, y conocía a cientos de personas que hacían lo mismo.
Ya éramos “adictos” a espacios online tempranos como message boards, IRC, AIM, ICQ y MMORPG, anteriores a las estructuras modernas de capital.
Fui adicto a leer newsgroups con trn, el programa de Larry Wall.
En trn era muy fácil mostrar una nueva pantalla llena de texto, pero era difícil volver a donde estabas leyendo tres pantallas antes. Si seguías dentro del mismo mensaje, bastaba con desplazarte tres veces hacia arriba, pero si no, era complicado, y eso desincentivaba volver atrás.
Así había menos motivos para no seguir buscando la próxima recompensa de dopamina: el siguiente fragmento de texto que te enseñara algo.
El punto clave es que ni trn ni los newsgroups recibieron financiamiento de venture capital de ninguna forma. Tampoco participó ninguna startup o empresa no financiada por VC.
Cuando empecé a mirar newsgroups en 1991, ese software era diseñado, implementado y operado íntegramente por voluntarios. Esos voluntarios trabajaban en general en empresas tecnológicas, universidades y laboratorios gubernamentales, pero eso era porque en esa época el acceso a internet se obtenía principalmente a través del trabajo, y participar en newsgroups no contaba para la evaluación laboral de sus empleadores.
Por lo tanto, el venture capital no es todo el problema. Ni siquiera el incentivo de lucro es todo el problema. Este problema también puede aparecer en programas distribuidos con licencias open source por motivos de hobby o de comunidad.