- A partir de la experiencia con boosts de Hinge, se critica la estructura en la que los servicios cotidianos extraen más valor de cada interacción usando técnicas psicológicas y algoritmos
- Pantallas de propina, el algoritmo de Uber, comprar café, tener citas, pedir un viaje y hasta enviar dinero entre amigos: los intermediarios se meten en todo y van presionando un poco más al usuario
- A diferencia de la expectativa de que el mercado protegería a los usuarios cansados de la manipulación, las empresas optimizan de forma cada vez más sofisticada el valor de vida del cliente con dashboards e IA
- Se produce una carrera de la Reina Roja en la que, si no se maximiza la participación, se pierde frente a la competencia, y hasta el capital social y el valor terminan consumidos por Moloch
- La manipulación a gran escala mediante publicidad, discriminación de precios, big data, machine learning y psicología es difícil de justificar, y se plantea que el capitalismo moderno se ha acercado al wireheading
Cómo los servicios cotidianos extraen valor
- El problema arranca con los boosts que encontró al registrarse en Hinge
- Las pantallas de propina, el algoritmo de Uber y varias interacciones de suma cero se convierten en ejemplos de cómo se extrae un poco más de valor de cada momento de la vida social mediante técnicas psicológicas
- Incluso en actividades sociales normales como comprar café, tener citas, pedir un viaje o enviar dinero a un amigo aparece un intermediario
- Ese intermediario cumple el papel de exprimir más al usuario con los algoritmos de IA más recientes
- La expectativa de que el mercado lo corregirá si los usuarios sienten que están siendo manipulados es débil
- Las empresas detectan primero esas reacciones con dashboards
- Pueden ajustar la IA para que la gente sienta menos que está siendo manipulada
- El objetivo va más allá de la extracción de corto plazo y apunta a maximizar el valor de vida del cliente
Escepticismo sobre la competencia y la posibilidad de reforma
- También es difícil salir de la competencia
- Para operar un negocio competidor hay que maximizar las métricas de participación
- Todas las métricas se convierten en objetivos, y si no se maximiza la participación se la pierde en una carrera de la Reina Roja
- Eso lleva a una situación en la que hasta el capital social y el valor se entregan a Moloch
- Es difícil resolverlo solo con decisiones individuales de rechazo; se parece más a un problema de acción colectiva
- También hay escepticismo sobre la posibilidad de una reforma democrática
- Se plantea la duda de si los algoritmos permitirían una votación que los elimine
- La separación entre voto y acción se compara con la estructura en la que Uber separa lo que paga a los conductores de lo que cobra a los pasajeros
- Incluso se usa la expresión tajante de que no hay reforma, solo revolución
- Se pregunta si, incluso después de eventos extremos como un colapso financiero, una Tercera Guerra Mundial o una hambruna masiva, todavía podría considerarse aceptable la manipulación a gran escala
- Se afirma de forma categórica que no son aceptables la publicidad, la discriminación de precios ni la manipulación a gran escala usando big data, machine learning y psicología
- Se sostiene que el capitalismo moderno es wireheading, y que esta lección solo se aprenderá después de sacrificar a la mayoría de los clientes ante Moloch
1 comentarios
Opiniones en Hacker News
Para algunas personas, pagar más para saltarse la fila es el objetivo en sí. Pero no previeron que, si todos pagan el premium, la fila vuelve a formarse delante de ellos.
Los usuarios de millas aéreas en Australia están, en general, en esa situación: antes había beneficios porque la barrera de entrada era alta, pero cuando el trabajo FIFO volvió comunes los niveles de club, las ventajas al abordar casi desaparecieron y casi no hay pasajes con puntos.
Por eso creo que, cuando la búsqueda de estatus y la discriminación de precios se usan como arma contra el consumidor, sí se trata de un patrón antisocial. Uber entró al mercado incluso dando garantías a quienes estaban dispuestos a infringir la ley, y me desagradaba porque seguía sacando las ganancias al exterior; pero como el servicio de taxis se volvió tan malo, ahora ya nos acostumbramos a Uber y a las tarifas dinámicas.
En Australia, que PayWave y los servicios de comida incorporen la función de propina también le resulta incómodo a todo el mundo. No es muy australiano. Como existen salario mínimo legal y recargos, esa función debería desactivarse.
También hay bastante burla hacia los intentos en Europa de hacer obligatorio que los pasajes aéreos incluyan equipaje, pero todavía hay verdaderos creyentes que consideran una debilidad necesitar ropa interior limpia.
Sé que los empleados tienen sueldos bajos, pero si empezamos a dar propina, los salarios bajarán más y todos estaremos peor: es una pendiente resbaladiza.
Ahora se puede pedir un auto relativamente rápido en cualquier lugar. Las prácticas comerciales depredadoras contra conductores o pasajeros son graves y requieren regulación más fuerte, pero no quiero volver al sistema de antes.
La tarifa dinámica de Uber aquí también se mueve mucho en cuestión de minutos, como 40→50→38 euros, así que basta mirar la app un rato y tomarlo cuando aparece un buen precio. Los taxis casi siempre cuestan el doble, en el aeropuerto hasta el triple, muchas veces son groseros y además no se les puede poner calificación, así que casi no los uso.
La última vez que tomé un taxi, Uber costaba 15 euros para un trayecto de 10 minutos al aeropuerto, y el taxista real simplemente me dijo que le pagara 15 euros, así que subí; pero a otro pasajero que subió después al mismo auto le cobró 72 euros. En un viaje de 10 minutos ganó casi 90 euros.
No usar Uber porque uno lo odia vuelve la vida demasiado incómoda comparado con lo que se gana. La industria del taxi necesitaba un sacudón y todavía parece no haber aprendido nada. Hay que reservar con anticipación, la app es mala y es mucho más caro. Si van dos o más personas, muchas veces sale más barato que el tren, algo bastante raro en un país donde “hay que tomar el tren siempre que sea posible”.
No hay que subestimar la vieja reacción humana ante la manipulación: salirse.
No es teoría; está ocurriendo ahora. La moda del detox digital, el regreso de los teléfonos básicos entre los jóvenes, el paso de feeds públicos a DM privados y la generación de “no molestar” son parte del mismo fenómeno. La gente percibe la manipulación y se va apagando, notificación por notificación.
El detox digital y el regreso de los teléfonos básicos también ya se convirtieron en un mercado; no son más que un “estilo de vida”. La gente no percibe la manipulación. Incluso la conciencia de la manipulación se volvió un mercado, y seguro hay YouTubers a los que les va muy bien con eso.
La pregunta interesante es hasta dónde se puede engañar a los algoritmos de perfilado. Lo importante es si puedes hacerles creer que eres algo que no eres, y cuánto puedes romperlos.
Quité el encabezado del enlace de watch?v=9h9wStdPkQY por el lenguaje y el contenido, pero sabrán qué hacer y probablemente también de quién es el video.
“Dejar de preocuparse” funciona a nivel individual, pero parece que la salida tiene que funcionar a nivel colectivo. No soy especialista en ciencias sociales, pero creo que, para que la salida conduzca a un cambio positivo, debe combinarse con la teoría de las ventanas rotas. El problema es que mucha gente ya está en esa etapa de salida.
En un ambiente desagradable para todos, el entorno se deteriora en conjunto, pero no ocurre un cambio colectivo inducido. Los teléfonos básicos y el detox digital son más bien excepciones; en la práctica, los estándares aceptables se están reduciendo sistemáticamente. Peor aún: mientras eso ocurre en nombre de la igualdad y la inclusión, los desequilibrios entre grupos se agrandan.
Después de Occupy Wall Street y la Primavera Árabe, se puso de moda “no preocuparse”. Eso contrastaba con la autooptimización, el growth hacking y los estilos de vida basados en datos, más cercanos al marketing corporativo; también revivieron morfemas como hyper/super/über por la nostalgia de la prosperidad económica de los 80 y 90, y el aceleracionismo neoliberal de libre mercado y Bitcoin encajaron con esa corriente.
“No preocuparse” era una crítica al sistema existente que roba la atención para enfatizar la individualidad del ciudadano, pero políticos y operadores corporativos lo malinterpretaron como enfocarse más en sus propias carreras que en las responsabilidades de sus roles actuales. En un mundo cada vez más conectado, ellos también dejaron de “preocuparse”.
https://en.wikipedia.org/wiki/Broken_windows_theory
https://en.wikipedia.org/wiki/The_Subtle_Art_of_Not_Giving_a...
La idea de que si el gobierno le abre a cada persona al nacer una cuenta del S&P 500 con 1,000 dólares eso se convierte en financiamiento para la seguridad social es un buen punto. Al final, ese dinero se vuelve una entrada garantizada hacia las empresas más grandes y hacia las que se cree que algún día crecerán, y es otra forma de redistribuir efectivo público hacia empresas privadas.
Un ejemplo similar es que el ingreso básico parece evidencia de una economía poco dinámica. Es una aprobación y reconocimiento de facto de que “probablemente no encontrarás un empleo digno para mantenerte a ti y a tu familia, así que el gobierno te dará dinero para que estés cómodo mientras exista”.
Creo que una economía de mercado democratizada necesita algo cercano a un ingreso básico, y creo que los países escandinavos respaldan ese argumento.
Los ETF tienen que rebalancearse, así que aumentan y reducen posiciones en ciertas acciones, y a veces también las excluyen. Si compras SPY, estás expuesto no solo a las empresas que están incluidas actualmente, sino también a las que entrarán en el futuro.
Si una empresa sale del índice, la acción puede caer bastante porque el ETF actúa mecánicamente. “Bastante” es relativo, pero un ejemplo es que PLTR cayó bastante la semana pasada después de salir del Russell 2000.
Suelo evitar los textos no técnicos de George porque en general me parecen poco inspirados, pero este en realidad tiene sentido.
Claro, no va a llegar a una introspección sobre su propia relación con la gente a la que suele elogiar y con la que se junta, pero al menos quizá otras personas puedan mirar hacia adentro y actuar de otra manera.
Algo tiene que cambiar. También en HN siento que esta actitud ha aumentado en los últimos años. Puede que yo simplemente la note más, pero quizá el problema no sea tanto la existencia misma de Grape sino de dónde salió.
El autor debería empezar por su propio producto. Ese producto deja de funcionar si no se conecta a internet al menos cada 14 días.
https://github.com/commaai/openpilot/blob/a8ec08e5bbc2be0a32...
https://www.theverge.com/2022/12/20/23519922/george-hotz-geo...
Trabajé en los primeros navegadores y en la infraestructura moderna de internet, y también participé en la construcción de la infraestructura cloud de hiperescala que hizo posible el internet actual. Tuve participación en buena parte de lo que está pasando, y sinceramente sentía que estaba construyendo algo mejor.
Luego apareció el rol de gerente de producto, y eso me hizo arrepentirme de todo lo que había hecho.
Dirigí durante mucho tiempo un negocio pequeño con el que construí una empresa viable, y más adelante caí en la tentación de trabajar como gerente de producto en una empresa tecnológica bastante grande. Estaba muy alejado de todo lo que yo sabía sobre crear productos excelentes, pero encajaba muy bien con empujar las cosas usando la forma de trabajar que aprendí al hacer “de todo” en una empresa pequeña. Logré muchos resultados, pero estuve casi todo el tiempo con burnout y ansiedad.
También participé en cloud y software open source muy populares, pero odié la mayor parte. En particular, odié cómo la gestión de producto y el complejo industrial de la gestión de producto separan ese rol de la realidad, mientras le exigen que arregle las tonterías de fundadores, ejecutivos C-level y gente de la vieja guardia. También me cansaron los tableros de Miro y los hilos interminables de comentarios en GDocs.
Así que dejé incluso una compensación alta, salí de la organización de producto y volví a construir cosas.
No es que no esté de acuerdo; solo me gustaría escuchar más sobre tu experiencia personal con el auge del rol de gerente de producto. Dicho eso, tampoco creo que se pueda culpar solo a los PM y a la cultura centrada en PM. Todavía no he conocido a un equipo directivo que tome decisiones y actúe de una forma que pueda respetar o tolerar, y por supuesto es muy posible que el problema sea yo.
El título viene de un sketch del programa británico That Mitchell and Webb Look: https://www.youtube.com/watch?v=h242eDB84zY
Dr Death también es una interpretación que encaja perfecto con la tecnología moderna.
https://m.youtube.com/watch?v=Skl71urqKu0
https://www.youtube.com/watch?v=uRbj1Q4tXNo
Basta con salir y hablar con la gente. No es que haya un foso alrededor de las apps de citas, y los humanos siguen existiendo en el espacio físico.
Todavía no he visto un contrato de una app de citas que prohíba que un desconocido se acerque casualmente. Los casamenteros también siguen existiendo.
Considero que textos como este son interesantes como una especie de mapa de calor demográfico. Porque significa que alguien que antes solo seguía sus propios intereses, como en el hackeo de geohot, ahora reconoce el problema y está lo suficientemente motivado como para escribir sobre él.
A mi parecer, geohot está bastante metido en el centro de ese mapa.
Necesitamos una aldea moderna. No deberíamos tomar todas las decisiones de forma individualista y egocéntrica, sino ajustarnos a las demandas y necesidades de los demás. Aunque sepamos que nuestros padres están equivocados, a veces no hace falta imponer nuestra postura. Es momento de cultivar una sociedad interdependiente, en vez de convertirnos en seres completamente fragmentados y transaccionales.
Dicho eso, he sentido lo mismo que Hotz expresa en este texto, y valoro que lo haya dicho.
La respuesta es “sí”, y la respuesta a qué tan malos somos es: realmente malos. Los humanos nunca antes habíamos entendido cuán esencial es la cooperación innata, ni cuán frágil es.
¿Qué pasaría si a una colonia de hormigas se le quitara la capacidad de usar rastros de feromonas?
¿Qué pasaría si se usaran los rastros de feromonas de una colonia de hormigas para hacer que algunas hormigas obtengan “beneficios” a costa de otras?
Puede que las hormigas tengan muy poca autoconciencia, pero ¿qué pasaría si a eso le agregáramos conciencia, les dijéramos que están siendo manipuladas y luego repitiéramos los dos experimentos anteriores?
Una buena manera de entender un sistema adaptativo complejo como los que usan los humanos es construir uno directamente. “Hidden Order”, de John Holland, da pistas sobre cómo hacerlo.