- Hinge, Uber y otras apps importantes usan algoritmos sofisticados y técnicas psicológicas para maximizar las ganancias obtenidas de los usuarios
- En cada interacción cotidiana de la sociedad intervienen intermediarios basados en IA que crean una estructura para extraer ganancias adicionales
- Las empresas ajustan rápidamente los algoritmos según la respuesta de los usuarios para maximizar el Lifetime Customer Value
- Como para no quedarse atrás en la competencia hay que subirse a esta tendencia, puede considerarse un problema colectivo
- La manipulación a gran escala mediante datos, machine learning y técnicas psicológicas se ha vuelto cotidiana, y es difícil mejorar sin un cambio de fondo
Planteamiento del problema: la normalización de los algoritmos y las técnicas psicológicas
- Servicios importantes como Hinge y Uber están estructurados para extraer la mayor ganancia posible de los usuarios mediante diversos recursos como boosts, pantallas de propina y algoritmos de ventas
- En casi todos los ámbitos de la vida cotidiana interviene una IA intermediaria, y la práctica de sacar "un poco más" mediante algoritmos avanzados de IA se está extendiendo por toda la sociedad
- Actividades cotidianas como comprar café, tener una cita o enviar dinero a un amigo terminan con un intermediario malicioso automatizado que busca obtener ganancias
Posibilidad de autocorrección del mercado y adaptación de los algoritmos
- Aunque mucha gente podría cansarse de la manipulación y tratar de evitarla por su cuenta, las empresas ya prevén eso y responden de inmediato mediante dashboards de datos
- La IA opera de forma que evita la fuga de usuarios con regulación emocional y recompensas adicionales incluso antes de que la persona llegue a sentirse incómoda
Competencia y problema de acción colectiva
- Incluso si alguien intenta salir de este sistema, en un contexto competitivo se intensifica el fenómeno por el cual si no participan todos los operadores, quedan en desventaja
- Todos los indicadores (métricas) se convierten en objeto de competencia y, como en la ‘Red Queen’s Race’, se terminan sacrificando el capital social y los valores para no quedarse atrás
La estructura social real y la dificultad del cambio
- Toda la sociedad está atrapada en esta estructura, y existe un problema de acción colectiva por el cual la salida individual difícilmente puede producir un cambio de fondo
- En una democracia guiada por algoritmos, incluso la capacidad de elección (el voto) está desconectada del cambio real, lo que sugiere que dentro de la estructura actual no basta con una reforma, sino que solo un cambio fundamental (revolución) sería una solución efectiva
Conclusión y la naturaleza del problema
- La publicidad, la discriminación de precios y la manipulación a gran escala basada en datos son, en esencia, incorrectas
- El capitalismo moderno empuja el comportamiento humano hasta extremos, como en el fenómeno de wireheading, y se subraya que, en esencia, este problema ha alcanzado un nuevo nivel de escala y manipulación indiscriminada
1 comentarios
Opiniones de Hacker News
Explicación de una situación en la que para algunas personas el objetivo mismo era pagar un premium para saltarse la fila, pero se menciona la realidad de que si todos empiezan a pagar el premium, al final la fila sigue ahí igual. Se comenta que este fenómeno es especialmente notorio en los vuelos comerciales de Australia: gracias al trabajo Fly in Fly out, la categoría club se volvió común, y también casi desaparecieron la prioridad de embarque y los pasajes por puntos. En resumen, se enfatiza que la discriminación de precios y la búsqueda de estatus se convierten en un patrón socialmente dañino cuando se aplican a consumidores. Se comparte una experiencia personal de rechazo hacia Uber y la realidad de que el servicio de taxis empeoró, criticando el modelo de negocio de Uber por tolerar una entrada ilegal al mercado. Pero ahora Uber ya es tan habitual que incluso el aumento extremo de tarifas apenas importa. También se expresa incomodidad con la introducción de la cultura de la propina en Australia; como hay salario mínimo garantizado por ley y penalty rates, la postura es que la función de propinas debería desactivarse. Se menciona además la polémica en la aviación europea sobre obligar a incluir equipaje, e incluso se describe la extraña cultura europea en la que hasta se burlan de llevar ropa interior limpia como si fuera una debilidad.
Postura de que los no estadounidenses deben rechazar con firmeza la cultura de la propina; se advierte que si se empieza a aceptar propinas, los salarios bajarán aún más y la situación empeorará, por lo que no deberían aceptarse en absoluto.
Aunque los precios de Uber y Lyft son caros, se destaca que, comparado con el servicio de taxis del pasado, lo de ahora es mucho mejor. Salvo en grandes ciudades como Nueva York, antes había que buscar un nombre en la guía telefónica y reservar con empresas sospechosas, y era difícil siquiera conseguir un auto. Ahora se puede pedir uno de inmediato desde cualquier lugar con una app y además llega rápido. Aunque sin duda hay prácticas injustas tanto hacia conductores como hacia pasajeros, se enfatiza que no hay ningún deseo de volver al sistema anterior.
Se cuenta la experiencia de que, sobre todo en aerolíneas low cost europeas, casi todo el mundo compra embarque prioritario. Antes tenía sentido pagar extra para pasar antes, pero ahora a veces la fila del embarque prioritario es incluso más larga, lo que subraya la ironía. En los periodos de tarifa dinámica de Uber, se comenta que basta con observar un momento la variación del precio en la app y pedir cuando baja. Los taxis cuestan 2 o 3 veces más que Uber y tampoco son amables, además no tienen sistema de calificación, así que hay una tendencia a evitarlos. Se comparte un caso real en el que se tomó un taxi al aeropuerto más barato que un Uber: el taxista aceptó llevarlo por pago directo al precio de Uber, pero a otros pasajeros les cobraba 5 veces más. La conclusión es que negarse a usar Uber solo hace la vida más difícil. También se añade que en Europa, con 2 personas o más, muchas veces Uber sale más barato que el tren.
Si todos pagan el premium y vuelve a formarse una fila, entonces, desde una lógica de mercado, el precio real termina siendo el precio que ya incluye el premium; se comparte la idea de que solo se resolvería si aumentara aún más el costo de hacer fila.
Una visión que incluso disfruta la comodidad de entrar hasta el final sin preocuparse por la fila; actitud personal de no pagar el premium, esperar con calma en el lobby y entrar cuando la fila ya casi se haya vaciado.
Se plantea que la respuesta humana atemporal frente al avance tecnológico y la manipulación es el disengagement. No sería una teoría, sino algo que ya está ocurriendo: detox digital, regreso del dumbphone entre jóvenes, uso de DM privados en lugar de feeds públicos, la generación de “no molestar”, etc. El diagnóstico es que la gente percibe la manipulación y va optando por salirse, una cosa a la vez.
Mi tasa de disengagement ya no la voy a regalar. Opinión de usar una estrategia de desconexión aleatoria a propósito para que ninguna de las partes pueda predecir su efecto. Se señala que incluso la moda del dumbphone o el detox digital ya se volvió simplemente otro mercado de estilo de vida, y que hasta la conciencia de la manipulación se convirtió en material para nuevos negocios. Se lanza la pregunta experimental de hasta qué punto se puede hackear al algoritmo y hacer que perfile a alguien de una forma distinta a la real.
Experiencia de haber cortado por completo, desde 2012, con servicios como apps y redes sociales que convierten la vida en mercancía o en fuente de monetización.
Pronóstico amargo de que las empresas ahora apuntarán a monetizar el “beneficio del disengagement”; se comparte como material de referencia YouTube watch?v=9h9wStdPkQY (solo se menciona el enlace).
Opinión de que es imposible una desconexión completa del capitalismo; varias de las conductas mencionadas de disengagement (detox digital, dumbphone, etc.) solo reducen cuánto te afectan, pero no te liberan realmente de la explotación.
Preocupación de que el disengagement no es lo mismo que la nonchalance, y que quizá no sea una buena respuesta humana. La nonchalance es una actitud individual, pero el disengagement busca un efecto colectivo, y se teme que en la mayoría de los casos no conduzca a cambios positivos. Más bien lleva al deterioro comunitario y a la caída de estándares, mientras todo ocurre en nombre de la igualdad y la inclusión, aunque en la práctica se profundiza la polarización. Se explica además el contexto de cómo, tras ‘Occupy Wall Street’ y la ‘Primavera Árabe’, se puso de moda la indiferencia o hyper-individualism, y hasta políticos y ejecutivos fueron perdiendo sentido de responsabilidad para concentrarse más en su propia carrera. Como referencia, Broken Windows Theory Wikipedia, The Subtle Art of Not Giving a F*ck
Se señala un problema en el producto creado por el autor (
openpilot): si no se conecta a internet cada 14 días, deja de funcionar; se comparte el enlace al código relacionado.Normalmente se evitan los textos no técnicos de George, pero este se considera valioso. Por lo general les falta introspección y la reflexión necesaria, pero esta vez podría tomarse como una oportunidad para provocar autoexamen. Se expresa que últimamente también se percibe un ambiente parecido en la comunidad de HN, compartiendo cierta sensación de urgencia por la necesidad de cambiar.
Al ver el título "Are we the baddies?" se esperaba una reflexión sobre el rol personal de cada uno, pero se expresa decepción porque no fue así.
Duda de si algunas personas simplemente están siguiendo la moda; se menciona el matiz de un texto que parece imitar superficialmente sin una reflexión profunda.
Reacción algo sarcástica al mencionar el caso de geohot, que llegó a puestos altos en Advent of Code usando LLM.
Como referencia, se deja este enlace al tuit.
Citando la afirmación de que “si el gobierno abre a todos una cuenta del S&P 500 que empiece con $1000, se resolverá la seguridad social”, se señala que en esencia eso solo garantiza un flujo continuo de fondos públicos hacia grandes empresas (o sus afiliadas). También se explica el problema estructural de que incluso la UBI refleja, en el fondo, una economía sin dinamismo: una estructura que tolera que el gobierno pague por la mera existencia en lugar de proveer empleos.
Sobre la UBI, no se está de acuerdo con interpretarla como algo que “te hace estar cómodo solo por existir”. Se enfatiza que la UBI garantiza la supervivencia mínima y que cualquier ingreso adicional puede ganarlo la propia persona. Se presentan los casos de los países escandinavos como fundamento de que este tipo de estructura es necesaria en una economía de mercado.
Se explica que aunque se compren acciones de empresas del S&P 500, eso no implica necesariamente que entre dinero real a esas empresas.
En los ETF, durante los procesos de actualización y rebalanceo, cuando una empresa sale del índice su acción puede caer con fuerza. Como ejemplo, se comparte que recientemente
Pltrcayó mucho después de ser eliminada del índice Russel2000.Se comparte experiencia construyendo navegadores web, infraestructura moderna y nubes de hiperescala. Al principio había orgullo por estar creando algo mejor, pero después de que apareció el rol de Product Manager, empezó a arrepentirse de todo.
Se aclara que el título proviene de un sketch del programa británico "That Mitchell and Webb Look", y se comparte el enlace de YouTube.
Se menciona la aguda capacidad satírica del programa, y también que el episodio Dr Death resulta muy adecuado para satirizar la ciencia y la tecnología modernas; video relacionado.
Se recomienda otro episodio triste pero gracioso enlace.
Se menciona una escena clásica memorable enlace.
Broma de que oficialmente ya envejecieron.
Opinión de que la humanidad nunca ha entendido de verdad cuán esencial y al mismo tiempo cuán frágil es la cooperación humana. Se propone un experimento mental sobre qué pasaría si se eliminaran las señales de feromonas de las hormigas para ver cómo colapsaría la colonia, o cómo cambiaría el sistema si se concentrara el “beneficio” en algunas de ellas. Se imagina repetir el experimento con hormigas a las que se les agregara autoconciencia y obtener otro resultado distinto. Se aconseja que la comprensión de los sistemas complejos adaptativos puede aprenderse construyéndolos directamente, y se recomienda "Hidden Order" de John Holland.
Reacción de simpatía hacia George por intentar usar AMD para enfrentarse al monopolio de NVidia, valorando positivamente su actitud de querer romper la concentración del mercado.
Pero también se señala que, mientras usaba chips de AMD, parece que terminó abandonando por bugs que impedían una operación estable durante mucho tiempo.
Se expresa cierta compasión al ver que incluso alguien tan exitoso y apasionado como George Hotz recorre un camino de principiante en temas de relaciones, lo que hace pensar que alguien menos extraordinario lo tendrá todavía más difícil.
Una forma de ver este tipo de post como un mapa de calor demográfico: significa que incluso personas algo más periféricas, que antes solo perseguían lo interesante (como el hacking de geohot), ahora están reconociendo la gravedad del problema y empezando a hablar en público sobre ello. Se sugiere que geohot está situado justo en el centro del fenómeno.
Se cita la pregunta: “Algún día la gente tendrá que darse cuenta de que vivimos en una comunidad llamada sociedad; ¿qué será lo que lo desencadene?”. Se valora un entorno de podcasts y redes sociales que hace posible señalar problemas sociales de forma distribuida, pero se enfatiza que lo que realmente necesitamos es una comunidad de aldea en sentido moderno: recuperar vínculos de cuidado mutuo, alejándonos del individualismo excesivo y de decisiones centradas solo en uno mismo para considerar las necesidades y circunstancias de otras personas.
No se esperaba escuchar de George Hotz un mensaje cercano a un anti-capitalismo de raíz, pero se aplaude el valor de expresar con honestidad ese sentimiento.