Estamos creando un infierno para vender publicidad [Video]

• La amenaza de la inteligencia artificial no son los robots, sino la preocupación por cómo quienes tienen poder usan la inteligencia artificial
• La publicidad digital y las estructuras de persuasión están evolucionando hacia identificar y manipular las debilidades de cada usuario
• Los algoritmos de aprendizaje automático predicen e influyen en el comportamiento humano de formas que no podemos comprender
• La recolección de datos y la manipulación algorítmica se están usando para ejercer influencia política y social
• Debemos rediseñar de forma transparente la estructura de los sistemas digitales y desarrollar la tecnología en una dirección que proteja los valores humanos

---

Inteligencia artificial y poder: riesgos reales

• El verdadero miedo respecto a la inteligencia artificial no son robots al estilo Terminator, sino que quienes tienen poder manipulen la IA para controlar a las personas
• Sistemas de vigilancia como en "1984" de George Orwell podrían volverse realidad
• Las empresas están desarrollando tecnologías que pueden vulnerar la libertad y la dignidad individual
• Empresas como Facebook, Google, Amazon, Alibaba y Tencent están enfocadas en la recolección y el análisis de datos a través de la publicidad

Evolución de la publicidad digital y las estructuras de persuasión

• La publicidad tradicional dependía de espacio físico limitado y segmentación, pero en el mundo digital es posible la persuasión personalizada para cada individuo
• La publicidad en internet genera anuncios personalizados que nos persiguen sin fin con base en lo que vimos, buscamos y de lo que hablamos
• A diferencia del mundo físico, el espacio digital puede operar estructuras de persuasión en tiempo real a escala de miles de millones

El poder y los límites de los algoritmos de aprendizaje automático

• Los algoritmos de aprendizaje automático se usan para predecir y manipular el comportamiento individual a partir de grandes volúmenes de datos
• Ni siquiera los programadores entienden por completo cómo funciona el interior del algoritmo
• Mientras más datos hay, más potente se vuelve el rendimiento del algoritmo; por eso las empresas intentan recopilar la mayor cantidad posible

Redes sociales y manipulación política

• Facebook y YouTube pueden analizar y manipular las inclinaciones políticas mediante algoritmos
• Por ejemplo, Facebook usa tableros no públicos para mostrar información solo a grupos demográficos específicos
• Existen casos en los que una sola publicación simple cambió el comportamiento de voto de cientos de miles de personas
• El algoritmo de recomendaciones de YouTube produce el efecto de "madriguera del conejo" al atraer a los usuarios hacia contenido extremo

La necesidad de rediseñar los sistemas digitales

• Actualmente estamos en una situación en la que no sabemos qué información vemos ni qué ven otras personas
• Los algoritmos pueden identificar características personales como etnicidad, inclinación política y orientación sexual
• China está reforzando su sistema de vigilancia con tecnología de reconocimiento facial, y Occidente también enfrenta riesgos similares
• Debemos reconfigurar la tecnología digital con base en valores humanos y asegurar la transparencia
• Esto exige cambios integrales que abarquen la tecnología, la creatividad y las estructuras políticas

Conclusión: la responsabilidad que crece junto con la tecnología digital

• Las plataformas digitales son herramientas valiosas, pero al mismo tiempo pueden convertirse en amenazas graves para las personas y la sociedad
• El sistema actual es una estructura en la que nosotros somos comercializados como "producto"
• Para construir un futuro mejor se necesitan transparencia tecnológica, valores centrados en las personas y cambios creativos y políticos
• Debemos asumir que "una tecnología con enorme potencial viene acompañada de enormes riesgos"

[GN⁺]

Comentarios de Hacker News

• Siente que la mayoría de los anuncios en internet son vacíos y engañosos

  • Si los anuncios no fueran como los de arriba, estaría bien
  • Usa uBlock Origin porque el algoritmo no sabe qué anuncios mostrar
  • Cree que los anuncios deberían convertirse en buenos anuncios, del tipo que la gente realmente quiera ver, y no en promoción pagada
  • Le gusta la música publicitaria como Splendor Song Chalta rahe y la sigue escuchando
  • Siente que la mayoría de los anuncios son estafas para venderte cómo hacerte rico
  • Odia a esos vendedores de cursos fraudulentos y cree que la economía publicitaria gira en torno a estafadores
  • Parece estar creando una pesadilla de privacidad y una distopía
  • Quiere usar los servicios con los anuncios desactivados
  • No espera grandes ingresos de clientes comunes y no empresariales
  • Siente una obligación moral hacia el código abierto, pero le preocupa que las empresas puedan autohospedarlo
  • El sistema está impulsado por el dinero y, cuando falta dinero, es muy probable que la moralidad sea ignorada
  • Hay demasiada competencia y las ideas no son tan diferentes, así que prueban con publicidad

• Para evitar anuncios usa AdBlock Pro y AdBlock en Safari

  • Como pasa mucho tiempo en YouTube, paga Premium y compró la extensión UnTrap for YouTube para ocultar las recomendaciones
  • Visita con frecuencia BlueSky, Hacker News y YouTube, pero no usa X, TikTok, Instagram ni Facebook
  • Está tratando de no usar Amazon

• Se ha quejado mucho de la desigualdad de ingresos, pero eso explica gran parte del problema

  • Como la gente no puede darse el lujo de gastar en servicios, se termina ganando dinero capturando su atención
  • Como el producto es gratis, no hay expectativa de dar soporte al usuario

• Acepta cookies, ve anuncios, cierra popups de newsletters y luego ve un video sobre anuncios

  • Realmente da en el clavo

• La implementación de telemetría de Reddit es muy agresiva

  • El endpoint para recolectar eventos cambia aleatoriamente cada vez que se carga la página
  • Todas las URL de recolección de eventos son endpoints de API válidos que se usan para otros fines
  • Es difícil bloquearlos con herramientas comunes de bloqueo de anuncios
  • Le parece malicioso

• Hay muchos comentarios diciendo que existen bloqueadores de anuncios, pero están perdiendo el punto

  • El daño de la economía de internet basada en anuncios no se limita simplemente a ver anuncios
  • Todo el contenido y la estructura de internet quedan distorsionados para ajustarse a esta economía
  • Los motores de búsqueda, el SEO, los mecanismos de descubrimiento de contenido, y el tipo y la diversidad del contenido podrían haber sido mejores

• Se pregunta si sería posible iniciar un ataque que suplante a humanos consumiendo anuncios para volver inútiles las métricas publicitarias