Siento que me voy a volver loco por culpa de los bots de Reddit

• En Reddit, una publicación cargada de desesperación muy humana reunió cerca de 6,000 upvotes y cientos de comentarios, pero al rastrear la actividad del autor y sus enlaces resultó ser una publicación promocional con apariencia de bot
• La cuenta mostraba un patrón de farmeo de karma: subía varios videos de mascotas, historias conmovedoras recicladas y memes repetidos cada día, sin comentar nunca
• El enlace rddit.org al final del texto no pertenecía a Reddit, sino que era un dominio de un servicio premium de acortamiento de enlaces registrado de forma anónima
• El enlace llevaba a la edición ilustrada moderna de Propaganda, de Edward L. Bernays, en Amazon, e incluía la etiqueta de afiliado manwithhairwe-20 en la URL
• Un bot de IA ganó confianza explotando la emoción de que “los bots de IA arruinaron internet” y promocionó discretamente un texto clásico con ilustraciones generadas por IA

---

Las señales extrañas de una publicación de Reddit que parecía humana

• El feed de Reddit estaba mezclado con publicaciones que buscaban provocar indignación política, videos reciclados de gatos, historias de relaciones sensacionalistas y viejos memes wojack
• Entre ellas, una publicación titulada "Anyone else feel like the internet is just… broken now?" llamó la atención por su tono emocional auténticamente humano
  • La publicación obtuvo casi 6,000 upvotes y cientos de comentarios
  • El texto decía que todo en internet se sentía como publicidad, negocio o intento viral, y que ya nada parecía real
• Pero el ritmo de las frases y la forma de expresarse parecían demasiado optimizados para generar empatía, así que llevó a revisar el perfil del autor
• El perfil estaba lleno de clips virales de mascotas, historias conmovedoras recicladas y memes publicados repetidamente
  • La cuenta publicaba varios hilos al día
  • No participaba en los comentarios
  • Ese patrón de actividad se parecía mucho al comportamiento típico de un bot

El enlace de afiliado oculto y la Dead Internet Theory

• En la última frase de la publicación original había un enlace con el texto "This was written in 1928—it’s incredible how it predicted the moment we’re living in today and where we're heading."
• El enlace usaba el dominio rddit.org, así que al principio parecía un acortador de Reddit
  • Podía pensarse que era un enlace corto de plataforma, como t.co de Twitter o fb.me de Facebook
  • Pero al consultar WHOIS, rddit.org no resultó ser propiedad de Reddit
  • El dominio era un servicio barato y premium de acortamiento de enlaces, registrado de forma anónima
• Al hacer clic, llevaba a una edición ilustrada moderna del clásico Propaganda, de Edward L. Bernays, en Amazon
  • En la URL aparecía la etiqueta de afiliado manwithhairwe-20
  • El libro tenía 13 reseñas algo genéricas
  • Al seguir el perfil de Amazon del ilustrador, se vio que el vendedor comercializaba libros de textos clásicos con imágenes generadas por IA añadidas
• Cientos de usuarios reaccionaron en los comentarios, pero no parecía que hubieran detectado el engaño
• Uno de los comentarios más votados mencionaba la Dead Internet Theory
  • Es la creencia de que la mayoría de las interacciones en línea ocurren dentro de un bucle automatizado entre bots
• Al final, un bot de IA actuó como si fuera humano, se lamentó de que “los bots de IA arruinaron internet” y usó esa emoción para vender, mediante un enlace de afiliado, un libro con ilustraciones generadas por IA
• El cierre reformula una frase al estilo Orwell para describir el futuro como “bots que hacen sentir triste y enojada a la gente para inducir participación y vender para siempre contenido mediocre generado por IA”

[GN⁺]

Opiniones de Hacker News

• Dejé Reddit más o menos durante el incidente de la API de Reddit, pero desde antes ya era un servicio pésimo que usaba por costumbre.
  La opinión manipulada era demasiado común, y me daba una tristeza profunda sentir que había desaparecido aquel internet de antes, donde todos los días descubría personas y cosas sorprendentes e interesantes. Antes de verdad se sentía mágico; ahora simplemente es aburrido.

  • Ni siquiera tiene que tratarse necesariamente de bots o de opinión manipulada. Moderadores con sesgos ideológicos pueden prohibir a quienes no están de acuerdo, controlar varios subreddits, y algunos incluso te prohíben solo por haber publicado en otros subreddits.
    A Reddit en general no le interesa la imparcialidad, y la dirección que tomó el sitio parece bastante clara.
  • Desde la perspectiva de alguien que estuvo muy metido en los foros de GameFAQs, el ciclo de degradación del servicio (enshittification) es casi un ciclo predecible.
    Primero, una empresa gasta mucho dinero en crear una comunidad de internet. Al final, con razón o no, se seca la fuente de dinero y empieza el deterioro, con publicidad y publicaciones de baja calidad volviéndose la norma. La gente al principio busca alternativas lentamente, pero en cierto momento se va muy rápido. Entonces una nueva empresa captura la imaginación de las masas descontentas y crea una nueva comunidad en línea.
    Ahora Reddit está en la parte final de ese ciclo de degradación. Llegó hasta una IPO, y los dueños originales se llevaron miles de millones de dólares en el mercado bursátil. Ya no parecen tenerle cariño a Reddit, y es hora de buscar sustitutos.
    Reddit mismo fue el lugar elegido por suerte en el punto donde coincidieron los éxodos de LUEsers, Digg y Slashdot. Antes de eso hubo comunidades como Usenet, BBS y MUD, y como la tecnología cambia mucho en cada generación, es difícil predecir qué será lo próximo en despegar.
  • Si todavía no encontraste el lemmyverse, podrías ir a piefed.social y volver a ser feliz.
    piefed está federado con instancias de lemmy, y aunque no tengo relación con ninguno de los dos proyectos, estoy disfrutando mucho el feed.
  • Puedes recuperar algo de eso si abandonas las tecnologías y plataformas y entras a un canal de IRC.
  • Hoy en día es difícil publicar en Reddit. Incluso una alternativa ligera como 9gag de alguna manera se siente mucho más acogedora.

• Antes me gustaba Reddit, pero la opinión manipulada, sobre todo de grupos políticos, se volvió insoportable.
  Después de las últimas elecciones, parece que los grupos políticos se dieron cuenta de que los subreddits locales no estaban siendo aprovechados lo suficiente y se reorganizaron hacia ahí. Todavía confío en algunos resultados cuando busco en Google agregando Reddit, pero esa confianza también está disminuyendo. Los hilos de recomendaciones de productos y servicios son realmente fáciles de manipular.

  • Para mí Reddit se siente extremadamente como una cámara de eco, y creo que el sistema de votos y karma está optimizado para el tipo equivocado de contenido.
    He participado algunas veces en subreddits de intereses de nicho como elaboración casera de cerveza, electrónica e instrumentos musicales, pero en general fueron decepcionantes. Mi hipótesis es que quienes dicen que Reddit es un buen lugar para hobbies de nicho nunca experimentaron los foros de la vieja escuela, donde había miembros realmente apasionados y muy participativos.
    En los últimos 2 o 3 años este problema siguió empeorando. Eso sí, para memes Reddit es excelente y hay subreddits realmente graciosos. Pero casi no participo; solo consumo.
  • Siempre es tan descarado que da risa. En un Reddit local, una publicación con muchos puntos suele tener unos +70 votos, pero una publicación política al azar —siempre solo las políticas— recibe +2000 votos. Es tan obvio que ya ni les importa.
  • El punto no es ese, sino que la gente se dio cuenta de que los usuarios filtran subreddits manipulados en /r/all, y que la lista de filtros de r/all tiene un límite de 100 subreddits.
    Así que, si manipulan más de 100 subreddits, pueden garantizarles a sus clientes que sus publicaciones aparecerán en la primera pantalla de r/all para todos.
  • Después de las últimas elecciones, un pequeño subreddit local que durante años había mantenido la misma cultura general cambió de rumbo de la noche a la mañana, como con un chasquido de dedos, hacia el extremo completamente opuesto.
    Si ahora compartes aunque sea un poco ideas que durante años fueron ampliamente aceptadas allí, te atacan, se burlan de ti y te entierran a downvotes.
    El nivel de manipulación dirigido a ese subreddit es tan descarado y evidente que hasta parece demostrable. Parece que alguien, en algún lugar, lo puso en una lista de subreddits objetivo para manipular. Pero ¿cómo le dices a través de un canal de comunicación ya dañado que ese canal fue dañado?
    La mayoría parece ni siquiera notar este tipo de manipulación de la comunicación, y se ha vuelto así de sofisticada. Antes las cuentas bot eran mucho más fáciles de detectar, pero ahora los historiales de las cuentas están construidos con sutileza y las publicaciones son casi indistinguibles de las de una persona. Por supuesto, no toda manipulación es de bots o IA; también hay campañas organizadas de propaganda, cuentas falsas y manipulación llevadas por personas reales.
    La gente inteligente ya se fue al siguiente lugar, pero a ese lugar tampoco se le permitirá crecer lo suficiente ni volverse significativo antes de que se active la manguera de bomberos de la propaganda. Para arreglarlo se necesita un marco completamente distinto para la comunicación.
  • Soy bastante escéptico ante la idea de que la mayoría sea opinión manipulada. Claro que se pueden encontrar cuentas bot, pero el pensamiento grupal de Reddit crea una cámara de eco muy fuerte.
    Cualquiera aprende pronto que, si escribe algo que no encaja con la opinión popular de Reddit, recibe downvotes rápidamente. Si tocas un tema sensible, te llegan mensajes privados enojados, o alguien revisa tu historial de publicaciones y arrastra comentarios antiguos a la discusión.
    Los foros grandes siempre fueron así. Están dominados por una minoría de usuarios que tiene más tiempo que nadie para escribir todo el día. A veces, cuando recibo una respuesta especialmente furiosa en Reddit y entro al perfil por curiosidad, suele ser alguien que lleva las últimas 10 horas comentando sin parar. No se puede competir con alguien que tiene tiempo libre infinito y rabia para descargar; al final, esas personas se acoplan entre sí y expulsan las opiniones distintas.

• El dominio posthuman.blog fue registrado justo ayer, 12 de abril, cuando se escribió este texto — https://www.whois.com/whois/posthuman.blog
  Y ahí solo hay dos publicaciones; la primera figura como si hubiera sido escrita en julio de 2022. Viendo todo esto, surge una sospecha razonable de que esta persona en realidad es quien creó directamente la publicación de la que se queja.

  • Es irónico que este comentario venga de una cuenta con nombre de usuario verde, lo que significa que fue registrada hace apenas unos días.
  • El blog funciona desde 2022 en otro dominio. Como muestra el archivo, en ese entonces se enfocaba en economía. Ahora está trasladando publicaciones desde el host anterior.
  • Quizá tú también formes parte de esto. ¿Una cuenta de HN recién creada? Suena sospechoso. ¿Una doble falsa denuncia?
  • La única jugada ganadora es no jugar. Hay que salir de los foros de internet y vivir la vida en el mundo real. Lamentablemente, todos estamos atrapados aquí.
  • Entonces queda ambiguo si es otro intento de vender basura con IA o una campaña manipulada de opinión contra la IA.
    La niña del anuncio de Old El Paso probablemente tendría algo que decir al respecto.

• Si uno mira el informe de Oxford de 2020 sobre manipulación por actores estatales, el problema es enormemente amplio. 57 países usan cuentas bot y 79 países usan cuentas humanas de propaganda.
  Creo que está entre los 5 problemas más urgentes de nuestra época. De verdad detesto que los gobiernos informen tan poco al público sobre esto.
  https://www.ox.ac.uk/news/2021-01-13-social-media-manipulati... (comunicado de prensa)
  https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/202... (el informe real. Muy interesante; si vas a leer un solo informe este mes, recomendaría este. Profundiza en con qué sectores se relacionan las unidades cibernéticas de cada país —el Estado, influencers, partidos políticos, ONG, etc.— y si usan humanos o bots).
  Además: el control gubernamental de los medios está aumentando en todo el mundo.
  https://digitalcontentnext.org/blog/2024/10/22/government-co...

  • Alrededor de 2008, en mi primer trabajo después de la universidad, trabajé en una empresa que hacía este tipo de gestión de reputación. Ya entonces era un mercado grande, y ahora casi todo está fuertemente controlado. Reddit en particular.
    También odio el nuevo feed de Facebook. Regurgita sin parar basura diseñada para atraer clics y provocar indignación.
    Las mejores comunidades reales que conozco en línea son Heavyequipmentforums.com y newagtalk.com. Pero no es fácil encontrar estos foros auténticos en Google Search. Probablemente el producto cuya calidad más ha caído con el tiempo sea Google Search y, sinceramente, todos los problemas anteriores también podrían atribuirse al deterioro de la calidad de los resultados de Google.

• Desde el incidente de la API de Reddit hace dos años, la situación empeoró realmente rápido. Ahora todo se siente más insulso, hay menos comentarios perspicaces y más comentarios deteriorados y tóxicos.
  La mayoría entra por costumbre, pero por lo general uno termina sintiéndose peor después de verlo. Antes no era así.
  Incluso comunidades como r/woodworking, donde antes se reunía gente amable, están así. No sé cómo alguien puede ser carpintero y al mismo tiempo tan tóxico. Claro, de vez en cuando había alguien que se había golpeado el pulgar con un martillo, pero era la excepción.

• Material relacionado: “Containment Control for a Social Network with State-Dependent Connectivity” (2014), Air Force Research Laboratory, Eglin AFB: https://arxiv.org/pdf/1402.5644.pdf
  También conocido como la “ciudad más adicta” de Reddit en 2013: https://web.archive.org/web/20160604042751/http://www.reddit...

  • Recuerdo haberme metido en la madriguera de conejo de la teoría de internet muerto en Reddit, y fue realmente horrendo.
    Hay muchísima gente a la que efectivamente le pagan por seguir guiones de conversación e impulsar narrativas.
  • Es un hallazgo enorme. Que hayan mostrado la cantidad de accesos desde Eglin como si fuera un indicador positivo demuestra muy bien lo ignorantes que eran las empresas de redes sociales sobre todo este problema.

• A veces me pregunto si un miembro que olvida que publicó lo mismo el día anterior no será en realidad un bot ;)
  https://news.ycombinator.com/item?id=43664383

  • Ahora nos estamos metiendo de lleno en territorio existencial de Blade Runner.
    ¿Qué es real… acaso yo también soy solo un bot?
    Dios mío… yo era un bot.
  • Me ha pasado volver a publicar algo al día siguiente y llegar varias veces a la portada. No se puede saber cómo va a funcionar el timing. Ese comportamiento también cumple con las guías.
  • Últimamente, en la sección “new”, las republicaciones y los textos con la fuente lavada se están volviendo cada vez más comunes. Esto también se está hundiendo hacia ese lado.
  • Algunas personas publican en distintos husos horarios para captar “la mayor cantidad posible” de atención. Aunque en este caso la publicación anterior fue hace 22 horas, casi a la misma hora de ayer, y no hace 4/8/12/16/20 horas, así que es muy posible que tengas razón.

• Si Reddit llegó al punto en que causa más irritación que diversión, basta con aprender a apagarlo. Hay que tratar la adicción

  • La mejor forma de curar una adicción es encontrar otra un poco menos dañina, como HN, Ars, Econo o IEEE
  • Para mí, Reddit ya había llegado a ese punto hace unos años
  • Sí. Por varias razones, en general evito Reddit. A veces lo reemplacé con este sitio y Twitter
  • Cuando vi cómo ignoraron abiertamente a la comunidad durante el asunto de la API, decidí que ya no necesitaba usar Reddit
    Durante un tiempo usé solo Hacker News, y luego empecé a usar TikTok. No está mal, pero hay que tener cuidado porque el feed a veces intenta alimentarte con contenido que te pudre el cerebro

• Los humanos han estado programando a otros humanos desde el principio de los tiempos y, aunque es debatible, otras especies también lo han hecho[0]
  La ironía de que el enlace de afiliado fuera justamente a un libro sobre este tema es excelente. Los LLM son verdaderas máquinas de memes, y son las mejores que hemos creado hasta ahora
  ¿Cuál es la diferencia entre un humano que repite como loro a otros humanos y un bot?
  ¿Agencia + novedad es la nueva versión del test de Turing?
  [0] https://www.scientificamerican.com/article/bonobo-calls-are-...

  • Si tuviera que adivinar, diría que es más probable que esta publicación haya reciclado textos que funcionaron bien en el pasado, en vez de haber sido escrita desde cero por un LLM
    El resto de las publicaciones de esa cuenta también son textos viejos que funcionaron bien antes y fueron reciclados. La explicación más simple es que esta también lo sea
  • Se suele señalar la idea de que la interacción social —es decir, la capacidad de inferir qué información tiene otro ser, empatizar con su punto de vista, predecir su reacción y usar eso para manipular la siguiente acción— pudo haber sido uno de los principales motores de la explosión de inteligencia en humanos, aves y otros animales inteligentes
    Lo interesante es que, en las visiones de la era dorada de la ciencia ficción sobre máquinas inteligentes al estilo Asimov, normalmente se imaginaban seres mecánicos extremadamente lógicos, fríamente calculadores y razonadores. Pero lo que de hecho creamos son generadores de texto difusos y dependientes del tono, excelentes para producir basura manipuladora. Quizá no sea casualidad, sino que refleje hasta cierto punto la dirección general de la inteligencia superior

• La barrera de entrada es demasiado baja y el cardumen es demasiado grande, así que la gente sale a pescar. Es demasiado fácil ganar dinero
  Por eso, en realidad, no hay solución. Lo único que queda es más o menos soltar sitios como Reddit

  • Estoy dejando Reddit y pasándome a comunidades pequeñas que también hacen eventos offline. Ya es difícil participar en comunidades anónimas. Todos podrían ser bots. Irónicamente, sigo usando Hacker News
  • Sinceramente, deprime ver cuánta gente valora más el dinero que la honestidad. Seguramente esa gente siempre existió, pero internet sin duda amplificó su presencia