1 puntos por GN⁺ 2023-12-24 | 7 comentarios | Compartir por WhatsApp
  • Los resultados de búsqueda de Google han estado expuestos durante varios días a un ataque masivo de spam, y varios dominios están posicionando para cientos de miles de palabras clave cada uno, por lo que la escala total podría alcanzar millones de consultas
  • El ataque parece apuntar al mismo tiempo a las búsquedas long-tail, a un algoritmo de búsqueda local permisivo y al breve período de exposición inicial de los dominios nuevos
  • Algunos dominios de spam lograron posicionarse dentro de las 24 a 48 horas posteriores a su registro, y un solo dominio llegó a posicionar para más de 300,000 frases de palabras clave
  • Las páginas de spam distinguen entre visitantes normales y Googlebot: solo muestran contenido a las IP de Google y redirigen a los demás visitantes a otros dominios
  • Google dijo que el 19 de diciembre remitió el caso a su equipo de búsqueda para revisión, pero cerrar las brechas en la búsqueda local y en las búsquedas long-tail sigue siendo un reto

El spam que cubrió los resultados de búsqueda de Google

  • Durante varios días, los resultados de búsqueda de Google sufrieron un ataque de spam de un nivel difícil de controlar
  • Varios dominios están posicionando para cientos de miles de palabras clave cada uno, y la magnitud del ataque podría llegar a millones de frases de búsqueda
  • Según Lily Ray, en los primeros 20 resultados de la búsqueda "craigslist used auto parts", todos excepto los dos primeros de Craigslist eran spam

Las tres oportunidades que aprovechó el spam

  • Los sitios de spam parecen estar aprovechando al menos tres ventanas de oportunidad del sistema de ranking de Google
  • Términos de búsqueda de baja competencia

    • Las palabras clave long-tail de bajo volumen tienen menos competencia, por lo que es más fácil posicionarlas
    • Las consultas que ocurren una vez al mes o incluso una vez al año tienen barreras de entrada especialmente bajas para aparecer en el ranking
  • Algoritmo de búsqueda local

    • La búsqueda local funciona en consultas con componente geográfico, como restaurantes cercanos u horarios de cine
    • Este algoritmo es más permisivo, por lo que incluso un restaurante local sin enlaces puede posicionarse
  • Breve exposición inicial de dominios nuevos

    • Muchos dominios de spam fueron registrados 24 a 48 horas antes de empezar a posicionarse
    • Cuando Google tiene pocas señales sobre un sitio completamente nuevo, usa estimaciones y puede darle más visibilidad al principio antes de confirmar las señales reales
    • Los dominios de spam pueden aprovechar ese breve período para entrar en los resultados de búsqueda, exponerse para innumerables consultas y luego desaparecer

La red de enlaces podría servir para descubrimiento e indexación

  • Bill Hartzer reveló una red de enlaces entre varios sitios de spam mediante un gráfico de enlaces generado con la herramienta de backlinks de Majestic
  • El gráfico mostraba varios sitios web fuertemente conectados entre sí, un patrón común en redes de enlaces de spam
  • Es posible que los enlaces no sean la causa directa del alto posicionamiento, sino que ayuden a Googlebot a descubrir y rastrear nuevas páginas de spam para que queden indexadas aunque sea por uno o dos días
  • Bill Hartzer también considera que parte del problema es que Google da más peso al contenido que a los enlaces

La combinación de long-tail y búsqueda local

  • Muchas de las consultas para las que posicionan varios sitios de spam combinan frases long-tail con elementos de búsqueda local
  • Long-tail se refiere a frases de baja frecuencia de búsqueda, con poca competencia y más fáciles de posicionar
  • Si los operadores de spam crean millones de páginas long-tail, pueden exponerse a cientos de miles de palabras clave cada día durante un breve período
  • A diferencia de Amazon, que vende una enorme cantidad de productos individuales, el spam apunta a posicionar páginas para muchísimas consultas de baja competencia
  • Entre los casos expuestos hay frases como Craigslist auto parts, Craigslist rooms to rent y Craigslist for sale by owner
  • La escala del spam va mucho más allá de las palabras clave que incluyen la palabra Craigslist

Páginas de spam visibles solo para Googlebot

  • Si se accede a una página de spam desde un navegador normal, no es posible ver su contenido real y se redirige automáticamente a otro dominio
  • Tampoco fue posible ver el sitio con el verificador de enlaces de W3C, y aunque se cambiara el user-agent del navegador a Googlebot, la redirección continuaba
  • Esto sugiere que los sitios de spam no verifican el user-agent, sino la dirección IP de Googlebot
  • Si confirman que la IP del visitante pertenece a Google, muestran el contenido a Googlebot; en caso contrario, envían al visitante a otro dominio con contenido sospechoso
  • Al acceder con una IP de Google mediante Google Rich Results Tester, se puede ver el HTML de la página de spam
  • Tras copiar el HTML desde Rich Results Tester, guardarlo en un archivo y eliminar JavaScript, se pudo ver la página de spam en la forma en que la ve Google

Un solo dominio posicionó para más de 300,000 palabras clave

  • La hoja de cálculo compartida por Bill Hartzer contiene una lista de frases de palabras clave para las que posicionaba un sitio de spam
  • Ese solo sitio de spam posicionó para más de 300,000 frases de palabras clave
  • Muchas palabras clave estaban relacionadas con Craigslist, pero también había numerosas frases long-tail con elementos de búsqueda local
  • Las frases long-tail y las de búsqueda local son fáciles de posicionar por separado, y cuando se combinan pueden subir de ranking con aún más facilidad

Las brechas de la búsqueda local y la respuesta de Google

  • La búsqueda local usa un algoritmo distinto al de la búsqueda no local
  • Los sitios locales no necesitan muchos enlaces para posicionar para una consulta, y pueden subir en el ranking si contienen las palabras clave adecuadas para activar el algoritmo de búsqueda local
  • El algoritmo de búsqueda local es muy permisivo: incluso ha habido casos de sitios escritos casi por completo en latín que posicionan para frases como Rhinoplasty Plano Texas
  • Danny Sullivan, de Google SearchLiaison, dijo el 19 de diciembre que remitió el caso al equipo de búsqueda y que está en revisión
  • Google podría responder de forma más estricta, por ejemplo impidiendo que ciertos dominios se posicionen, pero sigue pendiente si encontrará una forma de resolver este tipo de spam

7 comentarios

 
devstudyman7 2024-03-09

Documento web de reporte de spam de Google: cuando vayan a reportar spam, si es un dominio como abc.abc.uk/trashasda, repórtenlo como abc.uk, y si ponen abc.abc.uk/sitemap.xml en la búsqueda que mejor permita identificar el problema, podrán hacer el reporte. Parece que es un sitio ya consolidado como solución, pero con una estructura en la que, cuando un usuario común accede, vuelve a generar de inmediato documentos derivados. La forma correcta de responder es hacer reportes activamente, y cada vez que se hace clic en Google se vuelven a crear páginas de spam; además, hay un proceso en el que se hace que el bot acceda mediante cosas como google.com/url, image.google.com/url o redirecciones de Naver para volver a llevarlo a la página de spam generada, así que no hagan clic: solo copien el enlace y repórtenlo. Mientras no se elimine el algoritmo de redirección que aparece indicado como google.com/url, parece que el problema actual seguirá produciéndose.

 
devstudyman7 2024-03-09

Si reportan documentos web que correspondan a la solución de spam anterior, lo correcto es poner en el primero de los 5 campos el dominio principal, y en las 4 URL adicionales escribir la lista de documentos derivados creados a partir de este. También es recomendable poner el sitemap de ese dominio en el campo de búsqueda. Si abren el sitemap, verán que usan una estrategia para generar páginas apenas se accede, como /new/asdasd, así que si reportan documentos individuales, al final hacen que Google genere además más páginas señuelo cuando las revisa. Por eso, como es un caso muy bien armado, deben reportar el dominio completo.

 
devstudyman7 2024-03-09

En mi caso
(h lo cambié por x y / por |)

xttp:||baddomain.com
xttp:||baddomain.com/blogs
xttp:||baddomain.com/blogs/asdasd1
xttp:||baddomain.com/asdasd1
xttp:||baddomain.com/asdasd2

Después de redactar el reporte así,

si es uno de esos casos donde empezó a pudrirse desde los subdominios, envío el reporte con la palabra clave site:*baddomain.com de esta manera.

Luego, si el sitio en sí es completamente spam, también mando el formulario de reporte de phishing.

 
devstudyman7 2024-03-09

Irónicamente, el software de esos sitios web de spam tiene integrados tag managers y, aun usando sitios como https://picsum.photos, siguen siendo indexados con normalidad. Eso también significa que Google no los revisa. Incluso cuando ya sobrepasan lo que podría considerarse una actividad de spam normal, si las páginas web spam además tienen anuncios de AdWords activos, por más que se reporten, los documentos derivados se generan más rápido en proporción al tráfico que entra por la publicidad. Lo más inquietante es que los sitios web de spam estén usando tag managers de forma totalmente normal.

 
devstudyman7 2024-03-09

Llevo un mes enviando reportes de spam; si también lo reportan como documento de spam o documento fraudulento y lo envían junto con la página para denunciar sitios de phishing, se limpia más rápido. También agrego esa página, pero si el dominio de nivel superior es abc.abc.uk, deben ingresar abc.uk para ayudar a limpiar el dominio en sí. Se ha vuelto una tarea cotidiana para los webmasters.

 
aobamisaki 2023-12-24

De por sí, desde hace tiempo ya se notaba que la calidad de los resultados de búsqueda de Google venía bajando en general, así que si recibe ataques masivos en poco tiempo de esta manera, mucha gente terminará confiando aún menos en los resultados de búsqueda de Google.

 
GN⁺ 2023-12-24
Opiniones de Hacker News
  • Antes existía una política explícita según la cual los sitios que mostraban a Googlebot contenido distinto del que veían los usuarios comunes no autenticados no estaban permitidos y recibían penalizaciones fuertes.
    Esa política ya desapareció, pero si las herramientas de aplicación automática hubieran funcionado bien, creo que habrían ayudado en una situación como esta.
    Últimamente, Google parece ver como totalmente aceptables incluso los sitios que muestran contenido a Googlebot mientras lo ocultan deliberadamente a los usuarios comunes.

    • Hace unos 10 años trabajé en un sitio que manejaba cientos de millones de visitas mensuales de usuarios comunes; el contenido de millones de páginas cambiaba varias veces al día y el tráfico de crawlers representaba aproximadamente el 90% del total.
      De eso, Bing era cerca del 70% del tráfico de crawlers y Google cerca del 25%; Bing crawleaba de forma agresiva y, en cuestión de meses, duplicó un tráfico que ya era enorme, exponiendo los límites de escalabilidad.
      Yo estaba a cargo del sistema que elegía qué anuncios mostrar en la página; era un sistema interno de publicidad con segmentación basada en datos propios, así que el costo de cómputo era la parte más grande, y los anuncios se insertaban directamente en el HTML.
      Al darme cuenta de que el 90% de la infraestructura de selección de anuncios se usaba para alimentar anuncios a crawlers, quise desactivar los anuncios para ellos, pero parecía ir en contra del espíritu de la política de Google de “mostrar el mismo contenido a crawlers y usuarios”.
      Al final desactivamos casi toda la segmentación y les mostramos a los crawlers anuncios aleatorios más o menos relacionados con la página; con eso redujimos el costo de la infraestructura de selección de anuncios en casi 80% y ahorramos seis cifras de dólares al mes.
      Esto es lo que se pierde de vista cuando se pregunta “si la función principal del producto se puede replicar en 100 líneas, ¿por qué la empresa necesita tantos ingenieros?”. A suficiente escala, solo manejar el tráfico de crawlers ya requiere ingeniería real.
    • Creo que esa “política” sigue estando en las directrices para webmasters de Google. Simplemente no la hacen cumplir.
      A principios de los 2000, Google crawleaba principalmente desde IPs propiedad de Google, pero a veces también usaba IPs de ISP asociados como Comcast.
      Si hacías cloaking por IP, también tenías que cuidarte de esas molestas IPs que no eran de Google, y en esa época jugué a ese juego con scripts de un servicio llamado “IP Delivery”.
    • Esa regla todavía existe. Solo que no siempre es fácil detectar cuando los spammers la evaden.
    • Creo que esto pasó porque los publishers querían mostrarles un paywall a los usuarios, pero al mismo tiempo querían que Google indexara su contenido. Es decir, querían tener el pastel y comérselo también.
    • Lo más molesto es que los sitios pueden usar el referer HTTP de Google para saber qué buscó el usuario.
      Si a eso se suma que los sitios de spam riegan la mayor cantidad posible de palabras clave, después de la primera página, busques lo que busques, el 95% de los sitios se vuelven como spam.
      No sé por qué dejamos que Internet quedara así. Debería haber una forma de firmar contenido real/confiable, y los certificados SSL claramente no lo son.
      También se podría crowdsourcing de una calificación de legitimidad de los sitios.
      Por eso la gente se concentra en grandes nombres como Reddit o YouTube. Porque, como con McDonald’s, sabes que lo que recibes esta vez será igual que antes.
  • Hace unos meses me pasé a Kagi. A veces cuesta conseguir buenos resultados de búsqueda, pero si reviso Google tampoco es que sea mejor.
    No siempre sube bien los sitios que me gustan, pero ya empecé a ajustar los resultados a mi gusto impulsando y fijando varios dominios.
    Uso mucho otros servicios de Google, incluidos Gmail y Maps, pero ya no uso su buscador.

    • +1 a Kagi.
      Eso sí, en los últimos meses dejé por completo las búsquedas en Internet. ChatGPT-4 lo hace de forma mucho más efectiva, y mientras esa experiencia no se arruine de alguna manera, no veo razón para volver a buscar en Internet.
    • Creo que llevo casi un año usando Kagi. Antes usaba Startpage o DDG.
      Si Kagi no encuentra algo que siento que debería encontrar, pruebo Google, pero Google se volvió realmente pésimo.
      Sinceramente me cuesta creer cuánto ha empeorado comparado con hace 10 años.
    • Probé Kagi, pero no me dio los mejores resultados. Sobre todo en búsquedas relacionadas con mi idioma nativo o mi región; sigo prefiriendo Google o DDG.
  • Veo cada vez más sitios que ofrecen una cantidad absurda de texto para responder una pregunta sencilla.
    Casi siempre siguen una estructura en la que la respuesta real está al final de la página.
    En apariencia parece relevante, pero si lo lees de verdad es pura basura genérica. Es como cuando un estudiante de secundaria mete relleno en un ensayo para completar el número de palabras.

    • Es culpa de Google. Hace unos años Google decidió que la autoridad temática era importante y que una página que apuntara a la mayor cantidad posible de palabras clave era “mejor”.
      Varios especialistas en SEO publicaron estudios que decían que las páginas con más de 2,000 palabras clave rankeaban más alto, y después todas las empresas empezaron a inflar sus páginas con 2,000 palabras de tonterías para adaptarse a Google.
    • Esa estructura existe porque tienes que desplazarte pasando anuncios antes de llegar a la respuesta real. Estos sitios se generan con plantillas.
    • Muchas páginas ni siquiera tienen respuesta. Escriben un montón de párrafos de relleno inútil y al final terminan diciendo que no saben. Es común ver expresiones como “bueno, así quedó”.
    • Hoy en día, buena parte de esos textos parece estar generada realmente con modelos de lenguaje grandes.
      Suele notarse en una estructura tipo ensayo de secundaria, y muchas veces terminan con párrafos del estilo “en conclusión, tiene muchas ventajas, pero también muchas desventajas”.
  • Durante 20 años dimos por sentado que los motores de búsqueda que conocemos podían resolver problemas generales, pero quizá desaparezca la idea misma de usar el rastreo web no supervisado como entrada para un motor de búsqueda de propósito único.
    Si pienso en mis consultas web de los últimos 1 o 2 años, parece muy posible que sea mejor reemplazar a Google por varios sistemas específicos según el propósito.
    Las consultas técnicas se buscarían directamente en Stack Overflow y GitHub; los lugares locales, en una base de datos dedicada de lugares donde las nuevas entradas deban pasar una revisión mínima; y las preguntas médicas, solo en algunos sitios confiables.
    Nos acostumbramos a Google porque es cómodo escribir en un solo lugar el título de una película, “chinese restaurant philadelphia”, “flights to miami 4/12/24” o “Error code 127 python”, pero creo que sería mejor que ese lugar, con ayuda de un modelo de lenguaje grande, dedujera el tipo de búsqueda y te enviara a una búsqueda especializada y curada.
    Me pregunto si volver a un modelo de directorio al estilo DMOZ/Yahoo, curado por personas, también podría revertir la corriente de spam y clickbait de la que nos venimos quejando últimamente.

    • Si se pudieran excluir selectivamente dominios enteros de los resultados de búsqueda, creo que la búsqueda mejoraría muchísimo.
      Quisiera eliminar GeeksForGeeks para siempre de todos mis resultados de búsqueda con un solo clic. Y me gustaría poder seguir agregando sitios a una lista de las que antes llamábamos “listas negras”.
      Cuando busco imágenes, no quiero que Pinterest aparezca nunca.
      Con eso, mis resultados de búsqueda mejorarían rápidamente.
      Más aún, si se agregaran las listas de todos los usuarios, también se podrían mejorar las búsquedas de quienes todavía no crearon su propia lista negra.
    • A primera vista parece una buena idea, pero eso podría volverse muy anticompetitivo.
      Que un sitio pueda hacer negocios en la web dependería por completo de si ese motor lo clasifica correctamente, o de si lo clasifica siquiera.
      Si por alguna razón quisieras lanzar un competidor de Stack Overflow, sería muy difícil conseguir atención.
      Con los buscadores generalistas actuales pasa algo parecido, pero al menos existe la posibilidad de que te citen lo suficiente, subas bastante en el ranking y recibas tráfico.
      Esa fue precisamente la razón por la que el modelo de Yahoo colapsó. Antes, los directorios solían no mostrar información reciente simplemente porque un sitio no estaba en la lista agregada manualmente.
      Creo que el problema actual de Google no es tanto el spam en sí, sino que Google se acomodó. Como los anuncios de Google están en todos los sitios de todos modos, la función de “maximizar ingresos por búsqueda” no se preocupa demasiado por si el usuario encuentra lo que quiere.
      Si le das malos resultados, quizá el usuario abra más páginas y vea más anuncios.
      No era así cuando la búsqueda de Google de antes estaba por encima de los sitios de spam, pero ahora da la sensación de que ya no hacen actualizaciones algorítmicas para frenar la tendencia actual, y los sitios de spam ya entendieron qué aparece arriba.
    • Si limitas los resultados de búsqueda web a “unos pocos sitios conocidos”, estás acelerando la muerte de algunos de ellos.
      La belleza de los motores de búsqueda es que, en teoría, pueden encontrar algo nuevo.
      Si excluyes la web abierta, solo fortaleces y fosilizas aún más a los actores actuales.
  • Siento que la calidad de las respuestas que recibo en la Búsqueda de Google lleva mucho tiempo cayendo en picada.
    He visto a otras personas decir cosas similares.
    No sé cuándo empezó esta tendencia.
    ¿Lleva mucho tiempo sin recibir la revisión necesaria? ¿Este ataque de spam es la etapa final?

    • En mi caso, empezó cuando Google comenzó a manosear los términos de búsqueda y a adivinar y cambiar lo que yo estaba buscando.
      Perdí esa interacción humana sin adornos, y tengo la intuición de que a partir de ahí todo fue creciendo como una bola de nieve.
      La gente dejó de intentar depender de verdad de Google, porque todos aprendieron que a Google no le importa.
      Antes estaba optimizado para ser un cuchillo afilado; ahora está optimizado para ser un cuchillo seguro.
    • ¿Podría verse la caída de calidad como resultado de una menor proporción de contenido basura frente a contenido informativo?
      El contenido basura aumenta enormemente cada año, mientras que el contenido informativo o de alta calidad parece haberse estancado o incluso disminuido por la descomposición de datos.
    • Siento que viene cayendo desde que se introdujo Hummingbird.
  • Pensé que Search Engine Journal sabría bien que Google aplica periódicamente cambios que afectan cómo se evalúan los sitios.
    En esos periodos de cambios, los rankings pueden variar bastante, por ejemplo con resultados “irrelevantes” o de “baja calidad” subiendo mucho para ciertas consultas, y esa situación puede durar bastante.
    Antes, los sitios relacionados con optimización para motores de búsqueda vigilaban y debatían con mucho empeño estas actualizaciones algorítmicas.
    Dicho eso, llevo más de 10 años sin usar Google, así que es solo una observación por curiosidad superficial.

    • Esto no tiene que ver con un cambio de algoritmo. Llevo más de 20 años trabajando en búsqueda y conozco bastante bien cómo funciona Google.
      En el artículo explico por qué es muy probable que esto ocurra.
      En resumen, parece que los spammers están explotando dos debilidades.
      1. Las palabras clave de cola larga tienen poca competencia y pueden activar otros algoritmos.
      2. Algunas o muchas de las consultas de búsqueda en las que el spam logra posicionarse activan el algoritmo de búsqueda local, que es más permisivo.
        Además, hay otras razones por las que estos sitios pasan los filtros, y el artículo las trata en detalle.
    • Me da curiosidad saber qué usas ahora para distintos fines. Dejé Google en casi todo, pero sigo usando la búsqueda de vez en cuando, y también tengo que usar Google Docs porque mis colaboradores lo usan.
  • Google se volvió inutilizable en muchas situaciones y recompensa el spam. Dicen que no, pero en la práctica sí, y hoy muchas estrategias de optimización para motores de búsqueda consisten en sembrar artículos, páginas, etc., en los buscadores.
    No es para ofrecer contenido útil, sino para backlinks, enlaces internos y demás.
    Es especialmente grave en la optimización para motores de búsqueda local, donde hay que crear conjuntos de páginas diferentes por región.
    Al final, volvimos a la época temprana de Google, cuando era fácil manipularlo.
    Ahora la gente usa IA para crear y distribuir cientos de páginas y artículos. Se puso realmente mal, pero lo peor es que, si quieres competir por palabras clave, ahora tienes que hacerlo.

    • Exacto. Hace 10 años Google combatía las granjas de contenido y las estrategias maliciosas de optimización para motores de búsqueda con actualizaciones como Panda.
      Ahora parece que ya no le importa.
      Las páginas de baja calidad optimizadas para motores de búsqueda rankean por encima de los sitios legítimos, así que esos sitios legítimos terminan empujados a pagar publicidad. Es muy triste.
  • Google abandonó la búsqueda orgánica. Conozco bastante bien el mundo de la optimización para motores de búsqueda, y ya no puedo usar la Búsqueda de Google. Puedo intuir muy rápido por qué una página ocupa cierta posición, y ninguna de esas razones tiene que ver con información precisa y valiosa
    Google es un mercado, y deja que ganen los resultados más “atractivos” que siguen una estructura de contenido específica
    Ahora, la mayoría de los resultados pagos son más valiosos para el usuario que los resultados orgánicos. Eso es lo que quiere Google: que hagas clic en los resultados pagos e ignores la basura

    • Hoy, buscando por nombre un buffet local, hice clic por error en el primer resultado patrocinado, Golden Corral, y no se sintió para nada así. Definitivamente no fue “más valioso” para mí
    • Google no es un mercado. Es más bien una forma exagerada de llamar a una agencia de publicidad que busca obtener la máxima ganancia con el mínimo esfuerzo
      Según el primer párrafo, ¿eso no significa que los resultados pagos también son basura?
  • Dejé de usar Google y me cambié a Bing hace alrededor de un año, después de que Google empezó a meter más ChatGPT
    En general, me gusta mucho más la forma en que me muestra lo que busco
    No es perfecto, pero en las pocas veces que, por frustración, lo comparé con Google, Google no fue mejor; el problema estaba en el tema en sí, no en el motor de búsqueda

    • Uso DDG desde hace años, así que supongo que una parte importante de mis resultados viene de Bing
      Como normalmente no los comparo con Google, no puedo decir con certeza que los resultados sean “equivalentes”, pero mi experiencia definitivamente es mejor
      Cuando busco algo, aparece una página con enlaces y, por lo general, lo que quiero está en la primera página
      A veces no está, o si es algo reciente y creo que Google podría tener una versión más actualizada, agrego !g a la búsqueda y voy directo a Google
      Es bueno, funciona bien y no es estresante, horrible ni irritante. Lo recomiendo
  • En los últimos años, Google en sí se sintió como un ataque de spam

    • Los anuncios de Google son spam, la Búsqueda de Google es spam, Gmail es spam y YouTube es spam
      Google gana dinero, y no le importa nada más