Internet, lleno de basura informativa hecha con IA
(aftermath.site)- Buscar en internet alguna vez fue tan fácil que funcionaba decir “let me Google that for you”, pero ahora aumentan los casos en que hay que volver a verificar con una persona por culpa de la información generada por IA y los resultados de búsqueda erróneos
- Google muestra instantáneas de las páginas dentro de los resultados de búsqueda en lugar de solo enlaces, y llega a exponer información incorrecta como una respuesta de IA de Quora que afirmaba que “los huevos pueden derretirse”
- El deterioro de la calidad de búsqueda va más allá de un simple problema de respuestas de IA: también sacude el contexto mismo de la búsqueda, como en casos donde buscar sinusitis lleva a resultados sobre inflamación del pene
- Un usuario de Twitter reveló un método de robo de tráfico que consiste en exportar las URL indexadas de un sitio competidor y luego crear rápidamente textos similares con IA para superar sus resultados en Google
- Las sospechas sobre textos escritos con IA y autores falsos en Sports Illustrated muestran cómo la producción de contenido orientada a la visibilidad en buscadores y a los ingresos publicitarios puede dañar la confianza de los lectores
Cómo la búsqueda de Google pone primero las respuestas equivocadas
- Antes, la confianza en los buscadores era tan alta que se podía burlarse de quien hacía una pregunta en línea diciéndole que la buscara directamente en Google, y la expresión “let me Google that for you” se usaba en ese contexto
- Ahora hay tanta basura informativa generada por IA en internet que se ha vuelto difícil verificar información solo con los resultados de búsqueda, y crece la posibilidad de tener que volver a preguntarle a una persona
- En vez de mostrar solo enlaces a sitios web, Google expone partes de la página en forma de instantánea dentro de un desplegable, haciendo que el usuario lea el resultado sin hacer clic
- Este método puede hacer que la gente vea primero información incorrecta antes de comprobar el contexto original
- En septiembre de 2023 hubo un caso en que Google tomó una respuesta generada por IA de Quora e informó erróneamente que los huevos podían derretirse
- También se reproducen casos en los que buscar sinusitis devuelve resultados relacionados con inflamación del pene, lo que muestra que incluso la relevancia misma de los resultados está tambaleándose
Casos en los que el contenido con IA ocupa los resultados de búsqueda
- Un usuario de Twitter afirmó haber realizado un “heist” de tráfico de internet para superar a un sitio web específico en los resultados de búsqueda de Google
- Revisó el índice del sitio objetivo
- Exportó las URL de los artículos
- Redactó rápidamente textos con IA basados en esas URL
- Describió como “opcional” la tarea de modificar directamente el título de la página web
- Sports Illustrated quedó bajo sospecha, tras un reportaje de Futurism, de haber publicado varios textos escritos con IA y de haber presentado como autores a personas que no existían
- Cuando Futurism pidió comentarios, ese contenido fue eliminado
- Más tarde, Sports Illustrated dijo que esos textos habían sido escritos por un tercero, que no eran generados por IA y que los autores usaban seudónimos
- Esa explicación no logra aclarar por qué los textos fueron eliminados después de la consulta periodística
- También sigue en pie el hecho de que Sports Illustrated había dicho públicamente en un artículo de The Wall Street Journal de febrero de 2023 que usaría IA para generar contenido e ideas de artículos
- Internet se parece cada vez menos a un repositorio donde las personas comparten información entre sí, y más a un espacio donde las máquinas se comunican con otras máquinas
- La expresión “let me Google that for you” ya no es válida como antes, y aumenta la posibilidad de encontrar información falsa o manipulaciones completas en los resultados de búsqueda
- Quienes toman las decisiones de financiamiento en Sports Illustrated son criticados por estar más interesados en manipular los resultados de búsqueda de Google y obtener de ello ingresos publicitarios que en servir adecuadamente a los lectores
1 comentarios
Opiniones de Hacker News
Con la expansión de los LLM, perdimos una heurística que antes servía. Antes podías ver un texto con ortografía y gramática desastrosas y filtrar rápido una publicación sin valor, pero eso ya no funciona para la basura generada por IA
Su dominio del lenguaje es perfecto, e incluso mejor que el de la mayoría de la gente, así que cualquiera puede producir al instante un texto que por fuera parezca convincente. Ya ni siquiera hace falta contratar copywriters como los spammers de SEO de antes, y el caso de curl sufriendo con reportes falsos de bugs hechos por IA es un buen ejemplo: https://news.ycombinator.com/item?id=38845878
Esto apenas comienza y va a ponerse mucho peor, así que algún día podría volverse imposible separar el grano de la paja
Si igual vamos a seguir rumiando las mismas ideas, no hay razón para no automatizarlo, y al final la gente olvida incluso de dónde salió originalmente un buen texto. Por ejemplo, los LLM reemplazan a Stack Overflow, y Stack Overflow reemplaza la documentación técnica. Si el costo de producir es casi cero, a nadie le importa la calidad, hasta que la gente se harte lo suficiente y el comportamiento vuelva a oscilar hacia una web curada por recomendación boca a boca
Con el tiempo puede aparecer una especie de extraño efecto de remolino en la inteligencia de la IA. Hoy le haces a ChatGPT una pregunta al estilo de Stack Overflow y te devuelve al instante una respuesta al estilo de Stack Overflow, pero la veracidad y exactitud son casi una apuesta. Si en adelante la gente depende más de eso y publica menos en Stack Overflow, el pozo de información del que aprende la IA puede secarse, y podrían quedar solo bucles pegajosos que a veces aciertan. Mientras más avance la tecnología, más problema podría ser, y entonces quizá terminen entrenando con documentación técnica
La investigación en LLM parece que va a traer el colapso de la sociedad de varias maneras. Un amigo está haciendo una maestría y todo el mundo escribe respuestas con ChatGPT, y esa forma tan obvia de poner frases políticamente cuidadosas y luego cerrar con un resumen al final ya es demasiado evidente. Ojalá los expulsaran
Estoy de acuerdo con el título, pero no creo que internet haya cambiado tanto desde antes de GPT-4, 3 o 2. Los textos escritos por practicantes o asistentes virtuales en India sobre temas generales ya eran casi tan malos como los generados por IA y tampoco era fácil distinguirlos
Tampoco ayuda que hoy los motores de búsqueda ordenen priorizando la autoridad más que la coincidencia entre la consulta y el texto de la página. La gente ya ni usa tanto la web y vive dentro de apps, y cuando navega páginas web desde el celular suele ser solo para “googlear” una pregunta. Incluso entonces, normalmente no profundiza más de un nivel antes de volver a la experiencia de la app
La web lleva mucho tiempo siendo terrible y ha empeorado, pero pronto podría dejar de importar. Los lectores eran como la rana en agua hirviendo a fuego lento, y ahora la temperatura simplemente subió de golpe y se dieron cuenta de la situación
Si la “web” va a seguir existiendo, creo que no solo tendrá que moverse a una nueva capa de anonimización, sino que además hará falta un intercambio monetario frecuente para que sea difícil producir en masa material de baja calidad. Si el 90% del público no quiere pagar, entonces que sigan comiendo desperdicios. La analogía de la rana hervida iba por el lado de que la cantidad de spam aumentó muchísimo
Ahora desapareció el factor que limitaba la cantidad de esa basura
Si las aguas negras entran al sistema de agua potable, nadie está a salvo. No puedes sentirte seguro solo porque usas un grifo lejos de la fuente
La cantidad aumentó, o sigue aumentando, y ahora es mucho más difícil encontrar lo legítimo y bien hecho. El comentario sobre las apps es bueno
¿Qué pasaría si a todos los autores se les evaluara automáticamente con IA su capacidad predictiva, sesgo y precisión factual en horizontes de tiempo de 1, 2 o 5 años?
Nunca pensé que diría esto, pero con la web abierta en una situación tan precaria, que toda la información quede encerrada en silos dentro de Discord no parece tan malo. Si los motores de búsqueda no la indexan, es mucho menos probable que aparezca junto a basura de IA o que se use como datos de entrenamiento
Al final, el futuro de internet son las personas. Ya ni siquiera se puede confiar en que las máquinas hagan tareas básicas que antes hacían bien, y por elegir el camino de no poder resolver tareas complejas, hasta sacrificaron la eficiencia en las tareas básicas
En la era del comercio minorista en línea, las transacciones y el modelo de negocio eran transparentes, pero en la economía de la publicidad y la atención que opera detrás de escena, todo se vuelve borroso y distorsionado. Prácticamente todos los participantes están coludidos en monetizar el tiempo libre y la atención de la gente, empujándola a consumir mientras la matan con una sonrisa
Entré a Google en 2010 y salí en 2019; en 2010 los ingresos anuales eran de unos 30 mil millones de dólares, y el año pasado fueron de 300 mil millones. Como mantuvo un crecimiento anual de 20% de forma bastante constante desde su fundación, para igualar eso en 2024 necesitaría 60 mil millones de dólares en ingresos nuevos. Es decir, tendría que encontrar en un año el equivalente a dos Googles de 2010 en ingresos, y como construir el Google de 2010 tomó 12 años, eso no tiene sentido
En cambio, el contenido de grupos privados de Facebook dura, con suerte, unos cuantos días. Si el objetivo es compartir conocimiento útil con la audiencia más amplia posible, los grupos de Discord son un gran retroceso
La salida es la autenticidad, y solo el contenido firmado puede ofrecerla. Ya no se puede aceptar nada al pie de la letra; pudo haber sido generado o falsificado
Cuando cualquiera puede publicar lo que sea, y la IA publica todavía más hasta abrumar a los humanos, solo apoyándonos en la reputación y la autenticidad podremos filtrar quién produjo qué y quién dijo qué. La red de confianza ya se intentó antes, pero nunca salió del rincón de los raros con sombrero de aluminio. Tal vez sea momento de intentarlo otra vez
Verificar la autenticidad del contenido digital es imposible en términos físicos, filosóficos y técnicos. En la frontera entre el mundo analógico y el digital siempre se puede engañar
Por la misma razón blockchain no ha logrado usarse con éxito en la certificación de cadenas de suministro. Puedes verificar que al artículo 523 se le adjuntó un hash válido, pero no puedes demostrar que ese hash se aplicó al artículo real 523 y no a una falsificación
En el segundo caso, sería una gran victoria para dueños de plataformas como Apple, Google y Microsoft (a través de TPM). Ellos pueden permitir que los usuarios demuestren que “no son bots”. No me sorprendería que en cinco años, para participar de forma significativa en línea, hiciera falta tener relación con uno de esos tres
Incluso si la IA “fracasa”, seguirán teniendo motivos para empujarla, porque podrían mover a una parte considerable de los usuarios de internet hacia modelos de suscripción de identidad y attestation. Si no pagas, tu contenido se considerará por defecto basura generada y no tendrá visibilidad
Del lado corporativo, podría surgir una estructura que haga parecer caritativos a los viejos esquemas de SSL y firma de código. Algo como BIMI aplicado a todo contenido publicado, con cobro por pieza, también sería posible. Incluso podría haber discriminación de precios donde, cuanto más pagues, más “confiable” seas. Me preocupa que la identidad y autenticación de servicios gubernamentales termine en manos de empresas privadas como Google o Apple, y que la identidad real de la gente quede atada a la attestation de esas empresas
Aunque Apple o Google ofrezcan servicios de attestation para usuarios, ¿no seguiría siendo posible generar y firmar automáticamente basura de IA?
El contenido generado por LLM solo aceleró el problema; esto viene de antes. Google se fue con fuerza por el lado de aumentar los ingresos publicitarios y su dominio de la tecnología publicitaria, y el SEO se descontroló en todos los resultados de búsqueda, así que LMGTFY murió
Hoy en día es bastante difícil obtener información factual sin sesgos con solo una consulta pulida, así que primero intento buscar información en Reddit. Tampoco es una cura para todo, y en los últimos años se llenó de contenido promocional disfrazado, pero los hilos antiguos de la época en que Reddit era menos popular y más difícil de manipular, o los hilos de comunidades pequeñas, suelen ser una opción decente
Kagi la encontró al primer intento solo con el nombre de la clase. La búsqueda de pago es el camino, y los incentivos publicitarios chocan con la búsqueda. Puse Kagi como buscador predeterminado en la barra de direcciones y está muy bien
Google Search no devuelve los mismos resultados a distintas personas para la misma consulta. Eso lo diferencia de motores de búsqueda históricos como AltaVista o de ElasticSearch, y aunque todavía lo llamen motor de búsqueda, hay razones de sobra para no tratarlo como uno. Se parece más a un muro de tonterías personalizadas para publicidad
Ya tengo la edad suficiente para recordar cuando internet estaba lleno de mierda orgánica de perro
Al final, la publicidad existe para ganar dinero, y hasta que los bots tengan tarjeta de crédito, ese dinero saldrá de los humanos. Si en algún sector aumenta de repente la “participación” o el tráfico pero eso no se convierte en gasto humano, una empresa como Google lo va a notar en sus ganancias y pérdidas
Google empezará a reaccionar cuando el problema se vea lo bastante grande en el presupuesto. Los despidos en tecnología de los que se oye hablar en varias empresas, y lo de Google que salió hoy en otro hilo de HN, podrían ser señales de hacia dónde sopla el viento
La única razón por la que a Google no le gusta la manipulación SEO es que permite que los sitios ocupen espacio arriba en las búsquedas sin pagar promoción; la calidad del producto no importa
El problema recién aparece cuando llega un colapso de confianza y la gente, tras quemarse con demasiados productos malos, deja de confiar en sitios o resultados de búsqueda que antes consideraba fiables. Por trabajo veo muchos anuncios en Instagram de medicamentos del mercado gris, y los ignoro porque sé que no tienen validación de la FDA y que la mayoría son estafas o químicos de investigación disfrazados de Amanita Muscaria o Delta-8 THC
Las empresas que se anuncian en Google sí podrían notar una caída en el retorno de inversión de la publicidad, pero como la mayoría cree que no tiene muchas alternativas, tardarán en irse de Google. Me da miedo cómo puede cambiar internet si tenemos que esperar hasta que eso toque las ganancias y pérdidas de Google
Ya hay temas que deberían haberse secado, pero tal vez el fraude esté alimentando la maquinaria publicitaria de ese sector. En cosas como fitness o pérdida de peso casi no se puede usar Google. Cuando remodelé mi casa también descubrí que ya no se puede buscar materiales de construcción, especialmente pintura. Al final, ir a la tienda y preguntar era la única forma de obtener información y recomendaciones confiables
Google todavía funciona en muchas áreas, pero donde realmente es bueno es en los anuncios de productos. Si sabes que quieres comprar algo, el motor publicitario de Google te lo encuentra; lo que pasa es que tienes que saber exactamente qué quieres
De hecho, cuanto más genérica y aburrida sea la página, más probable puede ser que la gente haga clic en los anuncios
Incluso antes de que llegara el dominio de la “IA”, ya estaba todo lleno de tonterías hechas por humanos porque así lo exigía el SEO, así que en realidad no hemos perdido tanto en los últimos años. Llevo bastante más de 10 años en la industria y vengo diciendo esto casi desde hace el mismo tiempo
No hay diferencia. La búsqueda web ya era inútil desde hace más de 15 años. Ahora apenas está un poco peor que antes, pero antes la situación ya era que hacías una pregunta y el primer resultado estaba lleno de páginas de marketing, o te llevaba a basura de marketing superficial en formato “blog”
No quiero dejar en manos de alguien cuyo trabajo es “crear contenido” o llevar un “blog de monetización” la respuesta a una pregunta como cómo limpiar un inodoro. La diferencia entre el ejemplo del artículo y los resultados de hace 10 años es solo que lo primero está claramente mal, mientras que lo segundo es el tipo de cosa que te tomaría días refutar a menos que trabajes en ese campo
Si leíste Anathem, como Ita de todos modos nos toca filtrar la basura del Reticulum. La sensación es que ya es hora de hacerlo.
https://en.wikipedia.org/wiki/Anathem
https://anathem.fandom.com/wiki/Ita
https://anathem.fandom.com/wiki/Reticulum
Las empresas contaminaban el pozo a propósito para vender productos que filtraran esa basura, y en vez de letras al azar hacían “basura bien hecha”, o sea, documentos bonitos con 100 frases verdaderas y verificables y 1 frase sutilmente falsa. Al principio tenían que contratar gente, pero cuando el ejército se interesó, el programa de “Artificial Inanity” avanzó y se extendió al ámbito comercial y a las botnets.
Me gusta Artificial Inanity como expresión para describir a los LLM