Google elige como respuesta correcta una respuesta (incorrecta) de ChatGPT en Quora

• Al buscar en Google, suelen aparecer con frecuencia preguntas y respuestas de Quora
• Quora está mostrando respuestas generadas con ChatGPT
• Google eligió como la respuesta correcta con mayor probabilidad una alucinación creada por ChatGPT en el sitio de Quora
• Ahora una alucinación de ChatGPT se convierte oficialmente en la respuesta de Google
• Ejemplo de la pregunta usada y la respuesta incorrecta de ChatGPT
  • P: "¿Se pueden derretir los huevos? (Can you melt Eggs)"
  • R: "Sí, se pueden derretir. La forma más común de derretir huevos es calentarlos usando la estufa o el microondas."
• "Vicious Self-Degradation (autodegradación maliciosa)"

[vmflvm0]

Dame los números de la lotería

[GN⁺]

Opiniones de Hacker News

• La función de "respuestas" de Google ha sido criticada por su poca fiabilidad, y se citó como ejemplo información incorrecta sobre la capacidad de los disquetes de Amiga.
• Se sospecha que Quora usa contenido generado por IA para posicionarse alto en Google y atraer clics.
• Sorprende que a Google no parezca importarle, a pesar de sus políticas contra manipular el ranking de resultados de búsqueda usando automatización.
• Hay preocupación por la propagación de información falsa en un mundo de "posverdad", y la IA podría empeorar este problema.
• Hay confusión sobre por qué Quora genera respuestas automáticamente para preguntas que ya tienen respuestas escritas por personas.
• Se espera que internet se llene cada vez más de spam y propaganda maliciosa, y encontrar información confiable se volverá una tarea sobrehumana.
• Se ha observado que algunos hilos de Reddit están llenos de cuentas bot, lo que sugiere un aumento del contenido automatizado.
• Hay dudas sobre cómo Quora configuró su integración con "ChatGPT", y se plantea que podrían estar usando GPT3.5 o GPT4 a través de la API.
• Se sugiere que plataformas como Quora y StackOverflow podrían estar sobrevalorando a quienes buscan respuestas y subestimando a la comunidad de personas que responden de forma regular.
• También se critica que otros motores de búsqueda como Kagi y DDG enlacen al mismo hilo de Quora.
• Una posible solución propuesta es etiquetar el contenido de IA con un wrapper o atributos HTML para que los motores de búsqueda lo indexen de forma distinta.
• Esta situación se describe como "enshitification", lo que sugiere que la calidad de la información disponible en línea está empeorando.