La Fundación Wikimedia lanza 'Citation Needed', una extensión experimental de Chrome con LLM/RAG

(chromewebstore.google.com)

1 puntos por GN⁺ 2024-05-13 | 1 comentarios | Compartir por WhatsApp

Extensión de Chrome Wikipedia Citation Needed

Permite verificar una afirmación específica al seleccionar un fragmento de texto mientras navegas por la web
Utiliza la API de ChatGPT para buscar artículos relacionados en Wikipedia y citar contenido de esos artículos
Proporciona información sobre si la afirmación seleccionada está respaldada en Wikipedia, junto con señales de calidad del artículo como la fecha de la última edición y la cantidad de referencias, para ayudar a los usuarios a entender mejor el contexto de la información que reciben, incluida la que proviene de Wikipedia

Esta función es experimental y usa IA generativa, por lo que reconocen que a veces puede cometer errores
Solicitan que se reporten los problemas encontrados mediante el enlace de comentarios de la extensión para comprender y mejorar la calidad de los resultados
También agradecen comentarios generales e ideas sobre otras formas en que Wikipedia podría ser útil durante la navegación web cotidiana

Esta extensión fue desarrollada por el equipo Future Audiences de la Fundación Wikimedia, una organización sin fines de lucro que apoya a Wikipedia y sus proyectos hermanos

Esta extensión puede ayudar a los usuarios a evaluar la confiabilidad de la información que encuentran en la web. Sin embargo, como los propios artículos de Wikipedia pueden tener limitaciones de calidad y precisión, parece difícil tomarla como un criterio absoluto.
Automatizar el resumen y la verificación usando modelos de lenguaje a gran escala como ChatGPT puede mejorar la comodidad para el usuario, pero al mismo tiempo también implica el riesgo de generar información incorrecta. Parece necesario mantener un monitoreo continuo y esfuerzos de mejora.
Además de Wikipedia, si se incorporaran fuentes confiables validadas por especialistas de cada campo, podría aumentarse la precisión y la amplitud de la verificación. A largo plazo, también podría considerarse la construcción de una base de conocimiento descentralizada basada en blockchain.

GN⁺ 2024-05-13

Una aplicación experimental de RAG (Retrieval Augmented Generation) impulsada por LLM verifica afirmaciones en internet contrastándolas con Wikipedia.
Hay preguntas sobre si las citas alucinan o si usa algo como "citas determinísticas".
Se proporciona el repositorio Git de Wikimedia para esta extensión. Las instrucciones de compilación del README están incompletas y parece que el hot reload no funciona. Se puede obtener una compilación funcional usando npm run build-dev.
No se ofrece una extensión para Firefox. Podría deberse a diferencias en la API de sidebar/sidepanel.
También sería prometedor que un LLM verificara hechos y marcara artículos de Wikipedia.
Combinándolo con un generador de artículos y un verificador de artículos, se podría crear un billón de páginas. Podría ser contenido de entrenamiento útil para los LLM, pero las personas también podrían usarlo.
Parece funcionar solo en Chrome. No funciona en Arc.
En el ámbito académico, las citas de Wikipedia por lo general están prohibidas. Son menos confiables (el autor cita una fuente que él mismo puede editar) y, aunque sirven para encontrar fuentes primarias, por sí mismas son una fuente secundaria.
Al preguntarle sobre sí mismo, devuelve una respuesta como "Citation Needed es una función experimental desarrollada en 2024". Pero el párrafo proporcionado no incluye información sobre una función llamada 'Citation Needed' desarrollada en 2024.