3 puntos por GN⁺ 2023-12-13 | 2 comentarios | Compartir por WhatsApp
  • Un proyecto de desarrollo experimental para convertir el entorno de escritorio local en un agente de IA on-device
  • Mejora los modelos on-device con archivos locales guardados en el navegador para ofrecer una experiencia más personalizada y adaptada
  • Actualmente, MemoryCache es un conjunto de scripts y herramientas simples para reforzar una copia local de privateGPT
    • Extensión de Firefox: actúa como una especie de "impresora" sencilla que guarda páginas en un subdirectorio de la carpeta /Downloads/, e incluye una función para guardar rápidamente notas e información desde el navegador a la computadora local
    • Script de shell: detecta cambios en el directorio /Downloads/MemoryCache/ y ejecuta el script ingest.py de privateGPT
    • Código de la API SaveAsPDF de Firefox modificado para permitir guardar automáticamente páginas web como PDF, de modo que sean más fáciles de leer para las personas

2 comentarios

 
ndrgrd 2023-12-14

Todo bien, pero ojalá no sigan intentando convertir el navegador en una especie de cajón de sastre lleno de cosas.
Supongo que habrá lecciones aprendidas de las antiguas internet suites.

El navegador es el navegador. La IA es la IA. Si hace falta, basta con ejecutarla por separado.

 
GN⁺ 2023-12-13
Comentarios de Hacker News
  • Había hablado de este tema en Reddit. En lugar de enviar los datos al modelo, el modelo debería venir a donde están guardados nuestros datos y quedarse ahí, en local. Mucho software de código abierto carga datos personales, pero no puede procesar imágenes o video. En el futuro quizá todos tengan su propio modelo, pero por ahora, aunque la tecnología existe, faltan productos/software de código abierto para que cualquiera pueda tener su propio QLORA, RAG o resumidor. La singularidad de cada persona no solo se forma por sus mensajes o documentos, sino también por lo que leemos, escribimos y pensamos. Nuestro historial de navegación dice mucho sobre lo que leemos, pero casi nadie lo aprovecha más allá de que Google lo use para publicidad. Casi todo el mundo tiene el hábito de leer ciertos sitios de noticias, redes sociales, videos de YouTube, etc. Hazme hoy un resumen a partir de esas tres cosas.*

    • Opinión de que, en vez de enviar los datos al modelo, el modelo debería acceder a los datos locales del usuario.
    • Aunque hoy existe mucho software de código abierto, todavía falta capacidad para procesar imágenes y video.
    • La singularidad personal también se refleja en lo que leemos, escribimos y pensamos, y todavía hay pocos casos de uso del historial de navegación.
  • Mozilla recibe muchas críticas por Firefox y por sus sermones políticos, pero sigo creyendo que todavía tiene capacidad para desarrollar tecnología centrada en la privacidad y amigable para el usuario. Uso con frecuencia el traductor offline integrado en FF, y que pueda ejecutarse localmente sin un parque de servidores me parece magia. Ojalá este experimento funcione.*

    • Opinión positiva de que Mozilla todavía tiene capacidad para desarrollar tecnología centrada en la privacidad y amigable para el usuario.
    • Admiración por la capacidad del traductor offline integrado de Firefox para ejecutarse localmente.
  • En lo que respecta al uso de la navegación, esto no es para mí. No quiero "conversar" con mi historial de navegación. Lo que quiero es que el navegador indexe el contenido real de mis marcadores para que el OS pueda buscarlo. Asumo que el ciclo de retroalimentación que obtengo de chatGPT siempre será mejor que una contraparte GPT local. Pero sí vale la pena guardar en marcadores páginas con información importante y volver a ellas varias veces. Empecé a construir una solución para eso. Rastrea los marcadores del almacenamiento local del navegador, descarga esas páginas y las agrega al índice de búsqueda del OS. Esto ha sido una obsesión mía durante años.*

    • Opinión de un usuario que quiere que el navegador indexe el contenido de los marcadores para el OS.
    • Está desarrollando una solución para marcar páginas con información importante y poder buscarlas fácilmente.
  • De verdad quiero una forma de "conversar" con mi historial de navegación y con el contenido de las páginas. ¿Hay alguna manera de guardar automáticamente las páginas visitadas para procesarlas después? Lo busqué hace más de 10 años, pero no encontré una buena solución.*

    • Interés en una forma de procesar después el historial de navegación y el contenido de las páginas.
  • Aquí podría haber algo interesante. En vez de depender del ida y vuelta con las megacorporaciones y enriquecerlas con cada prompt, usar un modelo local pequeño que respete mucho más la privacidad. Estaría dispuesto a contribuir a proyectos de código abierto con este modelo operativo o incluso financiarlos. Aunque no soy muy fan de la organización Mozilla, me gusta apoyar al que va contra la corriente.*

    • Apoyo al uso de modelos locales pequeños que respeten la privacidad.
    • Disposición a contribuir o financiar ese modelo operativo.
  • Los marcadores tradicionales fracasan porque su forma de organización depende de la memoria y no escala. Este tipo de interfaz sí puede escalar y, si se hace bien, podría reemplazarlos por completo. Pensándolo bien, esto también podría usarse con todos los archivos locales y funcionar como una mejor versión del concepto de sistema de archivos-base de datos. O incluso podría aplicarse a una base de conocimiento específica (por ejemplo, un Zotero basado en LLM).*

    • Opinión sobre el problema de escalabilidad de los marcadores y el potencial de esta nueva interfaz para sustituirlos.
    • Esta interfaz también podría aplicarse a archivos locales o a una base de conocimiento específica.
  • Enlace al repositorio de PrivateGPT para quien tenga interés: https://github.com/imartinez/privateGPT. Al parecer no está enlazado desde el sitio web oficial.*

    • Se comparte información sobre el repositorio de PrivateGPT.
  • Como exbecario que vivió la era de Firefox OS, esto me da la impresión de una posible reentrada futura de Mozilla al terreno de los OS. Internet nació para conectar a las personas, pero integrar todas las funciones geniales dentro del navegador no necesariamente es la mejor forma. Firefox OS era básicamente Gecko y renderizado HTML5 sobre un pequeño kernel de Linux. Como iOS e iPadOS, Mozilla podría ofrecer un OS similar para dispositivos/plataformas. Dado que han invertido en AR y VR durante los últimos 5 años, no me sorprendería que al final apuesten por otro Firefox OS.*

    • Especulación sobre la posibilidad de que Mozilla vuelva a ofrecer su propio OS en el futuro.
  • ¿Quisiste enlazar a un repositorio bifurcado? El enlace https://memorycache.ai/developer-blog/2023/11/30/we-have-a-website.html lleva a https://github.com/misslivirose/Memory-Cache, pero ¿te referías a https://github.com/Mozilla-Ocho/Memory-Cache?*

    • Pregunta sobre un enlace específico a un repositorio de GitHub.
  • Llevo mucho tiempo haciendo esto. La solución de FF solo está más automatizada.

    • Comparte una experiencia personal sobre la solución de Firefox.