Meta debe detener de inmediato su invasivo feed Discover de IA

 (mozillafoundation.org)
1 puntos por GN⁺ 2025-06-07 | 1 comentarios | Compartir por WhatsApp
  • Meta está generando preocupación por invasión a la privacidad al publicar en el feed Discover conversaciones personales generadas en chats de IA sin el consentimiento de los usuarios
  • La comunidad de Mozilla exige la suspensión del feed Discover, que las conversaciones de IA sean privadas por defecto, que la divulgación de información se base en el consentimiento del usuario y que haya transparencia
  • Se necesita construir un sistema universal de opt-out fácil de usar para cualquiera y otorgar el derecho de eliminación permanente cuando se publiquen conversaciones privadas
  • Muchas personas no se dan cuenta de que su información personal está quedando expuesta públicamente
  • Esta campaña insta a garantizar que el contenido de las conversaciones de los usuarios no se haga público sin un consentimiento previo claro

Resumen del contenido

Preocupaciones por invasión a la privacidad

  • Meta ha estado convirtiendo silenciosamente en contenido público, a través del feed Discover, conversaciones personales realizadas al usar su servicio de inteligencia artificial (IA)
  • Muchos usuarios no son conscientes de que el contenido que ingresan en sus conversaciones se está haciendo público

Exigencias de la comunidad de Mozilla

  1. Suspensión inmediata del feed Discover
    • Exigen que se detenga el feed Discover hasta que existan protecciones reales de privacidad
  2. Conversaciones de IA privadas por defecto
    • Exigen que todas las interacciones con la IA se mantengan como privadas por defecto y que no se permita la función de publicación sin información suficiente ni consentimiento
  3. Solicitud de transparencia
    • Exigen que se publiquen cifras claras sobre cuántos usuarios compartieron información personal sin previo conocimiento o consentimiento
  4. Construcción de un sistema universal de opt-out
    • Meta debe ofrecer en todas sus plataformas un sistema de opt-out fácilmente accesible para cualquiera, para evitar que los datos personales se usen en el entrenamiento de IA
  5. Notificación y derecho de eliminación
    • Debe notificarse de inmediato a los usuarios cuyas conversaciones privadas hayan sido publicadas y otorgarles el derecho de eliminar permanentemente ese contenido si así lo desean

La frontera difusa entre la vida privada y el espacio público

  • Los cambios de política de Meta han difuminado la frontera entre las conversaciones privadas y el contenido público
  • Las personas creen que están hablando en un espacio privado, pero en realidad existe el riesgo de que su información se difunda públicamente

Campaña y llamado a firmar

  • Está en marcha una campaña para detener la publicación de conversaciones sin consentimiento individual y garantizar una opción clara para el usuario
  • Los usuarios que estén de acuerdo con la campaña pueden dejar su nombre y participar en una recolección de firmas para exigir cambios en la política de Meta

Lecturas relacionadas

1 comentarios

 
GN⁺ 2025-06-07
Opiniones de Hacker News

  • Material de contexto:

    • “Meta has a new stand-alone AI app. It lets you see what other people are asking.” https://www.businessinsider.com/meta-ai-app-public-feed-warn... (mayo de 2025)
    • “People are seemingly accidentally publishing their AI chat histories with Meta’s new AI app” https://www.crikey.com.au/2025/05/05/meta-ai-chatbot-discove... (mayo de 2025)
      El primer enlace dice que las conversaciones son privadas por defecto y que es muy probable que haya habido un error del usuario de por medio[1]. El énfasis de Mozilla, a primera vista, también puede leerse como si dijera lo contrario[2]
      [1]: “To be clear, your AI chats are not public by default — you have to choose to share them individually by tapping a share button. Even so, I get the sense that some people don't really understand what they're sharing, or what's going on.”
      [2]: La primera vez que lo vi, entendí así “Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.”
    • No sé con certeza cuál es la situación en sí, pero desde Google Docs hasta ChatGPT y Notion, hay una distinción clara entre “crear un enlace compartido que solo puedan ver quienes tengan el link” y hacer que ese enlace compartido sea buscable/descubrible por el público.
      Si Meta activa por defecto la capacidad de búsqueda/descubrimiento al presionar el botón de compartir en un chat de IA —o peor aún, si directamente no ofrece una opción cercana al estándar de la industria—, eso explicaría la confusión y sería un dark pattern muy inesperado. Como dice el comentario padre, presionar el ícono de compartir por sí solo no equivale a un consentimiento debidamente informado.
    • No he usado la app y probablemente no la use en el futuro, pero ninguno de los dos artículos muestra el mecanismo por el cual el usuario elige “compartir” una interacción. ¿Hay algún dark pattern?
      En otras apps, cuando presionas “compartir”, aparece un modal para elegir el método, como WhatsApp, mensaje de texto o email, y recién después de elegir el método y el destinatario se comparte de verdad. Pero si el botón “compartir” publica de inmediato, quienes esperaban elegir en el siguiente paso a una persona específica de confianza podrían sorprenderse bastante.
    • Uso la app y se me hace raro porque nunca me han incitado a compartir nada

  • Tras usar la app directamente, es difícil interpretar este texto de otra forma que no sea que Mozilla está mintiendo. Compartir en esta app funciona igual que en otras apps de redes sociales
    Hay un botón “Share” en la esquina superior derecha de la app y, al tocarlo, aparece una pantalla intermedia con un gran botón “Post” abajo. Si tocas ese botón, se comparte el chat
    ¿Será que otras personas ven otra pantalla? ¿Por qué Mozilla dice esto? La mayoría de los requisitos ya están cumplidos

    Shut down the Discover feed until real privacy protections are in place.
    Todo ya es privado de forma predeterminada, y puedes ver qué es público
    Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.
    Ya es cierto
    Provide full transparency about how many users have unknowingly shared private information.
    No hay motivo para que Meta tenga que hacer esto
    Create a universal, easy-to-use opt-out system for all Meta platforms that prevents user data from being used for AI training.
    Ya existe. Corrección: parece que solo aplica a usuarios de la UE. Personalmente, no veo que esto esté relacionado con la afirmación sobre compartir públicamente
    Notify all users whose conversations may have been made public, and allow them to delete their content permanently.
    Esto también ya existe

    • Este es un problema de patrones oscuros. Mucha gente intentaba compartir con una persona específica, pero por error lo está compartiendo con el público en general. Ese es uno de los problemas que se señalan aquí. Para mucha gente, “share” significa “dame una forma de compartirlo con una persona específica”, no “muéstralo para que el público en general pueda indexarlo y buscarlo”
    • No soy usuario, pero ¿la diferencia no está en que el usuario esperaba que el elemento compartido solo fuera visible para sus amigos, cuando en realidad queda público?
    • Tal vez estén viendo pantallas distintas. Podría ser hoy, o podría ser mañana
      El problema central de Meta ahora, como han dicho otros, son los patrones oscuros. Meta mueve, modifica y elimina elementos de la UI según la acción que quiere que realice el usuario. Siempre sorprende cuando algo termina publicado, compartido o cambiado sin que haya sido intencional, o incluso sin recordar haber hecho esa acción. En los productos de Meta, simplemente parece que pasan cosas, incluso en cuentas inactivas
      Si usas productos de Meta el tiempo suficiente, te das cuenta de que dos usuarios no tienen garantizada la misma experiencia. No hay una experiencia estándar. Cambia según la región y el idioma y, francamente, según otros factores desconocidos. En producción prueban y optimizan patrones oscuros constantemente. Si usas Meta Business Suite durante apenas una hora, verás que toda la plataforma se parece más a un laberinto de patrones oscuros hecho de enlaces rotos, funciones rotas y elementos de UI que no llevan a ninguna parte o llevan a funciones abandonadas. Un equipo intenta que hagas X y uses la función Y; otro equipo intenta que hagas Z y uses la función W. Business Suite mezcla todo eso. Aunque congelaras el código hoy y estudiaras Business Suite durante meses, descubrirías que todo, hasta el fondo, son patrones oscuros
    • ¿Por qué Mozilla distribuyó un complemento de adware oculto con permisos del sistema para promocionar un programa de TV?
      ¿Por qué Mozilla integró un servicio arbitrario de terceros sin preguntar?
      ¿Por qué Mozilla envió el historial de navegación a Cliqz?
      ¿Por qué Mozilla integró rastreo de Google que no se podía bloquear?
      ¿Por qué Mozilla vendió datos?
      ¿Por qué Mozilla instaló servicios de telemetría que se vuelven a activar después de una actualización aunque los hayas desactivado?
      ¿Por qué Mozilla miente así?
      Porque es Mozilla
    • La exigencia de “proporcionar transparencia total sobre cuántos usuarios compartieron información privada sin saberlo” probablemente ni Meta pueda cumplirla. ¿Cómo sabría si un usuario compartió sin saberlo?

  • El artículo de Mozilla explica bastante mal qué está mal, así que entré directamente a la app de Meta AI:
    Los chats tienen un botón “Share”
    Al tocarlo, se ve un borrador del chat y un botón “Post”
    Al tocar “Post”, el chat se publica de forma pública y te lleva a la pestaña “Discover”
    En el chat publicado, puedes tocar el ícono de “send” para enviarle a otra persona el enlace del chat
    Personalmente, creo que efectivamente es un patrón oscuro y que no coincide con la forma en que la gente entiende la acción de “Share”. Tampoco me gusta que no puedas compartirlo sin hacer público el chat
    Por ejemplo, la publicación principal de Discover que veo ahora es una imagen estilizada a partir de la foto de un bebé, y al abrir la publicación también se puede ver la foto original. Parece muy probable que quien la subió estuviera intentando compartir la foto con un familiar o amigo
    En conjunto, Meta hizo lo más propio de Meta. Es la idea de que es mejor pedir perdón después que pedir permiso antes

    • Sí, exactamente eso. En el teléfono, uso share todo el tiempo para compartir en privado fotos, páginas web, etc. con otra persona mediante apps de mensajería. Eso es lo que “share” significa para mí ahora
    • Si no estás seguro de lo que estás haciendo, no deberías hacerlo. Por ejemplo, acabo de publicar algo en Hacker News, y el botón de mi app dice “submit” y no advierte que se va a publicar en internet. ¿Eso es un problema? No. Porque sé lo que estoy haciendo, y cualquiera que use internet también debería saberlo

  • Suena como algo grave, ¿pero Mozilla no puede dar más información?
    Hacen falta ejemplos o capturas de pantalla. Después de leerlo, sigo sin entender cuándo ni cómo ocurre esto.

    • Lo explican pésimo. De hecho, ni siquiera intentan explicarlo. Probablemente tenga que ver con la nueva app de redes sociales con IA de Meta:
      https://about.fb.com/news/2025/04/introducing-meta-ai-app-ne...
      Escuché que algunas personas están usando la IA ahí sin darse cuenta de que están compartiendo públicamente sus prompts.
    • El contexto relevante es este:
      “Meta incorporó funciones sociales a su app de IA independiente lanzada la semana pasada. Consultas privadas como ‘¿qué es este sarpullido vergonzoso?’ o ‘¿cómo le digo a mi esposa que ya no la amo?’ pronto podrían ser visibles para cualquiera que se desplace por la pestaña Discover de la app”.
      https://www.fastcompany.com/91327812/metas-ai-social-feed-is...

  • Falta contexto y ejemplos para entender cuál es la preocupación.
    El tono es muy justiciero e imperativo, aunque no lo respalde ningún caso concreto ni autor anónimo.
    “Mozilla: Improve your messaging. Now.”

    • “Mozilla: Improve your messaging. Now.” fue lo primero que vi. Era tan malo que me dieron ganas de salirme de inmediato, y fue una señal clarísima. Mi detector de tonterías se activó, pero como tenía tantos puntos en HN leí el resto, y no estaba equivocado.

  • La puntuación de “Meta: shut down [...]” hace que parezca que Meta está diciendo “shut down”. Debería llevar coma, como en “Meta, shut down your [...]”.

    • En las apps de chat antiguas, los dos puntos se usaban para llamar la atención de alguien. Por ejemplo, en clientes de IRC, si autocompletabas un nick con Tab, se agregaban automáticamente dos puntos cuando el mensaje empezaba con ese nick.
    • Meta: Shut down. You're invasive. (AI Discover feed)
    • Quizá “Dear Meta: ...” quedaría mejor.

  • I’m okay with Mozilla handling my info as explained in this Privacy Notice.
    La ironía de que esa casilla sea obligatoria para enviar un formulario de protesta por privacidad.

  • Lo correcto es simplemente salir de las plataformas de Meta.

    • La mayor parte del mundo fuera de EE. UU. vuelve a WhatsApp.
      SMS no es una opción. De nuevo, porque fuera de EE. UU. se paga por cada SMS enviado.
      Hay planes de interoperabilidad para WhatsApp, pero probablemente solo se apliquen a la UE.
      https://www.wired.com/story/whatsapp-interoperability-messag...
    • Me recuerda a la historia de hace unos días: “Meta found 'covertly tracking' Android users through Instagram and Facebook”. Era el caso en que desde un píxel web se enviaban solicitudes STUN al localhost de las apps de Meta (FB/IG).
      Me cuesta creer que alguien esté realmente preocupado por el rastreo mientras usa Facebook/Instagram, especialmente sus apps móviles que se ejecutan todo el tiempo.
      ¿Facebook todavía opera un servicio onion en Tor? En el pasado parecía la única forma de usar esos productos evitando el rastreo extremo.
    • Por los efectos de red, la mayoría está atada al menos a un producto de Meta. Si tus amigos usan Instagram/Facebook/WhatsApp para contactarse y organizar planes, dejar la plataforma es parecido a cortar el vínculo con tu comunidad.
      Por eso el gobierno tiene un papel en regular la privacidad y exigir interoperabilidad entre plataformas. “Simplemente no lo uses” no es una exigencia realista.
    • No hay que irse por completo de Meta; solo hay que aprovecharse sin aportar. No contribuir publicaciones, comentarios ni señales de comportamiento. Usar la web app y, si es posible, dentro de un contenedor de navegación privada separado. Hay que eliminar todas las apps de Meta del dispositivo y arrancarlas de raíz.
    • También hay que salirse del negocio de Mozilla.

  • ¿Por qué este sitio web no funciona bien en Firefox Mobile? Mozilla, por favor, pónganse las pilas.
    El viewport ocupa solo 1/4 de la pantalla del teléfono, y puedes desplazarte por él dentro de un vacío negro.

  • Una empresa de redes sociales creó una app de IA que puede compartir resultados en redes sociales. ¡Qué sorpresa!
    Pero si escribes un texto sin ningún detalle, con unas cuantas palabras de moda y llamados a la acción, llegará a la portada de HN y mantendrá vivo el ciclo de indignación del día. Mañana volveremos a “Google es malo”.