Meta debe detener de inmediato su invasivo feed Discover de IA

• Meta está generando preocupación por invasión a la privacidad al publicar en el feed Discover conversaciones personales generadas en chats de IA sin el consentimiento de los usuarios
• La comunidad de Mozilla exige la suspensión del feed Discover, que las conversaciones de IA sean privadas por defecto, que la divulgación de información se base en el consentimiento del usuario y que haya transparencia
• Se necesita construir un sistema universal de opt-out fácil de usar para cualquiera y otorgar el derecho de eliminación permanente cuando se publiquen conversaciones privadas
• Muchas personas no se dan cuenta de que su información personal está quedando expuesta públicamente
• Esta campaña insta a garantizar que el contenido de las conversaciones de los usuarios no se haga público sin un consentimiento previo claro

---

Resumen del contenido

Preocupaciones por invasión a la privacidad

• Meta ha estado convirtiendo silenciosamente en contenido público, a través del feed Discover, conversaciones personales realizadas al usar su servicio de inteligencia artificial (IA)
• Muchos usuarios no son conscientes de que el contenido que ingresan en sus conversaciones se está haciendo público

Exigencias de la comunidad de Mozilla

1. Suspensión inmediata del feed Discover
   • Exigen que se detenga el feed Discover hasta que existan protecciones reales de privacidad
2. Conversaciones de IA privadas por defecto
   • Exigen que todas las interacciones con la IA se mantengan como privadas por defecto y que no se permita la función de publicación sin información suficiente ni consentimiento
3. Solicitud de transparencia
   • Exigen que se publiquen cifras claras sobre cuántos usuarios compartieron información personal sin previo conocimiento o consentimiento
4. Construcción de un sistema universal de opt-out
   • Meta debe ofrecer en todas sus plataformas un sistema de opt-out fácilmente accesible para cualquiera, para evitar que los datos personales se usen en el entrenamiento de IA
5. Notificación y derecho de eliminación
   • Debe notificarse de inmediato a los usuarios cuyas conversaciones privadas hayan sido publicadas y otorgarles el derecho de eliminar permanentemente ese contenido si así lo desean

La frontera difusa entre la vida privada y el espacio público

• Los cambios de política de Meta han difuminado la frontera entre las conversaciones privadas y el contenido público
• Las personas creen que están hablando en un espacio privado, pero en realidad existe el riesgo de que su información se difunda públicamente

Campaña y llamado a firmar

• Está en marcha una campaña para detener la publicación de conversaciones sin consentimiento individual y garantizar una opción clara para el usuario
• Los usuarios que estén de acuerdo con la campaña pueden dejar su nombre y participar en una recolección de firmas para exigir cambios en la política de Meta

[GN⁺]

Opiniones en Hacker News

• Comparte el enlace del artículo sobre la nueva app independiente de AI de Meta y, al mismo tiempo, menciona que el hecho de que las conversaciones se hagan públicas se debe a un error del usuario. Enfatiza que, por defecto, las conversaciones están configuradas como privadas y solo se hacen públicas si se pulsa el botón de “Compartir”. Expresa que el tono tan duro de Mozilla puede dar lugar a malentendidos sobre la experiencia de usuario

  • Menciona que varios servicios como Google Docs, ChatGPT y Notion distinguen claramente entre “compartido solo con quienes tengan el enlace” y “contenido compartido públicamente, indexable en búsquedas”. Sostiene que, si Meta hace que al pulsar compartir el contenido se vuelva inmediatamente indexable o ni siquiera ofrece esa distinción, entonces se trata claramente de un patrón oscuro. Plantea la preocupación de si hacer clic en el ícono de “Compartir” realmente puede considerarse un consentimiento adecuado
  • Dice que no ha usado la app en la práctica, pero que el artículo no muestra cómo se obtiene el consentimiento del usuario para compartir, lo que le resulta confuso. Normalmente, en otras apps, después de pulsar compartir aparece un modal para elegir destinatario y método de envío; si aquí al pulsar “Compartir” se publica de inmediato para todo el mundo, piensa que cualquiera se sorprendería
  • Junto con el enlace del artículo, opina que la petición de Mozilla carece de casi todo el contexto útil para ayudar realmente
  • Comenta que usa la app en la vida real, pero que nunca le han sugerido compartir ni ha recibido avisos al respecto
  • Da como retroalimentación que el artículo compartido le pareció muy ambiguo y poco claro tanto en la causa como en el punto central

• Tras usar directamente la app, cree que no puede interpretarse de otra manera que Mozilla está difundiendo información falsa. Dice que el sistema de compartir de esta app es exactamente igual al de cualquier otra app de redes sociales. En la esquina superior derecha de la app hay un botón “Share”, y al pulsarlo aparece un gran botón “Post” en la parte inferior. Si se pulsa, esa conversación se comparte públicamente.

  • Explica que la mayoría de las exigencias de Mozilla ya se cumplen: por defecto todas las conversaciones son privadas, se ve claramente si algo es público, no está de acuerdo con que Meta tenga que revelar de forma transparente cuánta información personal publicó la gente por error, en Europa ya existe la opción de opt-out, y también ya se ofrece notificación a quien publicó y una función de borrado permanente
    • Señala el problema de patrón oscuro: el botón “Compartir” no sirve para elegir a una persona específica, sino que funciona como publicación pública total, por lo que mucha gente termina compartiendo con todo el mundo algo que no quería. Para la mayoría, “compartir” sugiere enviar a otra persona o dar acceso limitado, y puede que jamás hayan querido hacerlo público
    • Aunque no es usuario real, señala que el núcleo del problema es que la gente podría creer por error que el contenido compartido solo lo verán sus amigos
    • Plantea la pregunta: “¿Estoy viendo la misma pantalla que otras personas?”. Afirma que el problema esencial de Meta es una UI inconsistente y llena de patrones oscuros, con equipos compitiendo por inducir conductas del usuario y diseños que en la práctica hacen que se compartan amigos o publicaciones sin querer. Añade que la experiencia cambia según la región y el idioma, y que Meta Business Suite en particular está llena de patrones oscuros como un auténtico laberinto
    • No está de acuerdo con la exigencia de revelar con transparencia cuántos usuarios hicieron pública información por error. Señala que Meta no puede saber si el usuario lo hizo accidentalmente o de forma intencional
    • Sostiene que Mozilla ya ha roto la confianza antes con instalaciones dudosas de complementos, integraciones con servicios de terceros, envío no autorizado del historial de uso y rastreo forzado de Google, y que el hecho de que ahora mienta sería una prolongación de esa misma trayectoria

• Como la publicación de Mozilla no explicaba bien el problema, probó personalmente la app Meta AI.

  • En la pantalla del chat hay un botón “Share”; al pulsarlo, aparece un botón “Post” en la parte inferior de la página de borrador; al pulsarlo, el chat se publica para todo el mundo en la pestaña Discover; después, con el ícono de “enviar”, se puede mandar el enlace de forma individual
  • Considera que esta estructura es claramente un patrón oscuro y le molesta que no exista una forma sencilla de compartir un enlace solo con familiares, conocidos o una sola persona sin hacerlo público por completo
  • Cuenta que en la pestaña Discover encontró arriba de todo una publicación con la foto de un bebé, y como incluso estaba subida la imagen original, supone que probablemente ese usuario quería enviarla solo a familiares o amigos
  • Concluye que esto refleja el estilo típico de Meta de “hacerlo primero y disculparse después”, dando más importancia a pedir perdón después que a obtener consentimiento previo
    • Opina que, si uno no está seguro de lo que está haciendo, lo correcto es no hacerlo. Dice que, cuando pulsa el botón “submit” en Hacker News, él sí es consciente de que eso se publica en todo internet, y que quien usa internet debe asumir esa responsabilidad

• Pregunta por ejemplos más concretos, capturas de pantalla o el momento exacto en que ocurrió lo que señala Mozilla

  • Dice que la explicación es bastante insuficiente y menciona que se trata de una situación relacionada con la nueva app social de AI de Meta. Explica que algunos usuarios están publicando en público los resultados de sus chats con AI sin darse cuenta enlace de presentación de Meta AI
  • Añade que, a través de la pestaña “Discover” de la app, cualquiera puede ver preguntas delicadas, como sobre enfermedades o rupturas, y también comparte un artículo más detallado

• Critica que el mensaje de campaña de Mozilla carece de contexto y suena a una orden absoluta

• Comenta que la frase “Meta: shut down [...]” parece como si Meta estuviera diciendo “shut down”, así que sugiere corregirlo con una coma (,) o usar una forma como “Dear Meta: ...” para que quede más claro

  • Añade que en apps de chat antiguas era común poner dos puntos (:) después del apodo para llamar la atención del interlocutor

• Opina que lo mejor es no usar en absoluto las plataformas de Meta

  • Explica que, en la mayoría de los países fuera de Estados Unidos, Whatsapp es el medio de comunicación estándar y los SMS se cobran por mensaje. Añade, junto con un artículo relacionado, que la interoperabilidad de Whatsapp solo está prevista en la UE
  • También lo relaciona con un artículo reciente según el cual Meta rastreó en secreto a usuarios de Android mediante el web pixel de Instagram y Facebook. Antes, los servicios onion de Tor eran prácticamente la única forma de evitar estas invasiones de privacidad, pero ahora en la práctica ya es casi imposible esquivar el rastreo
  • Aconseja no salir por completo de Meta, sino adoptar una estrategia “parasitaria”: consumir contenido sin dejar publicaciones ni ninguna señal. Recomienda borrar del dispositivo todas las apps de Meta
  • Señala que, gracias al efecto de red, mucha gente queda conectada de forma semicoactiva. Si uno quiere mantener los planes de sus amigos o una comunidad, es difícil irse; por eso proteger la privacidad y garantizar la interoperabilidad debería ser tarea del gobierno. El consejo de “simplemente no lo uses” no es realista
  • Añade que también hay que desconfiar de la influencia comercial de Mozilla

• Señala la ironía de que, para enviar el formulario de la petición sobre privacidad, sea obligatorio aceptar la política de privacidad de Mozilla

• Comparte un caso en el que el sitio web no se mostraba correctamente en FireFox Mobile y pide a Mozilla que lo arregle

• En resumen, opina que están logrando llevarlo al top de HN con un artículo exagerado, lleno de buzzwords y generador de polémica, sobre el hecho bastante obvio de que una empresa de redes sociales hace que se compartan resultados de AI