- Facebook está solicitando acceso a fotos personales que los usuarios aún no han compartido para la función de Meta AI
- El objetivo de esta función es mejorar el rendimiento de la inteligencia artificial mediante el análisis de fotos privadas de los usuarios
- Se están planteando preocupaciones sobre la privacidad y la seguridad de los datos de los usuarios
- Meta otorga a los usuarios una opción de consentimiento voluntario y también destaca los beneficios de la función
- En la industria, hay atención sobre cómo podría evolucionar en general el uso de la información personal
Solicitud de Facebook para usar fotos con Meta AI
Facebook está solicitando acceso y análisis de fotos privadas que los usuarios aún no han subido a la plataforma social para mejorar el rendimiento de Meta AI
- Meta AI busca recopilar más datos de usuarios como estrategia para mejorar el rendimiento de sus algoritmos de reconocimiento y generación de imágenes
- Facebook solicita explícitamente el consentimiento para usar esta función, y los usuarios pueden rechazarlo (opt-out) o permitirlo (opt-in)
- En este proceso, existe la posibilidad de que fotos privadas se utilicen para el entrenamiento de IA, lo que podría aumentar los riesgos para la privacidad
- Meta sostiene oficialmente que el objetivo es el "avance de la IA y la mejora de la experiencia del usuario", y enfatiza un proceso transparente y la capacidad de elección
- Sin embargo, usuarios y expertos están expresando preocupación por la protección de la información personal y por posibles usos indebidos
Controversia sobre privacidad y uso de datos
Este cambio implica una transformación importante en la forma en que se utiliza la información personal en el conjunto de las plataformas de redes sociales
- La política de Facebook sobre el uso de imágenes privadas también podría entrar en conflicto con las normativas globales de protección de datos y leyes locales
- Se espera que en adelante se intensifique en toda la industria el debate sobre la transparencia en la recolección de datos y el uso de datos de entrenamiento para IA
1 comentarios
Comentarios de Hacker News
Se comparte una experiencia que muestra lo equivocado que puede estar el sistema de Meta para etiquetar y clasificar fotos. Una página de negocios con más de 150 mil seguidores que yo administraba fue bloqueada por violar la política de “prohibición de pornografía”. La foto en cuestión era una imagen de Saturno proporcionada por la NASA, pero la IA la clasificó como “color piel” y la confundió con piel humana. Usábamos una imagen de stock de la NASA y lo explicamos, pero aun así tomó semanas recuperar la página; fue una experiencia muy frustrante.
Si hubiera sido una foto desnuda de Venus, se entendería, pero que haya pasado con una foto de Saturno es realmente absurdo, comenta alguien en tono de broma.
Al menos no era una foto de Uranus, así que dentro de todo pudo haber sido peor, bromea otra respuesta.
Casos tan ridículos como este hacen que uno rechace profundamente la idea de administrar servicios sociales y atención al cliente con bots de IA. La conclusión es que, con la IA actual, jamás se le debe confiar a la IA el filtrado de reclamos humanos. Las empresas que implementan estos sistemas deberían ser castigadas por el mercado, dice una opinión contundente.
Probablemente este sistema use mal alguna técnica tipo filtro de Bloom en el backend.
Hay nostalgia por la época en que Facebook servía para volver a conectar de manera divertida con amigos o familiares que vivían lejos. Ahora da la impresión de haberse vuelto demasiado complejo, dedicado solo a recolectar datos e incluso amenazando la salud mental de los usuarios.
Facebook siempre fue una IA usando la apariencia de tus amigos; recién ahora el público empieza a darse cuenta.
Estoy creando una nueva red social que solo ofrece feed cronológico y no tiene perfiles públicos. Comparto una lista de invitación y una guía de diseño del layout. Es una plataforma hecha de forma muy intencional para ser simple. Si te interesa participar, recomiendo revisar la lista de espera: waitlist.
La opinión es que Facebook e Instagram claramente son perjudiciales para la gente. Algunas personas podrán tolerarlo de forma natural, pero la mayoría necesita pautas sobre cómo usarlos sin dañar su salud mental básica.
Yo también siento algo parecido. En los primeros años, Facebook parecía un rincón pequeño y acogedor de internet; era reconfortante ver actualizaciones de amigos lejanos o fotos de la cena de familiares. Pero ahora, apenas lo abres, sientes que el algoritmo te manipula, empujándote por hábito a hacer clic y seguir mirando hasta que cuesta parar. Se volvió más inteligente, pero perdió el interés por las personas.
Recuerdo que desde el principio Facebook insistía con mucha agresividad en que subieras toda tu libreta de contactos. Siempre fue una empresa hambrienta de datos. Creo que sin esa ética gris no habría podido crecer tan rápido como lo hizo.
La alegría de haber borrado Facebook en 2021 es casi imposible de describir. Se lo considera un caso emblemático de empresa tan adictiva como el juego o el tabaco.
Yo dejé de usar Facebook hace mucho y no pienso volver. Pero decir “simplemente deja Facebook” no es un consejo nada convincente para mucha gente en la práctica. Los deportes comunitarios, grupos de bricolaje, grupos de padres, actividades al aire libre y otras actividades presenciales suelen tener en Facebook su único canal en línea. Instagram es un canal principal para músicos y pequeños negocios, y WhatsApp es una herramienta de comunicación esencial en América Latina y Europa. Para mucha gente, Facebook no es una simple elección, sino una cuestión de participación comunitaria. Este problema no se puede resolver exigiendo costos sociales individuales; hay que abordarlo socialmente mediante regulación o desarrollando mejores alternativas. Igual que con el tabaco o el juego, lo central debería ser la regulación y la creación de alternativas.
Yo solo mantengo una cuenta de Facebook por Messenger. No uso para nada la app principal. No entiendo por qué se celebra tanto borrar la cuenta; si no la usas, el efecto y la sensación son básicamente los mismos que no tenerla.
El mejor momento para borrar Facebook fue hace mucho, pero el segundo mejor momento es ahora mismo.
Me parece que Facebook es lo peor. Hace 10 años borré la app y desde entonces solo reviso de vez en cuando las novedades de amigos desde el navegador móvil. Si Zuckerberg sigue adelante con cortar todas las conexiones, sería tan molesto reconstruirlas que probablemente termine borrando la cuenta por completo. Lo dice alguien que fue usuario temprano, desde la expansión a universidades después de Harvard.
Llevo años sin usar las apps de meta, twitter o reddit. Pero sigo conservando una cuenta de Facebook por la función de Marketplace. Conseguí mis dos contratos de alquiler de apartamento más recientes allí, en mejores condiciones que en sitios dedicados, así que quedé muy satisfecho. Mantener una cuenta solo para usar Marketplace desde PC me parece un compromiso razonable.
Por eso alguna vez les pedí a mis familiares que no subieran fotos de mis hijos a Facebook. Quiero que, cuando crezcan, puedan decidir por sí mismos cómo usar su propia cara. Ya es bastante duro imaginar que, sin siquiera haber empezado realmente en redes sociales, sus rostros terminen usándose para entrenar modelos desde que eran bebés.
En algunas culturas se evitó durante mucho tiempo tomar fotos porque se creía que la cámara robaba el alma. Ahora empiezo a entender por qué.
En algunos países, especialmente en lugares como Polonia, Facebook está tan metido en la vida de la gente que negarse a subir fotos hace que te vean como alguien raro. Hay un ambiente donde jardín de niños, primaria, secundaria y preparatoria quieren subir fotos de todo.
Los niños ni siquiera saben si en el futuro querrán ser espías o policías encubiertos, pero ya viven en una sociedad donde pueden ser identificados por reconocimiento facial. Durante varias generaciones podría volverse difícil incluso tener la oportunidad de trabajar en inteligencia sin exposición de identidad.
Como Facebook toma fotos directamente del carrete de la cámara, no basta con simplemente no subir fotos para protegerse.
Yo también pedí que no compartieran fotos familiares, pero mi suegra ignoró la petición y mis padres se enojaron. Al final me rendí.
Se sigue intentando convencer a los políticos con la lógica de “frenar la hegemonía china en IA”. Se plantea que las cláusulas de explotación al consumidor se insertan de forma astuta en leyes enormes para evitar regulación, aunque en realidad no tengan nada que ver con fines militares. La idea sería dejar que China domine la explotación del consumidor en línea y solo bloquear a sus empresas de internet. Si de verdad preocupa la hegemonía estadounidense, sería más útil invertir 500 mil millones de dólares en reactores de fusión.
La situación es realmente grave. Facebook e Instagram vienen preinstalados en muchos teléfonos Android y ni siquiera se pueden desinstalar por completo. Incluso si te piden consentimiento, el sistema está armado para que por error o desconocimiento termines tomando decisiones perjudiciales. Preocupa que ni siquiera se pueda imponer un estándar ético mínimo a empresas así. También se mantiene su poder de mercado con una especie de ambiente donde, si no entiendes el tema, cargas tú solo con el daño. Al final no solo arrastran a quienes son indiferentes a la privacidad, sino también a usuarios desinformados o que nunca quisieron participar.
Por este entorno, de verdad pasé semanas intentando conseguir un dispositivo reciente cuyo bootloader sí se pudiera desbloquear. Los modelos nuevos de OnePlus ya no se pueden desbloquear, y en el mercado de segunda mano abundan los que se venden como si sí se pudieran desbloquear. No quiero usar apps del fabricante y tampoco me entusiasma usar Google Play, pero llegué a la conclusión de que LineageOS con MindTheGapps es el mal menor. Si fuera posible, también me gustaría explorar sistemas operativos móviles basados en Linux como postmarketOS o Mobian.
Con ADB (Android Debug Bridge) puedes desactivar por completo las apps preinstaladas de Facebook e Instagram incluso sin root. Se comparte el tip de usar el comando
pm disable-userpara bloquear la recolección de datos.Si compraste un teléfono eligiendo una marca con este tipo de prácticas empresariales, entonces al final también hay una responsabilidad de elección del consumidor. Hay bastantes marcas buenas que sí permiten borrar todas las apps.
Algunas de las mejores decisiones de mi vida:
Más allá de si es opt-in o no, incomoda que Meta ya tenga el descaro de hacer este tipo de propuestas. Incluso sin IA, Meta ha intentado repetidamente salirse de los límites normales de una app móvil, por ejemplo con Onavo VPN o el rastreo por localhost.
Si alguien lo necesita, se recuerda que una cuenta de Meta se puede borrar en cualquier momento y dejar de conectarla por completo.
Se señala la realidad de que borrar una cuenta de Meta también puede significar perder conexiones sociales del mundo real. Meta controla por completo los canales de comunicación de muchas comunidades; por ejemplo, un entrenador de natación que solo usa WhatsApp. Convencer a más de 50 integrantes de cambiar de plataforma es demasiado difícil, y quienes participan en varias comunidades se resisten todavía más al cambio. Como la mayoría además usa WhatsApp en otros ámbitos, adoptar una alternativa se vuelve una carga excesiva.
Hace poco intenté crear una cuenta para usar Facebook Marketplace y me impactó que en el proceso de registro me pidieran una verificación con video selfie. Abandoné de inmediato y ahora, con ironía, digo que ya no me comunicaré con nadie en Marketplace.
Incluso si borras la cuenta, Meta sigue recopilando datos del usuario y construyendo perfiles, así que no es un bloqueo completo.
Se piensa que zuck debería ir perdiendo presencia cada vez más. En los últimos años no ha hecho nada especialmente interesante y solo ha repetido intentos de recolectar datos privados para ver qué puede hacer con ellos.