- Desde el estallido de la guerra entre Israel y Gaza el 7 de octubre, Meta ha sido criticada por restringir en exceso expresiones propalestinas en la moderación de contenido de Facebook e Instagram
- Un informe de 51 páginas de Human Rights Watch resume eliminaciones, suspensiones y bloqueos permanentes de cuentas, restricciones a la interacción y shadow banning como “seis patrones clave de censura indebida”
- Los reportes revisados abarcan más de 1,000 casos de más de 60 países; la mayoría eran contenidos en inglés y, según HRW, todos expresaban apoyo pacífico a Palestina y a los palestinos
- Meta reconoció algunos errores e inconvenientes para los usuarios, pero rechazó que hubiera una represión intencional y sistemática de ciertas voces, y sostuvo que 1,000 casos no bastan para demostrar una censura sistemática
- Tras preguntas de la senadora Elizabeth Warren y una decisión de la Junta de Supervisión de Meta sobre eliminaciones erróneas, los errores en la aplicación de políticas y la dependencia de la automatización emergen como temas clave en la moderación de contenido sobre conflictos
La acusación de censura de HRW
- Human Rights Watch afirma que Meta ha censurado contenido propalestino de forma “systemic and global” desde el estallido de la guerra entre Israel y Gaza el 7 de octubre
- El informe de 51 páginas documenta y revisa más de 1,000 casos reportados en Facebook e Instagram
- Los “seis patrones clave de censura indebida” identificados por HRW incluyen lo siguiente
- Eliminación de publicaciones, historias y comentarios
- Desactivación de cuentas
- Suspensión o bloqueo permanente de cuentas
- Restricción de la posibilidad de interactuar con publicaciones de otros usuarios
- Shadow banning que reduce de forma importante la visibilidad y el alcance del contenido
Casos revisados y alcance
- Los casos citados por HRW incluyen contenido procedente de más de 60 países
- Según HRW, la mayoría era contenido en inglés y todos expresaban de distintas maneras apoyo pacífico a Palestina y a los palestinos
- Incluso una publicación de HRW para recopilar casos de censura en línea fue marcada como spam
Causas señaladas por HRW
- HRW considera que la censura de contenido relacionado con Palestina en Instagram y Facebook es sistemática y global
- Señala como raíces del problema las siguientes
- Aplicación inconsistente de las políticas de Meta
- Dependencia excesiva de herramientas automatizadas en la moderación de contenido
- Influencia gubernamental indebida sobre la eliminación de contenido
- Eliminaciones erróneas de contenido relacionado con Palestina por una implementación incorrecta de las políticas
La respuesta de Meta
- En una postura enviada a The Guardian, Meta reconoció que ocurren errores y que eso puede resultar “frustrating” para las personas
- Sin embargo, rechazó como falsa la insinuación de que hubiera reprimido voces específicas de forma intencional y sistemática
- Considera que, dado el volumen total de publicaciones relacionadas con el conflicto, tomar 1,000 casos como prueba de censura sistemática induce a error
- Meta afirmó ser la única empresa del mundo que ha publicado su human rights due diligence sobre temas relacionados con Israel y Palestina
- También sostuvo que el informe de HRW ignora la realidad de aplicar políticas a nivel global en un conflicto que evoluciona rápidamente, está extremadamente polarizado y es de alta intensidad
- Señaló que sus políticas están diseñadas para dar voz a todas las personas y al mismo tiempo mantener segura la plataforma
Presión externa ese mismo mes
- La senadora demócrata por Massachusetts, Elizabeth Warren, envió una carta a Mark Zuckerberg para solicitar información sobre cientos de reportes de usuarios de Instagram que, desde octubre, habrían sufrido degradación de contenido, eliminaciones y shadow banning
- Esa misma semana, la Junta de Supervisión de Meta determinó que Meta se había equivocado al eliminar dos videos relacionados con el conflicto en Instagram y Facebook
- Uno era un video de Instagram con escenas posteriores a un ataque aéreo cerca del hospital al-Shifa en Gaza
- El otro era un video de Facebook que mostraba a una mujer siendo tomada como rehén durante los ataques del 7 de octubre
- La junta consideró que ambos videos tenían valor para “mostrar al mundo el sufrimiento humano de ambos lados”, y los videos fueron restaurados
- Usuarios de productos de Meta han sostenido que existe un sesgo técnico favorable al contenido proisraelí y desfavorable a las publicaciones propalestinas
- El software de traducción de Instagram tuvo un caso en que una expresión con “Palestinian” seguida de la frase árabe “Praise be to Allah” se convirtió en inglés en “Palestinian terrorists”
- WhatsApp AI generó niños caricaturizados con armas al pedir imágenes de niños y niñas palestinos, mientras que las imágenes de niños israelíes no incluían armas
1 comentarios
Opiniones de Hacker News
Si lees el informe real de HRW, parece que la mayoría del material fue eliminado legítimamente porque, según las políticas de Meta, constituía apoyo a la violencia.
Por ejemplo, “from the river to the sea” fue eliminado porque muchas personas lo consideran discurso de odio, y en otros casos era contenido que elogiaba los ataques de Hamas, organización designada como terrorista por el gobierno de Estados Unidos.
Si uno se guía solo por la explicación de HRW, la mayoría de las 1,049 eliminaciones parecen casos que violaban claramente la política de Meta que prohíbe apoyar la violencia; estés o no de acuerdo, no resulta sorprendente a la luz de las propias reglas de Meta.
Parece que lo que Meta prohíbe es un tipo específico de violencia: la violencia contra Israel.
HRW dijo que la política de “desnudez adulta y actividad sexual” se aplicó repetidamente de forma incorrecta a contenido relacionado con Palestina, pero en todos los casos revisados las imágenes mostraban a palestinos muertos sobre escombros, y todos estaban vestidos. No había desnudez ni actividad sexual.
Además, una publicación de Facebook que decía “cómo se puede justificar apoyar el asesinato de bebés y civiles inocentes…” fue eliminada bajo el criterio de “acoso e intimidación”, y una foto de un niño muerto en un hospital de Gaza con el texto “Israel bombs the Baptist Hospital…” fue eliminada por “violencia e incitación”. Es decir, una publicación contra la violencia fue tratada como acoso, y una imagen y una frase que hablaban de acciones de Israel fueron tratadas como incitación.
Que un comentario que solo publicaba el emoji de la bandera palestina recibiera una advertencia de que “podría herir a otras personas”, o que la bandera palestina fuera ocultada o eliminada porque “acosa, señala como objetivo y avergüenza”, son casos difíciles de justificar.
Publicaciones que criticaban al gobierno israelí y a Benjamin Netanyahu también fueron eliminadas bajo reglas de “organizaciones o individuos peligrosos” y discurso de odio, aunque ya antes del 7 de octubre había muchas razones para criticar a Netanyahu.
Sobre “From the river to the sea”, el informe dice que Meta no lo eliminó por considerarlo “de odio”, sino que lo borró bajo criterios de spam, junto con expresiones como “Free Palestine”, “Ceasefire Now” y “Stop the Genocide”, sin considerar el contexto. Tratar expresión política como spam suena bastante falso.
Es cierto que “muchas personas lo ven como odio”, pero es algo subjetivo y complejo. Políticos conservadores israelíes también han usado expresiones muy parecidas: https://en.wikipedia.org/wiki/From_the_river_to_the_sea#Simi...
Si realmente se denunciaron y bloquearon publicaciones que elogiaban los ataques del 7 de octubre, entonces Meta habría estado aplicando su política, pero aquí parece que no fue solo eso. Es cierto que el informe no da cifras por tipo específico de medida, y que al basarse en denunciantes tiene limitaciones y sesgos, pero incluso dentro de ese alcance limitado no muestra a Meta aplicando sus políticas de manera justa y competente.
Aun así, no quiero explicarlo todo solo por mala fe. Si terceros motivados denuncian repetidamente como “desnudez” fotos de palestinos muertos vestidos, y los sistemas de Meta están diseñados bajo la premisa de confiar en las denuncias de usuarios, es fácil que se produzcan sanciones incorrectas.
El Gran Israel del río al mar y los palestinos apátridas sin derechos son, en la práctica, una realidad desde hace 56 años.
En un mapa típico, solo una diminuta “Área A” aparece marcada con otro color, apenas como indicio de que existe territorio palestino, mientras que East Jerusalem y la mayor parte de West Bank simplemente parecen propiedad de Israel: https://qph.cf2.quoracdn.net/main-qimg-9fb3beb756529713386cc...
Buscar justificaciones para Hamas o apoyarlo en la guerra en curso es, si lo piensas, bastante delirante. Recuerdo que durante el 9/11 algunos sectores del mundo árabe se pusieron del lado de bin Laden, pero esta vez también está pasando en Occidente.
Al comienzo del conflicto, mi feed estaba totalmente inclinado hacia el apoyo a Israel. En realidad eran publicaciones de unas 3 personas, pero aun así daba esa impresión, y los posts de más de 30 personas que pedían detener los bombardeos contra civiles recién empezaron a aparecer a fines de noviembre.
Esas personas habían estado publicando todo el tiempo, pero el algoritmo de Meta decidió no mostrármelas
El título es bastante clickbait.
Incluso el informe real dice que “esta distribución de casos no necesariamente refleja la distribución general de la censura”.
Como el método fue pedirle a la gente que reportara casos directamente, es muy probable que haya sesgo de selección. Puede que solo lo hayan difundido entre el lado propalestino, que el lado israelí no haya querido participar por considerar que HRW está sesgada, o que hubiera otras razones. Tampoco parece haberse considerado la falacia de la tasa base.
Con esta metodología es difícil juzgar si hay sesgo de censura por parte de Meta.
“Human Rights Watch recopiló casos de censura en línea de todos los puntos de vista relacionados con Israel y Palestina. De los 1,050 casos revisados en este informe, 1,049 fueron casos de censura y represión en línea de contenido de apoyo a Palestina, y 1 fue un caso de eliminación de contenido de apoyo a Israel. Esta distribución de casos no necesariamente refleja la distribución general de la censura”.
Entonces, en la práctica, HRW no miró el otro lado del problema. Además, se quejó de que las políticas de Meta están influidas por la designación de Hamas como organización terrorista por parte de Estados Unidos.
Este tipo de informe da la impresión de estar diseñado para generar titulares.
Sea cierto o no, puede ser una razón por la que el lado proisraelí no quiera involucrarse con HRW.
Si se refiere a que un cambio del lado israelí podría llevar a que Hamas detenga sus ataques, parece muy poco probable. Hamas ni siquiera finge estar abierto a una coexistencia pacífica con Israel, y su mejor oferta fue una tregua de 10 años a cambio de las fronteras de 1967.
Si se refiere a que los habitantes de Gaza podrían derrocar a Hamas, es posible, pero como Hamas no celebra elecciones, haría falta una rebelión violenta, y un cambio de ánimo probablemente tomaría generaciones en términos realistas.
Es difícil que los israelíes acepten no responder mientras sufren ataques cada vez más sofisticados durante generaciones, especialmente gracias al apoyo de Iran.
Al final, los israelíes no tienen por qué sufrir ataques graves de Hamas. Hamas no tiene militarmente ese poder, y esos ataques solo son posibles si hay una incompetencia grave de las IDF.
En cambio, la situación geopolítica de Israel no es buena. Como mostró Yemen, Israel es muy vulnerable a los bloqueos. Si en algún momento del futuro no muy lejano Estados Unidos ya no puede interceptar todos los misiles de los enemigos de Israel en su lugar, Israel tendrá que enfrentar la amenaza de un bloqueo total.
Por eso Israel tiene una necesidad urgente de reconciliarse con sus vecinos árabes, y puede impedir los ataques reales de Hamas. Por eso la situación es bastante distinta y asimétrica.
Si se considera a Gaza como un Estado, el bloqueo de Israel por sí solo ya constituye un acto de guerra y un casus belli, así que también es importante que Gaza no puede ser incapaz de cometer actos de agresión. Por supuesto, esto no justifica los crímenes de guerra inhumanos de Hamas, pero tratar la guerra como si hubiera empezado sin ninguna provocación no se ajusta a la realidad. Según la definición del derecho internacional, Israel nunca ha dejado de librar una guerra activa contra Gaza.
A veces habría que obligar a los periodistas a incluir análisis estadístico básico cuando hacen afirmaciones como las de censura.
¿Cuánto contenido se sube a Meta cada día? ¿Cuántas decisiones de eliminación de contenido toma Meta cada día?
Pista: solo en Stories se suben más de 1,000 millones al día.
Incluso si las 1,049 eliminaciones hubieran ocurrido en un solo día, serían pocas frente a la escala total, y esta “evidencia” se recopiló durante un período mucho más largo.
Viendo a HRW y su campaña anti-Israel, se entiende por qué HRW sigue publicando esta propaganda: https://en.wikipedia.org/wiki/Criticism_of_Human_Rights_Watc...
The Guardian hizo un muy mal trabajo al reproducir este contenido sesgado.
¿Que existan estos artículos de Wikipedia significa que ahora podemos desestimar toda información que publiquen Israel o Estados Unidos llamándola “contenido sesgado”?
La metodología realmente parece defectuosa. Eligieron 1.000 casos de contenido eliminado por error, pero ¿cuántas publicaciones relacionadas con este conflicto habrá en Facebook e Instagram? Podrían ser decenas de millones.
No hay forma de saber qué tan representativa es esa muestra.
La posibilidad de sesgo de respuesta voluntaria en esta encuesta es enorme, y no entiendo cómo HRW puede publicarla sin reconocerlo.
Las voces proisraelíes llevan más de 10 años siendo escépticas ante la percepción de sesgo antiisraelí de HRW[1]. Es poco probable que esas personas sigan o interactúen con las cuentas de HRW, y probablemente también sean menos en el total[2].
El hecho de que 1.049 de los 1.050 comentarios enviados para revisión de HRW fueran propalestinos debería ser una señal de alerta, no una prueba clave.
[1] https://www.wsj.com/articles/SB10001424052970204619004574318...
[2] https://wpde.com/amp/news/nation-world/support-for-palestine...
Sea cual sea la postura que uno tenga, a todos debería preocuparnos mucho que una empresa tecnológica especializada en conexiones sociales controle lo que las personas pueden decirse entre sí.
Sumado a la estrecha coordinación con el gobierno que se ha revelado recientemente, es todavía más grave.
La palabra desinformación se está pareciendo cada vez más a “opiniones que no nos gustan o que no apoyamos”, y este caso debería servir como advertencia de que hay que limitar su poder antes de que sea demasiado tarde.
No importa si te gusta Triden o Brump. Esto no debería convertirse en un tema partidista.
Hamas es una organización terrorista y parece recibir apoyo de Iran, y difunde desinformación constantemente en línea; ¿no será por eso que la censuran?
A veces abro The Guardian y es absurdo cuántas veces cita al “Ministerio de Salud de Gaza”. No es que sea más confiable que el Ministerio de Salud de Corea del Norte o de China.
Si la gente pensara de forma más crítica, no habría necesidad de censurarlo todo, pero la realidad no es así: se lo tragan tal cual y se vuelven conspiranoicos.
Por otro lado, parece que Meta creó un producto pésimo que requiere un nivel de censura demencial para mantener siquiera un mínimo de civilidad. Por desgracia, este producto defectuoso tiene un impacto grave en las sociedades democráticas.
Este artículo no trata sobre publicaciones de apoyo a Hamas.
¿No será que Meta simplemente está haciendo su trabajo al filtrar falsedades? La mayor parte de la propaganda pro-Hamas y propalestina que vi contradecía los hechos y, en el mejor de los casos, tenía una sola fuente, que era el propio Hamas o una organización cercana a Hamas, como la oficina en Gaza de una agencia de la ONU.
Como referencia, Meta fue ilegalizada en Rusia como organización “extremista” por negarse a ceder ante las autoridades rusas y publicar solo la desinformación oficial rusa. Es algo parecido al estatus de “apoyo material al terrorismo” en EE. UU.
Durante las últimas elecciones, Facebook no dejaba de mostrarme propaganda de Trump. No conozco a nadie que haya votado por Trump, porque para empezar no vivo en Estados Unidos. Aun así, recibí propaganda.
Entiendo que los rusos quizá no quieran propaganda estadounidense y prefieran la suya.