Meta en Myanmar
(erinkissane.com)- A comienzos de la década de 2010, en medio de la apertura de internet y la explosión de la adopción móvil en Myanmar, Facebook se convirtió para muchos usuarios en internet de facto; años después, el investigador principal de la Misión Internacional Independiente de Investigación de la ONU sobre Myanmar evaluó que Facebook tuvo un “papel determinante” en la crisis rohinyá.
- El precio de una tarjeta SIM cayó de unos 2,000 dólares en 2009 a 1.50 dólares en 2014, y la penetración móvil se disparó de menos del 0.25% de la población en 2011 a más del 90% en 2017, sentando las bases para la expansión de Facebook.
- Entre 2011 y 2014, en Facebook se difundió contenido que negaba y deshumanizaba a los rohinyás e incitaba a la violencia; en la violencia del estado de Rakáin de 2012 y los disturbios de Mandalay de 2014, rumores, afirmaciones falsas y discurso de odio se combinaron con violencia fuera de línea.
- La sociedad civil de Myanmar, especialistas en derechos humanos y periodistas advirtieron repetidamente a Meta entre 2012 y 2015, pero esas alertas no llegaron a equipos con autoridad real para responder; incluso a fines de 2015 solo había 4 moderadores de birmano.
- Meta recibió en varias ocasiones ejemplos concretos de cómo Facebook agravaba los conflictos étnicos en Myanmar, pero en 2016 pasó a la etapa de llevar a más usuarios de Myanmar a Facebook sin medidas de fondo como ampliar masivamente la moderación, bloquear permanentemente a los peores actores conocidos o reducir la difusión de incitación a la violencia.
La apertura de internet y el ascenso repentino de Facebook
- En 2011, con la llegada de un gobierno más democrático en Myanmar, las restricciones sobre internet y la expresión empezaron a relajarse gradualmente.
- Para personas que salían de un largo período de control militar, la apertura de internet generó grandes expectativas, y las ONG locales de inclusión digital y activistas tecnológicos también recibieron de forma positiva el nuevo entorno en línea.
- El acceso móvil cambió drásticamente en pocos años.
- El precio de una tarjeta SIM bajó de unos 2,000 dólares en 2009 a 250 dólares en 2012 y 1.50 dólares en 2014.
- La penetración móvil aumentó de menos del 0.25% de la población en 2011 a más del 90% en 2017.
- El uso de smartphones e internet también se disparó junto con la revolución móvil.
- El trabajo etnográfico de Craig Mod sobre internet rural en 2015 muestra un entorno en el que la gente cargaba smartphones con baterías de auto sin electricidad y raspaba tarjetas prepagas para usar datos.
- En esas condiciones, Facebook se convirtió en la plataforma que reunía noticias, actualizaciones políticas, búsquedas de intereses y conversaciones con amigos y desconocidos; el dueño de una tienda de celulares dijo: “Facebook is the Internet”.
Cómo Facebook se convirtió en “internet”
- Facebook ofrecía una app simplificada que consumía menos datos que los servicios competidores, y Telenor de Noruega, uno de los operadores extranjeros fuertes que entraron en Myanmar, ofreció zero-rating para Facebook.
- El zero-rating consiste en eximir a ciertos servicios de internet del cobro de datos, y los clientes de Telenor podían usar Facebook gratis.
- En una entrevista de 2021, la denunciante interna de Meta Frances Haugen dijo que Facebook subsidió el uso de su plataforma en varias comunidades lingüísticas, “comprando el privilegio de convertirse en internet”, y que como resultado el 80% al 90% del contenido en muchos idiomas terminó existiendo en Facebook.
- Las organizaciones de la sociedad civil de Myanmar veían que la conectividad rápida traía no solo libertad, sino también riesgos.
- Muchos usuarios entraron con la idea de que “si está en internet, es cierto”, sin aprender internet de forma gradual.
- La situación política de Myanmar ya era inestable, y el ejército, el Tatmadaw, libraba una larga guerra civil contra varias fuerzas armadas de minorías étnicas.
- La toma de decisiones de Meta sobre Myanmar no se ajustó a esas dos condiciones.
La base de odio que ya existía antes de 2012
- En enero de 2012, una amnistía masiva liberó a dos figuras que luego desempeñarían roles opuestos.
- Nay Phone Latt era un bloguero temprano y activista por los derechos digitales que había sido encarcelado por bloguear sobre la Saffron Revolution de 2007; luego cofundó MIDO para ayudar a la ciudadanía a beneficiarse del nuevo internet y responder a campañas de odio en línea.
- Ashin Wirathu era un monje budista encarcelado en 2003 por sermones que incitaban a la violencia contra las comunidades musulmanas de Myanmar; más tarde digitalizó un movimiento nacionalista budista de línea dura y tuvo un papel importante en la propagación de violencia antimusulmana.
- En el primer Internet Freedom Forum de Myanmar, en 2013, se debatieron la libertad en internet y la privacidad, pero al mismo tiempo se detectó un aumento del discurso de odio contra los rohinyás en Facebook.
- Htaike Htaike Aung, cofundadora de MIDO, consideraba que, a diferencia de países donde la gente aprendió internet gradualmente, los habitantes de Myanmar entraron en línea de golpe, y que la actitud de “si está en internet, es cierto” los hacía vulnerables a la propaganda y a agendas engañosas.
- Ya en 2011, la página de Facebook de BBC Burmese recibió una avalancha de comentarios violentos por mostrar a los rohinyás como un grupo étnico de Myanmar; los comentarios incluían expresiones sobre expulsión, asesinato e incendios provocados.
- En 2014, Nay Phone Latt expresó su preocupación de que el discurso de odio estuviera vertiendo veneno en la mente de la gente y que pudiera explotar llegado el momento.
Los rohinyás y la existencia negada
- Médecins Sans Frontières describe a los rohinyás como un grupo étnico apátrida, mayoritariamente musulmán, que durante siglos ha vivido principalmente en el norte del estado de Rakáin, en Myanmar, país de mayoría budista.
- Las autoridades de Myanmar lo niegan y sostienen que los rohinyás son inmigrantes bengalíes llegados en el siglo XX.
- En 2013, la ONU describió a los rohinyás como una de las minorías más perseguidas del mundo, y la ley de Myanmar no les reconoce la ciudadanía.
- Varios gobiernos de Myanmar se negaron a reconocer la existencia misma de los rohinyás y se refirieron a ellos como inmigrantes ilegales “Bengali”.
- En este contexto, los rohinyás existen realmente y han vivido durante mucho tiempo bajo fuertes restricciones, mientras que en la corriente política budista dominante de Myanmar existía una preocupación explícita por la pureza racial y la seguridad.
La violencia de 2012 en el estado de Rakáin y la incitación en línea
- El 28 de mayo de 2012, Ma Thida Htwe, una mujer budista rakáin, fue asesinada en el estado de Rakáin; al día siguiente, un periódico informó que había sido violada y asesinada por “kalars”.
- La Misión de Investigación de la ONU sobre Myanmar consideró que el asesinato estaba claro, pero que las acusaciones de violación y el origen étnico de los sospechosos seguían siendo dudosos; en los días y semanas siguientes, la acusación de violación, más que el asesinato, se utilizó principalmente para incitar al odio y a la violencia contra los rohinyás.
- El 1 de junio, Zaw Htay, vocero del presidente de Myanmar, publicó en Facebook una advertencia de que “Rohingya terrorists” cruzaban la frontera con armas.
- El 3 de junio, una organización budista nacionalista distribuyó volantes que afirmaban que musulmanes atacaban a mujeres budistas; ese mismo día, 10 hombres rohinyás que iban en un autobús fueron sacados a la fuerza y asesinados a golpes.
- En la violencia militar y comunitaria que siguió, tanto rakáin como rohinyás cometieron asesinatos e incendios provocados, pero el peso del daño recayó sobre los rohinyás.
- La investigación de la ONU documentó incendios de viviendas, saqueos, asesinatos extrajudiciales e indiscriminados —incluidos de mujeres, niños y ancianos—, y arrestos arbitrarios masivos y tortura por parte del ejército y la policía.
- Más de 100,000 personas tuvieron que abandonar sus hogares, en su mayoría rohinyás.
- En la siguiente ola de violencia, en octubre de 2012, hubo evidencia de planificación organizada; Human Rights Watch documentó que activistas de partidos arakaneses locales, grupos de monjes budistas y arakaneses comunes organizaron, incitaron y participaron, a veces con apoyo directo de fuerzas de seguridad del Estado.
- En el peor ataque de octubre, policías y soldados del Tatmadaw confiscaron de antemano las armas rudimentarias —como palos— de habitantes rohinyás de una aldea, y luego se quedaron mirando mientras una multitud rakáin mataba al menos a 70 rohinyás durante un día.
- Human Rights Watch documentó que en ese ataque murieron 28 niños, 13 de ellos menores de 5 años.
La propagación del odio a través de Facebook
- En una entrevista con Amnesty International, Mohamed Ayas, maestro rohinyá y refugiado, dijo que la violencia comunitaria de 2012 fue el punto de inflexión que llevó a la retórica antirohinyá, la persecución y, finalmente, el genocidio.
- Richard Horsey, analista político radicado en Myanmar, explicó que también en el pasado había habido violencia de grupos budistas contra grupos musulmanes, pero que lo nuevo era que la información podía transmitirse y amplificarse fácilmente a través de Facebook y los teléfonos móviles.
- En junio de 2012, Sai Latt registró que la campaña de odio antirohinyá era un movimiento público y transnacional organizado abiertamente en redes sociales, con comentarios y publicaciones desplegados en miles de muros y páginas de Facebook.
- Grupos de Facebook como “Kalar Beheading Gang” siguieron apareciendo, y esas páginas llegaron a ser cubiertas por medios internacionales.
- Para el 14 de junio de 2012, cuando Hindustan Times informó sobre la página, ya había recibido más de 500 Me gusta.
- El mensaje central repetido en línea y fuera de línea era que los rohinyás no eran un verdadero grupo étnico sino inmigrantes ilegales “Bengali”, seres deshumanizados que se reproducían más que los budistas, indistinguibles de terroristas y una amenaza inmediata para las mujeres budistas y para todo Myanmar.
Ashin Wirathu y la incitación basada en Facebook
- Ashin Wirathu era un monje budista de línea dura que usaba activamente Facebook y dijo que su primera cuenta fue eliminada por moderadores de Facebook por violar las normas comunitarias.
- Su segunda cuenta creció rápidamente hasta llegar a 5,000 amigos, y luego creó una nueva página y contrató a dos empleados dedicados a actualizar el sitio cada hora.
- En el momento de la entrevista con BuzzFeed News, tenía 190,000 seguidores en su cuenta de Facebook, una página de noticias en Facebook y decenas de páginas, y exigía boicotear tiendas musulmanas y expulsar a musulmanes.
- En una entrevista de 2013 con Global Post, Wirathu afirmó que los musulmanes intentaban convertir Myanmar en un Estado islámico; en ese momento, los musulmanes eran alrededor del 5% de la población de Myanmar.
- En 2013, Time puso a Wirathu en la portada de su edición internacional como “The Face of Buddhist Terror”, y en el artículo él dijo que el 90% de los musulmanes de Myanmar eran “radical bad people”.
- Una ONG documentó que, después de octubre de 2012, casi todos los grandes estallidos de violencia comunitaria en el estado de Rakáin fueron precedidos por giras de sermones patrocinadas por 969, generalmente con participación directa de Wirathu.
- Wirathu dijo a BuzzFeed News que, sin internet, sus opiniones y mensajes no habrían llegado a tanta gente como ahora, y que internet era una forma más rápida de difundir el mensaje.
Las primeras advertencias enviadas a Meta
- En noviembre de 2012, Htaike Htaike Aung, directora de programas de MIDO, informó al Global Public Policy Director y al Europe Policy Director de Meta, durante una mesa redonda en Azerbaijan, sobre la propagación del discurso de odio en Facebook.
- En octubre de 2013, volvió a plantear la misma preocupación en una mesa redonda en Indonesia, en el contexto de “rising inter-communal tensions”; asistieron tres ejecutivos de políticas de Meta.
- Por la misma época, activistas e investigadores de MIDO y de Phandeeyar, una aceleradora tecnológica con sede en Yangon, preguntaron por correo electrónico cómo revisar contenido problemático y escalar emergencias, pero Facebook no respondió.
- En noviembre de 2013, la periodista Aela Callan se reunió con Eliot Schrage, vicepresidente de Communications and Public Policy de Facebook, y advirtió sobre el discurso de odio antirohinyá en Facebook y las cuentas falsas que lo impulsaban.
- Meta conectó a Callan con Internet.org y con la “Compassion Team”, centrada en acoso, pero no la vinculó con nadie dentro de Facebook que pudiera ayudar realmente.
- En marzo de 2014, después de RightsCon Silicon Valley, Htaike Htaike Aung y Aela Callan visitaron Menlo Park y volvieron a informar a integrantes de la Compassion Team de Meta sobre las amenazas que el servicio de Facebook generaba en Myanmar.
- Ese mismo mes, Susan Benesch, de Dangerous Speech Project, organizó una llamada informativa para Meta, y Matt Schissler, especialista en derechos humanos radicado en Myanmar, explicó que en Facebook se difundían mensajes deshumanizantes, fotos manipuladas y desinformación.
- Según Reuters, uno de los ejemplos presentados por Schissler fue una Burmese Facebook Page llamada “We will genocide all of the Muslims and feed them to the dogs”.
- El libro An Ugly Truth, de Frenkel y Kang, cuenta que empleados de Meta pensaban que este problema podía resolverse con un enfoque similar al de las herramientas para responder al ciberacoso escolar.
Los disturbios de Mandalay de 2014 y la falta de respuesta de Facebook
- La violencia de Mandalay de 2014 contenía todos los elementos que preocupaban a los observadores de la sociedad civil.
- Dos hombres musulmanes inocentes fueron acusados falsamente de violar a una mujer budista.
- Se disparó la cobertura periodística sensacionalista.
- Ashin Wirathu aprovechó la historia para su causa.
- En Facebook se difundieron informes falsos y llamados a la violencia.
- Cuando la violencia empeoró, Zaw Htay, vocero del presidente de Myanmar, pidió al responsable de Deloitte en Myanmar ayuda para contactar a Meta, pero no obtuvo respuesta pese a intentar comunicarse durante toda la noche.
- En el tercer día de disturbios, el gobierno bloqueó el acceso a Facebook en Mandalay, y después del bloqueo los disturbios disminuyeron.
- Cuando Facebook fue bloqueado, empleados de Meta empezaron a enviar correos preguntando por qué se había bloqueado Facebook.
- Meses antes, algunos empleados de Facebook habían creado un grupo privado de Facebook para que especialistas de la sociedad civil de Myanmar pudieran alertar directamente sobre problemas, pero cuando en Mandalay se difundían reportes falsos e incitación a la violencia, Facebook no respondió pese a las advertencias de activistas y occidentales.
- Un integrante del grupo dijo que Facebook no dijo nada ante los mensajes sobre los disturbios, pero que respondió de inmediato cuando internet fue bloqueado y la gente perdió Facebook.
Herramientas de traducción y denuncia, pero moderación insuficiente
- Unas semanas después de la violencia en Mandalay de 2014, Mia Garlick, directora de políticas de Facebook para Asia-Pacífico, visitó Myanmar por primera vez.
- Garlick discutió las políticas de Meta en un panel y prometió traducir rápidamente al birmano las Facebook Community Standards.
- Ese trabajo de traducción tomó 14 meses y terminó dependiendo de la ayuda de Phandeeyar dentro del grupo privado de Facebook.
- En 2014, Meta decidió localizar las herramientas para denunciar discurso de odio y contenido problemático, y las lanzó hacia fin de año tras traducirlas y ajustarlas con MIDO y otras figuras de la sociedad civil de Myanmar.
- Pero para revisar todo lo que llegara a través de la herramienta de denuncias en birmano había solo un moderador que sabía birmano, un contratista ubicado en Dublin.
- Htaike Htaike Aung y Victoire Rio describieron esa herramienta de denuncias en birmano como “a road to nowhere”.
Las advertencias continuaron en 2015
- En febrero de 2015, Susan Benesch dio una presentación titulada “The Dangerous Side of Language” en el Compassion Day de Facebook, y según documentos legales esa presentación explicaba cómo se propagaba el discurso antirohinyá a través de Facebook.
- En marzo de 2015, Matt Schissler visitó Menlo Park y dio una presentación a más de 12 empleados de Facebook sobre los nuevos medios en Myanmar, especialmente Facebook, y la violencia antimusulmana.
- Frenkel y Kang resumen que su presentación documentaba la gravedad de que “el discurso de odio en Facebook estaba llevando a violencia real en Myanmar y estaba haciendo que la gente muriera”.
- Cuando Schissler respondió “Absolutely” a la pregunta de si Facebook podía contribuir a un genocidio en Myanmar, una empleada de Facebook reaccionó en el sentido de que “eso no es posible”.
- En mayo de 2015, David Madden, fundador de Phandeeyar, advirtió a Meta en Menlo Park sobre las dinámicas peligrosas en Myanmar.
- Madden dijo en una entrevista con Amnesty International que sintió que la gente dentro de Facebook no entendía bien la situación política de Myanmar.
- En las reuniones con Meta se discutieron ejemplos concretos de contenido riesgoso, y comparó el posible rol de Facebook en Myanmar con el que tuvo la radio en Rwanda.
- En septiembre de 2015, Mia Garlick llegó a Myanmar para lanzar las Community Standards de Facebook en birmano, y Phandeeyar reunió a más de 15 líderes de la sociedad civil de todo Myanmar para informarle sobre incidentes y actores concretos.
- Según Victoire Rio, varios líderes de la sociedad civil le dijeron directamente a Garlick que las Facebook Community Standards no se estaban aplicando en Myanmar.
- Según Reuters, en 2015 Facebook tenía en total 2 moderadores que sabían birmano, y para fin de año aumentó a 4.
El estado de situación a fines de 2015
- Para fines de 2015, Meta sabía que tanto especialistas de la sociedad civil internacional como el gobierno de Myanmar consideraban que Facebook había tenido un papel importante en los disturbios de Mandalay de 2014.
- Varias organizaciones de la sociedad civil y de derechos humanos habían advertido repetidamente que Facebook estaba agravando los conflictos étnicos.
- Meta recibió en varias ocasiones ejemplos de contenido deshumanizante, incluidas publicaciones y comentarios que pedían directamente asesinatos masivos y genocidio.
- David Madden les dijo directamente a empleados de Meta que Facebook podía desempeñar en Myanmar el papel que la radio había tenido en Rwanda.
- Sin embargo, Meta no aumentó de forma significativa su capacidad de moderación, no bloqueó permanentemente a los peores actores conocidos ni hizo cambios fundamentales de diseño de producto que redujeran de manera confiable la difusión de publicaciones de odio e incitación a la violencia.
- El siguiente paso fue llevar a más personas de Myanmar a Facebook en 2016, y el texto continúa en Part II: The Crisis.
1 comentarios
Opiniones en Hacker News
Tengo amigos que viven en Myanmar, y puedo confirmar que la situación en el lugar fue mucho peor de lo que dice el artículo.
Si lo único que ves constantemente son publicaciones con discurso de odio que llaman a decapitar gente o, como mínimo, a “echar a esa gente de clase baja”, el odio se normaliza y las víctimas quedan deshumanizadas.
La historia está llena de atrocidades así, y la libertad de expresión es importante, pero la propaganda de violencia es un problema real. Incluso en EE. UU. se ve algo de eso.
Para quienes no leen el artículo, agrego: muchos pueblos fueron incendiados, y antes de eso mujeres fueron violadas y asesinadas; pueblos enteros fueron saqueados, luego la gente murió y los pueblos ardieron. El objetivo era generar terror para que las víctimas no tuvieran más opción que abandonar su propio país, y eso fue exactamente lo que pasó.
¿Por qué imponer límites arbitrarios solo a las palabras y a la expresión? Como las acciones pueden dañar a otros, no podemos dejar que cualquiera haga lo que quiera; pero, según el principio de “palos y piedras”, las palabras no pueden lastimar a nadie, así que habría que permitir decir cualquier cosa.
En última instancia, toda la libertad de expresión se sostiene sobre un principio así de inestable.
Los primeros fundadores de Israel también lo hicieron, y cientos de miles de palestinos huyeron y siguen siendo refugiados hasta hoy. Algunos de los que ejecutaron esa estrategia luego se convirtieron en líderes de la sociedad israelí.
https://en.m.wikipedia.org/wiki/Deir_Yassin_massacre
https://en.m.wikipedia.org/wiki/List_of_Irgun_members
¿Cómo puede ser que personas cuya identidad es conocida por el público violen y asesinen frente a una cámara y aun así no terminen en la cárcel?
Este texto está muy bien investigado y vale mucho la pena leerlo. Como las plataformas basadas en algoritmos no van a desaparecer, resume bien un caso del que la sociedad necesita aprender.
Es raro que en este hilo aparezcan argumentos sobre la “libertad de expresión”. Parece que no leyeron el artículo, que enumera varios ejemplos de declaraciones equivalentes a gritar que hay fuego en un teatro lleno.
Como dice Kissane, Myanmar se conectó a internet muy rápido después de las reformas, y faltaban hablantes de birmano no solo dentro de Facebook, sino también en organizaciones de derechos humanos que sí tenían buen acceso a Facebook.
A diferencia de los casos de Medio Oriente o China, Myanmar parecía más una “liberación” de la represión que una continuidad de la represión autoritaria, así que no encajaba bien en los marcos de respuesta que estaban aprendiendo las empresas tecnológicas. Unos años antes, con la Primavera Árabe y las protestas en Irán, Facebook y Twitter habían empezado a reconocer cierta responsabilidad, pero el resultado fue una mirada muy centrada en EE. UU. sobre la opresión en el mundo.
La narrativa de que, en un país liderado por Aung Sang Suu Shi, premio Nobel de la Paz y defensora de la democracia, budistas masacraran violentamente a musulmanes solo podía escucharse si uno estaba dispuesto a contradecir muchos supuestos políticos y culturales de EE. UU. y Europa.
También se puede señalar que la expresión “gritar que hay fuego en un teatro lleno” se ha usado históricamente para ver como “problemáticos” y silenciar a quienes intentaban impedir violencia a gran escala.
Aun así, el fracaso de Facebook y otros en ese momento se produjo porque afirmaban que podían moderar y ofrecer espacios donde solo se debatieran discusiones respetuosas y “la verdad”. Tanto las organizaciones de libertad de expresión como las organizaciones humanitarias en terreno sostenían que Facebook no podía ni debía cumplir ese rol, y cuanto más insistía Facebook en que podía asumir esa responsabilidad, más terribles eran las consecuencias.
Las redes sociales solo amplifican aquello que sus redes de vínculos sociales consideran interesante o valioso. Si una sociedad considera interesante a algún autor de odio espantoso, el contenido de esa persona se refuerza.
Si hubo décadas de dictadura militar y décadas de conflicto, no sorprende que cada grupo no elogie a sus rivales en redes sociales.
El autor nunca aborda realmente el problema evidente. Esto no se trató de restringir discursos ni de culpar a Facebook; siempre fue un problema de algoritmos de recomendación.
Si eliminas o desactivas los algoritmos, el argumento de este texto prácticamente desaparece.
No creo que las razones que Kissane presenta aquí justifiquen un ataque a Meta
Hay un párrafo que dice que, en 2018, la junta militar de Myanmar mató a miles de rohinyás, incluidos bebés y niños; golpeó, violó, torturó, hizo pasar hambre y encarceló a muchos más; y que unos 750.000 rohinyás huyeron a enormes campos de refugiados plagados de enfermedades en Bangladesh
Esa era la situación sobre el terreno; el país era un polvorín y el mal estaba en marcha. Puede que en la parte 2 aparezca más contexto, pero visto desde afuera, me parece exagerado atribuirle esto a Facebook. Facebook no pidió golpear, violar ni matar
La dirección de Facebook podría haberse preocupado por el riesgo reputacional y haber tomado medidas, pero entonces surge otro problema: ¿cuáles son exactamente los criterios que Facebook debería aplicar? ¿Debe prohibir a todos los responsables de matanzas sin sentido? Entonces, ¿eso incluiría también a los líderes estadounidenses que votaron a favor de guerras como la de Irak, Afganistán o Vietnam? Al final, una empresa grande y poderosa terminaría aplicando criterios desiguales y subjetivos
El punto central es el mismo, sin importar qué influencia ejerza Facebook. El problema es que la voluntad del pueblo y la voluntad de la dirección de Facebook son fundamentalmente distintas. En este caso, la voluntad del pueblo fue especialmente malvada, pero el problema no es cuál de las dos partes tenía razón ese día, sino el choque y la posición de influencia de Facebook. Algún día Facebook estará del lado del mal
No es difícil entender por qué Meta tiene responsabilidad, pero no tocaste ese punto. Facebook no es un retransmisor inocuo de mensajes. Además, ni siquiera tenía suficiente personal nativo para moderar el contenido, así que en el peor de los casos fue negligencia
Permitir que la gente hable hacia internet desde una plataforma conlleva responsabilidad. La libertad de expresión no es absoluta
Aun así, las acciones de Facebook no quedan fuera de toda crítica. La parte 1 parece tratar sobre todo de una inacción pasiva, pero me da curiosidad porque en la parte 2 quizá aparezcan acciones más activas de Facebook en ese momento
No hacer cumplir tus propias políticas también es una acción, y Facebook parece muy culpable en ese aspecto
No creo que me molestara que Facebook prohibiera a Bush. Estoy de acuerdo con el principio, pero el ejemplo elegido es más bien uno que podría aceptar con facilidad
Como referencia, Facebook ya prohibió a otro expresidente, así que el punto sobre la posición de influencia de Facebook es correcto
La diferencia es que Facebook, si hubiera asignado suficientes recursos, podría haber eliminado el contenido explícito
¿Eso habría detenido las matanzas? Tal vez habría ralentizado la propagación de la ira
Además, Facebook no es un tablón de anuncios pasivo, sino una plataforma que expone activamente las publicaciones con alta “participación” a la mayor cantidad posible de usuarios
Podemos valorar la libertad de expresión y el libre intercambio de ideas, y al mismo tiempo aceptar que inevitablemente existirán sitios web sospechosos que inciten a la guerra y la violencia. A la vez, los medios masivos deben hacerse responsables de sus actos
Los operadores de Facebook deberían ser responsables igual que los operadores de esos sitios web sospechosos. Aquí no deberíamos hablar de un debate filosófico, sino de responsabilidad legal personal en sentido literal
También hay que recordar que, en ese entonces, Facebook intentaba reemplazar a los foros web y no perdía oportunidad de decir que, aprovechando el impulso de la Arab Spring, podía cambiar el mundo y tenía la influencia política para hacerlo
Quiero decirles algo a quienes odian la libertad de expresión. Yo vivo allí, y nunca sabrán cuán valiosa e importante es la libertad de expresión cuando tú y tu familia pueden ser asesinados, detenidos o torturados solo por razones como estas:
Por hacer el
3 finger salutede Hunger GamesPor publicar fotos de una ciudad vacía para intentar mostrarle la verdad al mundo
Por responderle a un periodista de la BBC
No sé sobre Myanmar, pero no hay que confundir ni mirar con sesgo el papel del medio, el mensaje y los participantes
En India, vi que la mayor cantidad de mensajes dañinos circula por grupos de WhatsApp. Es un espacio privado, no hay ranking ni algoritmos de recomendación, y la gente simplemente reenvía mensajes. En el fondo, se debe a que la radicalización de la sociedad misma ha aumentado
La gente no se radicaliza de pronto al despertar; es presentada y adoctrinada por otras personas a través de algún medio de comunicación
Facebook no solo es el más grande, sino que además combina eso con algoritmos de recomendación que refuerzan y promocionan contenido incendiario
Creo que el punto central de este texto es la descripción de la situación en 2014 que aparece como 100 párrafos más adelante.
Dice que Facebook tenía una sola moderadora que sabía birmano para revisar todo lo que entraba, y que era contratista en Dublín.
El birmano es el 43.º idioma más hablado del mundo, así que no sorprende tanto que a Facebook le haya costado contratar moderadores.
http://www2.harpercollege.edu/mhealy/g101ilec/intro/clt/cltclt/top100.html
Es una historia triste. Ojalá “la libertad de expresión” fuera la respuesta, pero esto es una consecuencia aguas abajo muy escalofriante de cuando una plataforma no logra hacer moderación humana intensiva.
Internet siempre se ha moderado dentro de cada comunidad. Ya sea un foro, una página o un chat grupal, la moderación de la propia comunidad es responsabilidad de sus administradores. Lo mismo pasa con las iglesias, los clubes de vóleibol y las escuelas.
No hay excusa.
Que un almacén lleno de moderadores no vaya a trabajar un día no provoca un genocidio de inmediato. La respuesta no es una moderación de eliminación masiva e indiscriminada.
Una idea mucho mejor es la vieja transparencia y los materiales de origen. No censura, sino mejorar la información de contexto agregando datos e información relacionada, precisos y útiles, arriba y abajo de la pantalla. Se ha demostrado que eso es útil y realmente equilibra la información falsa en el momento en que aparece.
Para respetar a las personas, hay que hacer eso. También a quienes necesitan educación y corrección frente a métodos violentos. Tienen telefonía por internet y, si no usan Meta/Facebook, usarán otra cosa.
Hay que leer este texto. Apenas empecé no pude parar, y se lee mucho más rápido de lo que parece. Todavía es solo la parte 1, pero de verdad es imprescindible.
Kissane resume de forma concisa, fácil de leer y terrible el trasfondo del genocidio rohinyá y cómo Meta avivó activamente el fuego.
El argumento sobre la responsabilidad de Meta es simple y eficaz. Meta enfrentaba dos problemas en Myanmar. Primero, no había suficientes usuarios de Facebook; segundo, iba en aumento la incitación y el discurso de odio que alentaban de manera clara y repetida la violencia contra los rohinyás.
La empresa mostró una y otra vez que solo le importaba hacer crecer su base de usuarios, aun sabiendo claramente que ese crecimiento alimentaba el genocidio.
¿Cuál era la motivación de Facebook? ¿Qué contenido debía prohibirse y por qué ese contenido era tan popular entre los birmanos?
El primer delito de Facebook aquí fue fomentar una violación de la neutralidad de la red.
Pero el punto clave es que no había un mercado libre para redes sociales o apps de noticias. Facebook estaba en una posición privilegiada gracias al apoyo de las principales operadoras de telecomunicaciones.
Si una plataforma tiene una posición monopólica privilegiada, también debe asumir una responsabilidad mayor. No puede quedarse con los beneficios de ambos lados a la vez.
Toda la situación es horrible. Me pregunto cómo habrán sido las discusiones internas en Facebook en ese momento.
¿Cómo fue que todas las organizaciones de derechos humanos terminaron hablando con un departamento que remitía a la gente a otra parte, en lugar de con uno que realmente pudiera hacer algo? Quizás ese departamento también intentó hacer algo, pero no tenía suficiente poder político dentro de Facebook.
De todos modos, parece difícil que esas discusiones o correos salgan a la luz salvo por una demanda, y no sé qué tipo de demanda sería.
Al ver lo que hace Facebook, también parece que le importa bastante no querer varias conductas dañinas en la plataforma. No sé si antes el alcance era mucho más limitado, o si fue un problema causado por estar demasiado desconectados de los usuarios de Myanmar. Por ejemplo, barreras idiomáticas o la aplicación de políticas diseñadas para Estados Unidos.
Es difícil pensar en contrafactuales. Por ejemplo, ¿podría haber ocurrido algo así también en Twitter? La mayor ventaja de Facebook parece haber sido gracias a los subsidios, y si no hubiera tenido esa ventaja, o si los precios hubieran bajado poco a poco durante varios años, quizá lo mismo podría haber ocurrido en Twitter.
Tampoco está claro cuánto quería el gobierno el genocidio. La gran ventaja de lo que ocurre en Facebook sería la posibilidad de negarlo, y si eso no les hubiera importado y hubieran sido lo suficientemente competentes, podrían haber puesto a los predicadores del odio en la radio en vez de dejarlos encontrar audiencia en internet.
https://www.rohingyafacebookclaim.com/
https://www.theguardian.com/technology/2018/dec/09/twitter-ceo-jack-dorsey-accused-of-ignoring-plight-of-rohingya-in-tweets-promoting-myanmar
Que Facebook haya sido mucho más destructivo se debió a que formaba parte de la iniciativa Internet.org, que impulsó la adopción de Facebook.
https://en.m.wikipedia.org/wiki/Internet.org
El Arakan National Party, el principal partido de Rakáin/Arakán, tiene una postura antirohinyá, y su dirigencia participó en los disturbios de 2012 junto con el movimiento 969. Después se alió con la National League for Democracy, es decir, el partido de Aung Sang Syu Ki, e incluso obtuvo el cargo de Ethnic Affairs Minister, que mantuvo durante el genocidio.
https://en.m.wikipedia.org/wiki/Arakan_National_Party
El problema de Rakáin también se agravó por la rivalidad entre India y China. Ambos países toleraron al Tatmadaw y armaron a milicias étnicas en Rakáin y en todo Myanmar. Esto se debe a que Myanmar es una zona de amortiguamiento entre los dos países, a que los problemas étnicos de Myanmar repercuten en los Kokang Chinese del Southwest China o en la Manipur Ethnic Violence del Northeast India, y a que ambos países tienen proyectos competitivos de defensa e infraestructura dentro de Myanmar.
https://www.lowyinstitute.org/the-interpreter/how-china-india-bangladesh-could-be-drawn-myanmar-s-conflict
Si en 1946 Jinnah hubiera anexado a Pakistan las zonas de mayoría rohinyá de Rakáin, como pidieron los rohinyás, se podrían haber evitado muchas cosas. Es otro capítulo olvidado de la partición de la India británica y la descolonización.
https://thediplomat.com/2018/01/rohingyas-and-the-unfinished-business-of-partition/
Si vives en San Francisco, buena parte de la comunidad china de Chinatown ahora es kokang y posee la mayoría de los restaurantes birmanos de moda, como Burma Love o Manadaly.
Los Chin/Zo, un subgrupo de Myanmar de los Kukis, también tienen bastante presencia en San Francisco y Daly City.
El artículo llama a “Arturo Bejar” responsable de ingeniería de Facebook, pero eso simplemente no es cierto.
Parece que era Director, un cargo gerencial que normalmente administra a menos de 100 personas. No está ni cerca de ser “responsable de ingeniería”.
Señalo esto porque también hace dudar de la precisión con la que se comunicó el problema a las personas relevantes dentro de Facebook.
No basta con hablarle de un problema social complejo a un ingeniero cualquiera o a un vicepresidente de comunicaciones. Esas personas no están capacitadas para identificar un genocidio ni responder a él, y tampoco tienen la autoridad organizacional ni la experiencia especializada para iniciar una respuesta seria.
Que haya habido una ruptura en la comunicación es triste, pero no sorprende.