Facebook era muy consciente de que el discurso de odio se estaba extendiendo en su sitio en la India, lo que podría exacerbar la violencia étnica, y no desplegó recursos para frenar el fenómeno, informaron los medios estadounidenses, citando documentos internos.
Los llamados Facebook Papers, filtrados por la denunciante Frances Haugen, ya han revelado el impacto de Facebook, así como de WhatsApp e Instagram, ambos de los cuales es propietario, en la profunda polarización de la política en Estados Unidos y en la salud mental. de algunos adolescentes.
Pero durante mucho tiempo ha habido preocupaciones sobre el impacto de la red social en la difusión del discurso de odio que alimenta la violencia en el mundo en desarrollo, como la masacre contra la minoría rohingya en Myanmar.
Este fin de semana el Wall Street Journal, el New York Times y el Washington Post, entre otros, se centraron en la presencia de Facebook en India, el mayor mercado de la empresa estadounidense y su servicio de mensajería WhatsApp en términos de usuarios.
Un informe de los propios investigadores de la compañía de julio de 2020 mostró que la proporción de contenido inflamatorio se disparó a partir de diciembre de 2019.
“Los rumores y llamadas a la violencia se difundieron particularmente en el servicio de mensajería WhatsApp de Facebook a fines de febrero de 2020”, cuando los enfrentamientos entre la mayoría hindú y la minoría musulmana dejaron decenas de muertos, informó el Wall Street Journal.
Facebook también había creado ya en febrero de 2019 una cuenta ficticia, la de una mujer de 21 años en el norte de la India, para comprender mejor la experiencia del usuario, informó el Washington Post, citando una nota interna.
La cuenta siguió publicaciones, videos y cuentas recomendadas por Facebook, pero un investigador de la compañía descubrió que promovía un torrente de contenido falso e incendiario.
“He visto más imágenes de personas muertas en las últimas tres semanas de las que he visto en toda mi vida”, dijeron los medios citando al miembro del personal en un informe de 46 páginas entre los documentos publicados por Haugen.
“Pronto, sin ninguna dirección por parte del usuario, la cuenta de Facebook se inundó con propaganda pro-Modi y discursos de odio contra los musulmanes”, informó el Washington Post. El primer ministro Narendra Modi, un nacionalista hindú, estaba haciendo campaña para la reelección en ese momento.
La prueba también coincidió con el lanzamiento de India de un ataque aéreo contra Pakistán por un atentado suicida de militantes en la disputada región de Cachemira.
El investigador anónimo llamó a esa experiencia una “pesadilla de integridad”.
El contenido hacía afirmaciones patriotas sobre los ataques aéreos de la India e incluía imágenes gráficas.
Estos incluían una imagen de un hombre con la cabeza cortada y usando un lenguaje que golpeaba a los paquistaníes y musulmanes como “perros” y “cerdos”, según los informes.
Malos actores, regímenes autoritarios
“Facebook ha estudiado meticulosamente su enfoque en el extranjero, y era muy consciente de que una moderación más débil en los países de habla no inglesa deja a la plataforma vulnerable al abuso por parte de malos actores y regímenes autoritarios”, continuó el Post, citando los documentos internos.
Los documentos mostraron que la gran mayoría del presupuesto de la empresa dedicado a la lucha contra la desinformación está destinado a los Estados Unidos, a pesar de que los usuarios allí representan menos del 10 por ciento de los usuarios de Facebook en todo el mundo.
“Hemos invertido significativamente en tecnología para encontrar discursos de odio en varios idiomas, incluidos hindi y bengalí”, dijo un portavoz de Facebook en un comunicado.
“Como resultado, hemos reducido la cantidad de discurso de odio que la gente ve a la mitad este año. Hoy, ha bajado al 0.05 por ciento”. La cifra es un porcentaje del contenido en todos los países.
La compañía dijo que estaba “expandiendo” sus operaciones a nuevos idiomas. Tiene “clasificadores de discursos de odio” que funcionan en hindi, bengalí, tamil y urdu.
Más de 40 grupos de derechos civiles advirtieron el año pasado que Facebook no había abordado el contenido peligroso en India.
Un ejecutivo de Facebook India renunció en 2020 después de ser acusado de negarse a aplicar políticas de incitación al odio al partido gobernante nacionalista hindú y también de compartir una publicación antimusulmana.
“El discurso de odio contra los grupos marginados, incluidos los musulmanes, está aumentando a nivel mundial. Por lo tanto, estamos mejorando la aplicación”, dijo el portavoz.
