La nueva información de los documentos internos de Facebook revela que la desinformación de la empresa de redes sociales llega mucho más lejos que los Estados Unidos.
Los documentos, denominados The Facebook Papers y recopilados por la denunciante Frances Haugen, demuestran la falta de recursos y la conciencia social de Facebook en países como India, Myanmar y Sri Lanka, lo que lleva a la propagación de discursos de odio y sentimientos políticos radicales que podrían estar relacionados con actos. de la violencia e influyen en las elecciones nacionales.
Facebook no está tan conectado al pulso social de su propio sitio web fuera de los Estados Unidos, pero la compañía generalmente es consciente de que su plataforma tiene un impacto en la política en tales países, según Los New York Times. Investigadores internos han realizado pruebas y estudios de campo sobre el algoritmo de Facebook en India, donde News Feed generó rápidamente discursos de odio, desinformación y celebraciones de violencia. Este tipo de contenido provino tanto de usuarios legítimos como de bots sin censura.
“Después de la sección de noticias de este usuario de prueba, he visto más imágenes de personas muertas en las últimas tres semanas de las que he visto en toda mi vida”, escribió un investigador en un informe interno de Facebook.
Los documentos también muestran que Facebook tiene un enfoque desigual para combatir la información errónea, con el 87 por ciento de su presupuesto global dedicado a identificar la información errónea únicamente en los EE. UU., Mientras que el 13 por ciento restante se ocupa del resto del mundo.
Este conjunto de recursos comparativamente pequeño resulta en medidas ineficaces en lugares como India, con su propio anfitrión de políticas radicales nacionalmente distintas. Parece una mala asignación de enfoque si se considera que India es el mercado más grande de Facebook, con 340 millones de usuarios en sus plataformas.
Los usuarios de Facebook allí son fácilmente alimentados con publicaciones gráficas que emiten retórica anti-musulmana y anti-Pakistán en cualquiera de los 22 idiomas oficiales del país. De acuerdo con la Veces, La IA de Facebook solo está entrenada en cinco de estos idiomas, con revisores humanos para “algunos otros”.
Pero como se encuentra en los propios documentos de la compañía, gran parte del contenido peligroso en hindi o bengalí, dos de los idiomas más comunes de la India, nunca se marca debido a datos inadecuados. Y aunque los esfuerzos de desinformación se intensifican durante la época de las elecciones nacionales, la continua falta de recursos de Facebook en el país no logra luchar de manera más permanente contra bots peligrosos y grupos violentos.
Los problemas son mayores en India, pero problemas de recursos similares afectan a países como Myanmar, donde los esfuerzos de Facebook para detener la retórica dañina no fueron suficientes y pueden haber ayudado a inflamar un golpe. Si bien la compañía hizo cumplir las medidas durante las elecciones de Myanmar para limitar la visibilidad de las publicaciones de información errónea compartidas por los militares, no pudo seguir así después. Facebook finalmente revocó sus medidas y, tres meses después, los militares llevaron a cabo un violento golpe de estado.
La defensa de Facebook durante la audiencia de denunciantes se desmorona en tiempo real
Si bien Facebook reconoce claramente su papel en la violencia política extranjera y trata de rectificarlo, estos documentos muestran que a menudo es demasiado poco y demasiado tarde. Si la empresa va a operar éticamente en un escenario global, debe a su mercado más grande, y a todos los demás mercados, la sensibilidad cultural y la dedicación de recursos para servir de manera segura a sus usuarios. Si bien una empresa con sede en EE. UU. Debería abordar absolutamente los problemas de desinformación de su propio país, Facebook necesita reexaminar cómo dedica su tiempo a la desinformación en todo el mundo.
Katie Harbath, exdirectora de políticas públicas de Facebook, dijo a la Veces que su ex empleador necesita encontrar una solución que se pueda aplicar en todo el mundo. “Definitivamente hay una pregunta sobre la dotación de recursos”, dijo Harbath. “[but the answer is not] simplemente arrojar más dinero al problema “.
