Observacom
Actualidad - Global

Facebook censuró contenidos sobre la guerra civil en Siria por considerarlos “extremistas: 98% de ese filtrado es por algoritmos

Facebook bloqueó la página Eye on Alhasakah dedicada a compartir información, fotos y videos sobre la guerra civil en Siria, “por error”. Luego de la intervención de la Revista TIME, la red social restauró la página en febrero de este año (la había bloqueado en octubre de 2019), excusándose en que el moderador había cometido un error.

La página fue reportada (flagged) por primera vez en 2019 por el algoritmo desarrollado por Facebook, así como por usuarios por compartir “contenido extremista”.  Luego fue derivada a moderadores humanos que decidieron remover los videos. Facebook dice que más del 98% del contenido removido por violar sus reglas sobre extremismo son reportadas en forma automática.

El uso de algoritmos para definir la circulación de contenidos en las redes sociales no solo es una práctica de Facebook sino también de YouTube. En este caso, el 16% de un total de 1,7 millones de videos que formaban parte del Archivo Sirio, una organización de Berlín que documenta violaciones a los derechos humanos, fueron removidos de acuerdo con TIME.

Los algoritmos para detectar contenido extremista fueron desarrollados como reacción al ISIS, que en 2014 comenzó a producir videos sobre ejecuciones y batallas como propaganda. En la actualidad, luego de 3 años de entrenamiento, los algoritmos son responsables por casi la totalidad de las detecciones.

Facebook y Youtube utilizan sistemas de detección a través de “inteligencia artificial”, pero ambos mantienen en secreto qué tipo de contenido utilizan para “entrenar” a estos algoritmos, responsables de la gran mayoría de las remociones.

ENLACES RELACIONADOS:

OBSERVACOM alerta sobre el impacto para la libertad de expresión de la censura algorítmica de plataformas en tiempos de COVID-19

¿Cómo funciona el filtrado automático de YouTube sobre COVID-19? Universidad de Amsterdam promovió ejercicio de observación colectiva de su algoritmo

EFF advierte sobre la moderación automática de contenidos en Internet durante el COVID19 y teme se extienda luego de la crisis

... (en este espacio hay varias líneas de código de programación personalizado)