Facebook bloqueó la página Eye on Alhasakah dedicada a compartir información, fotos y videos sobre la guerra civil en Siria, “por error”. Luego de la intervención de la Revista TIME, la red social restauró la página en febrero de este año (la había bloqueado en octubre de 2019), excusándose en que el moderador había cometido un error.
La página fue reportada (flagged) por primera vez en 2019 por el algoritmo desarrollado por Facebook, así como por usuarios por compartir “contenido extremista”. Luego fue derivada a moderadores humanos que decidieron remover los videos. Facebook dice que más del 98% del contenido removido por violar sus reglas sobre extremismo son reportadas en forma automática.
El uso de algoritmos para definir la circulación de contenidos en las redes sociales no solo es una práctica de Facebook sino también de YouTube. En este caso, el 16% de un total de 1,7 millones de videos que formaban parte del Archivo Sirio, una organización de Berlín que documenta violaciones a los derechos humanos, fueron removidos de acuerdo con TIME.
Los algoritmos para detectar contenido extremista fueron desarrollados como reacción al ISIS, que en 2014 comenzó a producir videos sobre ejecuciones y batallas como propaganda. En la actualidad, luego de 3 años de entrenamiento, los algoritmos son responsables por casi la totalidad de las detecciones.
Facebook y Youtube utilizan sistemas de detección a través de “inteligencia artificial”, pero ambos mantienen en secreto qué tipo de contenido utilizan para “entrenar” a estos algoritmos, responsables de la gran mayoría de las remociones.
ENLACES RELACIONADOS: