Algoritmos filtran contenido “antiterrorista” pero también borran evidencias de crímenes de guerra

Los sesgos de la Inteligencia Artificial parecen tener más impacto en el contenido árabe desde antes que la pandemia COVID-19 obligase a las plataformas a sustituir moderadores humanos.  

Hace algunos años, con el argumento de la batalla contra el terrorismo islámico y la amenaza de ISIS, las plataformas Facebook y Youtube entrenaron sus algoritmos para prevenir la propagacion del ¨contenido extremista¨ en Medio Oriente. Una reciente nota de Willy Perrigo en la Revista Time titulada ¨Estas empresas tecnológicas lograron erradicar el contenido de ISIS. Pero también están borrando evidencia crucial de crímenes de guerra¨ da cuenta de las consecuencias del filtrado de contenidos de las plataformas en el contexto árabe.

En la misma, se relata la experiencia del periodista sirio Abo Liath Aljazarawy y su página de Facebook. Con 50.000 seguidores, ¨Mirada en Alhasakah¨ fue removida con la totalidad de sus imágenes que documentan el impacto sangriento de los ataques militares en Siria.

En 2019, tanto los algoritmos como las revisiones de moderación privada efectuadas por humanos consideraron ese sitio y su contenido como ¨extremista¨ hasta que 3 meses después, y luego de una notificación de la propia revista Time a Facebook, se logró la restauración de la cuenta sin informar el detalle respecto de los videos que habían señalados como extremistas.  

La ONG norteamericana Witness ha documentado esta práctica de manera más general. Dia Kayyali, coordinadora de tecnología y defensa de este grupo de defensores de derechos humanos que se enfoca en ayudar a las personas a registrar pruebas digitales de abusos, destacó en la misma entrevista haber observado un comportamiento constante en Facebook y YouTube para eliminar la documentación de las protestas del mundo árabe. 

Kayyali manifiesta que no existe posibilidad de saber si ese contenido removido en masa responde al entrenamiento de algoritmos o a otra razón, porque las plataformas no son transparentes respecto a esa información.