Observacom
Sin categoría

Inteligencia Artificial en la moderación del discurso. Los problemas del mesianismo tecno-utopista en tiempos de COVID19

El artículo publicado en la revista Wired (As humans go home, Facebook and YouTube face a coronavirus crisis) da cuenta de la experiencia vivida por trabajadores tercerizados dedicados a la moderación de contenidos para Youtube, de Google, y Facebook, cuyos trabajos se vieron interrumpidos por los respectivos aislamientos ordenados en cada país, vaciando las oficinas como consecuencia de la pandemia COVID-19, impactando de manera inesperada en las performances de las grandes plataformas, quienes tuvieron que recostarse en sistemas de moderación de contenidos con inteligencia artificial.

Las fuentes, entre las que se encuentran trabajadores de la consultora Accenture en Dublín, que solicitan mantener confidencialidad sobre sus identidades, dan cuenta de un modelo de trabajo con largas horas, bajos costos y objetivos exigentes para decidir qué contenido cuestionado es válido y cuál no, según los términos de uso de cada plataforma. Se estima que existen alrededor de 10.000 personas trabajando en los diferentes servicios de Google y 30.000 en los de Facebook y se destaca la tendencia reciente de reemplazo de estas empresas tercerizadas que emplean humanos por empresas que automatizan procedimientos.

La misma nota destaca como se ha resignificado la importancia de estos agentes con una experiencia de Harold Olfield, uno de los referentes en materia de moderación de contenidos por plataformas, a quien los algoritmos sancionaron automáticamente en 2 de sus publicaciones, aún cuando enlazaban a medios de comunicación reputados como ¨Politico¨ y ¨The Hill¨. Aún cuando, bajo protesta, las publicaciones fueron restauradas, le permite al especialista reflexionar sobre el impacto general que esta tendencia de moderación algorítmica ¨superagresiva¨  tiene en las expresiones legítimas sensibles al tiempo.  En coincidencia con estas perspectivas, un ex ejecutivo de Facebook, Alex Stamos, manifiesta su preocupación por la falta de criterio de los sistemas cuando pierden la supervisión humana.

Tan indudable es el impacto en la libertad de expresión de este contexto de excepción causado por la pandemia, que el propio Mark Zuckerberg comparó en una conferencia del 18 de Mayo a la propagación de información falsa con ¨gritar fuego en medio de un incendio¨ y justificó la baja de estándares sobre el discurso, en un contexto que no resulta nuevo, teniendo en cuenta la promesa constante del CEO de Facebook a funcionarios desde larga data tiene que ver con el rol de la Inteligencia Artificial en la moderación de contenidos.

En una reflexión más general, se toma a colación las expresiones de ejecutivos de las grandes plataformas refiriendo a la Inteligencia Artificial como ¨la solución a casi todos los problemas, luego de suficiente entrenamiento algorítmico¨. En tiempos de crisis, parece más importante que nunca combatir las perspectivas mesiánicas y tecno-utopistas.

* Andrés Piazza es argentino y trabaja como consultor asociado en el Área de Derechos en Internet de OBSERVACOM

... (en este espacio hay varias líneas de código de programación personalizado)