Observacom
Actualidad - Global

TikTok despide empleados y profundiza una moderación de contenidos automatizada a cargo de la IA

TikTok anuncia una reestructuración que incluye despidos en su equipo de moderación en varios países y un giro hacia la automatización de la detección de “contenido inapropiado”, en respuesta a la creciente presión regulatoria y social sobre la plataforma. La medida plantea interrogantes sobre la libertad de expresión al reducir la supervisión humana.
Foto: Pexels

TikTok, la plataforma de videos cortos que pertenece a la compañía china ByteDance, anunció una reestructuración global de la compañía y el despido de entre 500 y 700 empleados en Malasia -según distintas fuentes-, mayormente del equipo encargado de la moderación de contenido, es decir de la revisión manual de los videos publicados para identificar contenido inapropiado o que no cumple con las normas de la red social.

La empresa reemplazará gran parte de la moderación humana por procesos de “automatización de la detección de contenidos que incumplen sus normas” para “gestionar la toxicidad, la desinformación y la seguridad del usuario”. Hacer frente a la desinformación y a la diseminación de contenidos violentos a través de una moderación de contenidos más eficiente y rápida forman parte de un reclamo tanto social como regulatorio.

En la actualidad, tanto Estados Unidos como la Unión Europea están implementando regulaciones más estrictas sobre el contenido que se publica y se comparte a través de las plataformas digitales. Un ejemplo de esto es la Ley de Servicios Digitales de la Unión Europea que entró en vigor en agosto de 2023, en la que una de las demandas es que “las plataformas tomen medidas rápidas para abordar el contenido ilegal y evaluar anualmente los riesgos que plantea el contenido que alojan y circulan”, con el objetivo de garantizar un “entorno en línea más seguro”. Es por este motivo que desde TikTok tomaron la decisión de automatizar los procesos de identificación de contenidos que incumplen sus normas y de la moderación de los mismos. 

A pesar de que la empresa admite que ciertos contenidos, por su complejidad, requieren una revisión humana debido a los contextos culturales y sociales específicos, los datos indican que, en la actualidad, con 110.000 empleados en más de 20 ciudades del mundo, un 80% de los contenidos que violan las normas son eliminados a través de tecnologías automatizadas

Es importante destacar que este tipo de moderación del discurso en línea, sin la necesaria supervisión humana, “vulnera los estándares internacionales de libertad de expresión tal como la prohibición de censura previa”.


ENLACES RELACIONADOS:

Tiktok, de bytedance, recorta cientos de puestos de trabajo en un giro hacia la ia

Entró en vigor la Ley de Servicios Digitales (DSA) para las grandes plataformas

TikTok reemplaza a cientos de moderadores humanos con IA y realiza despidos masivos

Inteligencia Artificial, algoritmos y libertad de expresión

Ir al contenido ... (en este espacio hay varias líneas de código de programación personalizado)