Observacom
Actualidad - Global

Relator de ONU pide regulación de las compañías tecnológicas para garantizar aplicación de normas internacionales de derechos humanos

El Relator Especial sobre la Extrema Pobreza y los Derechos Humanos de Naciones Unidas, Philip Alston, pidió regular a las tecnologías digitales, incluida la inteligencia artificial, para garantizar el respeto a los derechos humanos.

En su reciente informe presentado ante la Asamblea General, Alston señaló que “los gigantes tecnológicos operan casi en una zona franca de derechos humanos” y advierte que existe un grave riesgo de ir “tropezando como zombies en una distopía de bienestar digital”.

El reporte señala que “un puñado de poderosos ejecutivos están reemplazando a los gobiernos y legisladores en la determinación de las direcciones en las que las sociedades se moverán y los valores y asunciones que empujarán esos desarrollos”.

“Como respuesta a la creciente presión de regulación gubernamental efectiva, la industria se ha precipitado en la producción, influencia y adopción de «códigos de ética» y otras normas no vinculantes que pretenden «regular las tecnologías digitales y sus desarrolladores”, sostiene el informe.

El documento de ONU plantea que el punto de partida para garantizar el respeto a los derechos humanos es “a través de la regulación gubernamental para que las compañías tecnológicas estén legalmente obligadas a respetar las normas internacionales de derechos humanos”.

Alston problematiza en el informe el uso de los gobiernos de sistemas de inteligencia artificial y otras tecnologías que son desarrolladas por las plataformas como forma de reducir costos en el sistema de protección social y asistencia. En los Estados, “los sistemas de protección social y asistencia son cada vez más guiados por datos digitales y tecnologías utilizadas para automatizar, predecir, identificar, vigilar, detectar y sancionar”, señala el reporte.

Según el Relator, “los gobiernos ciertamente no han regulado a la industria tecnológica como si los derechos humanos estuvieran en juego, y el sector tecnológico se mantiene virtualmente como una zona libre de derechos humanos. Los gigantes tecnológicos y sus defensores en el gobierno han trabajado duro para mantenerlo de este modo”.

Para evitar caer “en la distopía digital”, el informe sostiene que hay que reconocer que “las tecnologías digitales del estado de bienestar no son el resultado inevitable del progreso tecnológico, sino que reflejan decisiones políticas realizadas por humanos”.

En este sentido indica que los sistemas de inteligencia artificial son diseñados por humanos y presentan sesgos y discriminación. “Quienes diseñan sistemas de IA en general, así como aquellos focalizados en estado de bienestar son mayoritariamente blancos, hombres, adinerados y del Norte Global”, detalla el informe. Así, “el análisis predictivo, los algoritmos y otras formas de IA es muy probable que reproduzcan y exacerben los sesgos reflejados en los datos y políticas”, lo que puede “socavar el derecho a la protección social para grupos claves e individuos”.

El informe concluye que el proceso de elaboración de políticas públicas requiere transparencia y amplias bases de participación del público, que “deben ser capaces de comprender y evaluar las políticas que están enterradas en lo profundo de los algoritmos”.

 

ENLACES RELACIONADOS:

Snowden: gobiernos delegan autoridad a las plataformas, compañías opacas que serán los nuevos “sheriffs”

Relatores de Libertad de Expresión: el «control privado es una amenaza para la libertad de expresión» en Internet

Edison Lanza: “hiperconcentradas” compañías de Internet son “gatekeepers del debate público” que deben adoptar estándares de DDHH

 

Imagen destacada: «38th session of the Human Rights Council» por UN Geneva con licencia CC BY-NC-ND 2.0

... (en este espacio hay varias líneas de código de programación personalizado)