Titulado “IA como Bien Público: Garantizando el Control Democrático de la IA en el Espacio de la Información”, el informe emitido este 28 de febrero de 2024, realizado por el Foro sobre Información y Democracia (Foro I%D). El documento contiene más de 200 recomendaciones dirigidas a los Estados y empresas de IA. Adopta un enfoque integral que pide sistemas de IA seguros e inclusivos, estableciendo mecanismos de responsabilidad e incentivos para una IA ética, así como mecanismos de gobernanza.
Las recomendaciones fueron desarrolladas por un Grupo de Trabajo internacional con 14 miembros de diversas disciplinas y 13 países en todos los continentes. El Grupo fue copresidido por Laura Schertel Mendes, Profesora de Derecho, y Jonathan Stray, Científico Senior, y compuesto por Rachel Adams, Linda Bonyo, Marta Cantero Gamito, Alistair Knott, Syed Nazakat, Alice Oh, Alejandro Pisanty, Gabriela Ramos, Achim Rettinger, Edward Santow, Suzanne Vergnolle y Claes de Vreese. Durante más de 6 meses, trabajaron a través de un proceso inclusivo y consultivo, recibiendo aportes de más de 150 expertos en todo el mundo.
El informe describe las principales recomendaciones a gobiernos, la industria y partes interesadas relevantes, especialmente:
➔ Fomentar la creación de un sistema de certificación a medida para empresas de IA inspirado en el éxito del sistema de certificación de Comercio Justo (Fair Trade AI).
➔ Establecer estándares que regulen la autenticidad y procedencia del contenido, incluida la autenticación del autor.
➔ Implementar un marco legal integral que defina claramente los derechos de los individuos, incluido el derecho a ser informado, a recibir una explicación, a impugnar un resultado generado por máquina y a la no discriminación.
➔ Brindar a los usuarios la oportunidad fácil y amigable de elegir sistemas de recomendación alternativos que no optimicen el compromiso, sino que se basen en la clasificación en apoyo de resultados individuales y sociales positivos, como información confiable, contenido de puente o diversidad de información.
➔ Establecer un proceso participativo para determinar las reglas y criterios que guíen la procedencia y curación de conjuntos de datos, la etiqueta humana para el entrenamiento de IA, la alineación y el equipo de evaluación para construir sistemas de IA inclusivos, no discriminatorios y transparentes.
“Las democracias deben dejar de permitir que las empresas tecnológicas dicten la trayectoria de la tecnología, capturen la narrativa política y establezcan las agendas. Existen soluciones para construir un espacio global de información y comunicación propicio para la democracia, que cree valor para las personas no solo como consumidores, sino ante todo como ciudadanos. Estamos presentando estas soluciones hoy. Llamamos a esto IA de Comercio Justo”, destaca Michael Bąk, Director Ejecutivo del Foro sobre Información y Democracia.
Los eventos recientes han demostrado el poder destructivo que la IA puede tener en los procesos políticos. Los deepfakes de actores políticos pueden influir en el comportamiento de voto, y los sistemas de IA pueden amplificar contenido que escala conflictos y crisis. Los chatbots ya han proporcionado información incorrecta sobre elecciones. Los sistemas de IA pueden reproducir desigualdades existentes y hegemonías culturales y llevar a la discriminación y el sesgo. Sin embargo, la IA también presenta posibilidades no explotadas para fortalecer la producción de noticias, el análisis de datos y el acceso a la información.
“Si el desarrollo y uso de la IA continúan como lo hacen actualmente, plantea grandes desafíos para el entorno de información que impulsa los procesos democráticos. Estamos al borde de un cambio importante en el panorama de gobernanza de la IA, de ideas a regulación. Es hora de que los Estados actúen, y nuestra hoja de ruta está destinada a guiar a los formuladores de políticas en la defensa de la democracia”, explican Laura Schertel Mendes y Jonathan Stray, copresidentes del Grupo de Trabajo.
El informe fue lanzado con motivo de un evento global en cinco ciudades de cuatro continentes. Este evento presentó un lanzamiento en línea y debates de paneles locales, organizados en colaboración con varios socios: Centro de Inteligencia Artificial Compatible con Humanos (UC Berkeley, Estados Unidos), Escuela de Gobierno Transnacional de Florencia (Instituto Universitario Europeo, Italia), Instituto de Educación, Desarrollo e Investigación (Brasil), Investigación TIC África (Sudáfrica) y Escuela de Asuntos Internacionales de París, Hub de Innovación en Tecnología y Asuntos Globales (SciencesPo, Francia).
Christophe Deloire, Presidente del Foro sobre Información y Democracia, presentó las principales conclusiones del informe desde París, seguido de observaciones de los copresidentes Jonathan Stray y Laura Schertel Mendes respectivamente en Berkeley y Brasilia. Scott Timcke se unió desde Ciudad del Cabo y Marta Cantero Gamito desde Florencia, antes de dar la palabra a Gabriela Ramos, miembro del grupo de trabajo que ha liderado el desarrollo de las recomendaciones éticas de IA en la UNESCO.
ENLACES RELACIONADOS:
New report of the Forum: more than 200 policy recommendations to ensure democratic control of AI