Por Carolina Martínez Elebi
El 28 de junio de 2022, la Corte Suprema de Justicia de Argentina revocó la sentencia de la Cámara Civil que favorecía a Natalia Denegri por el llamado “derecho al olvido” -que no existe como tal en el país- para que se quiten de los resultados de búsqueda de internet los videos que hacen referencia a su vinculación con el “Caso Coppola” y la muestran participando de escenas escandalosas en reality shows de televisión. Por unanimidad, los jueces Horacio Rosatti, Carlos Rosenkrantz, Juan Carlos Maqueda y Ricardo Lorenzetti expresaron una fuerte defensa del derecho a la información y a la libertad de expresión.
Sin embargo, las máximas autoridades de la Justicia argentina hicieron una advertencia sobre los buscadores de internet al referirse al modo en que las plataformas digitales inciden “en la ordenación del debate público” a través del uso de herramientas de tecnología informática, particularmente de aquellas que integran la categoría de Inteligencia Artificial. Es decir que, por primera vez la Corte Suprema hace la pregunta acerca de cómo se ordenan los resultados de búsqueda en internet. ¿Cómo toman decisiones estos algoritmos? ¿Qué criterios los guían?
Ya en la audiencia pública del 18 de marzo, el juez Lorenzetti había dicho: “El problema acá es la transparencia de los algoritmos”. Cómo Google ordena y por qué ordena la información. A pesar de que desde Google intentaron explicar que el modo de jerarquizar los resultados de búsqueda es producto de las preferencias y de las acciones de los propios usuarios, el juez Lorenzetti remarcó el rol activo en la eliminación de contenidos vinculados a delitos como abuso infantil, terrorismo o, más recientemente, a los referidos a la guerra Rusia-Ucrania. Ante la falta de claridad en la respuesta, los jueces Rosatti y Rozenkrantz insistieron: ¿Cuál es el criterio con el que Google ordena los resultados de las búsquedas?
La pregunta no es caprichosa. Forma parte de una serie de interrogantes respecto del campo de aplicación de este tipo de tecnologías teniendo en cuenta los derechos fundamentales reconocidos en la Constitución Nacional y en los Tratados Internacionales de Derechos Humanos. De hecho, para dar cuenta de que la invitación a esta discusión no es un hecho aislado, en el fallo destacan la existencia de un foro de discusión mundial a través del que se busca compatibilizar los problemas que podrían darse entre el funcionamiento de las tecnologías de IA y los derechos humanos.
Con el objetivo de retomar esta pregunta, Access Now y OBSERVACOM organizaron el webinar Transparencia y priorización de los buscadores de internet, del que participaron el doctor en Ciencias de la Información, profesor e investigador del CONICET, Martín Becerra, y la gerente de Políticas Públicas y Relaciones Gubernamentales para Cono Sur de Google, Tamar Colodenco, quien destacó que el rol de los buscadores es fundamental para acceder a la información y para habilitar el ejercicio de la libertad de expresión y que, en ese sentido, “la misión del buscador de Google es organizar la información del mundo y hacer que sea universalmente útil y accesible para todos”. Martín Becerra, por su parte, se refirió al modo en que archivos o bibliotecas siempre tuvieron que catalogar y ordenar información para volverla accesible y destacó el desafío de la tarea de etiquetar cada pieza de información, teniendo en cuenta la delicadeza de esa tarea a la que describió como “eminentemente política”. Esta decisión, afirmó, demanda una decisión que no es caprichosa, porque si lo fuera, sería un caos y no se podría organizar ni localizar la información.
La decisión acerca de cómo ordenar la información implica la necesidad de establecer previamente cuáles serán los criterios y valores que se tendrán en cuenta para realizar la jerarquización. En el caso de una biblioteca, puede ser por el género literario, por el apellido del autor en orden alfabético o por orden cronológico si fuera material de archivo y hemeroteca. En estos casos, cuando una persona se acerca a una biblioteca para buscar un material, ese criterio es claro.
En el caso de los buscadores -y esto podría extenderse a otro tipo de plataformas que también ordenan contenidos en internet- el criterio para ordenar la información ha ido cambiando a lo largo de los años. Colodenco explicó que Google ordena los resultados teniendo en cuenta la relevancia de esa información para el usuario que realiza la búsqueda. Sobre esto, Becerra planteó que un punto clave que necesita debate es cuáles son esos criterios de relevancia.
Volviendo a la pregunta de la Corte Suprema, Tamar Colodenco explicó que “es cierto que hay involucrados secretos comerciales y que hay cuestiones que son delicadas desde el enfoque de la privacidad de los usuarios, pero hay muchas cosas que son públicas. A diferencia de lo que suele decirse acerca de la ‘caja negra’ de los algoritmos, hay mucha información acerca de cómo funciona el buscador”. Sobre esta información publicada en el sitio oficial de Google respecto de los criterios de relevancia, Becerra citó un fragmento que dice: “Las actualizaciones son cambios que hacemos para la mejora de la búsqueda general. Estas actualizaciones pueden producir cambios notables en el rendimiento de los sitios”. Esto, dice el investigador, hace explícito que los cambios en la programación del motor de búsqueda “son determinantes para la suerte o desgracia de los sitios indexados”.
Sobre los principios y criterios de relevancia es necesario mencionar que no todos son tan claros, transparentes y concretos. Por ejemplo, algunos se refieren a que los títulos de los contenidos de las páginas eviten “exageraciones o expresiones impactantes” o que el contenido “presente la información de una forma fiable”, entre otros. A pesar de presentar estos criterios en forma aparentemente transparente, no se logra responder con precisión la pregunta de cómo toman la decisión los algoritmos.
En una de sus intervenciones, Becerra sugirió, además, que la definición de esos criterios no deberían quedar exclusivamente a cargo de Google, teniendo en cuenta el lugar casi monopólico que ocupa el buscador en América Latina, sino que deberían incluir “a otros actores políticos, sociales, académicos y culturales, para que la labor cultural que realiza, mejore, para que sea más transparente, más clara y para que los criterios de relevancia sean más relevantes para la sociedad y no solamente para la empresa”.
La pregunta por la transparencia de los algoritmos corresponde al principio de explicabilidad para los sistemas de IA, que busca que los usuarios puedan confiar en ellos. Como se expresa en las Directrices éticas para una IA fiable publicadas por el Grupo independiente de expertos de alto nivel sobre IA creado por la Comisión Europea en junio de 2018, la explicabilidad significa que los procesos deben ser transparentes y que las decisiones deben poder explicarse ya que “sin esta información, no es posible impugnar adecuadamente una decisión”. En los casos en que el acceso a la información y la libertad de expresión se ven atravesados por procesos algorítmicos, la transparencia de esos procesos es fundamental para garantizar esos derechos.
Podés ver el webinar organizado por Access Now y OBSERVACOM en el siguiente enlace: Transparencia y priorización de los buscadores de Internet.