Por María Capurro Robles, coordinadora de proyectos de OBSERVACOM.
Nuevos pronunciamientos internacionales aportan elementos para los debates sobre regulación del entorno digital, protección de derechos humanos y responsabilidades de las plataformas frente a los riesgos que enfrentan niños, niñas y adolescentes en Internet.
En las últimas semanas se conocieron dos nuevos pronunciamientos sobre protección de infancias en el entorno digital. Ambos tienen un componente novedoso en el que nos interesa poner el foco: se suman a una interpelación cada vez más generalizada a nivel global, en la que advierten sobre la responsabilidad de las empresas tecnológicas en el diseño dañino de sus productos para niños, niñas y adolescentes (NNA), y sobre las responsabilidades que tienen estas empresas y los Estados para cambiar de manera urgente este escenario.
Alto Comisionado de ONU define claves para la regulación
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) dio a conocer una declaración breve titulada “Cómo garantizar los derechos de los niños en Internet” que incluye “diez pasos clave para que las regulaciones protejan a los niños en línea”.
Solo el título de esa sección, que es el “corazón” de la declaración, deja clara una posición: regular no es una opción, es una obligación. La cuestión es cómo. Por eso el Alto Comisionado detalla medidas específicas, muy alineadas con lo que distintas organizaciones venimos sosteniendo a nivel global y regional.
Quedan por tanto descartadas, para el Alto Comisionado, las iniciativas basadas en la autorregulación, las políticas corporativas y los acuerdos de buenas intenciones. La regulación del entorno digital, que “expone a niños y niñas a riesgos reales para su seguridad, privacidad y bienestar”, afirma la declaración, es un imperativo.
Basadas en estándares de derechos humanos expresamente consignados, estos “diez pasos clave” ponen el foco en las obligaciones que, a través de la regulación, deben imponerse a las empresas en sus prácticas comerciales, lo que incluye abordar el diseño adictivo (a través del scroll infinito, las notificaciones persistentes, la reproducción automática), y “regular estrictamente el marketing en línea dirigido a menores de edad”.
También incluyen obligaciones de protección de privacidad, bajo el principio de minimización de datos; debida diligencia, con evaluaciones de impacto en derechos humanos previas al lanzamiento de funciones o herramientas; medidas de seguridad alrededor de los sistemas de verificación de edad; exigencias de transparencia sobre el diseño, las prácticas de datos, los sistemas de moderación y recomendación, “de forma que pueda(n) ser comprendida(s) por reguladores, investigadores y el público en general”. La supervisión, la rendición de cuentas y la existencia de consecuencias legales por el incumplimiento de las obligaciones, también integran esos diez pasos clave, junto con la imprescindible participación de niños, niñas y adolescentes en los procesos regulatorios que les conciernen.
Un párrafo aparte merece la clave que lleva por título “Restricciones de edad objetivo para daños específicos”. La pornografía y los juegos de azar forman parte de los contenidos que requieren restricciones. Ahora bien, el Alto Comisionado incluye a continuación: “…las preocupaciones emergentes, como las restricciones al uso de chatbots con IA o las funciones de diseño adictivas, podrían justificar restricciones de edad o cambios en el diseño de las funciones o servicios en cuestión”.
Las prohibiciones generales de acceso a productos y servicios digitales tienen complejidades y desafíos en relación con la implementación y la posible vulneración de otros derechos humanos como la libertad de expresión. Sin embargo, el Alto Comisionado está dejando claro que restringir ciertos servicios de alto riesgo en función de la edad, implica garantizar los derechos de NNA. Junto con la pornografía y los juegos de azar, el Alto Comisionado identifica como “preocupaciones emergentes” que requieren la evaluación de restricciones, a los “chatbots con IA o las funciones de diseño adictivas”.
Las Relatorías de Libertad de Expresión también interpelan a las empresas
El 1 de junio pasado, las Relatorías sobre libertad de expresión del mundo publicaron la Declaración Conjunta sobre el Derecho a la Libertad de Expresión y el Acceso a la Información de los Niños y las Niñas en la Era Digital. El texto es extenso y no es el objetivo de esta nota analizarlo en profundidad.
Nos interesa poner el foco en el papel y las responsabilidades que asigna a las “empresas de tecnología digital”, entre las que incluye a las que implementan herramientas de IA e IA generativa. En particular, en la perspectiva de seguridad y privacidad desde el diseño a la que identifica como el enfoque respetuoso de los derechos humanos de niños y niñas, y que incluye evaluaciones de impacto en sus derechos y en la protección de sus datos.
La declaración se adscribe a todas las pautas incluidas como parte de esa estrategia de seguridad integral por diseño, y que coinciden centralmente con las señaladas por el Alto Comisionado por lo que no cabe repetirlas. Advierten las relatorías que las tecnologías digitales evolucionan rápidamente y que al mismo ritmo cambian —se incrementan y se sofistican, podríamos agregar también— los riesgos para las infancias y adolescencias.
El documento dedica un apartado específico a las empresas de IA, cuyas obligaciones equipara a las que caben para otras tecnológicas: “…la seguridad desde el diseño, la privacidad desde el diseño, la gobernanza de datos, la evaluación de riesgos, las evaluaciones de impacto sobre los derechos de los niños y de las niñas (EIDNs), las evaluaciones de impacto en la protección de datos (EIPDs), el desarrollo de capacidades y otras obligaciones identificadas en la presente Declaración Conjunta se aplican a la IA al igual que al entorno digital en general”. Este punto es clave en un contexto de debate global y regional sobre marcos regulatorios para la Inteligencia Artificial y para aquellos contextos en los que se avanza en normativas de protección de infancias.
Las tecnologías de IA, “impulsadas por fines comerciales y sin salvaguardas sólidas”, dicen las Relatorías, no pueden quedar excluidas de los marcos regulatorios sobre entorno digital que se adopten, y la perspectiva de infancias tampoco. La declaración dedica tres extensos párrafos a advertir sobre los riesgos de la IA generativa en niños, niñas y adolescentes, incluyendo la creación y distribución de imágenes sexualizadas de niños y niñas, la utilización de estos sistemas para la consulta sobre problemas vinculares y emocionales, y los retos para la sostenibilidad medioambiental de estos desarrollos y su impacto diferenciado en los más chicos.
En este marco, y respecto a todo el entorno digital, los relatores no dejan dudas: los Estados deben regular en base a estos estándares, realizar una supervisión independiente del cumplimiento de la normativa y contar con mecanismos propios de seguimiento y evaluación de impactos.
La declaración dedica diez párrafos específicos a los deberes de las empresas, alineados con la perspectiva estructural de seguridad y privacidad por diseño. El detalle de estas recomendaciones ofrece una hoja de ruta de aquellas medidas que los Estados pueden incluir en sus regulaciones y exigir a las empresas sin afectar el derecho a la libertad de expresión que las relatorías procuran salvaguardar.
A modo de cierre
Cada vez es más claro: interpelar (y regular) el modelo de negocios de las empresas tecnológicas no es contrario a defender la libertad de expresión y el resto de los derechos humanos. Todo lo contrario.
Ya es un consenso indiscutido que los derechos humanos deben garantizarse en todos los ámbitos, incluido el entorno digital. También asistimos a la consolidación de un consenso cada vez más robusto y global sobre los perjuicios del modelo de negocios de las empresas tecnológicas que es abusivo, y está basado en la explotación y mercantilización de la atención. Los desarrollos de IA generativa, lo señala la declaración de las Relatorías, también están en el ojo de la tormenta por desarrollarse con perfil mercantil y sin supervisión.
La responsabilización de las empresas tecnológicas, lejos de restringir la libertad de expresión la amplía, la fortalece, la expande. Si los entornos digitales son seguros y contribuyen a su bienestar, muchos más niños, niñas y adolescentes podrán utilizarlo, según su edad, para compartir sus ideas, para conectarse, para acceder a contenidos y entretenimiento que sean adecuados y no perjudiquen su desarrollo.
Lejos de aquella promesa democratizadora original, el actual desarrollo de Internet restringe por sí mismo la libertad de expresión y está afectando derechos fundamentales. En todos los países, muchas familias, colectivos y organizaciones sociales exigen medidas —en general desde una perspectiva restrictiva— a los Estados, a los tribunales de justicia como ocurre en particular en Estados Unidos, y a instituciones como las escuelas con las que se comparten a diario desafiantes retos para el cuidado y la crianza.
Ese reclamo debe atenderse. Los daños que el entorno digital tal como funciona actualmente está ocasionando en infancias y adolescencias están documentados en cantidad de investigaciones desde distintas disciplinas.
Los dos pronunciamientos aquí analizados aportan insumos estratégicos para la movilización regional y global en la que tantas organizaciones y personas estamos comprometidas.
ENLACES RELACIONADOS:
Prohibición de acceso a redes para menores de 16 años: precaución