Una Inteligencia Artificial alineada con los derechos de las mujeres: Análisis y propuestas"

Aumenta de manera exponencial la utilización de datos que nutren la Inteligencia Artificial y el desarrollo de algoritmos. “Las tecnologías basadas en datos están generando cambios sociales acelerados que nos exigen reflexionar sobre su impacto en la vida de las mujeres y los retos que plantea desde el punto de vista de sus derechos” señala “Una inteligencia artificial alineada con los derechos de las mujeres: análisis y propuestas”, el documento presentado por Dones en Xarxa en el que además de realizar un diagnóstico de la situación actual, se ofrece propuestas y recomendaciones de actuación en los diferentes ámbitos para afrontar el nuevo reto que plantea la incorporación en la IA y la tecnología de datos a nuestro día a día.

Entre los objetivos está no solo evitar que las brechas actuales entre hombres y mujeres en desarrollo y uso sean más profundas, sino también impedir que surjan nuevas discriminaciones a partir de los nuevos contextos, señala Lourdes Muñoz directora de Dones en Xarxa y del proyecto de investigación en el que han participado una decena de especialistas: Marta Aymerich, Montserrat Boix, Virginia Carreras, Miren Gutiérrez, Gabriela Moncada, Ana Pérez, Marta Rodríguez-Tábalo, María del Carmen Romero y Cristina Ubani.

Entre los retos, incorporar la perspectiva de género en la creación de proyectos de Inteligencia Artificial, además de cuidar y supervisar especialmente las bases de datos que se están utilizando para alimentar la mayoría de tecnologías emergentes -blockchain, business intelligence, IA, IOT-. Es clave que se disponga de bases de datos desagregadas por sexo que permitan medir las discriminaciones y diferencias específicas entre hombres y mujeres, de forma que los procesos automatizados también las puedan incorporar como criterio, se subraya.

 Violencia machista digital

El documento advierte sobre la gran potencia de las herramientas de la IA que amplifica las agresiones y daños en un contexto más complejo por sus características multicanal, veloz, disperso, con opción de anonimato… De manera mayoritaria son las mujeres quienes se enfrentan a esta nueva violencia y que las retrae en la participación del espacio público digital. El acceso desigual a las herramientas digitales provocado por la brecha digital de género genera mayor vulnerabilidad en este ámbito.

También preocupa especialmente la polarización en las redes sociales alimentada por ciertos algoritmos de la IA. “Las agresiones a algunas mujeres en redes está provocando el silenciamiento y la expulsión de muchas otras.” Es urgente, señala el documento, que las políticas públicas modifiquen las normativas sobre servicios digitales para incorporar esta violencia machista.

También desarrollar políticas específicas para su erradicación, incorporando nuevos instrumentos para abordar estos fenómenos.

 Políticas públicas digitales en el desarrollo de la IA para el avance de las mujeres

A pesar del aumento de inversiones y los planes de impulso de las tecnologías digitales - especialmente de IA y tecnología de datos- y de la administración pública inteligente, la proporción de proyectos en los que se tiene en cuenta la igualdad entre mujeres y hombres y los derechos de las mujeres es mínima a pesar de que las herramientas pueden son especialmente útiles para ayudar a mejorar la intervención, focalizar procesos y mejorar impactos. Especialmente en lo que se refiere a la lucha contra la violencia hacia las mujeres. Es clave contemplar la perspectiva de género en la publicación de bases de datos públicas, señala el documento. También impulsar programas de formación y capacitación a mujeres.

 Vigilar los criterios de entrenamiento de la IA

Desarrollar metodologías que tengan claro el contexto, definir criterios de diseño “teniendo en cuenta el punto de partida y el acceso desigual a los recursos de hombres y mujeres, también “desarrollar una metodología concreta para aplicar a los entrenamientos de la IA con el objetivo de detectar y evitar los sesgos de género y sexistas es fundamental para avanzar en una IA y tecnología de datos más ética sin discriminaciones.

Será vital “establecer vigilancia y monitorización para que los equipos de diseño de IA puedan detectar sesgos y tomar medidas correctivas para eliminarlos, de forma que resulten tecnologías lo más inclusivas posible”.

Incluir supervisión humana en todos los procesos que forman parte de la creación, desarrollo de un proyecto de IA y su aplicación es imprescindible.

También contar con personas expertas en los ámbitos de igualdad entre mujeres y hombres y derechos de las mujeres.

Dones en Xarxa es una entidad surgida en 2004 en el momento de la generalización del uso social de internet. Desde hace más de dos décadas se ha dedicado a impulsar el uso de la red por parte de las mujeres como protagonistas, fomentando la creación de redes digitales y promoviendo contenidos que favorecen la igualdad.

Inteligencia Artificial y derechos de las mujeres

Dones en Xarxa marzo 2025