PRAGA.— En los casos de mal uso de la inteligencia artificial (IA) las mujeres son con frecuencia las más afectadas, ya que sus parámetros están infrarrepresentados en las bases de datos con las que operan los algoritmos y que reflejan la discriminación en el mundo analógico.
“La tecnología no es el problema, sino la gente. Hay un dicho en el mundo de la IA que dice: ‘Basura fuera, basura dentro’. Entonces, si los datos están sesgados, por supuesto que habrá también un sesgo en el sistema”, subraya María Postma, jefa de ciencias cognitivas de la Universidad de Tillburg.
Recuerda que la IA es un intento de “crear una versión artificial de la inteligencia humana” para emplearse, por ejemplo, en la traducción simultánea de idiomas o la conducción autónoma de vehículos, de modo que la idea era “crear una simulación del cerebro humano”.
La IA se nutre de bases de datos y a partir de esta información genera modelos matemáticos que guían sus acciones. “Pongamos que en una base de datos hay información de las decisiones que se han tomado en el pasado sobre los perfiles de los candidatos a un empleo. Y en el pasado se tomaban muchas decisiones con un sesgo de género y candidatas mujeres no eran seleccionadas para un puesto determinado”, cita como ejemplo.
Como humano…
“Si el sistema trabaja con esta información, entonces va a usar el género como una variable en su proceso de toma de decisión, porque la IA pensará que si excluye a las mujeres llegará a la misma decisión que los humanos hicieron en el pasado”.
Postma y Aleksandra Przegalinska, investigadora de la Universidad de Harvard, subrayan que hay medidas para detener el sesgo, que pasan por “excluir la variable género” del sistema y por “estropear a propósito” el modelo matemático de la IA, desordenando y mezclando los datos, con el objetivo de “aumentar la aleatoriedad” de los algoritmos.— EFE