Desde buscar solo ‘enfermeras’ a filtrar solo “directivos”. Igual que es denunciable que una persona en Recursos Humanos lo haga, debemos erradicar los algoritmos discriminatorios en los puestos de trabajo.
Discriminación de género digital
Cuando se habla de igualdad en el trabajo, un talón de Aquiles es el acceso a los puestos de trabajo. Desde el currículum ciego hasta la discriminación positiva son muchas las herramientas para buscar que los estereotipos no limiten el talento a la hora de acceder a un puesto. Ahora, al combate de eliminar la discriminación por parte de Recursos humanos se une el hecho de tener que hacerlo con los métodos automáticos de selección de personal. Esto no son otros que los algoritmos.
Lo que pudiera parecer algo ‘objetivo’ y libre de interpretaciones personales, no lo es. Uno de los casos pioneros en denunciar esta situación está en la empresa de logística Amazon. Ocurría que el algoritmo penalizaba los currículums que incluían una serie de palabras que normalmente la empresa no había aceptado. Estas palabras eran ‘ingeniera’, ‘abogada’ o ‘científica’ y el resultado estaba en que los seleccionados eran mayoritariamente hombres. Esta fue la primera señal de alarma de que los algoritmos discriminaban a la hora de acceder a un empleo.
Qué es un algoritmo
Para entender el problema de los algoritmos discriminatorios en los puestos de trabajo tenemos que tener claro qué son. Según la Real Academia Española de la Lengua, un algoritmo es el “conjunto ordenado y finito de operaciones que permite hallar la solución de un problema». Se trata de una tecnología que aprende de lo que le dice quien lo programa y de las bases de datos que le da. Una serie de patrones que hace que el algoritmo prospere, pero que muchas veces está contaminado de experiencias previas sexistas.
Esto es lo que se conoce como deep learning. Se trata de un sistema capaz de analizar una gran cantidad de datos y que, a partir de ahí, logra que una máquina termine aprendiendo por cuenta propia. Por tanto, si le damos una base al algoritmo donde las enfermeras siempre son mujeres y los directivos siempre son hombres, este entenderá que queremos que el filtro sexista se mantenga. Algo que hace realmente problemático el uso sin supervisión de los algoritmos en los procesos de reclutamiento.
Por qué los algoritmos discriminan
Cuando hablamos de que el algoritmo lo que hace es aprender de nuestras conductas, lo hace en gran parte desde el lenguaje. Desde nombrar en femenino cargos supuestamente menos cualificados (modista en contraposición con modisto) hasta considerar que algunos puestos solo pueden ser ocupados por hombres (porque es lo que hasta ahora ha pasado). Estas características hacen que existan algoritmos que discriminan a la hora de hacer la selección de las personas candidatas.
Y llega la gran pregunta: ¿es el algoritmo el culpable? ¿Lo es quien lo programa? ¿Lo somos la sociedad al darle pautas discriminatorias? Casi todos los estudios comparten una visión: los algoritmos reproducen los sesgos que existen. Y, la segunda, que es más probable que esos sesgos no se corrijan si entre los programadores no hay diversidad. Porque los algoritmos no solamente discriminan por género, también lo hacen por otras circunstancias como la edad o la discapacidad.
Cómo evitar algoritmos discriminatorios
Para lograr esa diversidad que garantice que cada vez haya más programación con otras perspectivas y, a su vez, la realidad cambie, hay que incluir más perfiles. En el caso del género es atraer a las mujeres a las carreras de ciencias. Y, lo que es más importante ahora, darles oportunidades de investigación y de desarrollo al acabar estas. Términos como ‘tubería que gotea’ representa a todas las mujeres que acaban abandonando sus carreras por la inestabilidad o por la imposibilidad de conciliar.
Para dar el primer paso, que las niñas tengas referentes. Mujeres de las matemáticas, las ciencias, la ingeniería o la tecnología sirven para mostrar que hay más mujeres de las que se piensa en estas ramas y demostrar que el algoritmo tiene mucho que aprender.
Qué ocurre en el ámbito laboral
Esta preocupación por identificar y modificar los algoritmos discriminatorios en el acceso al empleo llega hasta la legislación. Al igual que se legisla para evitar comportamientos discriminatorios recurrentes —como en el lenguaje de una oferta de trabajo— también se empieza a hacer con los mecanismos automatizados. El riesgo de la “discriminación algorítmica en el acceso al empleo” es más que evidente.
Por eso, desde algunos sindicatos, se pide que se regule. Entre otras cosas, denuncian que estos algoritmos también sirven para discriminar sobre la posibilidad de que una empleada tenga o no hijos o datos sensibles y privados como los ciclos menstruales. “Ruindad y digitalización unidas contra los derechos, la privacidad y la dignidad de las mujeres”, denuncia UGT. Por ello, el sindicato incluirá en los diagnósticos de los Planes de Igualdad el impacto de las decisiones algorítmicas y de la Inteligencia Artificial en materia de igualdad entre mujeres y hombres cuando se tomen decisiones automatizadas en las empresas.
Legislación contra el sexismo automático
Desde el Comité Europeo de Protección de Datos, proponen que en sus ‘Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679’ haya una supervisión personal de estos algoritmos. De facto, esta legislación impone una prohibición general de las decisiones basadas “únicamente” en el tratamiento automatizado, al establecer “el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles”.
Esta directiva europea pide que sea necesaria una “lógica aplicada”, ofreciendo así transparencia en el algoritmo. Algo que hará evidente si la persona o entidad responsable de este quiere o no luchar contra la discriminación en el acceso al empleo.
Laura L. Ruiz, periodista especializada en igualdad
