FA*IR, el algoritmo para evitar la discriminación en la búsqueda de trabajo o de pareja

El proyecto FA*IR permite reordenar los resultados en webs de empleo o de contactos para prevenir distinciones en función del género o de la procedencia.

Un equipo multidisciplinar de la Unidad de Data Science del centro tecnológico Eurecat (miembro de Tecnio), conjuntamente con la Universidad Pompeu Fabra y la Universidad Técnica de Berlín, ha creado un algoritmo para evitar la discriminación en la búsqueda de personas online, que permitirá impedir agravios en portales de empleo o de pareja por razones de género, procedencia o apariencia física.

La iniciativa, llamada FA*IR, ha estudiado datos de ofertas de empleo, de reincidencia de presos y rankings de admisión a las universidades para detectar patrones de discriminación en directorios digitales que puedan favorecer o relegar a ciertos colectivos.

Según explica el investigador Carlos Castillo, director de la Unidad de Data Science de Eurecat e integrante del proyecto, cada vez son más comunes los “motores de búsqueda en que los ítems que se buscan no son páginas web sino personas”. En palabras del investigador, esto puede favorecer “patrones discriminatorios, aprendidos por algoritmos que no están programados para compensar o corregir prejuicios humanos”.

Castillo pone como ejemplo el caso de un portal de empleo y explica que “si hay 100 perfiles de hombres y mujeres igualmente cualificados y en los primeros resultados del buscador solo aparecen hombres, tenemos un problema”. Para evitarlo, los investigadores de FA*IR han creado un algoritmo de búsqueda que incorpora “un mecanismo de acción positiva” para “reorganizar los resultados y evitar la discriminación sin afectar la validez del ranking”.

Reconocimiento y segunda fase

El proyecto FA*IR ha sido uno de los ganadores de las becas que otorga anualmente la comunidad Data Transparency Lab, que promueve la transparencia y la protección de los datos en Internet mediante soluciones innovadoras. En concreto, el Data Transparency Lab ha otorgado UER$50.000 que permitirán a los investigadores iniciar la segunda fase del proyecto, en la que se desarrollará una “herramienta de búsqueda justa”, basada en el algoritmo antidiscriminación ya diseñado.

El Data Transparency Lab es una entidad formada por investigadores, tecnólogos, representantes públicos y empresas que tiene entre sus objetivos crear consciencia entre los internautas sobre la privacidad de sus datos. Entre sus promotores hay empresas como Telefónica y Mozilla y el grupo de investigación Connection Science del MIT.