Segueix de prop la recerca que fem a la URL: Ètica algorítmica i perspectiva de gènere

El projecte Ètica algorítmica i perspectiva de gènere. De l’opacitat a la transparència liderat pel Dr. Francesc Torralba, director de la Càtedra ETHOS-URL, va rebre finançament de la convocatòria d’ajuts per a la recerca en l’àmbit de la transparència, l’accés a la informació pública i el bon govern de l’Agència de Transparència de l’Àrea Metropolitana de Barcelona (AMB). T’expliquem com avança la seva recerca!

En els processos de selecció de personal, les organitzacions recorren, cada vegada més, a solucions d’intel·ligència artificial, basades en la programació i la implementació dels anomenats «algoritmes»: sistemes lògics que analitzen automàticament documents com els curricula vitae o altres conjunts de dades per identificar en un segon els perfils més pertinents per a una determinada feina.

Si bé l’ús d’algoritmes en els processos de selecció comporta nombrosos avantatges tècnics i organitzatius, també pot esdevenir discriminatori. La raó és que els algoritmes mai no són neutres axiològicament, sinó que estan programats segons una sèrie de criteris que algú ha decidit. Aquests criteris poden, doncs, reproduir biaixos humans. En el cas del gènere, les conseqüències són especialment greus, sobretot si tenim en compte que, en els processos de selecció de personal, ja solen incidir-hi altres formes de discriminació de gènere.

Cal vetllar, doncs, perquè els algoritmes no promoguin ni reprodueixin aquestes decisions discriminatòries. Per fer-ho, cal mantenir un esperit crític cap a aquestes solucions de la intel·ligència artificial, acabar amb l’opacitat d’aquests sistemes i exigir-ne la transparència.

Aquest projecte ha donat lloc a dos informes:

1. Ètica algorítmica i perspectiva de gènere. Aquest informe identifica i sintetitza els reptes teòrics de l’ètica algorítmica, especialment pel que fa al gènere. Ofereix una introducció teòrica des de la vessant de l’ètica aplicada sobre la Intel·ligència Artificial (IA) i els algoritmes en la seva aplicació en diferents usos socials, desenvolupa una recerca sobre possibles biaixos de gènere en l’ús dels algoritmes en processos de reclutament de personal, i analitza alguns casos reals que exemplifiquen aquests possibles efectes discriminatoris.
2. De l’opacitat a la transparència. Aquest informe proposa un seguit de mesures concretes per tal que les organitzacions que empren algoritmes en els processos de reclutament de personal garanteixin la igualtat d’oportunitats evitant possibles biaixos de gènere.

En el projecte també hi participen la Dra. Núria Tria, la Dra. Mar Rosàs i el Sr. Guillem Martí personal investigador de la Càtedra ETHOS-URL.

Amb el suport de

+info: Càtedra ETHOS-URL