Nieuw Horizon Europe-project onderzoekt discriminatie bij algoritmisch werven

FINDHR, een onderzoeksproject gericht op het voorkomen, detecteren en tegengaan van discriminatie bij algoritmisch werven en selecteren, ontvangt een subsidie van Horizon Europe. Bij het driejarige project zijn onderzoekers van de Interdisciplinary Hub for Digitalization and Society (iHub) van de Radboud Universiteit betrokken.

Algoritmisch werven en selecteren is in opkomst en in sommige sectoren inmiddels bijna onmisbaar. Vacatures in het bedrijfsleven waar in 2010 nog 120 reacties op kwamen, kunnen nu rekenen op meer dan 250 reacties. Artificial Intelligence-technologieën beloven dat ze in hoog tempo honderden of duizenden sollicitaties kunnen afhandelen. Vergeleken met de rest van de wereld wint het gebruik van dergelijke technologieën door HR-teams en arbeidsbemiddelingsdiensten in Europa snel aan populariteit. Europese tools zijn uitermate innovatief en omvatten tools waarmee kandidaten direct worden geselecteerd en gerangschikt op basis van hun cv's en sollicitatiebrieven, of worden beoordeeld met behulp van online tests of games.

Vooringenomenheid voorkomen

Discriminerende vooringenomenheid is een bekend fenomeen dat binnen vrijwel alle toegepaste domeinen van AI voorkomt. Het besef groeit dat ook algoritmische selectieprocedures zich hieraan schuldig maken en bestaande discriminerende barrières voor toegang tot de arbeidsmarkt reproduceren of zelfs verhogen. FINDHR, dat staat voor Fairness and Intersectional Non-Discrimination in Human Recommendation, wil zorgen voor praktische geïntegreerde oplossingen voor dit probleem.

FINDHR zal de technische, juridische en ethische tools bieden die nodig zijn voor een inclusief en divers Europa, waar werken op afstand en wereldwijd werken steeds normaler worden en waar het wervings- en selectieproces steeds vaker online plaatsvindt en complexer wordt door de toename van sollicitanten uit intersectionele minderheden.

Op basis van een contextgevoelige, interdisciplinaire benadering zal FINDHR nieuwe technologieën ontwikkelen om discriminatierisico's te meten, fairness-aware rangschikkingen en ingrepen te creëren, en interpreteerbaarheid te bieden waar verschillende stakeholders mee uit de voeten kunnen. FINDHR gaat ook werken aan de ontwikkeling van nieuwe technische ondersteuning voor impactbeoordelingen en algoritmische audits, een protocol voor gelijkheidsbewaking en een gids voor het ontwikkelen van fairness-aware AI-software'. Het project zal daarnaast gespecialiseerde vaardigheidscursussen voor ontwikkelaars en auditors van AI-systemen ontwerpen en ontwikkelen.

Open source

Het project is gebaseerd op EU-regelgeving en -beleid. Aangezien voor de aanpak van AI-gerelateerde discriminatierisico's gevoelige gegevens moeten worden verwerkt, voert het project een gerichte juridische analyse uit van de spanningen tussen de regelgeving inzake gegevensbescherming (met inbegrip van de AVG) en de antidiscriminatieregelgeving binnen Europa. Daarnaast zal het project via verschillende mechanismen, waaronder overleg met experts en participatief actieonderzoek, contact onderhouden met ondervertegenwoordigde groepen. Alle output wordt vrijgegeven als openaccesspublicate, opensourcesoftware, open datasets en open courseware.

Het consortium wordt gecoördineerd door Carlos Castillo van de Universitat Pompeu Fabra. ‘Algoritmen krijgen een steeds grotere rol in belangrijke aspecten van ons leven en geven in toenemende mate vorm aan onze sociale interacties en carrières’, aldus Castillo. ‘We hebben nog onvoldoende inzicht en overzicht. Daarom moeten de belangrijkste risico's goed worden bestudeerd. Ik vind het geweldig om samen met onderzoekers uit zowel de academische wereld als het bedrijfsleven en met vertegenwoordigers van belangengroepen te werken aan dit uitdagende en risicovolle, maar ook zeer nuttige, onderzoeksproject.

iHub

Het iHub, het centrum voor interdisciplinair onderzoek naar digitalisering en samenleving van de Radboud Universiteit, is lid van het consortium. Hoogleraar ICT en recht Frederik Zuiderveen Borgesius heeft de leiding over het werk van de Radboud Universiteit in dit consortium. Het iHub zal een juridisch onderzoeker (post-doc) aanstellen en zich richten op de juridische vragen van het interdisciplinaire consortium.   

Zuiderveen Borgesius: ‘Ik vind het erg leuk om deel te nemen aan dit consortium. Discriminatiegerelateerde risico's van Artificial Intelligence zijn een lastig probleem. Het bestrijden van de risico's vraagt om de samenwerking van meerdere disciplines, en dat is precies wat we doen in dit consortium. Zo werken we onder andere samen met geweldige computerwetenschappers, maar ook met ngo's zoals Algorithm Watch.

Contactinformatie

Meer weten? Neem contact op met Frederik Zuiderveen Borgesius (frederik.zb [at] cs.ru.nl) of met Persvoorlichting & Wetenschapscommunicatie via 024 361 6000 of media [at] ru.nlrel="noreferrer noopener" target="_blank"

Thema
Diversiteit, Loopbaan, Privacy

Aan deze website wordt nog gewerkt. Meer informatie: 'een nieuwe website'.