Zoek in de site...

Verslag - Tastbare technologie voor een inclusieve democratie

In deze online lezing gingen neuroinformaticus Sennay Ghebreab, mediakunstenaar Roos Groothuizen en filosoof Lotje Stiffels in op de invloed die algoritmen kunnen hebben op ongelijkheid in de samenleving. De avond begon met drie korte lezingen waarin zij het onderwerp vanuit hun eigen discipline benaderden. Vervolgens gingen de drie sprekers, onder leiding van ethicus Marcel Becker, met elkaar in gesprek over hoe algoritmes transparanter gemaakt kunnen worden en in hoeverre zij menselijke waarden moeten reflecteren.

Van doemdenken naar kansdenken

Becker introduceerde Sennay Ghebreab, neuroinformaticus aan de Universiteit van Amsterdam. Ghebreab merkte op dat er een verschuiving in het denken over artificiële intelligentie (AI) plaatsvindt. Voorzichtig lijkt doemdenken plaats te maken voor kansdenken. Hiermee wordt bedoeld dat men niet meer de nadruk legt op de negatieve effecten van AI, bijvoorbeeld het feit dat sommige algoritmes discrimineren, maar dat er inmiddels ook wordt nagedacht over hoe AI het algemeen belang kan dienen.

Digitale geletterdheid

Toch blijven veel mensen sceptisch, wat volgens Ghebreab een gevolg is van een gebrek aan kennis over AI en wat je ermee kunt doen. Dat komt ook, omdat de overheid te weinig openheid over het gebruik van algoritmes geeft, wetenschappers te weinig gebruik maken van interdisciplinair algoritme-onderzoek en veel burgers te weinig betrokken zijn bij het ontwikkelen van algoritmes. De sleutel voor een positief en effectief gebruik van algoritmes ligt volgens Ghebreab bij het onderwijzen van burgers, vooral jongeren, in digitale geletterdheid.

Kunst en technologie

Becker gaf vervolgenshet woord aan mediakunstenaar Roos Groothuizen. Als kunstenaar houdt zij zich bezig met de relatie tussen mens en techniek en met digitale mensenrechten. Via kunst gaat ze op zoek naar de mysteries van onzichtbare technologie zoals algoritmes en maakt ze de technologie erachter tastbaar. Zo bedacht Groothuizen “The Black Box Bellagio,” een casino waarin je privacy op het spel staat en je fiches krijgt in ruil voor je persoonlijke data. Met dit project  wilde ze aankaarten hoe makkelijk mensen hun data én die van anderen prijsgeven en hoe een spelvorm dit stimuleert. Ook beschreef Groothuizen haar project “Concert in AI,” een concert uitgevoerd door algoritmes waarbij vijf instrumenten harmonieus samenspeelden. Hiermee wilde ze laten zien wat er gebeurt als AI niet in een menselijk keurslijf wordt gestopt, maar volgens zijn eigen logica iets creëert.

Democratische waarden

Becker bedankte Groothuizen en gaf het woord aan Lotje Siffels. Zij doet als promovenda, bij onderzoekscentrum iHub van de Radboud Universiteit , onderzoek naar digitalisering in de gezondheidszorg. Siffels stelde drie vragen rondom algoritmes en democratische waarden centraal. Ten eerste: kunnen we zorgen dat algoritmes onze waarden reflecteren? Ten tweede: kunnen we zorgen dat algoritmen flexibel genoeg zijn om de waarden van morgen te reflecteren? Ten derde: kunnen we ervoor zorgen dat we na gaan denken over hoe algoritmen onze waarden beïnvloeden? Big tech-bedrijven geven namelijk vaak onvoldoende transparantie en inspraak.

Stroeve algoritmes

Siffels benoemde dat wij gewend zijn geraakt aan het ongemerkt gebruiken van algoritmes, omdat big tech-bedrijven er belang bij hebben dat wij ongestoord door blijven klikken. Wat het gebruik van algoritmes transparanter zou maken, is als deze zodanig worden ontworpen dat de gebruiker geconfronteerd wordt met de aanwezigheid van het algoritme, oftewel, door het gebruik van bijvoorbeeld een app expres een beetje stroef te laten verlopen. Dit illustreerde ze aan de hand van een vergelijking tussen de huidige corona-app en een alternatieve corona-app, ontworpen door iHub. Siffels concludeerde dat een algoritme vanaf begin af aan moet worden ontworpen met inachtneming van onze democratische waarden.

Transparantie

Becker opende het gesprek met de sprekers. Hij vroeg zich af hoe het ideaal van transparantie te rijmen valt met deep learning, een zelflerend algoritme waarbij de ontwikkelaar zelf uiteindelijk niet meer precies weet hoe deze werkt. Ghebreab antwoordde dat we zulke algoritmes moeten beoordelen op wat eruit komt. Het effectiefste algoritme is altijd het algoritme met de minste onterechte vooroordelen. Siffels was het met Ghebreab eens dat effectiviteit en transparantie geen tegenpolen zijn. Het idee dat technologie nooit helemaal transparant zal zijn, zorgt er volgens Groothuizen voor dat het altijd een fascinerend onderwerp blijft.

Innovatie versus mensenrechten?

Het Europese beleid omtrent AI legt veel nadruk op regulering. Volgens Ghebreab kan dit innovatie remmen. Groothuizen vond het positief dat er in Europa veel aandacht is voor mensenrechten in relatie tot technologie. Siffels stelde dat de nadruk op individuele rechten ten koste kan gaan van privacy als maatschappelijk vraagstuk. Ghebreab en Groothuizen waren het met elkaar eens dat innovatie niet tegenover mensenrechten hoeft te staan, maar juist kan helpen om mensenrechten te realiseren. Als voorbeeld benoemde Ghebreab een systeem dat vluchtelingen en lokale gemeenschappen matcht op basis van talenten en interesses.

Tastbare technologie

Nu burgers steeds beter begrijpen hoe algoritmes werken, verschuift het publieke debat van de maatschappelijke gevaren van AI naar de kansen die AI biedt om de samenleving eerlijker en inclusiever te maken. Alle drie de sprekers benadrukten dat de technologie achter algoritmes daarvoor eerst tastbaar moet worden gemaakt, zij het door educatie, kunst, of ‘stroevere’ algoritmes. Digitale geletterdheid is niet alleen een cognitief proces, maar vereist ook het ontwikkelen van een kritische houding. Daardoor zullen wij beter begrijpen dat veronderstelde tegenpolen als effectiviteit en transparantie, of regulering en innovatie, in werkelijkheid hand in hand kunnen gaan.

Dit verslag is geschreven door Doortje Lenders en Jochem Koopman, als onderdeel van de Research Master Filosofie van de Radboud Universiteit.