Zoek in de site...

20|10|29 Inclusieve algoritmes | Lezingen (zaal en livestream) door neuroinformaticus Sennay Ghebreab, mediakunstenaar Roos Groothuizen en filosoof Lotje Siffels

Inclusieve algoritmes | Lezingen (zaal en livestream) door neuroinformaticus Sennay Ghebreab, mediakunstenaar Roos Groothuizen en filosoof Lotje SiffelsInclusieve algoritmes | Lezingen (zaal en livestream) door neuroinformaticus Sennay Ghebreab, mediakunstenaar Roos Groothuizen en filosoof Lotje Siffels | Donderdag 29 oktober 2020 | 20.00 - 21.30 uur | De Lindenberg, Ridderstraat 23, Nijmegen en online | Radboud Reflects en Oddstream 

Video | Podcast | Verslag - Tastbare technologie voor een inclusieve democratie | Radboud Recharge: Inclusieve algoritmes

"Ik vond de avond bijzonder goed opgezet. Interessante mix van sprekers en een uitstekend gevoerd debat. Ik ben erg geïnspireerd!" (Uit een deelnemersevaluatie.)

Aankondiging - Kunnen algoritmes discrimineren? En dragen ze zo bij aan ongelijkheid in de samenleving? Steeds meer apparaten worden aangestuurd door algoritmes en ook overheden gebruiken steeds vaker artificiële intelligentie bij het uitdragen van beleid. Hoe zorgen we ervoor dat een inclusieve samenleving daarbij gewaarborgd is? Kom luisteren naar neuroinformaticus Sennay Ghebreab, mediakunstenaar Roos Groothuizen en filosoof Lotje Siffels en kom erachter hoe we voorkomen dat algoritmes leiden tot groeiende ongelijkheid. Zie de volledige aankondigingstekst onderin.

Verslag - Inclusieve algoritmes

Welke advertenties krijg jij voorgeschoteld op internet en wat moet jij betalen voor je autoverzekering? Algoritmes nemen steeds meer beslissingen voor ons. Hoe zorgen we ervoor dat dit op een inclusieve manier gebeurt? Drie gasten, elk op hun eigen manier bezig met kunstmatige intelligentie, gaven een lezing over inclusieve algoritmes. Sennay Ghebreab, neuroinformaticus aan de Universiteit van Amsterdam, vertelde over de kentering in ons denken van algoritmes als bedreiging, naar algoritmes als oplossing voor een inclusieve samenleving. Mediakunstenaar Roos Groothuizen sprak over het demystificeren van de werking van algoritmes door middel van kunst. Tot slot ging filosoof Lotje Siffels, promovendus bij onderzoekscentrum iHub van de Radboud Universiteit, in op de vraag of onze democratische samen kunnen gaan met de groeiende invloed van ‘big tech’. Marcel Becker, universitair hoofddocent Ethiek aan de Radboud Universiteit, ging vervolgens met de drie sprekers in gesprek.

Roos Groothuizen, foto: Jetske Adams

Algemeen belang

Kunnen we algoritmen inzetten voor het algemene belang, om zo discriminatie en ongelijkheid te bestrijden? Deze vraag is Ghebreab de afgelopen jaren vaak gesteld. Volgens hem illustreert de vraag een noodzakelijke verschuiving in ons denken over artificiële intelligentie. Vooralsnog zijn het de grote techbedrijven die bepalend zijn voor de invloed van AI op ons leven, zonder dat ze daarbij algemeen belang dienen. Dat kan en moet anders, stelde Ghebreab. Er bestaat nog wat scepticisme over inclusieve algoritmes, vertelde hij, maar dit zal voorbij zijn zodra “we algoritmen voor het publieke domein ontwikkelen, gezamenlijk en openlijk, gericht op de behoeften en talenten van iedereen.” Aan die openheid en betrokkenheid valt wel nog het een en ander te schaven. Burgers, maar ook wetenschappers, spelen nauwelijks een rol in de ontwikkeling en toepassing van inclusieve algoritmes. Voor Ghebreab is het cruciaal dat daar middelen voor vrij worden gemaakt. Ook is het belangrijk om de tijd en ruimte te hebben om hierbij fouten te maken. Juist hierdoor, en door daar transparant over te zijn, worden de algoritmes beter voor iedereen.

Het is volgens Ghebreab van groot belang voor onze samenleving om iedereen, en vooral ook jongeren, te onderwijzen in digitale geletterdheid. We bezitten nu nog niet de benodigde kennis om zelf te beoordelen wat algoritmen doen. Iedereen moet daarom digitaal geletterd en gecijferd zijn om in de opkomende algoritmische wereld eigenaarschap te ontwikkelen. “Dat wordt net zo belangrijk als lezen en schrijven,” aldus Ghebreab.

Tastbaar maken

Roos Groothuizen richt zich in haar werk op de interactie tussen mens en technologie. Vanuit haar achtergrond in grafisch ontwerp denkt zij na over digitale mensenrechten. Met haar kunst probeert ze technologie tastbaar te maken en van zijn abstractie en onzichtbaarheid te ontdoen. Ze vertelde dat ze dit doet door de technologie, achter bijvoorbeeld algoritmes, te plaatsen in een nieuwe context en ons zo te confronteren met het effect ervan. Daarbij schuwt ze niet het gevoel van mensen aan te spreken: “Welke emoties roept AI bij ons op, bijvoorbeeld over de maatschappelijke en politieke consequenties ervan of over de ethische dilemma’s die het oproept? Wat voelen we als onze privacy geschonden wordt?” Groothuizen gaf als voorbeeld haar project Black Box Bellagio, een casino waar bezoekers extra fiches kregen, wanneer ze digitale informatie over zichzelf prijsgaven. Van banksaldo’s tot gênante Whatsapp-gesprekken, alles kwam voorbij op de pokertafel, vertelde Groothuizen. Duizenden mensen bezochten het casino en in totaal waren er slechts drie mensen die weigerden om digitale informatie prijs te geven.

Lotje Siffels, foto: Jetske Adams

Democratische waarden

Ook filosoof Lotje Siffels gaf aan dat algoritmes, ook al zijn ze al een aantal jaren onder ons, nog grotendeels niet inzichtelijk zijn. Daarom vroeg ze zich af hoe we deze “technologieën waarmee we samenleven” zo kunnen ontwerpen dat ze ons en de democratische waarden van morgen respecteren. De waarden in onze samenleving zijn constant in verandering, dus de vraag is hoe die nieuwe waarden vertegenwoordigd zijn in de technologie van morgen. Maar misschien wel nog belangrijker is in hoeverre de algoritmes van ‘big tech’, waar wij nu nog weinig invloed op hebben, onze democratische waarden uitdragen. Om dit te kunnen waarborgen is het volgens Siffels belangrijk dat algoritmes transparant worden en dat inspraak en toezicht mogelijk worden.

We moeten ons volgens Siffels wel realiseren dat de algoritmes van de ‘big tech’ gebaseerd zijn op het feit dat wij niet weten wat ze doen en waarin ze zitten. Daarnaast denken organisaties die gebruik maken van algoritmes in beginsel vaak alleen maar na over de efficiëntie ervan. Over democratische waarden wordt vaak pas aan het einde nagedacht. Dat is bijvoorbeeld pijnlijk zichtbaar in de toeslagenaffaire van de Belastingdienst: bijna niemand wist wat het algoritme precies deed en wat de negatieve bijeffecten ervan waren. Een oplossing voor dit soort misères is dat codes inzichtelijk zijn en dat onze democratische waarden al worden meegenomen in het ontwerpproces

Marcel Becker, Roos Groothuizen en Sennay Ghebreab, foto: Jetske Adams

Regulatie

In gesprek met Marcel Becker spraken de drie gasten over het reguleren van AI als oplossing. Dat staat volgens Ghebreab op gespannen voet met de benodigde vrijheid voor een goed ontwerpproces. Regulering is misschien mogelijk in bepaalde sectoren, maar we kunnen niet alles reguleren, stelde Ghebreab. Dan hebben ontwikkelaars namelijk niet de vrijheid om de fouten te maken die nodig zijn in een ontwerpproces. Volgens Siffels beschermen we door te reguleren weliswaar bepaalde individuele rechten, maar dat is niet toereikend. We nemen daarmee namelijk slechts een aantal opvattingen van privacy in acht. Er zou dus eerst gesproken moeten worden over wat welke waarden we door middel van regulering willen waarborgen.

Groothuizen keerde zich tegen de opvatting dat mensenrechten en innovatie niet samen kunnen gaan. Het ene sluit het andere niet uit. Ook Ghebreab was het daarmee eens. Juist inclusieve algoritmes kunnen volgens hem soms betere keuzes maken voor individuen dan dat mensen dat zelf kunnen. Het recht om gelijk behandeld te worden, is bij voor dit soort algoritmes minder spannend. Zorgdragen voor het recht om anders behandeld te worden, juist daar liggen de kansen en uitdagingen voor een eerlijkere en inclusievere AI.

Door: Inge de Vries

Video

Podcast

Wil je op de hoogte blijven van onze activiteiten? Schrijf je dan in voor de tweewekelijkse nieuwsbrief.

Aankondiging

Inclusieve algoritmes | Lezingen (livestream) door neuroinformaticus Sennay Ghebreab, mediakunstenaar Roos Groothuizen en filosoof Lotje Siffels

Dit programma kun je in de zaal of online via een livestream bijwonen.  

Kunnen algoritmes discrimineren? En dragen ze zo bij aan ongelijkheid in de samenleving? Steeds meer apparaten worden aangestuurd door algoritmes en ook overheden gebruiken steeds vaker artificiële intelligentie bij het uitdragen van beleid. Hoe zorgen we ervoor dat een inclusieve samenleving daarbij gewaarborgd is? Kom luisteren naar neuroinformaticus Sennay Ghebreab, mediakunstenaar Roos Groothuizen en filosoof Lotje Siffels en kom erachter hoe we voorkomen dat algoritmes leiden tot groeiende ongelijkheid.

Wantrouwen

Het voorbeeld van de zelfrijdende auto is veelzeggend: als zwart persoon heb je vijf procent meer kans om aangereden te worden door deze auto, omdat het algoritme moeite heeft met het herkennen van een donkere huidskleur. Dit soort discriminerende algoritmes vergroten ongelijkheid volgens neuroinformaticus Sennay Ghebreab. Ook overheidsinstanties gebruiken steeds vaker algoritmes, om bijvoorbeeld uitkeringsfraude op te sporen. Het gebeurt nu al dat mensen met een bepaald dataprofiel bij voorbaat gewantrouwd worden door een rekenmodel.

Eerlijke algoritmes

Het is volgens Sennay Ghebreab van groot belang dat het ontwerpen van artificiële intelligentie inclusief gebeurt. Hij vertelt hoe het kan dat ongelijkheid binnensluipt in ontwerpprocessen en hoe we algoritmes eerlijker kunnen maken. Daarnaast vertelt hij hoe we technologische ontwikkelingen andersom ook kunnen inzetten om bij te dragen aan sociale inclusie. Mediakunstenaar Roos Groothuizen vertelt hoe zij met haar kunst tastbaar maakt dat algoritmes ons systematisch discrimineren. Zo maakte ze The Consulate of Google, een fictieve ambassade waar je op basis van je Google-profiel een paspoort kon laten drukken. Je ontdekte zo hoe Google over jouw identiteit denkt.

Gelijkheid en transparantie

Of het nu gaat om zelfrijdende auto’s of de ambities van de ‘big tech’ in de gezondheidszorg: techbedrijven spelen een steeds grotere rol in het publieke domein. Toch hebben deze bedrijven vaak een nogal wisselende opvatting van het algemeen belang. Volgens filosoof Lotje Siffels moeten we bij de inzet van artificiële intelligentie ons altijd afvragen  hoe onze democratische waarden gewaarborgd kunnen blijven. Kunnen deze waarden samengaan met de groeiende invloed van ‘big tech’? En hoe kan dat bijdragen aan inclusievere artificiële intelligentie?

Na hun lezingen  gaan Sennay Ghebreab, Lotje Siffels en Roos Groothuizen met elkaar in gesprek onder leiding van ethicus Marcel Becker.

Over de sprekers

Sennay GhebreabSennay Ghebreab is neuroinformaticus aan de Universiteit van Amsterdam en oprichter van het Civic AI Lab, waar onderzocht wordt hoe artificiële intelligentie zo eerlijk mogelijk kan worden toegepast. Als wetenschapper strijdt hij tegen discriminerende algoritmen en pleit hij voor inclusieve artificiële intelligentie.

Lotje SiffelsLotje Siffels is promovendus bij onderzoekscentrum iHub van de Radboud Universiteit. Haar onderzoek is onderdeel van het  Digital Good’-project, waarin de toenemende verwikkeling van grote techbedrijven in de gezondheidszorg wordt onderzocht. Ze richt zich op de vraag hoe de groeiende invloed van ‘big tech’ wel of niet samen kan gaan met onze democratische waarden.

Roos GroothuizenRoos Groothuizen is mediakunstenaar. Haar kunst, speels en met een serieuze ondertoon, gaat over digitale rechten. In haar installatie The Consulate of Google kunnen bezoekers een Google-paspoort aanvragen op basis van hun Google-profiel. Haar project The Black Box Bellagio is een casino waar niet je geld, maar je online vrijheid, privacy en integriteit op het spel staan.

Wil je op de hoogte blijven van de activiteiten van Radboud Reflects? Schrijf je dan in voor de tweewekelijkse nieuwsbrief.Wil je verder denken over ethische vragen die spelen in jouw organisatie? Bekijk Radboud Reflects Professional – Ethische verdieping voor organisaties.