Webwinkels kunnen met algoritmes prijzen aanbieden die voor de ene consument hoger liggen dan voor de ander. Europese wetten bieden slechts beperkte bescherming tegen zulke prijsdifferentiatie. Dat schrijft Frederik Zuiderveen Borgesius, hoogleraar ICT en Privaatrecht aan de Radboud Universiteit, in een publicatie die binnenkort verschijnt in European Business Law Review.
Webwinkels als Bol.com en Amazon gebruiken vele algoritmes om consumenten sneller tot een koop te verleiden. Aanbevolen producten op basis van eerdere aankopen en knipperende waarschuwingen als de voorraad op is komen de gemiddelde gebruiker vermoedelijk bekend voor, maar wat als algoritmes ingezet worden om iedere klant een eigen verkoopprijs te tonen? Op basis van IP-adres en andere kenmerken zouden webwinkels de prijs kunnen aanpassen voor bepaalde postcodegebieden, of zelfs voor individuele klanten.
Discriminerende algoritmes en contractvrijheid
Bedrijven die algoritmes gebruiken hebben vaak geen discriminerende intenties, maar het gebruik van algoritmes kan ook per ongeluk tot discriminatie leiden. Zo bleek een Amerikaans bijlesinstituut hogere prijzen te rekenen voor bepaalde postcodes. In die wijken woonden vooral mensen met een Aziatische achtergrond, die meer moesten betalen voor bijlessen. Het prijsverschil per cursus kon oplopen tot 1800 dollar.
In principe is prijsdifferentiatie toegestaan. De wet in Europa geeft een grote rol aan contractvrijheid, die onder andere bepaalt dat verkopers zelf de verkoopprijs mogen vaststellen. Maar als prijsdifferentiatie leidt tot discriminatie op grond van bijvoorbeeld etniciteit, dan wordt non-discriminatierecht relevant.
Europese non-discriminatieregels bieden bescherming tegen verschillende vormen van discriminatie, waaronder discriminatie op basis van etniciteit en gender. Ook indirecte discriminatie is verboden. Kort gezegd is sprake van indirecte discriminatie als een handeling op het eerste gezicht neutraal is, maar toch leidt tot discriminatie van mensen met een bepaalde etniciteit (of een andere beschermde eigenschap).
Lastig te ontdekken
Als een webwinkel de prijzen aanpast aan de postcode van de klant, geldt dat als een neutrale praktijk. Maar als in die postcode vooral mensen met een immigratieachtergrond wonen, kan er sprake zijn van een verboden vorm van indirecte discriminatie. Op het eerste gezicht lijkt non-discriminatierecht mensen dus te beschermen tegen bepaalde vormen van prijsdifferentiatie.
‘Maar de bescherming tegen prijsdiscriminatie is beperkt’, legt Zuiderveen Borgesius uit. Ten eerste kan algoritmische discriminatie verborgen blijven. ‘Stel dat een webwinkel een hogere prijs rekent in een gebied waar veel mensen met een Turkse achtergrond wonen. Voor mensen binnen dat gebied is moeilijk te zien dat er een verschil zit in de prijzen. Alleen bij vergelijking met iemand buiten dat gebied kun je zien dat de prijzen niet gelijk zijn. En zelfs als sommige consumenten erachter zouden komen dat ze meer betalen dan anderen, zouden ze nog niet weten dat mensen met een Turkse achtergrond in het algemeen meer betalen, waardoor ze niet op de hoogte zijn van de indirecte discriminatie. Consumenten die niet beseffen dat ze gediscrimineerd worden, zullen ook niet hun recht op non-discriminatie uitoefenen.’
Een tweede probleem is dat het verbod op indirecte discriminatie een genuanceerde uitzondering bevat, die vaak lastig toe te passen is in een specifiek geval. Indirecte discriminatie is niet verboden als het bedrijf een legitiem doel nastreeft en de neutrale praktijk een redelijk (proportioneel) middel is.
‘Een rechter zou het waarschijnlijk als een legitiem doel zien als een bedrijf probeert extra winst te maken’, zegt Zuiderveen Borgesius. Ingewikkelder is de vraag of de prijsdifferentiatie een redelijk middel is. Het antwoord hangt af van allerlei factoren. Hoe groot is het prijsverschil? Gaat het om kaviaar of andere luxeproducten, of gaat het om supermarktproducten die mensen dagelijks nodig hebben? Zo’n genuanceerde regel heeft voordelen, maar de nuance gaat ten koste van duidelijkheid. Kortom, er is geen harde zwart-witregel die duidelijk zegt welke soorten prijsdifferentiatie mogen en welke niet.
Browserkeuze als beschermde karakteristiek
Zuiderveen Borgesius: ‘Met algoritmes kunnen consumenten bovendien op basis van tal van karakteristieken onderscheiden worden. Europese wetten erkennen discriminatie op basis van etniciteit, geslacht, en dergelijke kenmerken. Maar de browser die je gebruikt of de postcode waar je woont is dan weer geen beschermd kenmerk. Daardoor zou een webwinkel mensen extra kunnen laten betalen bij het gebruik van een bepaalde browser. Het non-discriminatierecht zegt daar weinig over, zo lang de praktijk geen mensen met een bepaalde etniciteit of een ander beschermd kenmerk treft.’
Hoewel er voor nu niet of nauwelijks sprake lijkt van webwinkels die algoritmes inzetten om verschillende prijzen aan verschillende consumenten te bieden, is er een aanzienlijke kans dat dat in de toekomst verandert. Minister Sander Dekker liet mede daarom in juni in een brief aan de Tweede Kamer weten dat er binnen de ministeries van Binnenlandse Zaken en Justitie en Veiligheid wordt onderzocht hoe discriminatie bij het aanbiedingen van goederen en diensten voorkomen kan worden. Zuiderveen Borgesius: ‘Nieuwe wetgeving is waarschijnlijk nodig om betere bescherming te bieden. Meer onderzoek en meer debat is vereist rondom de vraag hoe we mensen gaan beschermen tegen discriminatie door algoritmes.’
Publicatie
F.J. Zuiderveen Borgesius, ‘Price Discrimination, Algorithmic Decision-making and European Non-discrimination Law’, European Business Law Review.
Meer weten? Neem contact op met
- Frederik Zuiderveen Borgesius, frederikzb [at] cs.ru.nl (frederikzb[at]cs[dot]ru[dot]nl)
- Persvoorlichting & Wetenschapscommunicatie Radboud Universiteit, media [at] ru.nl (media[at]ru[dot]nl), 024 361 6000