Juristen moeten zich als de wiedeweerga gaan verdiepen in Artificial Intelligence

Datum bericht: 21 maart 2022

Marlies van EckArtificial Intelligence wordt op veel manieren toegepast in apps en onderzoeken. Bijna alles wordt gemeten, maar mensen hebben geen idee waar en waarvoor het wordt gebruikt. Marlies van Eck, spreker op het symposium Dag van de Privacy 2022, is een voorstander van duidelijke regels op dit gebied.

In hoeverre staan privacy en de opkomst van Artificial Intelligence volgens u op gespannen voet?

“Als het gaat om Artificial Intelligence zie ik niet als eerste problemen rondom privacy, maar wel rondom human dignity en de autonomie van de mens. Daarover ben ik somber. Recent kwam bijvoorbeeld in het nieuws dat onderzoekers met behulp van Artificial Intelligence konden vaststellen of iemand gemotiveerd was voor een sollicitatie. Deze ontwikkeling werd met enthousiasme ontvangen, maar ik ben daar kritisch over. De onderzoekers analyseerden hiervoor de gezichtsuitdrukkingen van de sollicitanten, maar dat is iets heel persoonlijks, dat is van jou. Wie zegt dat ze jouw gezicht en mimiek mogen meten en interpreteren? Of denk aan video-interview-software waarmee op basis van datapunten in je gezicht, spraaksnelheid en toonhoogte wordt bepaald of je geschikt ben voor een functie. Heel vreemd vind ik dat. Je maakt van een mens een telraam en dat leidt tot ontmenselijking.

Er zijn inmiddels zoveel toepassingen waarmee gedrag worden gemeten. Denk alleen al aan zogenoemde slaapapps waarmee jouw slaapritme geregistreerd wordt. Tot nu toe is de algemene opvatting dat het bij toepassingen van apps en Artificial Intelligence gaat om ontwikkelingen die goed voor ons zijn. Bijna alles wordt gemeten, daaraan zijn we gewend geraakt. Maar mensen hebben geen idee waar wordt gemeten en waarvoor het wordt gebruikt. Het raakt daarmee de ethiek. Bij elk onderzoek en elke toepassing zou je je moeten afvragen waarom daarvoor geld beschikbaar is gesteld. Wie profiteert eigenlijk van deze toepassingen? Dat zijn doorgaans toch de grote bedrijven of de overheid, waarmee ik maar wil zeggen dat bestaande machtsstructuren worden versterkt.”

Wat moet er op dit gebied veranderen?

“Een aantal wetenschappers op het gebied van neuroscience heeft aangegeven dat er een handvest op het gebied van neurorights moet komen voor toepassingen waarmee in je brein wordt gekeken of waarmee je brein zelfs wordt beïnvloed. Daarvan ben ook ik een voorstander. Spanje heeft op dit gebied al regelgeving in de maak, en in Chili is zelfs al wetgeving. Niet alles wat kan, moet zomaar mogen. En als wetenschappers zelf al waarschuwen, dan moeten we luisteren.

In Nederland is de juridische benadering vrij eendimensionaal en wordt vooral gehamerd op bescherming van persoonsgegevens. Dat vind ik jammer, want het is belangrijk dat we hierover met elkaar in gesprek blijven. Hoever mag een overheid bijvoorbeeld gaan in de toepassingen van Artificial Intelligence? Het is technisch mogelijk dat de overheid op basis van Artificial Intelligence een beslissing op bezwaar neemt. Maar is dat wenselijk? In Frankrijk is in de wet expliciet bepaald dat dat niet mag. Van een soortgelijke bepaling voor Nederland ben ik ook een groot voorstander.

Er komt een Europese verordening op het gebied van Artificial Intelligence. Ik vraag me af of deze verordening het gebruik van Artificial Intelligence goed kan reguleren. De verwachting is namelijk dat de verordening vooral een feest voor juristen wordt omdat hij erg ingewikkeld is. Je moet van een AI-product het risico bepalen en afhankelijk daarvan moet je aan bepaalde regels voldoen. Alleen grote techbedrijven hebben de middelen om de papierwinkel voor hoog-risico-systemen op orde te hebben. De verordening schiet naar mijn mening zijn doel voorbij voor bijvoorbeeld een kleine start-up met een mooie toepassing maar weinig financiële middelen.”

Hoe staat u tegenover toepassingen van Artificial Intelligence in de juridische wereld?

“Juristen hebben Artificial Intelligence nodig bij de uitvoering van hun werkzaamheden. Neem bijvoorbeeld de zoeksystemen voor wetgeving en jurisprudentie; daarin speelt Artificial Intelligence een belangrijke rol. Ook bij bijvoorbeeld strafzaken met dikke dossiers kan Artificial Intelligence het doorzoeken van een dossier vergemakkelijken. Belangrijk is wel dat er equality of arms is. De advocaat van de verdachte moet op dezelfde wijze toegang hebben tot het bewijsmateriaal als het OM.

Overigens is het belangrijk dat juristen zich als de wiedeweerga gaan verdiepen in wat Artificial Intelligence is. Veel juristen hebben geen weerwoord op bijvoorbeeld het verweer van de overheid dat bepaalde besluiten niet mogelijk zijn omdat het systeem dat niet kan. Ik heb zelfs een uitspraak gezien waarin de rechter dat letterlijk overnam als feit. Dat is een vreemde gang van zaken, want het holt de rechtsbescherming voor burgers uit. Juristen maken zich er dan wel heel makkelijk vanaf, maar als je er geen verstand van hebt, moet je dergelijke beweringen niet klakkeloos overnemen. Ik raad daarom iedereen aan de gratis De Nationale AI-Cursus – Kunstmatige Intelligentie voor iedereen! te volgen.


Mr. dr. Marlies van Eck is juridisch adviseur en partner bij Hooghiemstra & Partners en universitair docent aan de Radboud Universiteit. Eind december 2021 won ze de Hermesdorf Talentprijs 2021 voor haar onderzoek naar de juridische aspecten van technologie.

CPO Academy is het kennisplatform van het CPO. Met columns en kennisclips van CPO-docenten en wetenschappers. Voor inspiratie, reflectie en nieuwe inzichten.

Wilt u op de hoogte blijven van inspirerende columns, kennisclips en de nieuwste cursussen? Meld u aan voor de informatiemails.

aanmelden