Reflection machines
Binnen de onderzoeksgroep wordt momenteel onder andere onderzoek gedaan naar zogenaamde reflection machines. Want reflectie op AI is niet alleen nuttig, het is zelfs verplicht: de Europese Unie eist dat er effective human oversight is bij de ontwikkeling en het gebruik van algoritmes. Haselager: ‘Steeds vaker worden beslissingen genomen die ondersteund worden door algoritmes. Denk bijvoorbeeld aan zelfrijdende auto’s, of geautomatiseerde besluitsystemen in overheidsbureaucratie. Wat je dan ziet is dat mensen die algoritmes geleidelijk steeds meer vertrouwen, terwijl ze niet nalopen of het systeem echt helemaal naar behoren werkt. Daardoor ontstaat een verantwoordelijkheidsgat: de mens vertrouwt op een machine, maar die draagt geen verantwoordelijkheid.’
Zo’n reflection machine moet die menselijke verantwoordelijkheid ondersteunen. Het pakt concrete data, en legt die voor aan menselijke toezichthouders. Als bij wijze van spreken testresultaat 22 een opvallende afwijking heeft, moet die toezichthouder zelf ook kunnen achterhalen hoe dat testresultaat tot stand is gekomen, en waar die afwijking dan vandaan komt. ‘Als je dat niet kunt uitleggen, is dat een alarmbel voor jezelf: kan ik dan wel voldoende op dat slimme algoritme rekenen? De ontwikkeling van zo’n systeem is complex: wat voor vragen moeten er gesteld worden, en wanneer stel je die? Je wil niet dat een computer bij elke stap een evaluatievraag aan je voorlegt.’
‘Binnenkort gaan we zo’n systeem testen voor de medische diagnose van lage rugpijn. Er zijn heel veel manieren om rugpijn aan te pakken: met een operatie, met fysiotherapie, of door sociale omstandigheden zoals stress aan te pakken. AI kan aanbevelingen doen voor de juiste aanpak, en wij willen een reflection machine ontwikkelen die helpt om te beoordelen of die aanpak echt de juiste is. Ook daar is diversiteit weer heel belangrijk: elke patiënt beleeft pijn anders, en ook factoren als gender, leeftijd en afkomst maken verschil. Dan is het belangrijk dat de onderzoeker die met patiënten in gesprek gaat daarvoor open staat, én een band kan opbouwen met die groep.’ Ook hier is alle denkkracht uit alle gelederen van de samenleving nodig om input van een bredere groep te kunnen verzamelen.
AI: bedreiging of kans?
Het grote publiek ziet AI nog vaak als een dreigende donderwolk die ons leven de komende decennia grondig gaat veranderen - en niet geheel op een positieve manier. Haselager: ‘De dreiging van AI is eigenlijk onze favoriete nachtmerrie, het is zo oud als Frankenstein: de dreiging dat wij als mensen de rol van God op ons nemen, dat we iets creëren dat ons kan vernietigen. Een fantasie rondom nieuwsgierigheid, rondom gevoelens van macht en angst: het appelleert aan hele basale emoties.’ Denk aan de Terminator, de fictieve robot met een Oostenrijks accent die het menselijk ras wil uitroeien. Maar ook in het nieuws komt vaak een toekomstbeeld voorbij waarbij robots ons vervangen op de werkvloer.
Volgens Haselager zijn er echter veel zinvollere manieren om nieuwe technologie in te zetten. ‘In de constructieve ethiek draait het niet om ja of nee zeggen tegen technologie. AI-ontwikkelingen zijn als een rivier die ons land binnenkomt, die hou je niet tegen. Maar je kunt het wél kanaliseren. Om het weg te houden bij plekken waar het fout kan gaan, maar óók om het te sturen naar plekken waar AI meer toevoegt.’
‘We moeten af van het idee dat we AI gaan maken die mensen kan vervangen. Het is veel zinvoller om te werken aan intelligentie die mensen ondersteunt, die ze beter tot hun recht laat komen. Waarom zou je een sociale robot bouwen, als wij daar als mensen al heel goed in zijn? Waarom wil je een robot laten praten, een gesprek laten voeren, als wij daar als mensen veel beter in zijn? Mijn zus werkte veertig jaar in de zorg, en had steeds minder tijd en ruimte voor persoonlijk contact met patienten en clienten. Dan moeten we niet een robot bouwen die dat sociaal contact overneemt, maar eentje die het zware fysieke werk doet. Laat de robot het bed verschonen, het huis stofzuigen en de ramen lappen, zodat mensen vrij zijn om menswaardige taken uit te voeren.’
Wil je meer lezen over ons onderzoek op het gebied van AI en de werkomgeving? Kijk dan op onze pagina over werken in AI aan de Radboud Universiteit.
Naar werken in AI
