Focusgebied uitgelicht: Ethiek

Over het focusgebied Ethiek 

Samen met Tamar Sharon leidt Marthe bij NOLAI het focusgebied Ethiek, dat verder nog bestaat uit postdoc Imré Bard, PhD-kandidaat Yuri Tax en ook Teacher-in-Residence Kevin van der Pol is nauw betrokken. Marthe: “Ethiek is vooral bekend van ethische commissies die bijvoorbeeld onderzoeksprojecten beoordelen, en van ethische richtlijnen rondom privacy en databescherming. Binnen NOLAI werken we er hard aan om te voldoen aan al deze ethische procedures en richtlijnen. Maar tegelijkertijd is er ook nog heel veel onbekend over de verantwoorde toepassing van AI in het onderwijs, en zijn er veel ethische vraagstukken waar we nog vrij weinig over weten. Daar doen we vanuit ons focusgebied onderzoek naar.”

De introductie van AI verandert de manier waarop onderwijs gegeven wordt. Dat gebeurt op allerlei onverwachte manieren, die we moeilijk van tevoren kunnen voorspellen. Daar kijken we naar vanuit ons focusgebied.

Embedded ethics of parallelle ethiek

AI krijgt een steeds grotere rol in het onderwijs, en de hoop is dat het de kwaliteit van het onderwijs gaat verbeteren. Maar AI-technologie is geen neutraal, passief instrument dat alleen wordt gebruikt voor het uitvoeren van een taak; het brengt veranderingen voor het onderwijsveld met zich mee. Marthe: “De introductie van AI verandert de manier waarop onderwijs gegeven wordt. Dat gebeurt op allerlei onverwachte manieren, die we moeilijk van tevoren kunnen voorspellen. Daar kijken we naar vanuit ons focusgebied. We zijn heel nauw betrokken bij de ontwikkeling van AI voor het onderwijs. Dat noemen we embedded ethics of parallelle ethiek. We richten ons dus niet in de eerste plaats op het toetsen van reeds ontwikkelde technologie, maar denken vanaf het begin constructief mee in het hele proces om zo AI op een verantwoorde manier te ontwikkelen.”

Waardconflicten in onderwijs

“In ons onderzoek kijken we naar bestaande waarden die belangrijk zijn in het onderwijs, zoals pedagogische expertise, gelijke kansen en samenwerking. En je hebt ook publieke waarden die meespelen in het onderwijs, zoals autonomie, rechtvaardigheid en menselijkheid. Neem bijvoorbeeld een waarde als samenwerking, die historisch gezien belangrijk is in het Nederlandse onderwijs. Hoe gaat die waarde zich ontwikkelen met AI? Veel toepassingen met AI gaan over personaliseren, onderwijs op maat bieden. Maar hoe verhoudt personaliseren zich tot een waarde zoals samenwerken? Wij onderzoeken de waardenconflicten die ontstaan als we AI-toepassingen gaan inzetten in het onderwijs. En zullen kritisch zijn als AI-toepassingen botsen met wat in Nederland beschouwd wordt als goed onderwijs.”

Als kerntaken van docenten geautomatiseerd worden, kan hun autonomie en pedagogische expertise onder druk komen te staan. We willen dat AI de rol van docenten niet vermindert of vervangt, maar dat het hen ondersteunt.

Autonomie 

NOLAI gaat uit van een hybride model, waarbij de AI de docent ondersteunt. Autonomie van de docent is daarbij een essentiële waarde. Marthe: “Als kerntaken van docenten geautomatiseerd worden, kan hun autonomie en pedagogische expertise onder druk komen te staan. We willen dat AI de rol van docenten niet vermindert of vervangt, maar dat het hen ondersteunt. En ook leerlingen moeten autonome keuzes kunnen blijven maken. Hoe dat het beste kan, daar denken we als ethiek-team over na. Daarbij is het belangrijk om ook te kijken naar de autonomie van de hele onderwijssector. Met welke bedrijven gaan we AI-producten ontwikkelen? Als je daar continu de grote technologiebedrijven voor inschakelt, maak je de sector afhankelijk van deze bedrijven, die technologie onder hun eigen voorwaarden ontwikkelen. Dit kan er toe leiden dat de autonomie van scholen onder druk komt te staan.” 

Ethisch denken binnen de sector

In het onderwijs zie je van oudsher minder ethische commissies, beraden en richtlijnen dan bijvoorbeeld in de gezondheidszorg. Marthe: “Ik vind dat het onderwijsveld kritischer moet worden, want AI zal goede dingen brengen, maar is zeker geen oplossing voor allerlei ingewikkelde problemen in het onderwijs. Dat is mijn langetermijndoel met NOLAI: ik zou het ethisch denken in de hele sector willen stimuleren. Dit kan bijvoorbeeld door schoolleiders en docenten te ondersteunen en te trainen, kritisch na te denken over AI-technologie, zodat scholen weerbaarder zijn en beter kunnen inschatten welke innovaties ze op een verantwoorde manier kunnen inzetten in hun klaslokalen. Wij hopen hier met ons onderzoek aan bij te dragen, zodat AI in Nederland gebruikt wordt om het onderwijs, zoals wij dat belangrijk vinden, te versterken.”