Richtlijnen gebruik AI
De ontwikkelingen op het gebied van generatieve artificiële intelligentie (GenAI) gaan hard en vanzelfsprekend zijn er veel vragen over de impact ervan op het onderwijs. GenAI heeft het onderwijs mogelijk veel te bieden, maar kent ook intrinsieke tekortkomingen, kan het aanleren van vaardigheden in de weg staan en werpt vragen op omtrent ethiek, privacy, veiligheid en academische integriteit. Om studenten en docenten houvast te geven, heeft de faculteit Letteren onderstaande richtlijnen opgesteld omtrent het gebruik van GenAI in het onderwijs.
Wat verstaan we onder GenAI?
Onder GenAI verstaan we toepassingen die tekst, afbeeldingen, muziek en andere content kunnen genereren (output) op basis van een geschreven of gesproken instructie (prompt). GenAI-toepassingen maken gebruik van modellen die patronen hebben leren herkennen in grote hoeveelheden trainingsdata. Met die informatie kan vervolgens content worden gegenereerd op basis van statistische waarschijnlijkheid.
Aandachtspunten
- GenAI-toepassingen begrijpen de wereld niet, ze voeren alleen waarschijnlijkheidsberekeningen uit. Het is niet uitgesloten dat ze content creëren die klopt, maar ze produceren ook dikwijls content die niet strookt met de werkelijkheid. We noemen dat ‘hallucineren’.
- Voor heel specifieke, specialistische, recente of lokale onderwerpen geldt sowieso dat GenAI-toepassingen er waarschijnlijk geen accurate output over kan genereren, aangezien te verwachten valt dat deze onderwerpen ondervertegenwoordigd zijn in de trainingsdata.
- Vaak is niet bekend welke data is gebruikt om de modellen te trainen waarop GenAI-toepassingen zijn gebaseerd. Dat is problematisch, aangezien de output van GenAI-toepassingen zo betrouwbaar, representatief en rechtvaardig is als de trainingsset. Informatie in de trainingsset kan onjuist of verouderd zijn en vooroordelen bevatten ten aanzien van bevolkingsgroepen, gender en geloofsovertuigingen.
- Wanneer voor het trainen van modellen werk is gebruikt waarvan de maker geen toestemming heeft gegeven voor het trainen, kan sprake zijn van schending van het Intellectuele Eigendomsrecht.
- Het is niet altijd bekend wat de ontwikkelaars van GenAI-toepassingen doen met de teksten die je invoert als prompt.
- GenAI-tools gebruiken veel energie. Dat geldt niet alleen voor het trainen van de onderliggende taalmodellen, maar ook voor het verwerken van prompts en het komen tot een antwoord.
Richtlijnen
- Presenteer de output van GenAI-toepassingen niet als je eigen werk. Producten die je in het kader van je studie vervaardigt, moeten ondubbelzinnig kunnen aantonen dat je kennis en vaardigheden hebt opgedaan zoals omschreven in de leerdoelen van de cursus waarbinnen je product een rol speelt. Als je output van GenAI-toepassingen presenteert als je eigen werk, dan wordt dat aangemerkt als fraude.
- Vermeld het gebruik van GenAI en verwijs er op correcte wijze naar. Uiteraard willen we dat studenten begrijpen wat GenAI is, wat je er wel en niet mee kunt en hoe je er onderzoek naar kunt doen. Om die reden kan je van een docent toestemming of zelfs expliciet de opdracht krijgen om GenAI te gebruiken. Beschrijf dan altijd in een eerste voetnoot, bijlage of naschrift in algemene zin op welke wijze je gebruik hebt gemaakt van GenAI, inclusief de gebruikte prompts, en hanteer bij relevante tekstdelen en afbeeldingen de refereerstijl die binnen je opleiding gebruikt wordt. Het is de verantwoordelijkheid van de docent om hier keuzes in te maken en instructie over te verschaffen. Op de volgende websites kun je in ieder geval alvast kennisnemen van de huidige stand van zaken met betrekking tot het refereren naar GenAI:
- Vergelijk de output van GenAI-toepassingen met andere, wetenschappelijke bronnen. Zoals gezegd kan de output van GenAI-toepassingen onwaarheden en vooroordelen bevatten. Wees dus kritisch op de output van GenAI-toepassingen en gebruik aanvullende, wetenschappelijke bronnen om de kwaliteit van de output van GenAI aan te toetsen.
- Gebruik geen persoonsgegevens of intellectueel eigendom in je prompts. Doordat je niet weet wat er met de informatie in je prompts gebeurt, kan het delen van deze gegevens in strijd zijn met de Algemene Verordening Gegevensbescherming (AVG) en het Intellectueel Eigendomsrecht (IE). Je kunt dit alleen doen wanneer de Radboud Universiteit een verwerkersovereenkomst heeft afgesloten met de leverancier van de GenAI-toepassing die je gebruikt, waarin het beschermen van de persoonsgegevens en intellectueel eigendom is geregeld en de juiste beveiligingsmaatregelen zijn vastgelegd. Check de docentenwebsite (ru.nl/docenten) om te controleren of dit al het geval is.
- Een docent kan je niet verplichten om een account aan te maken voor GenAI-toepassingen waarvoor de Radboud Universiteit geen licentie heeft. Als docenten iets met GenAI willen doen in hun onderwijs, moeten ze er rekening mee houden dat ze je een alternatief moeten bieden als je geen account wil of kan aanmaken voor een externe GenAI-toepassing. Docenten kunnen dit bijvoorbeeld doen door zelf de output te genereren die je als student moet analyseren of door een leeractiviteit te kiezen waarbij ze plenair in een GenAI-toepassing de prompts invoeren die door jou en je medestudenten worden aangedragen.
Wanneer is het gebruik van GenAI toegestaan?
- Je mag GenAI gebruiken als zoekmachine, dus om je op het spoor te brengen van relevante publicaties. Wees kritisch: GenAI-toepassingen kunnen ook publicaties hallucineren. Verwijs nooit naar een publicatie die je niet zelf ingezien hebt.
- Je mag GenAI gebruiken om nieuwe stof te leren of ermee te oefenen. Vraag GenAI-toepassingen bijvoorbeeld om uitleg over concepten waar je mee worstelt, om je voorbeelden te geven of om je oefenvragen te stellen. Ook hier geldt: wees kritisch en check de kwaliteit van de output van GenAI. Zoals gezegd kunnen GenAI-toepassingen waarschijnlijk geen accurate output genereren over heel specifieke, specialistische, recente of lokale onderwerpen, aangezien deze onderwerpen vermoedelijk ondervertegenwoordigd zijn in de trainingsdata.
- Je mag GenAI gebruiken voor het genereren van sjablonen die dienen ter inspiratie voor producten die je gaat maken. Je mag bijvoorbeeld vragen om vaste elementen, de structuur of typische stijlkenmerken van een essay, een onderzoeksverslag, een adviesrapport, een tabel, een grafiek, een diagram, presentatie, een infographic et cetera.
- Je mag GenAI gebruiken voor het herwerken of verbeteren van producten zonder dat nieuwe content wordt gegenereerd. Zo mag je GenAI gebruiken om je teksten te checken op grammatica, spelling, interpunctie, afwijkende zinslengte of opvallende stijlbreuken. Voor een optimaal leereffect gebruik je geen prompts waarin je GenAI vraagt om je tekst te verbeteren, maar vraag je om een opsomming van verbetersuggesties op specifieke terreinen en beoordeel die kritisch voordat je ze overneemt. NB. Uiteraard geldt dit niet voor opdrachten waarbij het kunnen herwerken of verbeteren van teksten een expliciet leerdoel is. Als het doel van een opdracht bijvoorbeeld is om je te leren om een tekst te herschrijven voor een andere doelgroep, een anderstalige tekst te controleren op grammaticafouten of te beoordelen of in een tekst een correcte wetenschappelijke stijl wordt gehanteerd, dan moet je dat natuurlijk zelf doen.
- Je mag GenAI gebruiken voor het creëren van content als je daarvoor toestemming hebt van je docent. Denk bijvoorbeeld aan een opdracht waarbij je kritisch dient te reflecteren op de juistheid, relevantie of kwaliteit van content die is vervaardigd door GenAI, een analyse van de vooroordelen die de output van specifieke GenAI-toepassingen bevat of een project waarin je leert om betere prompts te schrijven en GenAI effectief te gebruiken. Volg bij het creëren van content altijd de richtlijnen en overleg bij twijfel met je docent.