De ontwikkelingen in kunstmatige intelligentie zijn fascinerend en beangstigend tegelijkertijd. Studenten laten het algoritme hun essays schrijven en je computer kan Middelnederlandse poëzie produceren. Interacties met GPT-3 van het bedrijf OpenAI leidt bij de gebruikers tot zowel verbazing als horror. Hoe kan een computer zulke menselijke teksten genereren? En GPT-4 moet dan nog komen. Leer over de revolutie van de kunstmatige intelligentie van filosoof Anco Peeters en Jan Bransen. We proberen ook te kijken wat GPT-3.5 zelf over deze ontwikkelingen te zeggen heeft.
Dinsdag 24 januari 2023 | Collegezalencomplex, Radboud Universiteit Bekijk de aankondiging.
Door Beau Vroone
Ik vond de opzet heel geslaagd, eerst een presentatie en dan discussie. Mooi hoe er ondanks het constateren dat we nog niet zoveel weten over de (toekomstige) impact, er wel al filosofisch-morele ideeën zijn over hoe om te gaan met dit AI taalmodel, zowel in onderwijs specifiek, als meer algemeen in onze maatschappij.
De komst van ChatGPT is niemand ontgaan. De prestaties van de nieuwste versie van dit taalmodel hebben de wereld verbaasd. ChatGPT is niet alleen in staat om teksten te controleren, maar ook om zelf teksten te produceren. Het kan samenvatten, dichten, romans schrijven en nog veel meer. De komst van ChatGPT kan hierdoor grote gevolgen hebben. Zo kunnen scholieren hun opdrachten laten maken door dit intelligente taalmodel. Erger nog: het verschil wordt niet eens opgemerkt door docenten.
Dit is slechts één voorbeeld van de impact die kunstmatige intelligentie kan hebben. In een lezing van Radboud Reflects sprak filosoof en cognitiewetenschapper Anco Peeters over de ethische implicaties van kunstmatige intelligentie. Hierna ging hij in gesprek met filosofen Frank van Caspel en Jan Bransen over de gevolgen van ChatGPT, onder andere voor het onderwijs. ChatGPT maakte zelf ook onderdeel uit van de lezing.
Anco Peeters begon zijn lezing door vraagtekens te zetten bij de hype rond ChatGPT. Hij nam het publiek mee door een filosofische landkaart van kunstmatige intelligentie. Peeters begon met de werking van GPT. Het systeem werkt als een wiskundig taalmodel dat patronen herkent door middel van een grote hoeveelheid data. Peeters stelde echter dat er ook problemen ontstaan in de ontwikkeling van deze processen. ChatGPT kan namelijk patronen internaliseren die problematisch zijn. Om dit te voorkomen moeten goedkope arbeidskrachten uit Kenia de meest verschrikkelijke data output handmatig controleren. De filosoof wilde benadrukken dat ChatGPT niet een magische doos is, die uit het niets lappen tekst kan produceren.
Peeters vervolgde zijn filosofische verkenning met het kijken naar de huidige staat van ChatGPT. Hij benadrukte dat het gebruik van GPT niet neutraal is. Het is een nieuw medium dat ons op een bepaalde manier met taal om laat gaan. Zo kijkt een schrijver die een vulpen gebruikt anders naar een tekst dan een schrijver die een tekstverwerker gebruikt. Peeters gaf aan dat ‘ChatGPT vooral goed is in “bullshitten”, omdat het niet zelf na kan denken over de betekenis van de tekst.’ De spreker legde hiermee ook een paradox bloot: een gebruiker van dit taalmodel kan pas op waarde schatten wat GPT schrijft als je zelf expert bent op het gebied.
Tot slot ging de cognitiewetenschapper in op de toekomst van ChatGPT en de ethische vraagstukken die hiermee gepaard gaan. Welke houding moeten we aannemen tegenover dit taalmodel? Het gebruik van ChatGPT brengt immers ook andere gevolgen met zich mee. Dit kunnen zichtbare gevolgen zijn, zoals de problemen die ontstaan in het onderwijs. ChatGPT brengt echter ook andere problemen met zich mee. Moederbedrijf OpenAI is weer een techbedrijf uit Silicon Valley dat onze data verzamelt en ons afhankelijk maakt. Daarnaast heeft gebruik van kunstmatige intelligentie op grote schaal veel energie nodig. Daardoor is het milieubelastend.
Nieuwe technologische vraagstukken vergen een (nieuwe) ethische instelling. Peeters stelde dat de deugdethiek ons helpt om ons moreel te verhouden tot kunstmatige intelligentie. Hij benadrukte dat onze morele focus niet op de technologie zelf moet liggen, maar op de verhouding die de mens tot deze ‘producten’ aannemen. Het moet belangrijk blijven om je af te vragen: "Wat voor een mens wil ik zijn?"
Moderator en filosoof Frank van Caspel vroeg wie in het publiek ChatGPT wel eens gebruik heeft. Ruim de helft van de aanwezigen stak zijn of haar hand op. Dit toonde de grote hype die rond dit taalmodel bestaat. Volgens Peeters ontstaat deze verwondering omdat mensen denken dat GPT intelligenter is dan het in werkelijkheid is. Gebruikers denken dat het systeem met context om kan gaan.
Jan Bransen ging hierop in. Hij stelde dat ChatGPT gewoon als papegaai gezien moet worden. GPT geeft antwoord op basis van bestaande data en voorgeschreven formules. Het kan alleen een paar letters achter elkaar plakken. De mens is tot veel meer in staat. Deze kan buiten voorgelegde modellen stappen. Bransen gaf aan dat hierin het belang van de wetenschap ligt. Wetenschap probeert de gegeven kaders juist te blijven bevragen.
De moderator Van Caspel bewoog het gesprek verder richting het onderwijs. ChatGPT lijkt immers complicaties op te leveren voor het huidige onderwijssysteem. Hoe moeten we met de gevaren omgaan die kunstmatige intelligentie vormt voor onderwijs?
Bransen benadrukte dat onderwijs zou moeten gaan om het oefenen van vaardigheden. Het gaat om de kunde van leerlingen en studenten, niet om het concrete werkstuk.. Het is volgens Bransen vooral belangrijk dat jongeren hun zelfstandig oordeelsvermogen ontwikkelen. Het product moet niet centraal staan, maar het ploeteren.
Bransen stelde dat werkstukken en huiswerk aanleveren niet het doel van het onderwijs zou moeten zijn. Als onderwijs puur gaat over het halen van punten, dan wordt plagiaat aanlokkelijk. Peeters was het hier mee eens. Ook in de wetenschap moet er niet naar de producten gekeken worden. Het publiceren van papers zou een hulpmiddel moeten vormen voor het ontwikkelen van kennis. Publiceren moet niet een doel op zich zijn. We moeten met passie ploeteren!
De ontwikkelingen in kunstmatige intelligentie zijn fascinerend en beangstigend tegelijkertijd. Studenten laten het algoritme hun essays schrijven en je computer kan Middelnederlandse poëzie produceren. Interacties met GPT-3 van het bedrijf OpenAI leidt bij de gebruikers tot zowel verbazing als horror. Hoe kan een computer zulke menselijke teksten genereren? En GPT-4 moet dan nog komen. Kom en leer over de revolutie van de kunstmatige intelligentie van filosoof Anco Peeters. We proberen ook te kijken wat GPT-3.5 zelf over deze ontwikkelingen te zeggen heeft.
Het internet is #hyped. In het begin van 2023 brengt het bedrijf OpenAI het programma GPT-4 uit. De verwachtingen zijn hooggespannen, want GPT-3 en GPT-3.5 kunnen al verbluffend menselijk proza genereren. Wat zal de volgende versie dan nog meer kunnen? Waar liggen de grenzen van kunstmatige intelligentie?
Zal kunstmatige intelligentie slimmer worden dan wijzelf? En zullen schrijvers en kunstenaars vervangen worden door algoritmes? Of zijn er grenzen aan de intelligentie op printplaten? De data waarop de algoritmes worden getraind raakt op, zo stellen de sceptici. En kan een algoritme ooit diens eigen poëzie begrijpen en doorvoelen?
De Britste wiskundige Alan Turing bedacht in de jaren vijftig een experiment waarmee we de intelligentie van computers zouden kunnen testen. Stap 1: een vragensteller stelt één vraag aan een computer en aan een mens. Stap 2: de computer en de mens geven via een beeldscherm antwoord. Stap 3: de vragensteller leest de antwoorden en probeert te achterhalen wie de computer is. Als de vragensteller dat niet kan achterhalen, dan is de computer écht intelligent.
In deze zogenaamde Turing Test gaat het er niet om of de computer het juist antwoord geeft op de vraag, maar of deze een antwoord geeft zoals een mens zou doen. Scholieren claimen dat GPT-3 de Turing Test al heeft doorstaan. Ze lieten het programma los op hun schrijfopdrachten voor school en die gegenereerde essays leverden ze in. Hun docenten, zo beweerden ze, hadden niets door. Erger nog: die gaven de essays de hoogste cijfers.
Kom en denk verder over de gevolgen van GPT 3 en 4 samen met filosoof Anco Peeters. We proberen ook te kijken wat GPT-3.5 zelf over deze ontwikkelingen te zeggen heeft. Cognitiefilosoof Frank van Caspel is de gespreksleider.
Anco Peeters is filosoof en cognitiewetenschapper aan de Radboud Universiteit. Hij onderzoekt de ethiek van kunstmatige intelligentie.
GPT-3.5 is een kunstmatige intelligentie. Een mens zal diens woorden uitspreken.
Wil je op de hoogte blijven van de activiteiten van Radboud Reflects? Schrijf je dan in voor de nieuwsbrief.
Wil je verder denken over ethische vragen die spelen in jouw organisatie? Bekijk Radboud Reflects Professional – Ethische verdieping voor organisaties.