Meer blauw op straat
Het moge duidelijk zijn: machine learning biedt uitkomst bij allerlei problemen. Tegelijkertijd plaatst menigeen kanttekeningen bij de ontwikkeling van kunstmatige intelligentie, waar machine learning een onderdeel van is. De Canadese Nobelprijswinnaar Geoffrey Hinton, bijgenaamd “the Godfather of AI”, voorspelde zelfs dat er een kans van 10 tot 20 procent is dat kunstmatige intelligentie de mensheid over dertig jaar “wegvaagt”. Eerder stelde hij dat die kans 10 procent was.
Loog somt een aantal aantal haken en ogen op bij de bewierookte technologie. ‘Allereerst kan machine learning vooroordelen vormen en versterken’, legt hij uit. ‘De modellen worden gevoed door data en als die data gekleurd zijn, worden die vooroordelen overgenomen in het programma.’ Loog noemt een bekend voorbeeld van een programma dat zou moeten voorspellen waar politie-inzet nodig zal zijn. ‘Als bepaalde buurten er op basis van de ingevoerde data uit springen en daar meer agenten gaan posten, komen ze daar meer misdrijven tegen, wat de bias over die buurten verder versterkt. Het roept de vraag op wat we een redelijke bias vinden en hoe we de discussie daarover voeren’
Paul McCartney
Andere zorg is de bescherming van intellectueel eigendom. Zo waarschuwde Beatle Paul McCartney onlangs voor het gebruik van teksten van schrijvers en muzikanten als input voor AI-programma’s. Loog grinnikend: ‘En als zelfs Paul McCartney zich zorgen begint te maken, weet je dat er iets aan de hand is.’ Dan serieus: ‘Met de gigantische hoeveelheden data waarmee systemen gevoed worden, zal het steeds lastiger zijn om te herkennen of een tekst wel of niet door AI is geschreven.’ In het verlengde daarvan wordt het ook steeds moeilijker om te herkennen of video’s en afbeeldingen echt of nep zijn.
Energieverbruik is een derde punt van zorg. ‘Natuurlijk is niet iedere opdracht even belastend, maar onze vragen aan programma’s als ChatGPT of systemen die afbeeldingen genereren kosten veel energie.’ Loog betwijfelt of het te verantwoorden is dat we energieslurpende AI gebruiken voor toepassingen die niet nuttig zijn. ‘Hebben we al die plaatsjesgenerators werkelijk nodig?’
Wat weten we eigenlijk?
Naast de maatschappelijke zorgen over machine learning, zijn er ook fundamentele vragen rond de nieuwe technologie. Met die vragen houdt Loog zich bezig in zijn onderzoek. ‘We gaan ervan uit dat programma’s beter presteren naarmate ze gevoed worden met meer data. In mijn onderzoek stel ik de vraag in hoeverre dat klopt. Hoewel we vaak zien dat meer input helpt, zijn er allerlei andere leercurves mogelijk, waarbij meer data niet zonder meer beter is. Het laat zien dat we ondanks de steeds grotere rol van machine learning in onze levens, nog veel te ontdekken hebben over het leergedrag van systemen.’
Op de hoogte blijven van ons onderzoeksnieuws?
Volg ons op Instagram:
Foto: Lance Reis via Unsplash
