Genes, Memes en Tremes: de toekomst van kunstmatige intelligentie
Genes, Memes and Tremes. The Future of ArtificiaI Intelligence | Lecture by psychologist Susan Blackmore | Monday 29 October 2018 | 20.00 - 21.30hrs | Grotius building, Radboud University | Radboud Reflects and the Max Planck Institute for Psycholinguistics
English review - The Replicators Are Coming | Podcast | Video
"Wat een fantastische avond met geweldige sprekers! En je neemt er ook nog wat van mee naar huis om over na te denken (memes, tremes....)." (Uit een deelnemersevaluatie)
Dat wij mensen technologie ontwikkeld hebben, betekent niet dat we er de baas over zijn en blijven. Sterker nog, de Britse psychologe Susan Blackmore stelt dat dit vanuit evolutionair perspectief onwaarschijnlijk is. Er zijn steeds meer nieuwe vormen van technologie waar we geen controle over hebben. Wat zal onze nieuwe rol zijn? Op uitnodiging van Radboud Reflects en het Max Planck Instituut voor Psycholinguïstiek kwam Blackmore naar de universiteit om haar visie te geven. Na haar lezing ging ze in gesprek met filosoof en kunstmatige intelligentie-deskundige Pim Haselager en het publiek.
Universeel Darwinisme
Volgens Blackmore zijn de natuur, cultuur en technologie allen tot stand gekomen door evolutie. “Charles Darwins idee van evolutie is het beste idee dat iemand ooit gehad heeft. De inzichten van Universeel Darwinisme zijn toepasbaar op alles, ook design dat geen natuur is, zoals cultuur en technologie.” Hoewel Darwins publicatie honderden pagina’s telde, laat zijn idee zich volgens Blackmore eenvoudig samenvatten in een algoritme. “Als er variatie is binnen een diersoort, een vorm van selectie, en erfelijkheid van de eigenschappen die sommige dieren beter aangepast maakt, dan moet er evolutie tot stand komen.” Dit maakt evolutie het beste idee ooit: het moet gebeuren, het kan niet niet gebeuren.
Memes
In zijn publicatie The Selfish Gene uit 1976 stelt Richard Dawkins dat genen replicators zijn, stukjes genetische informatie die gekopieerd worden. Volgens Dawkins zijn er echter ook culturele replicators, die hij memes genoemd heeft. Dit zijn culturele uitingen die geïmiteerd worden, zoals liedjes, verhalen, spellen, afbeeldingen en theorieën. Net als genen zijn deze selfish: ze worden gekopieerd wanneer maar kan, zonder na te denken over de consequenties. Blackmore ziet het menselijk brein als selective imitation devices. “De mens heeft de mogelijkheid om te imiteren, maar we moeten selectief zijn en alleen kopiëren wat nuttig is.” Blackmore ziet dit als een tweede laag van evolutie bovenop de eerste: naast het fitter worden van organismen wordt de mens ook fitter door het kopiëren van memes die voor ons nuttig zijn.
Tremes
Tien jaar geleden betoogde Blackmore in haar TedTalk dat kunstmatige intelligentie de derde replicator op aarde is. “Toen was ik nog niet helemaal zeker of digitale informatie slechts meer memes waren of een derde replicator, maar inmiddels weet ik het steeds zekerder.” Volgens Blackmore zijn er drie kenmerken voor een replicator die allen buiten de controle van de mens moeten plaatsvinden: kopiëren, variatie en selectie. Blackmore stelt dat kunstmatige intelligentie aan deze voorwaarden voldoet. Het internet kopieert, brengt bijvoorbeeld variatie aan in de vorm van gepersonaliseerde advertenties, en selecteert uit zichzelf welke informatie het meest relevant is als je een zoekopdracht invoert. Het belangrijkste is dat dit systeem het uit zichzelf doet, zonder dat de mens weet hoe het systeem precies bij de uitkomst is gekomen. “Algoritmes worden gemaakt door mensen, maar door feedback te geven leren ze en stellen ze zichzelf bij. De persoon die het originele algoritme heeft gemaakt weet niet meer precies wat het programma heeft gedaan om bij de uitkomst te komen.” Blackmore noemt deze derde replicator tremes.
Van origineel naar instructies
Volgens Blackmore zijn er twee manieren van imitatie: het kopiëren van het ding zelf en het kopiëren van de instructies om het ding te maken. De tweede variant is een stuk succesvoller: op die manier maakt het niet uit wat er met het origineel gebeurt, maar blijft het mogelijk om te kopiëren. Hoewel mensen zijn begonnen met het kopiëren van de dingen zelf, is dat inmiddels niet meer hoe we het doen. Zo maakt een glasblazer geen glas door te kijken naar glas dat al eerder gemaakt is, maar door het volgen van instructies.
Kunstmatige intelligentie ontwerpt zichzelf
“Ik verwacht dat machines hetzelfde doen met tremes”, stelt Blackmore. “We hebben deze machines voor onszelf gemaakt, maar ze verwerken de informatie zelf.” Volgens Blackmore zijn tremes, net als genes en memes, egoïstische replicators, die geen oog hebben voor de consequenties van het kopiëren. “We kunnen profiteren van kunstmatige intelligentie, maar ook niet. Wij moeten zelf nadenken over de consequenties.” Blackmore stelt dat we minder controle over kunstmatige intelligentie hebben dan we denken. “We kunnen robots uitzetten, maar we hebben geen controle over de kunstmatige intelligentie out there. Wij zijn niet de designers van kunstmatige intelligentie, maar kunstmatige intelligentie ontwerpt zichzelf.”
De tijd dringt
Kunstmatige intelligentie verspreidt zich snel en gebruikt steeds meer digitale opslagruimte. Dit proces gaat zo snel dat in 2020 naar verwachting vijf procent van het wereldwijde energieverbruik gebruikt wordt voor opslagruimte. “Het is belangrijk dat we zo snel mogelijk begrijpen hoe kunstmatige intelligentie werkt.”
Beperken van online opslag
In gesprek met filosoof Pim Haselager en het publiek werd onder andere nagedacht voor oplossingen voor dit probleem. Blackmore weet niet hoe we ons kunnen verdedigen tegen kunstmatige intelligentie, maar hoopt dat haar manier van denken kan helpen in het bedenken van nieuwe ideeën. Behalve al bestaande zorgen over kunstmatige intelligentie, stelt Haselager dat Blackmore’s concept van tremes ook meer inzicht geeft in de dreiging dat kunstmatige intelligentie steeds meer energie opeist. Eén van de oplossingen die Haselager opperde, is het beperken van de informatie die we online zetten. Blackmore is het eens met deze oplossing, maar stelt dat de noodzaak hiervoor vaak niet voor het individu te zien is door een schijnbaar onbeperkte opslagmogelijkheid.
Machines en bewustzijn
Tenslotte werd ingegaan op de vraag of machines bewustzijn kunnen ontwikkelen. Blackmore is stellig in haar antwoord: “Ik ben een illusionist: ik denk dat bewustzijn een illusie is, dat we er op een verkeerde manier over nadenken. Mijn antwoord is heel simpel: als een robot een representatie van zichzelf en de eigen capaciteiten heeft en denkt “Ik kan mijn eigen armen en benen controleren”, dan hebben ze hetzelfde illusionaire bewustzijn als wij.”
Door: Bas Nordkamp
Podcast:
Wil je op de hoogte blijven van onze activiteiten? Schrijf je dan in voor de tweewekelijkse nieuwsbrief.
Do you want to stay up to date about our activities? Please sign in for the English newsletter.