De mens te boven: de komst van superintelligentie
Superintelligentie. Beter dan ons mensenbrein? | Lezing door filosoof en kunstmatige intelligentie-deskundige Pim Haselager | Dinsdag 8 mei 2018 | 20.00 – 21.30 uur | LUX, Nijmegen
In een paar uur leren schaken en onverslaanbaar goed worden: een computerprogramma van Google heeft het onlangs gepresteerd. Er vindt een enorme vooruitgang plaats op het gebied van de kunstmatige intelligentie. We zijn op een punt beland waar computers slimmer lijken te worden dan de mens. Toch zijn er ook dingen die computers nog niet zo goed kunnen, zoals plezier hebben of doelen stellen. Worden computers binnenkort slimmer dan de mens? En wat zijn de gevaren hierachter? Volgens filosoof en AI-deskundige Pim Haselager van het Donders Instituut aan de Radboud Universiteit is de context waarin een artificieel systeem functioneert cruciaal voor zijn kunnen. In zijn lezing betoogt Haselager dat alhoewel de vooruitgang indrukwekkend is, er nog grote stappen nodig zijn voordat een computer de mens passeert. Na afloop ging hij in gesprek met natuurkundige Sascha Caron over de mogelijkheden en gevaren van artificiële intelligentie. Het gesprek stond onder leiding van filosofe Maïté Tjon A Hie.
De opkomst van de computer
Er zijn tal van verhalen over robots die de mens als vijand gaan zien en de wereld overnemen. Alhoewel deze nachtmerriescenario’s wijdverspreid zijn, gelden ze vooral als dystopisch sprookje. Toch zijn deze scenario’s niet zo onrealistisch meer: waar het vijftigjaar geleden nog ondenkbaar was dat een computer beter kon schaken dan de mens, zijn de rollen vandaag de dag omgedraaid. Er zijn indrukwekkende voorbeelden van computerprogramma’s die na een paar honderd sessies onverslaanbaar zijn en zelfs strategieën verzinnen waar de makers van het spel niet op gekomen waren. Haselager vertelt: “De groei van kunstmatige intelligentie kan gezien worden als een exponentiële groei. Alhoewel het in het begin langzaam op gang komt, groeit het naar verloop van tijd in een razend tempo. Het zou goed kunnen dat superintelligentie over een paar jaar inderdaad een feit is: een computer die in het algeheel slimmer is dan de mens.” Als de technologie zijn snelle groei voortzet, staat ons dus nog flink wat te wachten.
Mens en machine
Alhoewel de achterliggende techniek erg wiskundig is, zijn de artificiële systemen geïnspireerd door het menselijk brein. Daar wordt via een keten van neuronen informatie doorgegeven, tot er een oplossing komt. Als deze niet klopt, veranderen de verbindingen tot het wél goed is. Het breinproces wordt als het ware ondergebracht in een computer. Toch is er een groot verschil met de hersenen, betoogt Haselager: “Het brein kent biologische beperkingen die een computer niet heeft. Zo is er maar beperkte ruimte in de schedel om verder te groeien, terwijl een computer oneindig de ruimte heeft. Ook kunnen computers sneller rekenen en hoeven ze bijvoorbeeld niet te slapen.” Zonder deze biologische beperkingen kan een systeem in korte tijd zichzelf slimmer maken: het idee dat een computer de mens overstijgt komt daarmee erg dichtbij.
De gevaren van superintelligentie
Als een machine zelfstandig slimmer kan worden, lijkt het onvermijdelijk dat deze op een bepaald moment superintelligent wordt: onnavolgbaar slim op alle vlakken. Het is dan nog maar de vraag of deze computer het beste met de mens voor heeft of ons juist van kant wil maken – uit eigenbelang. Wanneer dit punt bereikt wordt, zal het ons snel de pet te boven gaan: “In plaats van onze manier van denken over te nemen, zal het uiteindelijk een kwalitatieve sprong maken. Het denken wordt zo intelligent, dat het ons overstijgt en niet meer te bevatten is. Dit kan ook gevaarlijk zijn: tegen een superintelligentie die zoveel slimmer is valt weinig te beginnen.” Om dit tegen te houden moeten we er op tijd bij zijn, maar met de snelle technologische vooruitgang is dit geen makkelijke taak.
Een fundamenteel verschil
Toch zijn we nog ver verwijderd van deze superintelligentie. Een schaakcomputer kan wel heel goed schaken, maar daarbuiten kan hij vrij weinig. Er is een groot verschil met levende wezens: waar deze een sterke wil hebben, heeft een computer die niet. Een computer schaakt niet omdat hij graag wil winnen, maar omdat hij hier de opdracht toe krijgt. Het is precies deze wil die we nog niet begrijpen: “Het streven naar zelfbehoud is iets dat alle levende wezens hebben. Alhoewel de intelligentie van computers op bepaalde vlakken enorm is, zijn zij niet zelfbewust. Vaak wordt gedacht dat dit als een vonk zal ontstaan naarmate de intelligentie toeneemt, maar dit hoeft niet zo te zijn. Het besef van aanwezigheid is al terug te vinden in een goudvis, zonder dat dit een heel intelligent dier is.” We weten niet precies wat deze wil of dit zelfbesef is en kunnen het daarom ook niet namaken. Vanuit dit perspectief is het dilemma van superintelligentie ineens een stuk minder urgent.
Ethiek en gevoel
Terwijl de vooruitgang op het gebied van intelligentie enorm is, blijft het begrip van andere menselijke eigenschappen zoals emoties, gevoel of empathie achter. Haselager beargumenteert: “Er is ontzettend veel aandacht voor intelligentie, maar we houden ons weinig bezig met emoties of gevoel. Ons begrip van deze kwaliteiten staat niet in verhouding met ons begrip van intelligentie. We zijn er zo door gefascineerd, dat we ons niet bezig houden met bijvoorbeeld wijsheid of ethiek. Waarom proberen we niet juist een super ethische computer te maken?” Wanneer we kijken naar de afgelopen honderd jaar was er niet zozeer een gebrek aan intelligentie, maar juist een gebrek aan empathie en gevoel. Tegenwoordig maken we ons druk om systemen die voor zichzelf gaan beginnen, terwijl we nog niet zover zijn. In plaats daarvan zouden we beter onderzoek kunnen doen naar andere menselijke waarden. Empathie en gevoel verbinden ons tenslotte en zijn daarmee des te belangrijker.
Door: David Leeftink
Podcast:
Wil je op de hoogte blijven van onze activiteiten? Schrijf je dan in voor de tweewekelijkse nieuwsbrief.