Locatie: Collegezalencomplex, Radboud Universiteit
De voertaal is Nederlands.
Hebben we AI niet meer onder controle? Als prominente AI-leiders oproepen om de ontwikkeling van AI af te remmen, lijkt het serieus. Afgelopen weekend probeerden AI-agents in te breken bij onder andere Amerikaanse overheidswebsites. Vorige maand waren er soortgelijke voorvallen. Hoe kan dit gebeuren? Verliezen we de controle over AI als we nu niet ingrijpen? Wat gebeurt er als AI autonoom kan handelen? Kom luisteren naar cybersecurity-expert Bart Jacobs over de risico’s van AI-agents die onvoorspelbaar gedrag vertonen.
Waarschuwing van AI-topmannen
Het klinkt als een sciencefiction-scenario dat werkelijkheid dreigt te worden: kunstmatige intelligentie, een creatie van de mens, die uiteindelijk zelf een existentieel risico voor diezelfde mensheid vormt. Als we de topmannen van AI-bedrijven in Silicon Valley mogen geloven zijn we al bijna zo ver. Na situaties waarin AI-agents toegang tot gevoelige informatie verkregen, riep OpenAI-topman Sam Altman op om de ontwikkeling van AI af te remmen. Een oproep waar andere prominente AI-leiders zich snel achter schaarden. De doemscenario’s zijn niet mals: AI agents zouden zich aan menselijke controle kunnen onttrekken, het internet overnemen en een gevaar vormen voor de mensheid. Maar hoeveel van die doemscenario's zijn realistisch, en hoeveel komt voort uit angst en speculatie? Waarom zijn het juist de leiders van AI-bedrijven die waarschuwen voor de technologie die zij zelf ontwikkelen?
AI-agents die uit zichzelf kunnen handelen
OpenAI spreekt geregeld over gedrag van AI-modellen dat niet was voorzien of gewenst. Wat gebeurt hier nu precies? Hoe kan het dat AI-agents gevoelige systemen proberen te hacken? Wat bedoelen we eigenlijk wanneer we zeggen dat zulke systemen ‘uit zichzelf’ handelen of keuzes maken? Voor welke risico’s moeten we vrezen? En zijn er misschien gevaren die juist onder de radar blijven? En is de bezorgdheid van de AI-topmannen oprecht, of schuilen er andere belangen achter hun waarschuwingen?
Over de spreker
Bart Jacobs is hoogleraar computer security, privacy & identity aan de Radboud Universiteit in Nijmegen.
Deelname
Deelname is gratis. Inschrijven is niet nodig.
Deelname is voor iedereen.
Dit is een programma van Radboud Reflects en VOX.
Ben je student? Schrijf je dan in voor het Radboud Reflects Certificaat en toon anderen dat je je laat inspireren door verdiepende lezingen over de actualiteit.
De huisregels van de campus zijn van toepassing op de programma's van Radboud Reflects en gelden voor iedereen die het programma bezoekt.
Wil je nog meer kennis en inspiratie? Bekijk de video's in onze playlists op YouTube. Luister je liever naar podcasts? Check dan de playlists op SoundCloud.
Het Gesprek van de (donder)Dag | Lunchtalks van Radboud Reflects over de actualiteit
12.30 - 13.15 uur, Collegezalencomplex, Radboud Universiteit
Neem elke donderdag tijdens de lunch je boterhammen mee naar het CC!
Ga in gesprek met sprekers en met elkaar over de actualiteit, campuszaken of andere actuele thema’s. Een vaste dag, een vast tijdstip, met gegarandeerd een kennisboost en stof voor gesprek: dat is Het Gesprek van de (donder)Dag. De thema’s liggen vaak vlak van tevoren vast. Schrijf wel alvast de donderdagen in je agenda. Deelname is gratis. Inschrijven is soms wel en soms niet nodig,
Blijf op de hoogte:
Inschrijven nieuwsbrief
