Ervaringen
Hoe kunnen we de veiligheid van AI waarborgen?
- Opleiding
- Cyber Security and AI
Stjepan Picek heeft zijn dubbele PhD afgerond over het onderwerp cybersecurity en AI (aan de Radboud Universiteit en de Universiteit van Zagreb, Kroatië). Sinds oktober 2021 werkt hij als universitair docent aan de Radboud Universiteit.
Nieuwe masterspecialisatie
Volgens Stjepan Picek is Radboud een goed erkende universiteit op het gebied van cyberbeveiliging. Tegenwoordig zijn de onderwerpen AI en digitale beveiliging belangrijker dan ooit. In moderne cyberbeveiliging speelt kunstmatige intelligentie een grote rol. Echter, het huidige curriculum aan de Radboud Universiteit is nog steeds gericht op ofwel cybersecurity ofwel AI. Stjepan Picek: 'Op dit moment pikken studenten wel wat mee van AI, maar ze richten zich voornamelijk op cybersecurity'.
Toch is er hier een sterke AI-afdeling, gebaseerd op Machine Learning. Zij richten zich op AI en minder op beveiliging. Daarom werd het logisch om de studenten 'the best of both worlds' aan te bieden. In onze nieuwe masterspecialisatie combineren we een selectie van vakken in AI en cyberbeveiliging. We moedigen de student aan om beide onderwerpen vanuit een ander perspectief te benaderen.' Stjepan Picek werkt nu hard aan het studieprogramma, dat gelijktijdig met het nieuwe academische jaar van start zal gaan.
Cybersecurity en AI: altijd samen
Cybersecurity is een enorm domein dat onder andere bestaat uit systeembeveiliging, netwerkbeveiliging en cryptografie, wat een specialiteit is aan de Radboud Universiteit. Stjepan Picek: 'Cybersecurity kan niet meer zonder AI. Anti-malware, antivirus, anti-spam: het draait allemaal om die twee. In het verleden, wanneer er een dreiging was die computers probeerde te infecteren, was het relatief eenvoudig te herkennen. Tegenwoordig worden virussen en andere bedreigingen slimmer en veranderen ze voortdurend vanwege AI. De krachtigste aanvallen worden nu gemaakt door AI. Veel van de dingen die we hier doen zijn gebaseerd op offensieve beveiliging. Dit betekent dat we onze systeembeveiliging evalueren door de meest krachtige aanvallen mogelijk uit te voeren. En die krachtige aanvallen zijn ook grotendeels gebaseerd op AI.'
Waarom is de nieuwe masterspecialisatie zo belangrijk?
'Ik ben blij met het nieuwe programma, we hebben geluisterd naar de wensen van de studenten, en zij kunnen nu nieuwe trends en bedreigingen gaan verkennen. Wanneer ze de studie hebben afgerond, zijn ze experts in een uiterst belangrijk domein, zowel op onderzoeks- als op industrieel gebied.' Universiteiten en bedrijven zijn altijd op zoek naar menselijke kennis op dit technologische en innovatieve gebied.
Bovendien ziet Stjepan Picek een interessante verandering in focus: 'Tegenwoordig gaat het niet alleen over wat AI kan doen voor cybersecurity, maar ook over wat cybersecurity kan doen voor AI. AI wordt overal gebruikt, en op al die plaatsen is beveiliging belangrijk. Bijvoorbeeld in ziekenhuizen. AI wordt gebruikt bij behandelingen, de uitdaging is hoe ervoor te zorgen dat de gegevens correct zijn en de patiënten veilig en beschermd. Dus, de nieuwe vraag is: hoe kunnen we de beveiliging en privacy van AI handhaven? Dit zal een van de onderwerpen zijn die we gaan leren, en wij zijn de eerste universiteit in Nederland die dit integreert in haar curriculum.'
Dit interview werd voor het eerst gepubliceerd op TechGelderland. Afbeeldingen: Linda Verweij.
Ik wil graag iets betekenen voor de maatschappij door juist op de plekken te helpen die vaak over het hoofd worden gezien.
- Vooropleiding
- Information Security Management (De Haagse Hogeschool)
- Opleiding
- Cyber Security and AI
- Startdatum studie
- Einddatum studie
Wat spreekt je aan in de master en waarom?
AI hoor je steeds vaker op het nieuws of in de buurt. Het is niet alleen een hype, maar echt iets dat gedurende de jaren blijft groeien. In het werkveld wil ik boven de rest uit kunnen blinken, dus daarom doe ik deze master.
Hoe ervaar je de sfeer binnen de opleiding?
Docenten kunnen in de lessen vrij abstract zijn om zo een voorbeeld te kunnen zijn voor studenten met verschillende achtergronden. Maar als je vraagt om verduidelijking, dan doen ze dat met passie.
Wat vind je het meest uitdagend aan de master(specialisatie)? Zijn er dingen waar je tegenaan loopt?
Je bent aan het leren, dus het is logisch dat sommige vakken op het begin iets moeilijker zijn. Ik had dat bijvoorbeeld met Coalgebra, omdat mijn achtergrond totaal niet wiskundig is. Filmpjes kijken en de stof doornemen werkt, maar het kost wel wat moeite.
Kun je iets vermelden over je stage en/of je scriptie?
Ik ga als cybersecurity en AI-expert een organisatie helpen bij het vinden van de juiste AI tools om de bedrijfsprocessen veiliger te maken.
Waarom is het belangrijk dat er mensen zijn met deze master(specialisatie) op zak? Wat wil je er zelf mee gaan doen na het afronden van je master?
Cybersecurity en AI zijn beide onderdelen die veel worden vergeten. Niemand denkt aan security, totdat er een hacker binnenkomt. AI wordt door velen gezien als iets wat weer overgaat. Ik wil graag iets betekenen voor de maatschappij door juist op de plekken te helpen die vaak over het hoofd worden gezien.
Ik ben er erg blij mee dat ik een gepersonaliseerd curriculum kon samenstellen voor mijn eigen doelen.
- Vooropleiding
- BSc Artificial Intelligence (Radboud University)
- Nationaliteit
- Duits
- Opleiding
- Cyber Security and AI
- Startdatum studie
- Einddatum studie
Wat spreekt je aan in de master en waarom?
Ik vind het leuk dat ik op het snijvlak tussen AI en cybersecurity zit en tegelijkertijd kan kiezen uit een grote selectie cursussen die het beste passen bij mijn eigen doelen voor het programma. Gezien mijn achtergrond waren de cyberbeveiligingscursussen in het begin uitdagender, maar ze werden goed gegeven en waren ongelooflijk interessant.
Hoe ervaar je de sfeer binnen de opleiding?
De sfeer is gastvrij, de studenten zijn allemaal zeer gemotiveerd en geïnteresseerd in het onderwerp. De docenten en onderzoekers zijn altijd benaderbaar, willen graag helpen en zijn erg enthousiast om hun onderzoek te delen.
Wat vind je het meest uitdagend aan de master(specialisatie)? Zijn er dingen waar je tegenaan loopt?
Het vinden van de juiste balans tussen vakken die zich richten op AI of cyberbeveiliging of beide was een uitdaging voor mij; ik wilde zoveel mogelijk opties verkennen en waardeerde het zeer dat ik een gepersonaliseerd curriculum kon samenstellen voor mijn eigen doelen.
Kun je iets vermelden over je stage en/of je scriptie?
Ik schrijf mijn scriptie over de veiligheid van Large Language Models (LLMs) in de context van maritieme verkeersradio.
Waarom is het belangrijk dat er mensen zijn met deze master(specialisatie) op zak? Wat wil je er zelf mee gaan doen na het afronden van je master?
Met de opkomst van AI is het essentieel dat het betrouwbaar en veilig te gebruiken is; deze master overbrugt die kloof.
Het is belangrijker dan ooit om mensen met dit diploma te hebben, gezien de snelle ontwikkelingen op het gebied van cyberbeveiliging en AI.
- Vooropleiding
- Artificial Intelligence (Radboud Universiteit)
- Opleiding
- Cyber Security and AI
- Startdatum studie
- Einddatum studie
Wat spreekt je aan in de master en waarom?
Dit programma was uitdagender dan mijn vorige, vooral wat betreft zelfstandig onderzoek en kritische analyse. Terwijl mijn vorige opleiding meer gericht was op theoretisch leren, is dit programma meer gericht op het oplossen van problemen en het bespreken van problemen en scenario's uit de echte wereld.
Aanpassen aan deze aanpak was in eerste instantie moeilijk, maar het heeft mijn analytisch denken versterkt en me vertrouwen gegeven in het aanpakken van complexe problemen.
Hoe ervaar je de sfeer binnen de opleiding?
De sfeer in de klas is erg ondersteunend en boeiend. Het is gemakkelijk om ideeën te delen en samen aan projecten te werken door het sterke gevoel van samenwerking tussen de studenten.
De docenten en onderzoekers zijn benaderbaar en altijd bereid om te helpen, waardoor er een open leeromgeving ontstaat. Ze staan ook erg open voor feedback, wat de leerervaring dynamischer en interactiever maakt.
Wat vind je het meest uitdagend aan de master(specialisatie)? Zijn er dingen waar je tegenaan loopt?
Een van de meest uitdagende aspecten van mijn masteropleiding is de hoge mate van zelfstandigheid die vereist is. Dit programma verwacht dat je zelfstandig werkt, je eigen onderzoek plant en initiatief neemt. Omdat de opleiding relatief nieuw is, zijn er niet altijd andere studenten aan wie je vragen kunt stellen. Deze master heeft me geholpen om zelfstandiger te worden en beter in het oplossen van problemen, wat zeker een waardevolle vaardigheid is om te hebben.
Kun je iets vermelden over je stage en/of je scriptie?
Ik heb mijn stage al afgerond en ben bij hetzelfde bedrijf blijven werken aan mijn masterscriptie. Mijn onderzoek richt zich op het ontwerpen van een federatief leerframework met strikte toegangscontroles om ongeautoriseerde toegang tot gevoelige gegevens te voorkomen. Het doel is om mechanismen voor toestemmingscontrole te integreren in een door LLM aangedreven zoeksysteem voor documenten, waarbij zowel efficiëntie als robuuste beveiliging worden gegarandeerd.
Waarom is het belangrijk dat er mensen zijn met deze master(specialisatie) op zak? Wat wil je er zelf mee gaan doen na het afronden van je master?
Het is belangrijker dan ooit om mensen met dit diploma te hebben, gezien de snelle ontwikkelingen op het gebied van cyberbeveiliging en AI. Naarmate AI zich verder ontwikkelt, wordt het beveiligen van deze technologieën steeds belangrijker, terwijl tegelijkertijd AI zelf een krachtig hulpmiddel kan zijn bij het verbeteren van cyberbeveiliging. Dit kruispunt creëert een groeiende vraag naar experts die op beide gebieden kunnen werken.
Na het behalen van mijn masterdiploma ben ik van plan om een tijdje te reizen om nieuwe plaatsen te verkennen en nieuwe ervaringen op te doen. Daarna wil ik aan een traineeship beginnen om mijn vaardigheden verder te ontwikkelen en praktijkervaring op te doen in het veld.