Richtlijn voor managers
Om managers daarbij te helpen, schreef Sidaoui samen met collega’s Dominik Mahr en Gaby Odekerken-Schröder van Maastricht University een paper met daarin een richtlijn die managers helpt om conversational agents op een verantwoorde manier te implementeren en te voorkomen dat ze onvoorziene schade veroorzaken.
Om nieuwe technologieën, zoals GenAI, weloverwogen in te voeren, hoort binnen een organisatie sprake te zijn van corporate digital responsibility. ‘Niet alleen de service manager, degene die zich bezighoudt met het implementeren van de nieuwe technologie, maar de hele organisatie moet zich tot op zekere hoogte verantwoordelijk voelen voor de digitale technologieën die worden gebruikt.’ Dit ontstaat onder meer door gedeelde normen en waarden te formuleren waar de conversational agent aan moet voldoen, de kansen en risico’s met medewerkers te bespreken en medewerkers aan te wijzen die continu controleren of de technologie naar behoren functioneert. ‘Iedereen moet zich verantwoordelijk en betrokken voelen.’
Wie krijgt de schuld?
Die gedeelde verantwoordelijkheid is ook van belang in het contact met de software providers die de technologie aanbieden en de gebruikers die vervolgens met de conversational agent te maken krijgen. ‘Je ziet te vaak gebeuren dat service managers enkel de mogelijkheden zien, dat ze bijvoorbeeld van andere ondernemers over de voordelen horen en zonder kennis van zaken dezelfde technologie inkopen.’ Maar stel dat je niet weet wat een chatbot met de data van gebruikers doet of geen idee hebt dat je nieuwe programma ongeschikt kan zijn voor kinderen? Dan kun je vroeg of laat flink in de problemen komen. ‘Wie geef je de schuld als mensen bezorgd naar hun data vragen en je geen idee hebt? De technologie? De provider? Of moet je zelf het boetekleed aantrekken?’
Grote bedrijven hebben de juridische middelen om zichzelf te beschermen, maar kleinere bedrijven die deze technologieën onbedachtzaam integreren over ethische kwesties en privacy van gegevens kunnen in juridische geschillen terechtkomen die hen geld kosten én hun publieke imago negatief beïnvloeden.
Laat AI je helpen
Waar GenAI onaangename verrassingen kan veroorzaken, kan het service managers ook helpen op weg naar een cultuur van corporate digital responsibility. ‘Zo kun je je plannen laten toetsen, checken waar je nog niet aan hebt gedacht of om input vragen wanneer je overweegt een conversational agent te implementeren in jouw bedrijf’, tipt Sidaoui. ‘En als blijkt dat je bedrijf nog niet klaar is voor een geavanceerd programma, kun je altijd beginnen met het invoeren van simpeler programma’s zonder GenAI en stap voor stap toewerken naar programma’s die zowel gebruikers als jouw organisatie verder helpen.’
De sleutel voor managers ligt in het krijgen van een beter begrip en een diepere betrokkenheid bij de technologieën die ze integreren voor hun bedrijfsdoelstellingen. Er bestaat een evenwicht tussen bedrijfsdoelstellingen, klantervaring en welke technologie geïntegreerd moet worden. ‘Het verbeteren van AI-geletterdheid voor managers en het bedrijf helpt niet alleen om kosten te besparen en de klantervaring te verbeteren, maar ook om technologie in te zetten om die doelen op een verantwoorde manier te bereiken.’
Masterclasses en masterspecialisatie
Een jaar na de publicatie van de richtlijn voor managers ziet Sidaoui dat bedrijven vooruitgang boeken. Het is volgens hem een stap in de goede richting, alhoewel het belangrijk blijft dat AI-geletterdheid bij managers en klanten wordt verbeterd en een cultuur van digitale verantwoordelijkheid wordt bevorderd. ‘Managers dienen zich te verdiepen in het integratieproces van digitale technologieën om negatieve gevolgen voor klanten te voorkomen. Gedeelde verantwoordelijkheid tussen servicemanagers, softwareleveranciers en klanten is ook nodig om kwesties als gegevensprivacy en duurzaamheid aan te pakken. Uiteindelijk wil je bedrijfsdoelstellingen bereiken, maar ook de klantervaring verbeteren en positieve sociale impact bevorderen.’ Volgens Sidaoui vertrouwen bedrijven soms te veel op de verantwoordelijkheid van technische teams in plaats van managers. Training en bewustwording kunnen helpen. ‘Zo heb ik tijdens een recente AI-masterclass met Johnson & Johnson Innovative Medicine, aangeboden door Radboud Management Academy, gesproken over het omgaan met digitale verantwoordelijkheid, aansprakelijkheid en hoe dit verband houdt met AI-geletterdheid. We proberen dit onderwerp ook eerder aan de orde te stellen door aankomende managers en medewerkers aan te moedigen kritisch na te denken over digitale technologieën, zoals AI, en hoe ze deze op verantwoorde wijze kunnen integreren in het bedrijfsleven en hun toekomstige carrière in een nieuwe masteropleiding ‘Digital Management’.’
Wil je meer te weten komen over Responsible AI of AI Masterclasses? Neem dan contact op met Karim Sidaoui.
Interesse in hoogwaardige opleidingen voor professionals? Neem contact op met de Radboud Management Academy via rma [at] fm.ru.nl.
Publicatie
Generative AI in Responsible Conversational Agent Integration: Guidelines for Service Managers | Karim Sidaoui , Dominik Mahr , Gaby Odekerken-Schröder
Publicatie lezen
Additional reading
Meer lezen over dit onderwerp? Bekijk het paper dat Karim Sidaoui samen met Vera Blazevic schreef.
Publicatie lezen
