Blog: Over welke kennis en instrumenten moet de Raad van commissarissen beschikken om de risico's van de toepassing van kunstmatige intelligentie te kunnen beoordelen?

De groei van AI

Het toenemende gebruik van algoritmen in verschillende bedrijfssectoren heeft geleid tot de behoefte aan effectief toezicht en regelgeving om potentiële risico's te beperken. Een Raad van commissarissen heeft als taak toezicht te houden op de strategische besluitvorming van het management en te zorgen dat wet- en regelgeving wordt nageleefd. Het toegenomen gebruik van (generatieve) Kunstmatige Intelligentie heeft deze taken recentelijk nog ingewikkelder gemaakt. Deze nieuwe technologie kan op verschillende manieren waarde toevoegen: probleemoplossing, efficiëntie, besluitvorming, optimalisatie en schaalbaarheid. Toch kan de Raad van commissarissen voor uitdagingen komen te staan bij het uitoefenen van effectief toezicht op algoritmen. Uitdagingen kunnen zijn: het begrijpen van complexe algoritmen, het identificeren van mogelijke vooroordelen en discriminatie, het waarborgen van transparantie en het beschermen van de privacy. Daarnaast moet de Raad van commissarissen zorgen voor de juiste expertise en vaardigheden om de technische aspecten van algoritmen te begrijpen en te beoordelen.

Het is belangrijk om eerst het concept van AI te demystificeren en te begrijpen. In essentie is het krachtige software die voorspelt en volledig afhankelijk is van de patronen die kunnen worden gevonden in een grote berg data. Bovendien is de technologie menselijk gemotiveerd. Echter, door de grote schaal waarop algoritmes werken en dus de mogelijke negatieve gevolgen, worden organisaties geconfronteerd met ethische dilemma's. Het aanpakken van deze ethische dilemma's is een belangrijke stap voorwaarts.

Het omgaan met deze ethische dilemma's vereist een combinatie van technische, juridische en sociale maatregelen. Het is belangrijk om verantwoording, transparantie en ethische overwegingen in te bouwen in het ontwerp, de implementatie en het gebruik van algoritmen. In deze blog richt ik me op de bestuurlijke maatregelen, namelijk de toezichthoudende rol van de Raad van commissarissen. Ben jij als onderdeel van een raad (van toezicht/commissarissen) naar aanleiding hiervan op zoek naar meer sturing en controle op AI? Houd dan rekening met onderstaande aspecten.

• Met betrekking tot privacy en gegevensbescherming ligt de primaire toezichthoudende autoriteit bij de Data Protection Officer (DPO) en de Privacy Officer (PO). De relatie tussen de DPO, PO en de Raad van commissarissen kan variëren afhankelijk van de specifieke organisatie. In het algemeen kunnen we de volgende randvoorwaarden stellen voor beide functies: 1) Onafhankelijkheid, de DPO en de PO moeten onafhankelijk zijn in de uitvoering van hun taken en verantwoordelijkheden. 2) De Raad van Toezicht kan en moet gebruik maken van de adviserende expertise van beide functionarissen bij het nemen van beslissingen over gegevensbescherming en privacybeleid. 3) Rapportageverplichting: de DPO en de PO moeten worden verplicht om regelmatig verslag uit te brengen aan de Raad van Toezicht over de naleving van wet- en regelgeving op het gebied van gegevensbescherming binnen de organisatie. 4) Samenwerking: Hoewel de DPO en de PO onafhankelijk moeten zijn, is samenwerking met de Raad van commissarissen en andere belanghebbenden van groot belang. de DPO en de PO kunnen samenwerken met de Raad van Toezicht om de implementatie en naleving van gegevensbeschermingsmaatregelen te bevorderen. Ze moeten streven naar een gedeelde visie en begrip van gegevensbescherming en privacy als een strategische en ethische kwestie binnen de organisatie

• Om discriminatie en vooringenomenheid (bias) te voorkomen, moeten algoritmen vooraf op deze aspecten worden getest en voortdurend worden gecontroleerd. Voor de Raad van commissarissen is het een must om te controleren welke maatregelen het bedrijf heeft genomen om bias en discriminatie te voorkomen.

• Gezien de grote schaal waarop de output van een algoritme effect kan hebben, is het essentieel voor een Raad van commissarissen om goed inzicht te hebben in de aansprakelijkheid en verantwoordelijkheid voor het gebruik van algoritmen in het bedrijf. Het bedrijf moet inzicht hebben in de verantwoordelijkheid en aansprakelijkheid. Net als bij bias en discriminatie is het goed als een bedrijf een ethisch toetsingskader heeft dat de bepaling van verantwoordelijkheid en aansprakelijkheid laat zien. Daarnaast is het gunstig voor een bedrijf om een algoritmeregister op te zetten.

• Een organisatie moet altijd streven naar transparantie en begrijpelijkheid in hoe een algoritme tot een output komt. Het is daarom belangrijk om te bepalen in welke context een algoritme wordt gebruikt. Een AI gebruiken om de prestaties van mensen te beoordelen is waarschijnlijk ethisch onverantwoord, maar een AI die kiest tussen machine A of B is te rechtvaardigen. Dit kan ook naar voren komen bij het gebruik van een goed functionerend ethisch toetsingskader.

• Voor een organisatie is het bijna dagelijks werk om te bepalen wat de gevolgen zijn voor autonomie en menselijke betrokkenheid bij procesveranderingen. De gebruikelijke bedrijfsprocedures zoals een adviesaanvraag aan de ondernemingsraad zijn geschikt om dit te testen in het geval van het gebruik van algoritmes. Het is noodzakelijk dat de ondernemingsraad wordt geïnformeerd op het moment dat de menselijke betrokkenheid in het geding komt. Daarnaast is het belangrijk dat bestuursleden voldoende kennis hebben van de algoritmes die geïmplementeerd gaan worden.

• Het is vaak moeilijk om te bepalen of de implementatie van een algoritme een sociale impact heeft, vooral de sociale impact buiten de directe context van het bedrijf is moeilijk te bepalen. Ook hier kan een ethisch toetsingskader goed werken om te bepalen of de impact acceptabel of wenselijk is.

• Een Raad van commissarissen heeft ook de verantwoordelijkheid om te toetsen of een bedrijf goed genoeg reageert op nieuwe ontwikkelingen en innovatie. Dit is zeker het geval op het gebied van Kunstmatige Intelligentie omdat de ontwikkelingen daar snel gaan. Daarom is het raadzaam om minimaal één keer per jaar een vergadering van de Raad van commissarissen te wijden aan innovatie, waarin nieuwe ontwikkelingen worden besproken en wat het bedrijf daar wel of niet mee wil doen.

• Door contextveranderingen zoals marktomstandigheden en beleidsaanpassingen kunnen algoritmen evolueren. Als gevolg hiervan is het noodzakelijk om de algoritmen periodiek te controleren en te registreren (testen en eventueel hertrainen). Daarom is het noodzakelijk dat er een gespecialiseerde afdeling is die zich hiermee bezighoudt. Voor een Raad van commissarissen is het goed om regelmatig de vraag te stellen wat deze afdeling heeft aangepast aan deze algoritmen, gezien bepaalde contextveranderingen. Voor elk bedrijf is het ook raadzaam om een register te hebben waarin algoritmen die in het bedrijf worden gebruikt, worden geregistreerd.

Conclusie

Door de grote toename in het gebruik van Kunstmatige Intelligentie en algoritmen in het bijzonder, is het belang van goed toezicht hierop een must. Zeker als we kijken naar het risico op schade voor een bedrijf als het misgaat op de ethische aspecten van Kunstmatige Intelligentie. Daarnaast is er ook steeds meer behoefte aan goed toezicht vanuit wetgeving, zoals de AI-wet die vanuit de EU in de maak is. Gezien de hoge verwachtingen op het gebied van Kunstmatige Intelligentie is het belangrijk dat de Raad van commissarissen als sparringpartner kan fungeren om innovatie op het gebied van Kunstmatige Intelligentie op een verantwoorde manier binnen het bedrijf te bevorderen.

Frank Ferro
Director Insights
PostNL

Deze blog is een samenvatting van een langer artikel, neem voor de langere versie of aanvullende vragen en opmerkingen gerust contact op met Frank.