3.2 WAARDEN EN NORMEN

Tweede van de zeven onderdelen van integriteit

Ook als een organisatie zich aan geldende wet- en regelgeving houdt, kan er door gebruik van digitale middelen schade worden berokkend. Daarom is het belangrijk om stil te staan bij de waarden en normen rondom de inzet en het gebruik van digitale middelen.

Deze waarden en normen geven invulling aan wat integer handelen inhoudt en helpen bij het maken van weloverwogen beslissingen. De waarden en normen van een organisatie worden beschreven in de gedragscode, en blijken vaak ook uit visie- en missiestukken van een organisatie. Deze code geeft richting aan de cultuur in een organisatie en schrijft voor hoe medewerkers zich dienen te gedragen. Het actualiseren van de gedragscode kan medewerkers helpen in het maken van integere beslissingen in het gebruik van digitale middelen.

Digitale middelen lijken objectieve processen die effectief en efficiënt neutrale resultaten voortbrengen, maar dit is niet altijd zo. AI-toepassingen presenteren informatie op een overtuigende wijze, terwijl deze soms feitelijk onjuist of niet betrouwbaar is. Dit zorgt voor schijnzekerheid.

Bij de ontwikkeling van digitale middelen worden bepaalde waarden centraal gesteld, waardoor blinde vlekken kunnen ontstaan. Die blinde vlekken kunnen negatieve gevolgen hebben. Digitale middelen met AI-toepassingen kunnen onbedoeld vooringenomenheid versterken, met ongewenste gevolgen zoals uitsluiting en discriminatie.

Er kan vooringenomenheid zitten in het ontwerp van de digitale middelen, in de data die door digitale systemen worden verzameld, verwerkt of toegepast en vooringenomenheid in de output van die digitale systemen. Deze vooringenomenheid wordt veroorzaakt door foutieve aannames in de gebruikte datasets, de gebruiker van de digitale middelen of in de ontwikkelaar van de software. Als medewerkers zich niet bewust zijn van deze vooringenomenheid en deze niet wordt gecorrigeerd, kan dit negatieve gevolgen hebben. Het is niet mogelijk om volledig zonder vooringenomenheid te werken, en daarom is het belangrijk om in het gebruik van digitale middelen ons bewust te zijn van de risico’s.

Het is van belang om alert te blijven op of de uitkomsten van digitale middelen nog in lijn zijn met de waarden van de organisatie. Veel routinematige processen worden geautomatiseerd, waardoor het kan voorkomen dat fouten, vooroordelen of onbedoelde effecten (bijvoorbeeld in zelflerende algoritmes) onopgemerkt blijven en herhaald worden. Dit kan ondervangen worden door voldoende menselijke controle in te bouwen in werkprocessen. Ook helpt een menselijke blik om nuances en context te bewaren, wat in het bijzonder belangrijk is als werkprocessen mensen direct raken.

3.2.1 Tips

Neem integer gebruik van digitale middelen op in de gedragscode. Beschrijf hier bijvoorbeeld of/hoe medewerkers moeten omgaan met AI-toepassingen als generatieve AI-chatbots zoals Chat GPT.
Wees in processen van verantwoording transparant over de inzet van digitale middelen en hun werking.[1]
Beperk AI-gebruik in gevallen waar menselijke toetsing wenselijk is, gelet op de maatschappelijke impact van het gebruik van AI.

[1] Het is momenteel niet verplicht om je algoritmes bekend te maken, maar die verplichting komt er wel aan voor overheidsorganisaties. Voor meer informatie hierover, zie: https://algoritmes.overheid.nl/nl/footer/over

3.2.2. Aandachtspunten

Hoe relevant en representatief is de input van digitale middelen? Heeft je organisatie zijn data op orde?
In hoeverre zijn medewerkers bekend met het risico van vooringenomenheid in hun eigen gebruik van digitale middelen en de digitale systemen waarmee zij werken?
In hoeverre is er sprake van menselijke toetsing bij het nemen van beslissingen op basis van input van het AI-systeem en hoe worden medewerkers in staat gesteld om die rol te spelen?
Hoe zijn de organisatiewaarden afgelopen tijd veranderd? Worden deze waarden nog weerspiegeld in de keuze voor en de omgang met de digitale middelen die de organisatie gebruikt?