Artificial intelligence en algoritmen spelen een steeds belangrijkere rol in besluitvormingsprocessen in verschillende sectoren, zoals werving, financiën en rechtspraak. Deze systemen zijn echter niet altijd onpartijdig.
Algoritmische vooroordelen kunnen verwoestende gevolgen hebben, vooral op het gebied van diversiteit, door bestaande vooroordelen te reproduceren of te versterken.
Dit artikel verkent hoe deze vooroordelen ontstaan en welke impact ze kunnen hebben op de diversiteit binnen bedrijven.
Wat zijn algoritmische vooroordelen?
Algoritmische vooroordelen ontstaan wanneer algoritmen bevooroordeelde of discriminerende resultaten opleveren. Deze fouten zijn vaak onbedoeld en komen meestal voort uit bevooroordeelde gegevens die worden gebruikt om de systemen te trainen.
Als bijvoorbeeld een wervingsalgoritme is getraind op historische gegevens waarin mannen oververtegenwoordigd waren in leidinggevende functies, kan het mannelijke kandidaten blijven bevoordelen en vrouwen uitsluiten van dezelfde kansen.
IBM legt uit dat algoritmische vooroordelen verschillende sectoren treffen, van werving tot gezondheidszorg, en dat ze raciale, gender- en sociale discriminatie kunnen veroorzaken.
Een bekend voorbeeld is dat van Amazon, dat een op AI gebaseerde wervingsinstrument moest terugtrekken nadat het ontdekte dat het systematisch vrouwelijke kandidaten discrimineerde.
De impact op diversiteit
Algoritmische vooroordelen hebben een directe impact op de diversiteit binnen bedrijven en in de samenleving als geheel. Ze kunnen historische ongelijkheden in stand houden en bepaalde groepen verhinderen eerlijke kansen te krijgen.
In de kredietsector tonen studies bijvoorbeeld aan dat sommige algoritmen hogere tarieven berekenen aan minderheden, zelfs wanneer hun financiële profielen vergelijkbaar zijn met die van niet-minderheden.
De gevolgen voor diversiteit binnen bedrijven zijn aanzienlijk. Een bevooroordeeld algoritme kan kandidaten uit etnische minderheden uitsluiten, wat leidt tot een verminderde diversiteit van talent.
Deze homogeniteit in werving kan ook de creativiteit en innovatie binnen teams beïnvloeden, aspecten die sterk worden aangemoedigd door diverse teams.
Hoe kunnen deze vooroordelen worden opgespoord en gecorrigeerd?
Om algoritmische vooroordelen te voorkomen en een betere diversiteit te waarborgen, kunnen verschillende praktijken worden geïmplementeerd:
a) Gebruik van representatieve gegevens
Een van de meest effectieve manieren om vooroordelen te beperken is ervoor te zorgen dat de gegevens die worden gebruikt om de algoritmen te trainen, representatief zijn voor de diversiteit in de samenleving.
Dit betekent dat er gegevens moeten worden opgenomen van verschillende demografische groepen om te voorkomen dat bepaalde groepen ondervertegenwoordigd zijn.
b) Regelmatige audits en eerlijkheidstests
Het is essentieel om regelmatige audits uit te voeren op algoritmische systemen om discriminerende fouten op te sporen. Deze tests moeten in elke fase van de ontwikkeling van het algoritme worden uitgevoerd, van de verzameling van gegevens tot de uiteindelijke implementatie.
c) Ethisch ontwerp van algoritmen
Ethisch ontwerp van algoritmen houdt in dat technieken worden geïntegreerd om vooroordelen te minimaliseren, zoals het herschalen van gegevens of het gebruik van adversarial modellen om ongelijkheden te corrigeren.
Het Machine Learning-team van de Universiteit van Berkeley beschrijft adversarial examples als “optische illusies voor machines.” Dit zijn misleidende gegevens die een algoritme misleiden door het iets te laten geloven dat niet waar is.
In de context van classificatie-algoritmen vertegenwoordigt een adversarial example een zorgvuldig samengestelde set synthetische gegevens om verkeerde classificatie te veroorzaken.
Deze praktijken helpen om meer respect te tonen voor diversiteit en inclusiviteit.
Conclusie
Algoritmische vooroordelen vormen een grote uitdaging voor bedrijven en samenlevingen die diversiteit willen bevorderen. Door te begrijpen hoe deze vooroordelen ontstaan en maatregelen te nemen om ze te voorkomen, is het mogelijk om ervoor te zorgen dat AI-systemen een middel worden voor gelijke kansen in plaats van een obstakel.
Regelmatige audits, ethisch ontwerp en inclusieve gegevensverzameling zijn essentiële stappen om een rechtvaardigere toekomst op te bouwen.
