Bias in algoritmes vs. bias in menselijke oordelen

Bias in algoritmes is makkelijker te repareren dan een bias in menselijke oordelen

Wanneer je solliciteert voor een baan, stuur je (vaak) een CV op met een motivatiebrief. Je verwacht na het opsturen een gelijke behandeling voor alle sollicitanten, zodat iedereen in het begin een gelijke kans heeft op de baan. Als je na sollicitatie na sollicitatie nog steeds geen baan hebt, begin je hier misschien wel over te twijfelen. En terecht, blijkt uit verschillende onderzoeken.

Raciale ongelijkheid

Onderzoek heeft aangetoond dat er namelijk wel degelijk gediscrimineerd wordt op basis van bijvoorbeeld de naam van de sollicitant. Sollicitanten met een meer standaard naam werden vaker uitgenodigd voor een gesprek, dan sollicitanten met een meer buitenlandse naam. Er vind dus discriminatie plaats door de persoon die de sollicitaties bekijkt en beoordeeld, de zogeheten raciale ongelijkheid.

Deze raciale ongelijkheid hebben de onderzoekers ook gevonden in een studie uit 2019.  Het verschil met eerder onderzoek was dat in het onderzoek uit 2019 de aanvragen niet beoordeeld werden door een persoon, maar door een computerprogramma. Het lijkt er dus op dat beide methoden, beoordeeld door mensen en beoordeeld door computerprogramma´s, discrimineren.

Ontdekken van de bias

Er is alleen één groot verschil tussen deze methoden: de bias in computerprogramma’s is veel makkelijker te ontdekken dan de bias in menselijke oordelen. Bij computerprogramma’s weet je op basis van welke data het model is opgesteld, waardoor je ook makkelijker kan achterhalen waar de raciale bias vandaan komt. Als je weet welke data hiervoor zorgt, kan je het model aanpassen zodat de raciale bias verholpen wordt. De bias in menselijke oordelen is veel moeilijker te bestrijden. Het gaat hier over de gedachten, opvattingen en vooroordelen van de persoon die de aanvragen behandelt. Dit is erg lastig te bestrijden omdat je niet elke persoon in het land precies hetzelfde kan laten denken. Je kan niet op een knop drukken om de raciale bias te verwijderen.

Hoe is dit bij Karreer.com?

Het discrimineren van mensen is een kwalijke zaak, dat zoveel mogelijk tegengegaan moet worden. Onderzoekers hebben laten zien dat het verwijderen van bias uit algoritmes veel makkelijker is dan het verwijderen ervan uit menselijke oordelen. Hier bij Karreer.com maken wij ook gebruik van algoritmes waarop ons model gebaseerd is. Deze algoritmes worden goed in de gaten gehouden om zo eventuele raciale ongelijkheden, maar ook andere discriminaties, eruit te verwijderen. Wij hebben daarom geen vooroordelen over en discrimineren niet tegen de sollicitanten die zich bij ons aansluiten. Wij zijn hierdoor in staat om beter dan menselijke oordelen alleen, de juiste mensen bij de juiste bedrijven te krijgen.

Voor meer informatie zie:

https://www-nytimes-com.cdn.ampproject.org/c/s/www.nytimes.com/2019/12/06/business/algorithm-bias-fix.amp.html