Bias in de praktijk
Bias in AI is niet alleen een theoretisch probleem, het heeft directe gevolgen voor mensen.
Problemen bij antispieksoftware
Een student van de VU diende een klacht in omdat antispieksoftware haar niet herkende als persoon, mogelijk door haar donkere huidskleur.
Het College voor de Rechten van de Mens constateerde in een tussenoordeel (2022) dat er voldoende feiten waren voor een vermoeden van discriminatie. Uiteindelijk oordeelde het College dat de klacht niet gegrond was, omdat de VU kon aantonen dat de problemen niet vaker voorkwamen dan bij andere studenten. Lees het artikel in de Volkskrant
Bias dramaβs in Machine Learning
In deze blogpost uit 2021 vind je een overzicht van verschillende voorbeelden waar AI de fout in ging door bias:
Onderstaande afbeelding toont de verschillende types bias die een rol kunnen spelen:
