Algoritme-bias.
Systematische ongelijkheid in hoe algoritmes mensen behandelen, vaak voortkomend uit bias in trainingsdata of ontwerpkeuzes, met disproportionele impact op minderheden en kwetsbare groepen.
Korte definitie.
Systematische ongelijkheid in hoe algoritmes mensen behandelen, vaak voortkomend uit bias in trainingsdata of ontwerpkeuzes, met disproportionele impact op minderheden en kwetsbare groepen.
AchtergrondUitgebreide uitleg.
Voorbeelden van algoritme-bias: gezichtsherkenning werkt minder goed op niet-witte gezichten, content-moderation classifiers labelen LGBTQ+-content vaker als seksueel, AI-recruiters discrimineren op gender, en kinderwelzijn-algoritmes (Toeslagenaffaire) leggen onterechte verdenkingen bij specifieke groepen. Voor minderjarigen extra zorgwekkend omdat hun ontwikkelende identiteit kwetsbaar is. Onder EU AI Act geldt verbod op specifieke bias-vormen en transparantieverplichtingen voor hoog-risico-systemen.
HandelingsperspectiefVoor de professional.
Voor beleidsmakers en IT: vraag bij AI-leveranciers naar bias-tests en audits. Voor scholen: agendeer in mediawijsheid en kritisch denken. Voor jeugdzorg: weet dat geautomatiseerde besluiten bias kunnen bevatten.
In de woorden van een vriendVoor de jongere.
Algoritmes zijn niet neutraal, ze leren patronen uit data die zelf bias kan hebben; dat is een reden waarom kritische beoordeling van AI-output belangrijk is.
Hulplijn & meldpunt.
Niemand hoeft hier alleen mee om te gaan. Deze hulplijnen zijn gratis en bereikbaar, vandaag.
Verder lezen