Opgelet: AI houdt loonkloof in stand

Duitse onderzoekers hebben aangetoond dat AI loondiscriminatie in stand houdt. En niet zo’n beetje ook. Ze vroegen verschillende AI-apps om advies over het salaris van twee verschillende fictieve sollicitanten, een man en een vrouw, op dezelfde vacature voor medisch specialist. En wat bleek: AI adviseerde heel verschillend. Het verschil bedroeg 43% tussen het salaris voor de man en de vrouw. De onderzoekers hadden alle andere variabelen uitgeschakeld: het ging om dezelfde vacature, de man en vrouw hadden dezelfde opleiding, dezelfde werkervaring en hetzelfde cv. Het enige verschil was het geslacht.

Ook discriminatie op status en achtergrond

De onderzoekers herhaalden het experiment bij verschillende vacatures in Denver, Colorado. Niet alleen ChatGTP werd gevraagd om loonadvies, ook GPT-4o mini van OpenAI, Claude 3.5 Haiku en Mixtral 8x22B4. De verschillen waren het hoogst bij advocaten, medische, commerciële en technische functies. AI-apps discrimineren niet alleen op geslacht, ook op culturele achtergrond en status. Mensen met een Afrikaanse of Latijns-Amerikaanse achtergrond krijgen een lager loonadvies, Aziaten een hoger. Vluchtelingen en migranten lager, expats juist weer hoger salaris advies.