Module om te screenen voor bias inzake taal

Nederlandse organisatie voor toegepast-natuurwetenschappelijk onderzoek (TNO)

Binnen het programma Vaardig met Vaardigheden is CompetentNL ontwikkeld. Voor de ontwikkeling van CompetentNL wordt de Bias module gebruikt achter de schermen, dus niet direct in externe georiënteerde applicaties. De module bevordert de inclusiviteit van CompetentNL door taalgebruik te analyseren en te vereenvoudigen, met focus op toegankelijkheid voor laaggeletterden.

Laatst gewijzigd op 6 maart 2026 om 9:50 | Publicatiestandaard 1.0

• Publicatiecategorie: Overige algoritmes
• Impacttoetsen: Veld niet ingevuld.
• Status: In gebruik

Algemene informatie

Thema

Werk

Begindatum

09-25

Contactgegevens

[e-mail]

Link naar publiekspagina

https://competentnl.nl/

Verantwoord gebruik

Doel en impact

Binnen CompetentNL is een biasmodule ontwikkeld. De module is ontwikkeld ter ondersteuning van de totstandkoming van CompetentNL, een landelijke standaard voor het beschrijven van skills. De module helpt bij het verbeteren van de beschrijvingen van vaardigheden en competenties door het verminderen van bias. Het gaat hier niet om gegevens van individuen.

Afwegingen

Voordelen

- De module bevordert inclusiviteit van CompetentNL door taalgebruik te vereenvoudigen en toegankelijker te maken voor een brede doelgroep.

Nadelen en risico’s

- De module werkt achter de schermen en heeft geen directe gebruikersfeedback, wat de detectie van fouten kan bemoeilijken.

Rechtvaardiging

- De inzet van de module is redelijk en gerechtvaardigd omdat zij de inclusiviteit van CompetentNL aanzienlijk verbeteren zonder directe besluitvorming over individuen. Menselijke experts blijven betrokken bij de validatie en beoordeling van de output, waardoor risico’s worden beperkt.

Menselijke tussenkomst

De uitkomsten van de module wordt door inhoudelijke experts beoordeeld voordat ze in CompetentNL worden opgenomen. Experts controleren de relevantie, nauwkeurigheid en kwaliteit van de gegenereerde bias-suggesties. Op basis van hun vakinhoudelijke kennis kunnen zij de output corrigeren, aanvullen of afwijzen.

Dit menselijke toezicht is cruciaal om fouten, verouderde data of mogelijke biases te detecteren en te corrigeren. Daarnaast vindt periodieke evaluatie en bijstelling van de module plaats op basis van feedback van experts en nieuwe ontwikkelingen in de arbeidsmarkt. Zo blijft de output actueel, betrouwbaar en passend bij de beleidsdoelstellingen.

Risicobeheer

Onnauwkeurigheden

- Uitkomsten worden altijd door menselijke inhoudsdeskundigen gecontroleerd voordat ze worden toegepast. Experts beoordelen continu de output om te signaleren wanneer bijsturing nodig is.

Overmatige afhankelijkheid van het systeem

- Het systeem is zo ingericht dat uitkomsten niet automatisch worden overgenomen; menselijke validatie is verplicht.

- Training en bewustwording van experts zorgen voor kritisch gebruik van de module.

Beperkingen in interpretatie en gebruik

- Uitkomsten worden niet direct aan eindgebruikers getoond zonder beoordeling.

- Fouten en onvolkomenheden kunnen zo tijdig worden opgespoord en gecorrigeerd.

Wettelijke basis

Het gebruik van de module ter ondersteuning van de ontwikkeling en verrijking van CompetentNL is gebaseerd op het doel om transparantie, efficiëntie en inclusiviteit te bevorderen in het arbeidsmarkt- en onderwijsdomein. De AI-verordening van de Europese Unie, waarin ook eisen voor hoog-risico AI-systemen zijn vastgelegd, wordt gevolgd en geïntegreerd in de governance van het programma. De verwerking van gegevens en het gebruik van de module vinden plaats met respect voor de rechten van betrokkenen en onder toezicht van deskundigen om te waarborgen dat de toepassingen rechtmatig, eerlijk en transparant zijn.

Links naar wettelijke basis

AI-verordening (Verordening (EU) 2021/0106): https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX%3A32021R0106

Werking

Gegevens

De module berekent de complexiteit van de inputzinnen (skillsbeschrijvingen en -titels). Daarvoor wordt gebruik gemaakt van verschillende publiek-beschikbare lijsten van woorden met bijbehorende eigenschappen, die door mensen zijn geannoteerd of berekend.

Leverancier

TNO