Werkzoekenden matchen met vacatures
- Publicatiecategorie
- Hoog-risico AI-systeem
- Impacttoetsen
- DPIA, IAMA
- Status
- In gebruik
Algemene informatie
Thema
Begindatum
Contactgegevens
Link naar publiekspagina
Verantwoord gebruik
Doel en impact
Het algoritme dat in de AI-tool wordt gebruikt ondersteunt twee hoofddoelen met de volgende impact:
1. Efficiëntere en betere matching: Het algoritme helpt bij het realiseren van snellere en betere matches door kandidaten te koppelen aan banen die aansluiten op hun mogelijkheden en competenties, waarbij hun vaardigheden, eigenschappen, interesses en aandachtspunten m.b.t. werk de basis vormen en niet alleen werkervaring of diploma's.
2. Inclusie en eerlijkheid: Het systeem is ontworpen om bias te minimaliseren en gelijke kansen te bieden, waarbij transparantie en uitlegbaarheid worden geboden, waar dat in het huidige handmatige proces niet altijd transparant te maken is (zoals onbewuste vooroordelen die een rol kunnen spelen).
De impact voor een werkzoekende kan ook leiden tot uitsluiting of discriminatie, dit is afhankelijk van hoe het algoritme is ingericht. Om eventuele uitsluiting of discriminatie te signaleren en te voorkomen zijn een aantal maatregelen ingeregeld zoals bias-monitoring, consulenten zijn getraind om bias te onderzoeken en te herkennen, consulenten passen altijd handmatige validatie toe, er is een feedback mechanisme ingeregeld, consulenten zijn geïnstrueerd hoe zij gesignaleerde bias kunnen doorgeven en de werking van het algoritme is geanalyseerd door de FG en de CISO van Werkse!.
Afwegingen
De inzet van de tool is een belangrijk middel om het matches zo effectief en eerlijk mogelijk uit te voeren.
Voordelen voor de werkzoekende:
1. Vergroting van kansen door schaalbaarheid: Het volume van zowel beschikbare vacatures als werkzoekenden is zo groot dat het voor consulenten vrijwel onmogelijk is om handmatig alle mogelijkheden te overzien en de beste matches te identificeren. De tool maakt het mogelijk om binnen een zeer korte tijdspanne een breed scala aan vacatures en werkzoekenden objectief en nauwkeurig te analyseren
2. Eerlijkere behandeling door bias-monitoring: In tegenstelling tot het handmatige matchingproces, waarin onbewuste vooroordelen van consulenten een rol kunnen spelen, is de tool ontworpen volgens FAIR-principes (transparant, objectief en uitlegbaar). Daarnaast worden resultaten continu gemonitord op mogelijke bias wat bijdraagt aan een inclusiever en rechtvaardiger matchingproces
3. Persoonlijke en hoogwaardige begeleiding: Door de inzet van de tool kan de consulent zich richten op het begeleiden van de werkzoekende en het kritisch beoordelen van de voorgestelde matches in plaats van tijd te besteden aan het zoeken naar vacatures. Dit leidt tot een meer persoonlijke en kwalitatieve begeleiding
4. Optimalisatie door datagestuurde beslissingen: De tool ondersteunt consulenten met datagestuurde inzichten, waardoor de matches niet alleen sneller, maar ook beter aansluiten op de vaardigheden, interesses en behoeften van de werkzoekende. Dit verhoogt de kans op langdurige en succesvolle plaatsingen
Werkzoekenden hebben recht op bescherming van hun persoonsgegevens en een eerlijke, transparante behandeling in het matchingproces. Hun privacy wordt gewaarborgd door strikte dataminimalisatie, organisatorische en technische beveiligingsmaatregelen en monitoring die het risico op ongeautoriseerde toegang of misbruik minimaliseren. Er wordt voor het matchen van werkzoekende op vacatures alleen gebruik gemaakt van gegevens die noodzakelijk zijn voor het realiseren van een goede match. Bijzondere persoonsgegevens worden niet gebruikt voor de match. De gegevens van de werkzoekende worden voor matchingsdoeleinden verwijderd uit de tool nadat het traject van een werkzoekende afgesloten wordt. Tevens kunnen werkzoekenden aangeven geen gebruik te willen maken van Matchplaats. In dat geval wordt de ‘opt-out’ functie aangezet waardoor de gegevens van de werkzoekende niet in Matchplaats komen en vindt het matchen op de oude handmatige wijze plaats.
Menselijke tussenkomst
De werkconsulent beoordeelt de matches die Matchplaats voorstelt. De werkconsulent bespreekt de geschikt bevonden potentiële matches met de werkzoekende. Bij interesse wordt de werkzoekende aan de werkgever voorgesteld. De AI-tool ondersteunt consulenten door middel van geautomatiseerde verwerking, maar neemt geen besluiten. De beslissing om een sollicitatieproces op te starten wordt, net als bij het handmatige proces, dus samen met de werkzoekende genomen.
Risicobeheer
Om de risico's op discriminatie, uitsluiting en onrechtmatige verwerking van persoonsgegevens te beperken zijn technische en organisatorische maatregelen genomen om een veilig, verantwoord, eerlijk en transparant matchingsproces te garanderen. De volgende organisatorische maatregelen zijn getroffen:
• Gebruikers van de AI-tool hebben een training AI geletterdheid en hebben de gebruikerstraining Matchplaats gevolgd
• Er is een proces voor bevoegdheden voor uitgifte en intrekken van autorisaties
• Er is een proces voor veilig ontwikkelen, versiebeheer en kwetsbaarhedenbeheer
• Periodieke bias rapportages worden opgemaakt en met het management en de FG van Werkse! besproken
• Gebruikers van de AI-tool zijn getraind om bias te onderzoeken en te herkennen en er is een proces om signalen van bias door te geven en vast te leggen
• Toegang tot de gegevens vindt plaats op basis van individuele accounts met rolgebaseerde toegangscontrole
• Alleen gegevens die noodzakelijk zijn voor het realiseren van een goede match worden verwerkt en de gegevens van de werkzoekende worden voor matchingsdoeleinden verwijderd uit de AI-tool nadat het traject van een werkzoekende afgesloten wordt
De volgende technische maatregelen zijn getroffen:
• De opgeslagen gegevens worden versleuteld (AES-256) zowel tijdens transport als in rust
• De gegevens worden verwerkt binnen een beveiligd netwerk met end-to-end encryptie
• De Matchplaats-applicatie ondersteunt Single Sign-On (SSO) via Microsoft Entra ID
• Toegang en systeemacties worden gelogd
• Er is een backup en herstelprocdure waarbij de gegevens worden opgeslagen in Azure Blob Storage en PostgreSQL-databases (Azure Cloud van NextHuman binnen de EU). De dagelijkse back-ups worden bewaard gedurende 35 dagen. Back-ups zijn versleuteld, zowel tijdens opslag (AES-256) als tijdens transport (TLS). Alleen geautoriseerde personen hebben toegang tot de back-ups. De backup en herstelprocedure wordt ieder kwartaal getest
• Er wordt gebruik gemaakt van 2-factor authenticatie (2FA) voor toegang tot het systeem en de communicatie tussen systemen is beveiligd via een private VNet
• De AI-tool is ontworpen om transparant te zijn voor gebruikers en betrokkenen. De tool bevat een uitlegbaarheidscomponent, waardoor consulenten en werkzoekenden inzicht krijgen in de redenatie achter de gegenereerde potentiële matches.
Wettelijke basis
De gemeente is wettelijk verplicht om werkzoekenden, met een afstand tot de arbeidsmarkt, te ondersteunen bij het vinden van passend werk op basis van de Participatiewet (hoofdstuk 2 art. 7, 8a, 9) en de AVG (art. 6.1)
Links naar wettelijke basis
- Participatiewet: Hoofdstuk 2 art. 7, 8a, 9
- AVG: Art. 6.1
Toelichting op impacttoetsen
Er is een DPIA (Data Protection Impact Assessment) uitgevoerd om de risico's voor de privacy van werkzoekenden in kaart te brengen. Deze DPIA zal worden geactualiseerd na afloop van de pilot en vormt dan een basis om een go – no-go besluit nemen over het in gebruik nemen van de AI-tool Matchplaats. Er is ook een IAMA (Mensenrechtentoets) uitgevoerd om te toetsen op discriminatie en gelijke kansen. De belangrijkste onderdelen uit de IAMA zijn ook in hoofdstuk 3 van de DPIA opgenomen. Belangrijke maatregelen die genomen zijn om de risico's te beperken, zijn in dit kader:
• Mens in the loop: de consulent controleert altijd de AI-matchingsuggesties en bespreekt de geschikt bevonden potentiële matches met de werkzoekende. Bij interesse wordt de werkzoekende aan de werkgever voorgesteld
• Uitlegbaarheid: bij iedere gemaakte match, is inzichtelijk hoe deze tot stand gekomen is. Dit is inzichtelijk voor zowel de werkzoekende als de consulent
• Bias-monitoring: eventuele bias in het matchingsproces wordt continu geïdentificeerd en wordt in elk geval elk kwartaal gerapporteerd en waar nodig aangescherpt
Impacttoetsen
- Data Protection Impact Assessment (DPIA): Matching kandidaten met vacatures met behulp van AI
- Impact Assessment Mensenrechten en Algoritmes (IAMA): Matching kandidaten met vacatures met behulp van AI
Werking
Gegevens
Er wordt voor het matchen van werkzoekende op vacatures alleen gebruik gemaakt van gegevens die noodzakelijk zijn voor het realiseren van een goede match. In de AI-tool worden van de werkzoekende gegevens verwerkt zoals:
• Naam
• Branche- en functievoorkeuren
• Taalvaardigheden
• Gevolgde opleidingen
• Computervaardigheden
• Toelichting sociaal netwerk
• Het CV
• Bezit van rijbewijzen & reismogelijkheden
• Specifieke begeleidingsbehoefte of eisen voor de werkplek
• Aandachtspunten die invloed hebben op belastbaarheid en werkfitheid (beschreven in functionele termen in lijn met de AVG)
• Eventuele indicatie baanafspraak, dagbesteding of mantelzorg
• Gespreks- en observatieverslagen.
Technische werking
Matchplaats maakt gebruik van 4 verschillende algoritmes: 1. Van cliëntinfo (Afas) → matchingprofiel
• Inputdata: gegevens uit de stamkaart van de werkzoekende in bronsysteem, CV’s, gespreks- en observatieverslagen, opleidingen, hobby’s & interesses, begeleidingsbehoefte, belastbaarheid
• Model: GPT-4o (transformer). Deze haalt uit ongestructureerde tekst de relevante vaardigheden, eigenschappen, interesses en aandachtspunten m.b.t. werk
• Output: een gestructureerd matchingprofiel met objectieve kenmerken dat als input dient voor de matching
2. Van vacature (Afas, Indeed, Glassdoor, LinkedIn) → vacatureprofiel in Matchplaats
• Inputdata: vacatureteksten en vereisten, bedrijfsprofiel
• Model: zelfde stack – GPT-4o: herkent vaardigheden/eisen uit de tekst
• Output: een vacatureprofiel met objectieve kenmerken (vaardigheden, eigenschappen, interesses, aandachtspunten)
3. Matchen van cliënt ↔ vacature in Matchplaats
• Inputdata: matchingprofiel van kandidaat en vacatureprofiel
• Model: Word2Vec + BM25 (statistisch scoringsmodel): Word2Vec zet woorden in vectorruimte (semantische gelijkenis), BM25 weegt trefwoorden en reduceert ruis (woorden zoals “flexibel” krijgen minder gewicht), er wordt een matchingscore berekend uit een gewogen gemiddelde van deze twee
• Output: een ranglijst van vacatures (of kandidaten bij spiegelen). De uitlegbaarheidscomponent toont per criterium (bv. “creativiteit”, “niet tillen”) het gewicht in de score
4. Bias monitoring tool
• Inputdata: Resultaten van alle gemaakte matches en is meer voor bias metingen rondom geslacht, leeftijd, taal. Batchresultaten van het draaien van het hele werkzoekendenbestand en (een steekproef van de vacatures) en is meer voor false positive/negative detectie
• Model: statistische monitoring: analyses van verschillen in matchpercentages per leeftijd, geslacht, taal en sector, alsmede verdelingen van werkzoekenden of vacatures in de uitkomsten
• Output: waarschuwingen bij significante afwijkingen, bv. als een groep structureel minder vaak wordt gematcht of als een groep vaker in een specifieke sector wordt gepusht. GPT-4o (Transformer Architectuur) en Word2Vec (embeddings model) zijn zelflerende algoritmes en BM25 (Best Matching 25, information retrieval, gespecificeerde formules gecombineerd met statistieken uit de data) is een semi-zelflerend algoritme.