Heronderzoeken Uitkeringsgerechtigden
- Publicatiecategorie
- Hoog-risico AI-systeem
- Impacttoetsen
- Veld niet ingevuld.
- Status
- Buiten gebruik
Algemene informatie
Thema
Begindatum
Einddatum
Contactgegevens
Link naar publiekspagina
Link naar bronregistratie
Verantwoord gebruik
Doel en impact
Het model deed een voorspelling voor de kans op onrechtmatigheid of juist rechtmatigheid, door te kijken naar de in de administratie bekende gegevens van burgers bij wie in eerdere jaren een onderzoek naar de rechtmatigheid heeft plaatsgevonden. Die conclusie kan zijn geweest dat de uitkering rechtmatig is verstrekt; of dat de eerder verstrekte uitkering niet aansloot op de feitelijke situatie (onrechtmatigheid). Op basis van deze historische gegevens, kan er een voorspelling worden gedaan over de kans op rechtmatigheid of onrechtmatigheid bij de huidige uitkeringsgerechtigden. Die voorspelling wordt dus gedaan op basis van de in onze administratie bekende gegevens van huidige uitkeringsgerechtigden. De uitkomst van het model is een ‘risico-inschattingsgetal’ dat varieert tussen 0 (grote kans op rechtmatigheid) en 1 (grote kans op onrechtmatigheid). De uitkeringsgerechtigden met het hoogste risico-inschattingsgetal worden uitgenodigd voor een onderzoeksgesprek, tenzij er bijvoorbeeld onlangs al een onderzoek naar de rechtmatigheid heeft plaatsgevonden. Jaarlijks wordt opnieuw bepaald hoeveel uitkeringsgerechtigden worden uitgenodigd op basis van het risico-inschattingsmodel. Het model is ieder jaar opnieuw ontwikkeld, omdat er elk jaar nieuwe onderzoeksdata beschikbaar komen. De informatie uit recente onderzoeken naar de rechtmatigheid zijn dus steeds meegenomen bij de ontwikkeling van een nieuw model. De gemeente Rotterdam gebruikt dit algoritme niet meer sinds begin 2022. Uit onze verkenning naar een verbeterd ‘risicomodel’ is gebleken dat het nu niet mogelijk is een algoritme te ontwikkelen die past binnen ons beleid.
Afwegingen
Het model heeft geen uitspraak gedaan over rechtmatigheid of onrechtmatigheid: het onderzoek dat voor die uitspraak vereist is, is altijd uitgevoerd door een medewerker. Dat onderzoek gebeurt altijd op dezelfde wijze, of de uitkeringsgerechtigde nu is uitgenodigd op basis van het risico-inschattingsmodel of op basis van één van de andere selectiemethoden. Het algoritme verwerkt geen informatie die direct kan leiden tot discriminatie, zoals nationaliteit, leeftijd of gezondheidstoestand. De gemeente heeft onderzocht of er informatie in het model wordt gebruikt die kan samenhangen met nationaliteit of afkomst, zoals taalkennis om de kans op discriminatie of vooringenomenheid te voorkomen. Uit een verkenning is gebleken dat dit op dit moment niet mogelijk is om uit te sluiten en de ontwikkeling van een verbeterd model is stopgezet.
Menselijke tussenkomst
Het risico-inschattingsmodel bepaalt niet of iemand rechtmatig of onrechtmatig een uitkering ontvangt. Met het model is wel onderdeel van de bepaling welke uitkeringsgerechtigden worden uitgenodigd voor een onderzoeksgesprek. Een deskundige inkomensconsulent van de afdeling Werk & Inkomen van de gemeente Rotterdam voert dit onderzoek uit. Na uitvoering van het onderzoek bepaalt de inkomensconsulent of de uitkering van de werkzoekende rechtmatig of onrechtmatig is verstrekt en of deze nog past bij de situatie waarin de uitkeringsgerechtigde zich bevindt.
Risicobeheer
Voor het bepalen van het risico van een algoritme gebruikt de gemeente Rotterdam een vastgesteld classificatiemodel. Het risico-inschattingsmodel is aangemerkt als een hoog-risico algoritme. De gemeente neemt daarom extra veiligheidsmaatregelen. Denk hierbij aan maatregelen die ervoor zorgen dat er goed toezicht is op de ontwikkeling en het gebruik van het model. Zo wordt er specifiek gekeken naar de ethische risico’s en kijkt een externe toezichtscommissie mee met het ontwerp en het gebruik van het model. Deze commissie is er naar verwachting begin 2022. Als er sprake is van een algoritme in de categorie hoog-risico, dan is een menselijke toets onderdeel van het werkproces waarin het desbetreffende algoritme wordt gebruikt. De kans op vooringenomenheid wordt beperkt doordat het risico-inschattingsmodel slechts wordt gebruikt om te bepalen wie een uitnodiging voor een onderzoeksgesprek ontvangt. Het algoritme bepaalt niet of iemand rechtmatig of onrechtmatig een uitkering ontvangt. Dit doen inkomensconsulenten van de afdeling W&I. Zij doen uitvoerig onderzoek naar de situatie, samen met de uitkeringsgerechtigde. Een uitkering verstrekken is immers maatwerk en gebeurt op individueel niveau.
Wettelijke basis
Participatiewet
Werking
Gegevens
Uitkeringsadministratiegegevens (Socrates) en informatie over re-integratie van werkzoekenden (RWM/Raak)
Technische werking
De gemeente Rotterdam gebruikt dit algoritme niet meer. Uit de verkenning naar een verbeterd ‘risicomodel’ gebleken dat het nu niet mogelijk is een
algoritme te ontwikkelen die past binnen ons beleid.
Toen het algoritme nog wel in gebruik was, gold de volgende omschrijving: De afdeling Werk & Inkomen (W&I) bekijkt regelmatig of inwoners recht hebben op een uitkering en of deze nog aansluit bij hun situatie. Uitkeringsgerechtigden kunnen daarom worden uitgenodigd voor een gesprek.
Om te bepalen wie een uitnodiging krijgt gebruikt de gemeente verschillende selectiemethoden, waaronder een risico-algoritme. Dit algoritme helpt de gemeente om in te schatten bij welke uitkeringsgerechtigden de kans groot is dat de uitkering niet (meer) aansluit op de situatie. Dat heeft twee voordelen voor de samenleving:
1) Dit helpt de gemeente om te voorkomen dat er geld te veel wordt betaald.
2) Bovendien worden uitkeringsgerechtigden waarbij de kans op bijzonderheden kleiner is, minder snel voor een gesprek uitgenodigd worden.
Het risico-inschattingsalgoritme werkt voorspellend. Dit algoritme gebruikt gegevens die de afdeling W&I nodig heeft om haar taken uit te voeren en de uitkering te kunnen uitbetalen.
Het gaat om gegevens zoals de hoogte van de uitkering en de gezinssituatie. Maar ook om vaardigheden en kwaliteiten van de werkzoekende, die jou meer kansen op de arbeidsmarkt geven. Dit komt uit twee databronnen:
1) Socrates: het uitkeringsadministratie-systeem. Hierin wordt de hoogte van de verstrekte uitkering vastgesteld en vastgelegd. In dit systeem zijn gegevens opgenomen over bijvoorbeeld de woon-/leefsituatie van de uitkeringsgerechtigde.
2. RWM/Raak: systeem waarin gegevens over de re-integratie van werkzoekenden worden vastgelegd.
De gemeente gebruikt alleen gegevens uit de eigen administratie. Er vindt géén koppeling plaats met andere databestanden.
Het risico-inschattingsalgoritme wordt alleen gebruikt om uitkeringsgerechtigden voor een gesprek uit te nodigen. Het algoritme doet geen uitspraak of de uitkering terecht is. Een medewerker van de afdeling beoordeelt of er recht is op een uitkering. Dit is afhankelijk van uw gegevens en dit is voor iedereen anders.