Preventie & Handhaving: SWAN-algoritme
- Publicatiecategorie
- Hoog-risico AI-systeem
- Impacttoetsen
- IAMA
- Status
- In ontwikkeling
Algemene informatie
Thema
Begindatum
Contactgegevens
Link naar bronregistratie
Verantwoord gebruik
Doel en impact
Met het SWAN-model kunnen we ons richten op het verminderen van risico’s. Het doel is om situaties waarin klanten misschien te veel AOW ontvangen, sneller te herkennen en aan te passen. Zo blijft het bedrag dat u moet terugbetalen laag. We zorgen er ook voor dat toezichthouders nuttig worden ingezet. Het model helpt ons geld te besparen op uitkeringen en op ons werk. Om te controleren of iemand samenwoont, kan onze afdeling Preventie & Handhaving u thuis bezoeken. Dit kan een grote impact hebben. Daarom selecteren we met het SWAN-model de klanten met een hoger risico op onrechtmatigheid.
Afwegingen
Het betreft een zelf lerend algoritme dat klanten met een hoger risico op samenwonen kan selecteren. In de wet staat welke gegevens we mogen gebruiken. Er is ook gekeken naar wat eerlijk en evenredig is. Omdat controles gerichter kunnen plaatsvinden, voorkomt het algoritme dat klanten onnodig thuisbezoeken krijgen.
Menselijke tussenkomst
Het algoritme maakt een selectie van klanten met een verhoogde kans op samenwonen. Een medewerker voert nader onderzoek uit en adviseert of er sprake is van onrechtmatigheid; niet het algoritme.
Risicobeheer
Wij toetsen onze modellen altijd of ze voldoen aan de regels. Dit zijn regels over ethiek en controleerbaarheid. Regels die we gebruiken zijn van de Algemene Rekenkamer en de regels die we zelf hebben opgesteld.
Daarnaast onderkennen we standaard three-lines-of-defence (3LoD model). De eerste lijn wordt middels diverse tools ondersteund in het kwaliteitsdenken en -handelen en de beheersing van de continuïteitsrisico’s. De tweede lijn bestaat uit afdelingen als Operational control, Risk management, Quality Assurance en Informatiebeveiliging, die kwaliteit en performance controles uitvoeren en hierover rapporteren. De derde lijn bestaat uit de audit dient die gepland en ongepland audits uitvoert.
Wettelijke basis
Handhavingstaken binnen de Algemene Ouderdoms Wet (AOW)
Toelichting op impacttoetsen
Omdat dit een hoog risico algoritme betreft is hiervoor een IAMA opgesteld en is binnen de bestaande DPIA gewerkt. Wanneer de ontwikkeling van dit algoritme wordt hervat zal een nieuw DPIA worden uitgevoerd.
Impacttoetsen
Werking
Gegevens
Onze belangrijkste bronnen zijn interne gegevens die beschikbaar zijn over de klant. Bijvoorbeeld:
- informatie over het adres waar de klant nu woont of in het verleden woonde
- woonsituatie
- leeftijd
Technische werking
Zelflerend. Iemand die samenwoont, krijgt minder AOW dan een alleenstaande. Op basis van historische data van onrechtmatigheden bij de AOW wordt een regressie model getraind. Dit model geeft vervolgens een risicoscore aan klanten binnen de populatie. Deze risicoscore zegt iets over hoe groot de kans is dat een alleenstaande toch samenwoont.