Preventie & Handhaving: SWAN-algoritme

Sociale Verzekeringsbank

Met dit model voorspellen we hoe groot de kans is dat iemand die alleen woont, misschien toch samenwoont. De ontwikkeling van dit model is gestopt.

Laatst gewijzigd op 28 oktober 2024 om 12:14 | Publicatiestandaard 1.0

• Publicatiecategorie: Hoog-risico AI-systeem
• Impacttoetsen: IAMA
• Status: In ontwikkeling

Algemene informatie

Thema

Sociale zekerheid

Begindatum

Veld niet ingevuld.

Contactgegevens

[e-mail]

Link naar bronregistratie

https://www.svb.nl/nl/over-de-svb/hoe-werken-we/algoritmes-preventie-en-handhaving

Verantwoord gebruik

Doel en impact

Met het SWAN-model kunnen we ons richten op het verminderen van risico’s. Het doel is om situaties waarin klanten misschien te veel AOW ontvangen, sneller te herkennen en aan te passen. Zo blijft het bedrag dat u moet terugbetalen laag. We zorgen er ook voor dat toezichthouders nuttig worden ingezet. Het model helpt ons geld te besparen op uitkeringen en op ons werk. Om te controleren of iemand samenwoont, kan onze afdeling Preventie & Handhaving u thuis bezoeken. Dit kan een grote impact hebben. Daarom selecteren we met het SWAN-model de klanten met een hoger risico op onrechtmatigheid.

Afwegingen

Het betreft een zelf lerend algoritme dat klanten met een hoger risico op samenwonen kan selecteren. In de wet staat welke gegevens we mogen gebruiken. Er is ook gekeken naar wat eerlijk en evenredig is. Omdat controles gerichter kunnen plaatsvinden, voorkomt het algoritme dat klanten onnodig thuisbezoeken krijgen.

Menselijke tussenkomst

Het algoritme maakt een selectie van klanten met een verhoogde kans op samenwonen. Een medewerker voert nader onderzoek uit en adviseert of er sprake is van onrechtmatigheid; niet het algoritme. 

Risicobeheer

Wij toetsen onze modellen altijd of ze voldoen aan de regels. Dit zijn regels over ethiek en controleerbaarheid. Regels die we gebruiken zijn van de Algemene Rekenkamer en de regels die we zelf hebben opgesteld.

Daarnaast onderkennen we standaard three-lines-of-defence (3LoD model). De eerste lijn wordt middels diverse tools ondersteund in het kwaliteitsdenken en -handelen en de beheersing van de continuïteitsrisico’s. De tweede lijn bestaat uit afdelingen als Operational control, Risk management, Quality Assurance en Informatiebeveiliging, die kwaliteit en performance controles uitvoeren en hierover rapporteren. De derde lijn bestaat uit de audit dient die gepland en ongepland audits uitvoert. 

Wettelijke basis

Handhavingstaken binnen de Algemene Ouderdoms Wet (AOW)

Toelichting op impacttoetsen

Omdat dit een hoog risico algoritme betreft is hiervoor een IAMA opgesteld en is binnen de bestaande DPIA gewerkt. Wanneer de ontwikkeling van dit algoritme wordt hervat zal een nieuw DPIA worden uitgevoerd. 

Impacttoetsen

Impact Assessment Mensenrechten en Algoritmes (IAMA)

Werking

Gegevens

Onze belangrijkste bronnen zijn interne gegevens die beschikbaar zijn over de klant. Bijvoorbeeld:

• informatie over het adres waar de klant nu woont of in het verleden woonde
• woonsituatie
• leeftijd

Technische werking

Zelflerend. Iemand die samenwoont, krijgt minder AOW dan een alleenstaande. Op basis van historische data van onrechtmatigheden bij de AOW wordt een regressie model getraind. Dit model geeft vervolgens een risicoscore aan klanten binnen de populatie. Deze risicoscore zegt iets over hoe groot de kans is dat een alleenstaande toch samenwoont.