Undersyk wurdich: Smart Livelihood Check

Gemeente Amsterdam

Undersykswearde-algoritme 'Smart Check'. In ark dat meiwurkers helpt om te bepalen oft in subsistinsjeoanfraach it ûndersyk wurdich is.

Lêst feroare op 19 maart 2025 om 8:58 | Publikaasjestandaard 1.0

• Publicatiecategorie: Ympaktfolle algoritmes
• Impacttoetsen: DPIA, IAMA
• Status: Bûten gebrûk

Algemene ynformaasje

Tema

Sosjale wissichheid

Begjindatum

Fjild net ynfierd.

Einddatum

09-2023

Kontaktgegevens

[e-mail]

Ferantwurde gebrûk

Doel en impact

De gemeente Amsterdam jout bystânsútkearingen oan Amsterdammers dy't dêr rjocht op hawwe. Net elkenien dy't in bystânsútkearing oanfreget, komt yn oanmerking foar útkearings. Dêrom ûndersykje wy oanfragen foar bystân dy't miskien yllegaal binne. De gemeente Amsterdam wol foarkomme dat Amsterdammers sûnder rjochtfeardiging bystân krije en dêrmei skulden opbouwe en yn de problemen komme.

Ek Amsterdammers dy't rjocht hawwe op bystân wurde soms ûndersocht troch in meiwurker fan de Handhaving Arbeid en Inkomen. Dat wolle wy safolle mooglik foarkomme, want sa'n ûndersyk kin ferfelend wêze. Dêrom testen wy oft in algoritme ús kin helpe om te bepalen hokker oanfragen wol en net moatte wurde ûndersocht. Sadat Amsterdammers minder troffen wurde troch ús hanthavening en sadat minder Amsterdammers yn de problemen komme. Mar ek om te soargjen dat it fersoargjen fan bystân betelber bliuwt.

Op it stuit bepaalt in meiwurker oft in oanfraach it ûndersyk wurdich is en oft dy beoardiele wurde moat troch in meiwurker mei ekstra foech. It algoritme 'Smart check' stipet de meiwurker by it bepalen oft in oanfraach foar bestean ûndersiik wurdich is. It algoritme makket transparant en te ferklearjen hokker gegevens liede ta it label 'ûndersyksweardich'. Alle gegevens brûkt om te kommen ta in beoardieling wurde dokumintearre en beskreaun.

Piloat

De gemeente fiert fan april oant july 2023 in proef mei in nije wurkwize. Yn dizze pilot bepaalt it 'smart check'-algoritme oft in applikaasje wurdt markearre as 'ûndersyk wurdich' of 'net ûndersiik wurdich'. Dit wurdt dan kontrolearre troch in meiwurker fan de ôfdieling Wurk en Ynkommen Hanthavening. It algoritme kin ferbinings en patroanen fine yn in grutte hoemannichte ynformaasje oer oanfrege bystânsútkearingen en bepaalt hokker ynformaasje faker ferbûn wurde kin mei applikaasjes dy't fierder ûndersyk fregen en hokker net. 'Smart check' is trainearre op histoaryske gegevens en bestiet út fyftjin gegevenspunten. Nei de pilot besjogge wy oft dizze wize fan wurkjen better is foar de Amsterdammers.

Link nei tsjinst: https://www.amsterdam.nl/werk-inkomen/

Afwagings

Dizze nije manier fan wurkjen fan 'e pilot hat in oantal foardielen:

• Ekwivalinsje: Wy analysearren de bias fan it algoritme. Dêrút docht bliken dat it ûntwikkele model ferskillende groepen lykweardicher behannelet as no it gefal is foar hast alle gefoelige skaaimerken (lykas leeftyd, bertelân en nasjonaliteit).
• Effektiviteit: It model kin better skatte hokker oanfragen it wurdich binne te ûndersiikjen dan in meiwurker. Dit sil better gebrûk fan kapasiteit mooglik meitsje en it bedrach fan betelle yllegale foardielen ferminderje.
• Evenredichheid: Om't it model better ynskatte kin hokker applikaasjes ekstra kontrôles nedich binne, is it minder wierskynlik dat applikaasjes ûnnedich ûnderwurpen wurde oan ekstra kontrôles. Dit liedt ta bettere evenredichheid. Wy foarkomme ek de yllegale betelling fan útkearingen faker, wat liedt ta in mear previntive as repressive oanpak.

Minskele tuskenkomst

Der is gjin automatisearre beslútfoarming. It algoritme advisearret allinich oft in applikaasje ekstra ûndersyk fereasket. Nei oanlieding fan dit advys hawwe ferskate meiwurkers wiidweidich ûndersyk dien.

1. Earst kontrolearret in meiwurker fan de ôfdieling wurkgelegenheid en ynkommens hanthavening oft de oanfraach echt it ûndersyk wurdich is.
2. As dat it gefal is, sil in oare meiwurker fan de ôfdieling Wurk en Ynkommen hanthavenje in wiidweidich ûndersyk dwaan nei de wettichheid.
3. Dêr wurdt in advys oer útjûn en in oare meiwurker (fan Ynkommensfoarsjenning) nimt it definitive beslút.

Der is dus gjin automatisearre beslútfoarming. Der is sinfolle minsklike yntervinsje foardat in beslút wurdt nommen. Wurkynstruksjes wurde opsteld om oerbetrouwen yn 'e modelútkomst ("automatisearringsbias") foar te kommen. Dêrnjonken krije meiwurkers training oer hoe't se de ynformaasje út it model brûke kinne yn har wurkproses.

Risikobehear

Foar dit produkt hawwe wy it Kader fan de Algemiene Rekkenkeamer brûkt. Dêrnjonken binne de wichtichste risikobehearanalyses de DPIA (Data Protection Impact Assessment), KIIA (Artificial Intelligence Impact Assessment), IAMA (Impact Assessment Human Rights and Algorithms) en de BIO Quick Scan. Dit jout oan yn hoefier't de risiko's eliminearre of fermindere wurde kinne en wat de restrisiko's binne. Wy hawwe ferskate maatregels nommen om te soargjen dat de modelútfier korrekt, transparant en konsekwint is.

It model sil ek by de pilot (en by it behear yn gefal fan in suksesfolle pilot) nau yn 'e gaten wurde om de kwaliteit en earlikens fan it model yn' e takomst te garandearjen.

Impacttoetsen

• Data Protection Impact Assessment (DPIA)
• Impact Assessment Mensenrechten en Algoritmes (IAMA)

Wurking

Gegevens

By it oanfreegjen fan bestean kontrolearje wy de wettichheid. Dat wurdt dien troch meiwurkers fan de ôfdieling Ynkommensfoarsjenning. Net elkenien dy't oanfreegje hat rjocht op útkearings. De meiwurkers fan 'e ôfdieling Ynkommensfoarsjenning ferwurkje in protte oanfragen op basis fan' e ynformaasje yn it oanfraachformulier en de levere dokuminten. Yn dy gefallen is dúdlik dat de oanfreger rjocht hat op in útkearing. Soms is de ynformaasje net folslein of ûndûbelsinnich. It kin dan nedich wêze om oanfoljend ûndersyk te dwaan. Dat wurdt dien troch meiwurkers fan de ôfdieling Wurk en Ynkommen Hanthavening.

It 'Smart Check'-algoritme stipet meiwurkers by it beoardieljen fan oanfragen foar bestean troch se te markearjen as ûndersiikweardich of net. Alle fersiken om bestean wurde yntsjinne by 'Smart Check'.

As in ynwenner fan Amsterdam in oanfraach foar bestean yntsjinnet, komt de oanfraach yn de oanfraach fan de ôfdieling Ynkommen om de oanfraach te behanneljen. De oanfragen wurde yntsjinne by 'Smart Check' en 'Smart Check' brûkt de folgjende gegevens om de applikaasje te labeljen 'ûndersyk wurdich' of 'net te ûndersiikjen wurdich':

Fanút de Persoanlike Records Database (BRP)

• BSN
• Ynformaasje oer wenadres
• Ynformaasje oer libbenssituaasje

Ut de oanfragen fan de ôfdieling Ynkommen

• BSN
• Ynformaasje oer mooglike eardere útkearingen foar sosjale bystân
• Ynformaasje oer aktiva
• Ynformaasje oer ynkommen

Oanfragen dy't as 'ûndersyk wurdich' wurde beneamd, wurde ferwurke troch meiwurkers fan 'e ôfdieling wurkgelegenheid en ynkommen hanthavening. Dizze meiwurker beoardielet oft de oanfraach ek it ûndersyk wurdich is.

• As dat sa is, sil in meiwurker fan de ôfdieling Wurk en Ynkommen hanthavening de oanfraach behannelje en advys jaan oer it te nimmen beslút oan in meiwurker fan de ôfdieling Ynkommensfoarsjenning.
• Sa net, dan wurdt de oanfraach oerdroegen oan in meiwurker fan de ôfdieling Ynkommensfoarsjenning foar fierdere ferwurking.

Oanfragen dy't net wurde bestimpele as ûndersyksweardich sille wurde ferwurke troch it personiel fan 'e ôfdieling Ynkommensfoarsjenning. In meiwurker fan Ynkommensfoarsjenning kin foar oanfoljend ûndersyk noch in oanfraach foar libbensûnderhâld oerdrage oan in Hanthaveningswurk en Ynkommensmeiwurker.

De meiwurker fan de ôfdieling Ynkommensfoarsjenning nimt it beslút oer de oanfraach foar bestean. It beslút kin wêze: in oanfraach wurdt takend, ôfwiisd of ôfwiisd. Peer review fynt plak hjir.

Technyske wurking

Dizze nije metoade hat in oantal foardielen:

lykweardigens:

Wy analysearren de bias fan it algoritme. Dêrút docht bliken dat it ûntwikkele model ferskillende groepen lykweardicher behannelet as no it gefal is foar hast alle gefoelige skaaimerken (lykas leeftyd, bertelân en nasjonaliteit).

Effektiviteit:

It model kin better ynskatte hokker applikaasjes it wurdich binne te ûndersykjen as in meiwurker kin. Dit sil better gebrûk fan kapasiteit mooglik meitsje en it bedrach fan betelle yllegale foardielen ferminderje.

Evenredichheid:

Om't it model better ynskatte kin hokker oanfragen ekstra kontrôles nedich binne, is it minder wierskynlik dat oanfragen ûnnedich ûnderwurpen wurde oan ekstra kontrôles. Dit liedt ta bettere evenredichheid. Wy foarkomme ek de yllegale betelling fan útkearingen faker, wat liedt ta in mear previntive as repressive oanpak.