Undersyk dat de muoite wurdich is: Smart Livelihood Check

Gemeente Amsterdam

Undersyksweardigensalgoritme 'Smart Check'. In ark dat meiwurkers helpt te bepalen oft in oanfraach foar subsydzje it ûndersykjen wurdich is.

Lêst feroare op 7 maaie 2025 om 12:35 | Publikaasjestandaard 1.0

• Publicatiecategorie: Ympaktfolle algoritmes
• Impacttoetsen: DPIA, IAMA
• Status: Bûten gebrûk

Algemene ynformaasje

Tema

Sosjale wissichheid

Begjindatum

Fjild net ynfierd.

Einddatum

09-2023

Kontaktgegevens

[e-mail]

Ferantwurde gebrûk

Doel en impact

De gemeente Amsterdam jout sosjale bystân oan ynwenners fan Amsterdam dy't dêr rjocht op hawwe. Net elkenien dy't in sosjale bystânsútkearing oanfreget, komt yn oanmerking foar in útkearing. Dêrom ûndersykje wy oanfragen foar bystân dy't mooglik ûnwettich binne. De gemeente Amsterdam wol foarkomme dat Amsterdammers sûnder rjochtfeardiging sosjale bystân krije, dêrtroch skulden opbouwe en yn 'e problemen komme.

Amsterdammers dy't rjocht hawwe op sosjale bystân wurde ek soms ûndersocht troch in meiwurker fan 'e Arbeids- en Ynkommenshandhavingstsjinst. Wy wolle dit safolle mooglik foarkomme, want sa'n ûndersyk kin ûnnoflik wêze. Dêrom testje wy oft in algoritme ús helpe kin om te bepalen hokker oanfragen wol en net ûndersocht wurde moatte. Sadat ynwenners fan Amsterdam minder lêst hawwe fan ús hanthavening en sadat minder ynwenners fan Amsterdam yn 'e problemen komme. Mar ek om derfoar te soargjen dat de ferleeging fan bystân betelber bliuwt.

Op it stuit bepaalt in meiwurker oft in oanfraach it ûndersykjen wurdich is en oft it beoardiele wurde moat troch in meiwurker mei ekstra foegen. It 'Smart check' algoritme stipet de meiwurker by it bepalen oft in oanfraach foar ûnderhâld it ûndersykjen wurdich is. It algoritme makket transparant en útlisber hokker gegevens liede ta it label 'ûndersyksweardich'. Alle gegevens dy't brûkt wurde om ta in beoardieling te kommen, wurde dokumintearre en beskreaun.

Piloat

De gemeente sil fan april oant july 2023 in pilot útfiere mei in nije wurkwize. Yn dizze pilot bepaalt it algoritme 'smart check' oft in oanfraach it label 'ûndersyksweardich' of 'net ûndersyksweardich' krijt. Dit sil dan kontrolearre wurde troch in meiwurker fan 'e ôfdieling Arbeid en Ynkommenshandhaving. It algoritme kin ferbiningen en patroanen fine yn in grutte hoemannichte ynformaasje oer oanfrege sosjale bystânsútkearingen en bepaalt hokker ynformaasje faker assosjeare wurde kin mei oanfragen dy't fierder ûndersyk nedich wiene en hokker net. 'Smart check' is traind op histoaryske gegevens en bestiet út fyftjin gegevenspunten. Nei de pilot sille wy útfine oft dizze manier fan wurkjen better is foar de minsken fan Amsterdam.

Keppeling nei tsjinst: https://www.amsterdam.nl/werk-inkomen/

Afwagings

Dizze nije manier fan wurkjen fan 'e pilot hat in oantal foardielen:

• Ekwivalinsje: Wy hawwe de bias fan it algoritme analysearre. Dit liet sjen dat it ûntwikkele model ferskate groepen geliker behannelet as op it stuit it gefal is foar hast alle gefoelige skaaimerken (lykas leeftyd, bertelân en nasjonaliteit).
• Effektiviteit: It model kin better skatte hokker oanfragen it ûndersykjen wurdich binne as in meiwurker. Dit sil better gebrûk fan kapasiteit mooglik meitsje en it bedrach dat ûnrjochtmjittige útkearingen betelle wurdt ferminderje.
• Proporsjonaliteit: Omdat it model better kin skatte hokker applikaasjes ekstra kontrôles nedich binne, is it minder wierskynlik dat applikaasjes ûnnedich ûnderwurpen wurde oan ekstra kontrôles. Dit liedt ta bettere proporsjonaliteit. Wy foarkomme ek faker it ûnrjochtmjittich jaan fan útkearingen, wat liedt ta in mear previntive ynstee fan repressive oanpak.

Minskele tuskenkomst

Der is gjin automatisearre beslútfoarming. It algoritme advisearret allinich oft in applikaasje ekstra ûndersyk fereasket. Nei oanlieding fan dit advys hawwe ferskate meiwurkers wiidweidich ûndersyk dien.

1. Earst kontrolearret in meiwurker fan 'e ôfdieling Wurkgelegenheid en Ynkommenshandhaving oft de oanfraach echt it ûndersykjen wurdich is.
2. As dit it gefal is, sil in oare meiwurker fan 'e ôfdieling Wurk en Ynkommenshandhaving in wiidweidich ûndersyk dwaan nei de wettichheid.
3. Hjir wurdt in advys oer útjûn en in oare meiwurker (fan Ynkommensfoarsjenning) nimt de definitive beslissing.

Dus is der gjin automatisearre beslútfoarming. Der is betsjuttingsfolle minsklike yntervinsje foardat in beslút nommen wurdt. Wurkynstruksjes wurde opsteld om tefolle fertrouwen yn 'e modelútkomst ("automatisearringsbias") te foarkommen. Derneist krije meiwurkers training oer hoe't se de ynformaasje út it model brûke kinne yn har wurkproses.

Risikobehear

Foar dit produkt hawwe wy it Ramt fan 'e Algemiene Rekkenkeamer brûkt. Derneist binne de wichtichste risikomanagementanalyses de DPIA (Data Protection Impact Assessment), KIIA (Artificial Intelligence Impact Assessment), IAMA (Impact Assessment Human Rights and Algorithms) en de BIO Quick Scan. Dit jout oan yn hoefier't de risiko's eliminearre of fermindere wurde kinne, en wat de oerbleaune risiko's binne. Wy hawwe ferskate maatregels nommen om te soargjen dat de modelútfier korrekt, transparant en konsekwint is.

It model sil ek nau yn 'e gaten hâlden wurde tidens de pilot (en tidens it behear yn gefal fan in suksesfolle pilot) om de kwaliteit en earlikens fan it model yn 'e takomst te garandearjen.

Impacttoetsen

• Data Protection Impact Assessment (DPIA): https://open.amsterdam/woo-zoeken/detail/5f1afe35-c7f4-4216-8e01-42749025eccb
• Impact Assessment Mensenrechten en Algoritmes (IAMA)

Wurking

Gegevens

By it oanfreegjen fan in ferbliuwsfergunning kontrolearje wy de wettichheid. Dit wurdt dien troch meiwurkers fan 'e ôfdieling Ynkommensfoarsjenning. Net elkenien dy't oanfreget hat rjocht op útkearingen. De meiwurkers fan 'e ôfdieling Ynkommensfoarsjenning ferwurkje in protte oanfragen op basis fan 'e ynformaasje yn it oanfraachformulier en de oanlevere dokuminten. Yn dy gefallen is it dúdlik dat de oanfreger rjocht hat op in útkearing. Soms is de ynformaasje net folslein of ûndûbelsinnich. It kin dan nedich wêze om ekstra ûndersyk te dwaan. Dit wurdt dien troch meiwurkers fan 'e ôfdieling Wurkgelegenheid en Ynkommenshandhaving.

It 'Smart Check' algoritme stipet meiwurkers by it beoardieljen fan oanfragen foar besteansrjocht troch se te labeljen as ûndersyksweardich of net. Alle oanfragen foar ûnderhâld wurde yntsjinne by 'Smart Check'.

As in ynwenner fan Amsterdam in oanfraach foar ûnderhâld yntsjinnet, komt de oanfraach úteinlik yn 'e oanfraach fan 'e Ynkomstenôfdieling telâne om de oanfraach te ferwurkjen. De oanfragen wurde yntsjinne by 'Smart Check' en 'Smart Check' brûkt de folgjende gegevens om de oanfraach te labeljen as 'ûndersyksweardich' of 'net ûndersyksweardich':

Ut de Persoanlike Registraasjedatabase (BRP)

• BSN
• Ynformaasje oer wenadres
• Ynformaasje oer de libbenssituaasje

Fan 'e oanfragen fan 'e Ynkomstenôfdieling

• BSN
• Ynformaasje oer mooglike eardere sosjale bystânsútkearingen
• Ynformaasje oer aktiva
• Ynformaasje oer ynkommen

Oanfragen mei it label 'ûndersyk wurdich' wurde ferwurke troch meiwurkers fan 'e ôfdieling Wurkgelegenheid en Ynkommenshandhaving. Dizze meiwurker beoardielet oft de oanfraach eins it ûndersykjen wurdich is.

• As dat sa is, sil in meiwurker fan 'e ôfdieling Wurk en Ynkommenshanhiging de oanfraach ferwurkje en advys jaan oer it te nimmen beslút oan in meiwurker fan 'e ôfdieling Ynkommensfoarsjenning.
• As dat net it gefal is, wurdt de oanfraach oerdroegen oan in meiwurker fan 'e ôfdieling Ynkommensfoarsjenning foar fierdere ferwurking.

Oanfragen dy't net as ûndersyksweardich markearre binne, wurde ferwurke troch de meiwurkers fan 'e ôfdieling Ynkommensfoarsjenning. In meiwurker fan Ynkommensfoarsjenning kin in oanfraach foar ûnderhâld noch altyd oerdrage oan in meiwurker fan Hanthaveningswurk en Ynkommen foar fierder ûndersyk.

De meiwurker fan 'e ôfdieling Ynkommensfoarsjenning nimt it beslút oer de oanfraach foar ûnderhâld. De beslissing kin wêze: in oanfraach wurdt takend, ôfwiisd of ôfwiisd. Peer review fynt hjir plak.

Technyske wurking

Dizze nije metoade hat in oantal foardielen:

Lykweardigens:

Wy hawwe de bias fan it algoritme analysearre. Dit liet sjen dat it ûntwikkele model ferskate groepen geliker behannelet as op it stuit it gefal is foar hast alle gefoelige skaaimerken (lykas leeftyd, bertelân en nasjonaliteit).

Effektiviteit:

It model kin better ynskatte hokker applikaasjes it ûndersykjen wurdich binne as in meiwurker. Dit sil better gebrûk fan kapasiteit mooglik meitsje en it bedrach dat ûnrjochtmjittige útkearingen betelle wurdt ferminderje.

Evenredichheid:

Omdat it model better ynskatte kin hokker applikaasjes ekstra kontrôles nedich binne, is it minder wierskynlik dat applikaasjes ûnnedich ûnderwurpen wurde oan ekstra kontrôles. Dit liedt ta bettere proporsjonaliteit. Wy foarkomme ek faker it ûnrjochtmjittich jaan fan útkearingen, wat liedt ta in mear previntive ynstee fan repressive oanpak.