Re-ûndersyk fan útkearing ûntfangers

Gemeente Rotterdam

Ynwenners dy't sels net genôch ynkommen of fermogen hawwe, krije meastentiids útkearings. De gemeente Rotterdam ûndersiket oft de útkearings dy't ynwenners krije legaal binne en noch altyd oerienkomme mei harren hjoeddeistige situaasje. It algoritme dat de seleksje stipe foar dizze werûndersiken is sûnt it begjin fan 2022 net brûkt.

Lêst feroare op 18 july 2024 om 12:37 | Publikaasjestandaard 1.0

• Publicatiecategorie: Heechrisiko AI-systeem
• Impacttoetsen: Fjild net ynfierd.
• Status: Bûten gebrûk

Algemene ynformaasje

Tema

Sosjale wissichheid

Begjindatum

01-2017

Einddatum

02-2022

Kontaktgegevens

14 010

Link nei publykspagina

https://algoritmeregister.rotterdam.nl/p/Onzealgoritmes/53761720551735604

Link nei boarneregistraasje

https://algoritmeregister.rotterdam.nl/p/OnzealgoritmesMobiel/53761720551735604

Ferantwurde gebrûk

Doel en impact

It model makke in foarsizzing foar de kâns op yllegaalheid of wettichheid troch te sjen nei de gegevens dy't bekend binne yn 'e administraasje fan boargers dy't yn' e foargeande jierren ûnderwurpen binne oan in ûndersyk nei wettichheid. Dy konklúzje kin west hawwe dat de útkearing wetlik levere is; of dat it earder levere foardiel net oerienkomt mei de feitlike situaasje (unlawfulness). Op grûn fan dizze histoaryske gegevens kin in foarsizzing makke wurde oer de kâns op wettichheid of yllegaliteit ûnder aktuele útkearingsûntfangers. Dizze foarsizzing wurdt dêrom makke op basis fan 'e gegevens fan hjoeddeistige útkearingsûntfangers bekend yn ús administraasje. De útkomst fan it model is in 'risikobeoardielingsnûmer' dat fariearret tusken 0 (grutte kâns op wettichheid) en 1 (grutte kâns op yllegaalheid). De útkearing-ûntfangers mei it heechste risiko-beoardielingsnûmer wurde útnoege foar in ûndersykspetear, útsein as der bygelyks koartlyn in ûndersyk nei wettichheid dien hat. Op basis fan it risikobeoardielingsmodel wurdt jierliks ​​bepaald hoefolle útkearingsûntfangers útnoege wurde. It model wurdt alle jierren opnij ûntwikkele, om't alle jierren nije ûndersyksgegevens beskikber komme. De ynformaasje út resinte stúdzjes nei wettichheid is dêrom altyd opnommen yn de ûntwikkeling fan in nij model. De gemeente Rotterdam brûkt dit algoritme sûnt begjin 2022. Us ferkenning nei in ferbettere 'risikomodel' hat bliken dien dat it op dit stuit net mooglik is om in algoritme te ûntwikkeljen dat past yn ús belied.

Afwagings

It model hat gjin útspraak dien oer wettichheid of yllegaliteit: it ûndersyk dat foar dy útspraak nedich is, is altyd dien troch in meiwurker. Dat ûndersyk giet altyd op deselde wize, oft de útkearing útnoege is op grûn fan it risiko-beoardielingsmodel of op grûn fan ien fan de oare seleksjemetoaden. It algoritme ferwurket gjin ynformaasje dy't direkt liede kin ta diskriminaasje, lykas nasjonaliteit, leeftyd of sûnensstatus. De gemeente hat ûndersocht oft yn it model ynformaasje brûkt wurdt dy't te krijen hat mei nasjonaliteit of komôf, lykas taalkennis, om it risiko op diskriminaasje of bias foar te kommen. Ut ûndersyk hat bliken dien dat dat op dit stuit net út te sluten is en de ûntwikkeling fan in ferbettere model is stilset.

Minskele tuskenkomst

It risiko-beoardielingsmodel bepaalt net oft immen wetlik of yllegaal foardielen krijt. It model is ûnderdiel fan it bepalen hokker útkearing ûntfangers wurde útnoege foar in ûndersyk ynterview. In saakkundich ynkommensadviseur fan de ôfdieling Wurk & Ynkommen fan de gemeente Rotterdam docht dit ûndersyk. Nei it útfieren fan it ûndersyk bepaalt de ynkommenskonsultant oft it útkearing fan de wurksykjender wetlik of yllegaal is levere en oft it noch past by de situaasje dêr't de útkearing yn sit.

Risikobehear

De gemeente Rotterdam brûkt in fêst yndielingsmodel om it risiko fan in algoritme te bepalen. It risiko-beoardielingsmodel wurdt klassifisearre as in heech-risiko-algoritme. De gemeente nimt dêrom ekstra feiligensmaatregels. Dêrby hearre maatregels dy't soargje dat der goed tafersjoch is op de ûntwikkeling en it brûken fan it model. Sa wurde de etyske risiko's spesifyk ûndersocht en kontrolearret in eksterne tafersjochkommisje it ûntwerp en it brûken fan it model. Dizze kommisje sil nei alle gedachten begjin 2022 yn plak wêze. As in algoritme yn de kategory heechrisiko sit, is in minsklike test ûnderdiel fan it wurkproses dêr't it oangeande algoritme yn brûkt wurdt. It risiko fan bias is beheind om't it risiko-beoardielingsmodel allinnich brûkt wurdt om te bepalen wa't in útnoeging krijt foar in ûndersykspetear. It algoritme bepaalt net oft immen foardielen wetlik of yllegaal ûntfangt. Dat wurdt dien troch ynkommensadviseurs fan de ôfdieling W&I. Se dogge tegearre mei de útkearing wiidweidich ûndersyk nei de situaasje. It jaan fan foardielen is ommers op maat en bart op yndividueel nivo.

Wettlike basis

Partisipaasjewet

Wurking

Gegevens

Benefitsadministraasjegegevens (Socrates) en ynformaasje oer reyntegraasje fan wurksykjenden (RWM/Raak)

Technyske wurking

De gemeente Rotterdam brûkt dit algoritme net mear. De ferkenning nei in ferbettere 'risikomodel' hat bliken dien dat it op dit stuit net mooglik is

om in algoritme te ûntwikkeljen dat past yn ús belied.

Doe't it algoritme noch yn gebrûk wie, jildt de folgjende omskriuwing: De ôfdieling Wurk & Ynkommen (W&I) kontrolearret geregeld oft ynwenners rjocht hawwe op útkearing en oft it noch past by harren situaasje. Utkearingsûntfangers kinne dêrom útnoege wurde foar in petear.

Om te bepalen wa't in útnoeging krijt, brûkt de gemeente ferskate seleksjemetoaden, wêrûnder in risiko-algoritme. Dit algoritme helpt de gemeente om yn te skatten hokker útkearing mooglik útkearings krije dy't net mear passend binne foar harren situaasje. Dit hat twa foardielen foar de maatskippij:

1) Dit helpt de gemeente om tefolle beteljen foar te kommen.

2) Dêrnjonken wurde útkearingsûntfangers dy't minder kâns hawwe op spesjale omstannichheden minder kâns te wurden útnoege foar in ynterview.

It risiko-beoardielingsalgoritme wurket foarsizzend. Dit algoritme brûkt gegevens dy't de W&I-ôfdieling nedich hat om har taken út te fieren en it foardiel út te beteljen.

It giet dan om ynformaasje lykas it bedrach fan de útkearing en de famyljesituaasje. Mar ek oer feardichheden en kwaliteiten fan de wurksykjender, dy't jo mear kânsen jouwe op 'e arbeidsmerk. Dit komt út twa gegevensboarnen:

1) Sokrates: it útkearingsadministraasjesysteem. Dit bepaalt en registreart it bedrach fan it levere foardiel. Dit systeem befettet ynformaasje oer bygelyks de libbenssituaasje fan de útkearing.

2. RWM/Raak: systeem dêr't gegevens oer de weryntegraasje fan wurksykjenden yn fêstlein wurde.

De gemeente brûkt allinnich gegevens út de eigen administraasje. D'r is gjin keppeling mei oare databases.

It risiko-beoardielingsalgoritme wurdt allinich brûkt om benefytûntfangers út te noegjen foar in ynterview. It algoritme bepaalt net oft it foardiel terjochte is. In meiwurker fan de ôfdieling beoardielet oft jo rjocht hawwe op in útkearing. Dit hinget ôf fan jo gegevens en is foar elkenien oars.