Tink derom: De algoritmebeskriuwingen yn it Frysk binne automatysk oerset. Hjir kinne flaters yn sitte. Foar de orizjinele beskriuwingen geane jo nei de Nederlânske ferzje fan it Algoritmeregister.
Wazig meitsjen as in tsjinst
- Publicatiecategorie
- Oare algoritmes
- Impacttoetsen
- ...
- Status
- Yn gebrûk
Algemene ynformaasje
Tema
Begjindatum
Kontaktgegevens
Ferantwurde gebrûk
Doel en impact
Blurring as a Service (BaaS) is in generike tsjinst dy't it mooglik makket om ôfbyldings út 'e iepenbiere romte te anonymisearjen troch minsken en kentekenplaten te ferwiderjen. De tsjinst kin brûkt wurde foar ferskate gegevensboarnen en wurdt earst brûkt foar panoramaôfbyldings.
Sûnt 2016 wurde jierliks panoramabylden fan 'e hiele stêd sammele troch de ôfdieling Basisynformaasje (Mobile Mapping team) om de stêd Amsterdam te visualisearjen. De panoramabylden stelle meiwurkers fan 'e gemeente yn steat om de iepenbiere romte fan har wurkplak te ynspektearjen foar ferskate doelen, lykas tagonklikens mei spesjale auto's of dykinspeksje. It is te fergelykjen mei de wurking fan Google Streetview, hoewol dit in aktueler byld fan 'e stêd jaan moat.
Foar dizze taken is it net nedich om werkenbere persoanen of kentekenplaten yn 'e ôfbylding te meitsjen of te hâlden. Dêrom is besletten dat dizze ôfbyldings anonymisearre wurde moatte. It anonymisaasjealgoritme is hjirfoar ûntwikkele. It gebrûk fan it algoritme kin beskôge wurde as in maatregel om de gegevens soarchfâldich en wetlik te ferwurkjen. Mei de ûntwikkele foarsjenning 'Blurring as a Service' kin foarkommen wurde dat ôfbyldings mei werkenbere persoanen en kentekenplaten brûkt wurde foar gemeentlike wurkprosessen.
It Computer Vision Team hat de foarsjenning ûntwikkele om de panoramaôfbyldings te anonymisearjen. It algoritme is oplaat om hiele persoanen te werkennen, net allinich gesichten, en kentekenplaten op (panorama)ôfbyldings. Dit soarget derfoar dat dizze persoanen en kentekenplaten dan 'wazig' wurde, wat se effektyf anonymisearret.
Afwagings
It is tinkber dat bepaalde groepen better of minder goed werkenber binne troch it algoritme. Dit kin dan liede ta in ferskillende behanneling of in ûnderskied op basis fan eksterne skaaimerken, bygelyks op basis fan geslacht, leeftyd, hûdskleur en relatearre klean en attributen (bygelyks beheining, berop of hobby). It negative gefolch is dat bepaalde groepen in gruttere kâns hawwe om (tijdelik) werkenber opnommen te wurden yn 'e systemen fan 'e gemeente Amsterdam. Dit moat fansels foarkommen wurde.
It algoritme is traind op in lykwichtige dataset, wat betsjut dat it derfoar soarge hat dat safolle mooglik groepen fertsjintwurdige binne. Bygelyks, ôfbyldings binne selektearre om skoallen hinne en ek yn buerten dêr't mear minsken mei in net-Westerse migraasje-eftergrûn wenje om bern en minsken mei ferskillende hûdskleuren genôch te fertsjintwurdigjen yn 'e dataset.
De gemeente hat in ferplichting om te ûndersykjen oft sa'n ferskil bestiet. Dit ûndersyk is no útfierd en de resultaten kinne rieplachte wurde fia: Link nei iepenbiere side.
Minskele tuskenkomst
Der is gjin automatisearre beslútfoarming troch it brûken fan it algoritme. In boarger of ûndernimmer sil nea in beslút of útspraak ûntfange dy't troch dit algoritme generearre wurdt.
De brûkers fan it algoritme krije, nei it ferstjoeren fan ôfbyldings nei it Computer Vision Team, anonymisearre ôfbyldings werom. Dizze ôfbyldings kinne ûnderdiel wurde fan in saak, bygelyks yn 'e kontekst fan Tafersjoch en Hanthavening. De saakbehanneler kin altyd beoardielje oft in ôfbylding genôch anonymisearre is.
In oantal prosessen binne ynsteld om flaters te foarkommen.
1. By it ferwurkjen fan in batch ôfbyldings wurdt in stekproef nommen en mei de hân kontrolearre. Dit is om te ferifiearjen dat it algoritme docht wat ferwachte wurdt;
2. Der is in feedbackproses ynsteld sadat flaters korrizjeare wurde kinne. Derneist kinne dizze flaters ek brûkt wurde om it algoritme te ferbetterjen;
3. Der sil in jierlikse evaluaasje útfierd wurde om te bepalen oft it algoritme ferbettere wurde moat.
Risikobehear
Taljochting op impacttoetsen
Auditrapport Blurmodel: https://open.amsterdam/woo-zoeken/detail/a98c6237-646f-4e02-a882-db7082c85231
Earlikensanalyse: https://open.amsterdam/woo-zoeken/detail/a20a4b2c-19e4-4c44-9d35-7f6ce8ed50c2
Persoanlike gegevens fuortsmite út Ofbyldings: https://open.amsterdam/woo-zoeken/detail/ce0732e1-c9d8-456d-8f7f-84fd4b9e57e1
BaaS Technysk Resinsjerapport: https://open.amsterdam/woo-zoeken/detail/70f3a4ed-3398-4e1d-b1b1-792e1a9ea8d8
Impacttoetsen
Wurking
Gegevens
Arsjitektuer fan it model:
It model is YOLOv5, in konvolúsjoneel neuraal netwurk dat brûkt wurde kin foar objektdeteksje. It netwurk ûntfangt in ôfbylding en foarseit wêr't minsken en kentekenplaten op 'e ôfbyldings binne mei saneamde grinzende fakjes, ek wol bekend as fjouwerkanten. Yn 'e folgjende stap wurde dizze gebieten wazig makke troch de piksels te wazigjen.
Optreden:
It anonymisaasjealgoritme hat op it stuit in krektens fan sawat 95% foar minsken ticht by de kamera.
Foar kentekenplaten dy't ticht by de kamera binne, binne sawat 97% anonymisearre.
It algoritme is ynsteld om wat te folle te anonymisearjen ynstee fan te min. Bygelyks, it kin barre dat in scooter, beam of oar objekt ek wazig wurdt. Wy wolle leaver wat te folle wazig meitsje as te min.
Fisuele ynspeksje fan in stekproef hat oantoand dat de minsken dy't net werkenber binne meastal net werkenber binne, om't se bygelyks foar in part efter in beam steane. Ideaallik binne dizze minsken ek anonymisearre, mar spitigernôch is dat noch net mooglik.
Technyske wurking
Ferwurkingsbasis:
De reden en needsaak om in anonymisaasjealgoritme te ûntwikkeljen is basearre op 'e taak fan 'e gemeente om de kearnregistraasje aktueel en betrouber te hâlden. Dit is basearre op artikel 2 lid 2 fan 'e Wet Basisregistraasje Grootskalige Topografy, en artikel 2 lid 1 fan 'e Wet Basisregistraasje Adressen en Gebouwen en artikel 6 lid 1 sub e AVG. Derneist is it folgjende opnommen yn 'e relevante Regeling (Basisynformaasjeregeling 2018):
A. De publike taak as boarneleveransier foar de kearnregistraasje fan panoramaôfbyldings (artikel 7);
B. De publike taak as boarnehâlder.
It proses fan anonymisaasje is in fierdere ferwurking fan 'e krigen panoramaôfbyldings. Neffens WP29 moat dit proses as kompatibel beskôge wurde mei de oarspronklike doelen, mits it anonymisaasjeproses rjochte is op it betrouber produsearjen fan anonymisearre ynformaasje en dat der in basis is foar it primêre gebrûk. Sjoch de Wurkgroep Artikel 29, 'Advys 5/2014 oer anonymisaasjetechniken', WP 216, p. 8:
Mei it each op de prestaasjes fan it algoritme kin sein wurde dat it in betroubere metoade is foar it anonymisearjen fan ynformaasje. Dizze prestaasjes binne no ûnôfhinklik hifke troch in eksterne partij, Verdonck, Klooster & Associates. De prestaasjeswearden binne ek bepaald troch de CIO. Konkludearre wurde kin dat dit in tastiene kompatibel fierdere ferwurking is.
Basis (primêr ferwurkingsdoel) foar it krijen fan de panoramyske ôfbyldings:
- Artikel 6 lid 1 sub e AVG
- Artikel 2 lid 2 fan 'e Wet Basisregistraasje Grootskalige Topografy
- Artikel 2 lid 1 fan 'e Basisregistraasje fan Adressen en Gebouwenwet.
- Regeling (Basisynformaasjeregeling 2018) omfettet it folgjende:
A. De publike taak as boarneleveransier foar de kearnregistraasje fan panoramaôfbyldings (artikel 7);
B. De publike taak as boarnehâlder.
Basis (sekundêr ferwurkingsdoel) foar it ûntwikkeljen fan:
- Artikel 6 lid 1 sub c en e AVG
- Artikel 2 lid 2 fan 'e Wet Basisregistraasje Grootskalige Topografy
- Artikel 2 lid 1 fan 'e Basisregistraasje fan Adressen en Gebouwenwet.
- Regeling (Basisynformaasjeregeling 2018) omfettet it folgjende:
C. De publike taak as boarneleveransier foar de kearnregistraasje fan panoramaôfbyldings (artikel 7);
D. de iepenbiere taak as boarnehâlder.
- Art. 24 en 25 lid 1 en 2 yn kombinaasje mei 32 AVG.
Persoanlike gegevens:
- Gesicht en hâlding fan minsken yn iepenbiere romten;
- Gesicht en hâlding fan minsken dy't yn in wengebou of kantoar binne, of dy't efter finsters binne. Panoramyske ôfbyldings wurde allinich bûten makke.
- Kentekenplaten;
- Bedriuwsynformaasje, bygelyks op bedriuwsauto's, buorden of gebouwen.
Trening:
De ôfbyldings dy't de ôfrûne jierren sammele binne, binne brûkt as trainingsgegevens foar de ûntwikkeling fan it algoritme. It giet hjirby om sawat 10.000 rûge ôfbyldings. Dizze ôfbyldings wiene nedich om it algoritme manuell te trainen om minsken en kentekenplaten te werkennen. It doel hjirfan is dat it algoritme leart minsken en kentekenplaten op nije ôfbyldings te ferwiderjen. Dit proses wurdt 'annotaasje' en 'training' neamd.
Dizze trainingset foar it algoritme wurdt opslein yn 'e Azure-wolkomjouwing fan 'e gemeente Amsterdam. De trainingset wurdt opslein salang't it algoritme yn gebrûk is om mooglik yn 'e takomst ferbetteringen oan te bringen. De panoramaôfbyldings wurde opslein yn in fersifere omjouwing en allinich amtners dy't de ôfbyldings nedich hawwe, kinne der tagong ta krije, bygelyks de ûntwikkelders fan it algoritme.
Testen:
In part fan 'e gegevens waard sammele en oan 'e kant hâlden om it algoritme letter te testen. De trainings- en testgegevens binne dêrom hast identyk, hoewol it ferskillende ôfbyldings binne. Sawat 1.000 ôfbyldings waarden brûkt foar testen.
Bedriuwend:
It algoritme wurdt op it stuit brûkt foar de folgjende tapassing:
- It twa kear jiers oanskaffen fan panoramabylden mei it doel om kearnregistraasjes aktueel en betrouber te hâlden. Dit giet om in grutte hoemannichte bylden;
- Op koarte termyn wurdt ferwachte dat it algoritme brûkt wurde sil om ôfbyldings te anonymisearjen dy't mooglik yllegaal pleatste (swiere) konteners op kwetsbere kaaimuorren en brêgen sjen litte. It giet hjir om sawat 2.000 ôfbyldings yn 't jier.
Yn 'e takomst kin it oantal oanfragen tanimme.
Soartgelikense algoritme beskriuwingen
- Foar it bestriden fan fjoerwurkoerlêst brûke wy in "fjoerwurkdashboard" mei lokaasjes, dagen en tiden. In fjoerwurkanalyze wurdt brûkt om hot spot-lokaasjes te identifisearjen en de 'boa's (spesjaal ûndersyksoffisier) effisjinter yn te setten.Lêst feroare op 7 augustus 2024 om 9:53 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk
- Ynkommende ynformaasje is keppele oan it juste bestân en/of registraasje yn it saaksysteem. De registraasje wurdt op oarder brocht sadat it digitale bestân klear is foar it fierdere proses en eventuele publikaasje.Lêst feroare op 8 oktober 2024 om 8:06 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk
- De Belesting- en Douaneadministraasje beoardielt elk jier hokker boargers in oanjefte ynkomstenbelesting (BB) yntsjinje moatte. Dyjingen dy't oan de betingsten foldogge, krije in útnoeging om dit te dwaan. Dizze útnoeging bringt in wetlike ferplichting mei om in oanjefte yn te tsjinjen.Lêst feroare op 3 juny 2025 om 12:25 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk
- It publisearjen fan ynkommende oanfragen, notifikaasjes en besluten op officielekennismakingen.nl.Lêst feroare op 27 febrewaris 2024 om 9:41 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk
- Wy brûke software om it oantal besikers yn Giethoorn te foarsizzen. Dizze prognosen tsjinje as in stypjend ark foar it plannen en ynsetten fan personiel.Lêst feroare op 21 maaie 2025 om 14:48 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Oare algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk