Tink derom: De algoritmebeskriuwingen yn it Frysk binne automatysk oerset. Hjir kinne flaters yn sitte. Foar de orizjinele beskriuwingen geane jo nei de Nederlânske ferzje fan it Algoritmeregister.
Wazig meitsjen as in tsjinst
- Publicatiecategorie
- Oare algoritmes
- Impacttoetsen
- Privacy statement, DPIA
- Status
- Yn gebrûk
Algemene ynformaasje
Tema
Begjindatum
Kontaktgegevens
Ferantwurde gebrûk
Doel en impact
Blurring as a Service (BaaS) is in generike tsjinst dy't it anonymisearjen fan ôfbyldings út iepenbiere romten mooglik makket troch minsken en kentekenplaten te ferwiderjen. De tsjinst kin brûkt wurde foar ferskate gegevensboarnen en wurdt yn earste ynstânsje ynset foar panoramaôfbyldings.
Sûnt 2016 sammelet de ôfdieling Basisynformaasje (Mobile Mapping team) jierliks panoramabylden fan 'e hiele stêd om de stêd Amsterdam te visualisearjen. Dizze panoramabylden meitsje it mooglik foar gemeentlike meiwurkers om iepenbiere romten fan har wurkstasjons te ynspektearjen foar ferskate doelen, lykas tagonklikens mei spesjalisearre auto's of dykinspeksjes. It wurket fergelykber mei Google Street View, hoewol it in aktueler byld fan 'e stêd jaan moat.
Foar dizze taken is it net nedich om yndividuen of kentekenplaten fêst te lizzen of te behâlden. Dêrom is besletten dat dizze ôfbyldings anonymisearre wurde moatte. It anonymisaasjealgoritme is foar dit doel ûntwikkele. It gebrûk fan it algoritme kin beskôge wurde as in maatregel om soarchfâldige en wetlike gegevensferwurking te garandearjen. De ûntwikkele funksje "Blurring as a Service" kin foarkomme dat ôfbyldings mei werkenbere yndividuen en kentekenplaten brûkt wurde yn gemeentlike wurkprosessen.
It Computer Vision Team hat de funksje ûntwikkele dy't it mooglik makket om panoramyske ôfbyldings te anonymisearjen. It algoritme is oplaat om hiele yndividuen te werkennen, net allinich gesichten, en kentekens yn (panorama)ôfbyldings. Dit fervaagt dizze yndividuen en kentekens, wêrtroch't se effektyf anonymisearre wurde.
Afwagings
It is tinkber dat bepaalde groepen mear of minder sekuer erkend wurde troch it algoritme. Dit kin dan liede ta ferskillende behanneling of diskriminaasje op basis fan fysike skaaimerken, bygelyks geslacht, leeftyd, hûdskleur en relatearre klean en eigenskippen (bygelyks beheining, berop of hobby). It negative gefolch is dat bepaalde groepen in gruttere kâns hawwe om (tydelik) erkend te wurden yn 'e systemen fan 'e gemeente Amsterdam. Dit moat fansels foarkommen wurde.
Om dit tsjin te gean, is der grutte soarch bestege oan it selektearjen fan de gegevens dy't brûkt wurde om it algoritme te trainen. Dizze saneamde trainingsdataset is gearstald mei maksimale lykwicht. Bygelyks, de trainingsset befettet ôfbyldings út alle stedsdielen en wiken fan Amsterdam, en manlju en froulju binne lykweardich fertsjintwurdige.
De gemeente is ferplichte om te ûndersykjen oft sokke ferskillen yn dit ferbân besteane. Dit ûndersyk is no ôfsletten, en de resultaten binne beskikber foar rieplachtsjen.
Minskele tuskenkomst
Der is gjin automatisearre beslútfoarming mei it algoritme. In boarger of bedriuwseigner sil nea in beslút of útspraak ûntfange dy't troch dit algoritme generearre wurdt.
Nei it yntsjinjen fan ôfbyldings by it Computer Vision Team krije brûkers fan it algoritme anonymisearre ôfbyldings. Dizze ôfbyldings kinne bygelyks yn in saak opnommen wurde yn 'e kontekst fan Tafersjoch en Hanthavening. De saakbehanneler kin altyd beoardielje oft in ôfbylding genôch anonymisearre is.
In oantal prosessen binne ynsteld om flaters te foarkommen.
1. By it ferwurkjen fan in batch ôfbyldings wurdt in stekproef nommen en mei de hân kontrolearre. Dit is om te ferifiearjen dat it algoritme presteart lykas ferwachte;
2. Der is in feedbackproses ynsteld sadat flaters korrizjeare wurde kinne. Dizze flaters kinne ek brûkt wurde om it algoritme te ferbetterjen.
3. Der sil in jierlikse evaluaasje útfierd wurde om te bepalen oft it algoritme ferbettere wurde moat.
Risikobehear
Ferwurking fan (grutte) hoemannichten persoanlike gegevens. Sjoch de earlikensanalyse yn 'e referinsjes.
Taljochting op impacttoetsen
Auditrapport Blurmodel: https://open.amsterdam/woo-zoeken/detail/a98c6237-646f-4e02-a882-db7082c85231
Earlikensanalyse: https://open.amsterdam/woo-zoeken/detail/a20a4b2c-19e4-4c44-9d35-7f6ce8ed50c2
Persoanlike gegevens fuortsmite út Ofbyldings: https://open.amsterdam/woo-zoeken/detail/ce0732e1-c9d8-456d-8f7f-84fd4b9e57e1
Technysk resinsjerapport BaaS: https://open.amsterdam/woo-zoeken/detail/70f3a4ed-3398-4e1d-b1b1-792e1a9ea8d8
Impacttoetsen
- Privacy statement: https://open.amsterdam/woo-zoeken/detail/9b1b37dd-99ea-4296-a1f6-b719307163f7
- Data Protection Impact Assessment (DPIA)
Wurking
Gegevens
Arsjitektuer fan it model:
It model is YOLOv5, in konvolúsjoneel neuraal netwurk dat brûkt wurde kin foar objektdeteksje. It netwurk ûntfangt in ôfbylding en foarseit de lokaasjes fan minsken en kentekenplaten mei help fan grinsfakken, ek wol bekend as fjouwerkanten. Dizze gebieten wurde dan wazig makke troch de piksels te wazigjen.
Optreden:
It anonymisaasjealgoritme hat op it stuit in krektens fan sawat 95% foar minsken ticht by de kamera.
Foar kentekenplaten dy't ticht by de kamera binne, binne sawat 97% anonymisearre.
It algoritme is ynsteld om tefolle anonymisaasje te foarkarjen boppe tefolle anonymisaasje. Dit betsjut dat in scooter, beam of oar objekt ek wazig wurde kin. Wy hawwe leaver tefolle as te min wazig.
Fisuele ynspeksje fan in stekproef liet sjen dat de net-erkende persoanen meastentiids net te werkennen binne, bygelyks om't se foar in part efter in beam steane. Ideaallik soene dizze persoanen ek anonymisearre wurde, mar spitigernôch is dat noch net mooglik.
Technyske wurking
Ferwurkingsbasis:
De reden en needsaak foar it ûntwikkeljen fan in anonymisaasjealgoritme is basearre op 'e ferantwurdlikens fan 'e gemeente om it kearnregister aktueel en betrouber te hâlden. Dit is basearre op artikel 2, lid 2, fan 'e Wet Basisregistraasje Grootskalige Topografy, artikel 2, lid 1, fan 'e Wet Basisregistraasje Adressen en Gebouwen, en artikel 6, lid 1(e), fan 'e AVG. Derneist befettet de relevante Regeling (Basisynformaasjeregeling 2018) it folgjende:
A. De publike taak as boarneleveransier foar de kearnregistraasje fan panoramaôfbyldings (artikel 7);
B. De publike taak as boarnehâlder.
It anonymisaasjeproses is in fierdere ferwurking fan 'e krigen panoramaôfbyldings. Neffens WP29 wurdt dit proses beskôge as kompatibel mei de oarspronklike doelen, mits it anonymisaasjeproses rjochte is op it betrouber produsearjen fan anonymisearre ynformaasje en dat der in juridyske basis is foar it primêre gebrûk. Sjoch de Wurkgroep Artikel 29, 'Advys 5/2014 oer anonymisaasjetechniken', WP 216, p. 8:
Mei it each op de prestaasjes fan it algoritme kin it beskôge wurde as in betroubere metoade foar it anonymisearjen fan ynformaasje. Dizze prestaasjes binne sûnt ûnôfhinklik ferifiearre troch in eksterne partij, Verdonck, Klooster & Associates. De prestaasjeswearden binne ek fêststeld troch de CIO. De konklúzje kin steld wurde dat dit in tastiene, kompatibel fierdere ferwurking is.
Basis (primêr ferwurkingsdoel) foar it krijen fan de panoramyske ôfbyldings:
- Artikel 6 lid 1 sub e AVG
- Artikel 2, lid 2, fan 'e Wet op Basisregistraasje fan Grutskalige Topografy
- Artikel 2, lid 1, fan 'e Wet Basisregistraasje fan Adressen en Gebouwen.
- Regeling (Basisynformaasjeregeling 2018) omfettet it folgjende:
A. De publike taak as boarneleveransier foar de kearnregistraasje fan panoramaôfbyldings (artikel 7);
B. De publike taak as boarnehâlder.
Basis (sekundêr ferwurkingsdoel) foar it ûntwikkeljen fan:
- Artikel 6 lid 1 sub c en e AVG
- Artikel 2, lid 2, fan 'e Wet op Basisregistraasje fan Grutskalige Topografy
- Artikel 2, lid 1, fan 'e Wet Basisregistraasje fan Adressen en Gebouwen.
- Regeling (Basisynformaasjeregeling 2018) omfettet it folgjende:
C. De publike taak as boarneleveransier foar de kearnregistraasje fan panoramaôfbyldings (artikel 7);
D. de iepenbiere taak as boarnehâlder.
- Art. 24 en 25 lid 1 en 2 yn kombinaasje mei 32 AVG.
Persoanlike gegevens:
- Gesicht en hâlding fan minsken yn iepenbiere romten;
- De gesichten en hâldingen fan minsken yn in wengebou of kantoar, of efter finsters. Panoramyske bylden wurde allinnich bûten makke.
- Kentekenplaten;
- Bedriuwsynformaasje, bygelyks op bedriuwsauto's, buorden of gebouwen.
Trening:
De ôfbyldings dy't de ôfrûne jierren sammele binne, binne brûkt as trainingsgegevens foar de ûntwikkeling fan it algoritme. Dit komt del op sawat 10.000 rûge ôfbyldings. Dizze ôfbyldings wiene nedich om it algoritme manuell te trainen om minsken en kentekenplaten te werkennen. It doel is dat it algoritme leart om minsken en kentekenplaten fan nije ôfbyldings te ferwiderjen. Dit proses wurdt "annotaasje" en "training" neamd.
Dizze trainingsset foar it algoritme wurdt opslein yn 'e Azure-wolkomjouwing fan 'e gemeente Amsterdam. It wurdt bewarre salang't it algoritme yn gebrûk is, sadat der mooglik takomstige ferbetteringen mooglik binne. De panoramaôfbyldings wurde opslein yn in fersifere omjouwing, en allinich amtners dy't se nedich hawwe, lykas de ûntwikkelders fan it algoritme, kinne der tagong ta krije.
Testen:
In part fan 'e gegevens waarden sammele en oan 'e kant set foar lettere testen fan it algoritme. De trainings- en testgegevens binne dêrom hast identyk, ek al binne de ôfbyldings oars. Rûchwei 1.000 ôfbyldings waarden brûkt foar testen.
Bedriuwend:
It algoritme wurdt op it stuit brûkt foar de folgjende tapassing:
- De healjierlikse kolleksje fan panoramyske ôfbyldings om de krektens en betrouberens fan kearnregistraasjes te garandearjen. Dit giet om in grut oantal ôfbyldings;
- Op koarte termyn wurdt ferwachte dat it algoritme brûkt wurde sil om ôfbyldings te anonymisearjen dy't mooglik yllegaal pleatste (swiere) konteners op kwetsbere kaaimuorren en brêgen sjen litte. Dit komt del op sawat 2.000 ôfbyldings yn 't jier.
Yn 'e takomst kin it oantal oanfragen tanimme.
Link nei boarnekoade
Soartgelikense algoritme beskriuwingen
- Foar it bestriden fan fjoerwurkoerlêst brûke wy in "fjoerwurkdashboard" mei lokaasjes, dagen en tiden. In fjoerwurkanalyze wurdt brûkt om hot spot-lokaasjes te identifisearjen en de 'boa's (spesjaal ûndersyksoffisier) effisjinter yn te setten.Lêst feroare op 7 augustus 2024 om 9:53 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk
- Ynkommende ynformaasje wurdt keppele oan it juste bestân en/of de juste registraasje yn it saaksysteem. De registraasje wurdt op oarder brocht, sadat it digitale bestân klear is foar it fierdere proses en mooglike publikaasje.Lêst feroare op 17 juny 2025 om 7:56 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk
- De Belesting- en Douaneadministraasje beoardielt elk jier hokker boargers in oanjefte ynkomstenbelesting (BB) yntsjinje moatte. Dyjingen dy't oan de betingsten foldogge, krije in útnoeging om dit te dwaan. Dizze útnoeging bringt in wetlike ferplichting mei om in oanjefte yn te tsjinjen.Lêst feroare op 3 juny 2025 om 12:25 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk
- Tolkie is in lêshulpmiddel op 'e webside fan 'e gemeente. Tolkie soarget derfoar dat elkenien de ynformaasje op ús webside begripe kin. Troch teksten gear te fetsjen yn ienfâldige taal of troch teksten foar te lêzen.Lêst feroare op 12 juny 2025 om 11:55 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Oare algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk
- Tolkie is in lêshulpmiddel op 'e webside fan 'e gemeente. Tolkie soarget derfoar dat elkenien de ynformaasje op ús webside begripe kin. Troch teksten gear te fetsjen yn ienfâldige taal of troch teksten foar te lêzen.Lêst feroare op 12 juny 2025 om 11:59 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Oare algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk