Blurring as in tsjinst

Gemeente Amsterdam

Blurring as a Service (BaaS) is in generyske tsjinst dy't it mooglik makket om ôfbyldings út iepenbiere romten te anonymisearjen troch minsken en kentekenplaten te ferwiderjen.

Lêst feroare op 9 april 2025 om 12:48 | Publikaasjestandaard 1.0

• Publicatiecategorie: Oare algoritmes
• Impacttoetsen: ...
• Status: Yn gebrûk

Algemene ynformaasje

Tema

Organisaasje en bedriuwsfiering

Begjindatum

Fjild net ynfierd.

Kontaktgegevens

[e-mail]

Ferantwurde gebrûk

Doel en impact

Blurring as a Service (BaaS) is in generyske tsjinst dy't it mooglik makket om ôfbyldings út iepenbiere romten te anonymisearjen troch minsken en kentekenplaten te ferwiderjen. De tsjinst kin brûkt wurde foar ferskate gegevensboarnen en wurdt earst ynset foar panoramyske bylden.

Sûnt 2016 wurde jierliks ​​panoramyske bylden fan de hiele stêd sammele troch de ôfdieling Basisynformaasje (team Mobile Mapping) om de gemeente Amsterdam te visualisearjen. Mei de panoramyske bylden kinne gemeentemeiwurkers fanút harren wurkplak iepenbiere romten ynspektearje foar ferskate doelen, lykas berikberens mei spesjale weinen of dykkeuring. It wurket fergelykber mei hoe't Google Streetview wurket, hoewol dit in mear bywurke werjefte fan 'e stêd soe moatte leverje.

Foar dizze taken is it net nedich om werkenbere persoanen of kentekenplaten op 'e ôfbylding te fangen of te hâlden. Der is dêrom besletten dat dizze bylden anonymisearre wurde moatte. It anonymisaasjealgoritme is foar dit doel ûntwikkele. It brûken fan it algoritme kin beskôge wurde as in maatregel om de gegevens soarchfâldich en wetlik te ferwurkjen. De ûntwikkele foarsjenning 'Vervagen als dienst' kin foarkomme dat bylden mei werkenbere persoanen en kentekens brûkt wurde foar gemeentlike wurkprosessen.

It Computer Vision Team hat de foarsjenning ûntwikkele om de panoramyske bylden te anonymisearjen. It algoritme is trainearre om hiele minsken te werkennen, net allinich gesichten, en kentekenplaten op (panorama)ôfbyldings. Dit soarget derfoar dat dizze persoanen en kentekenplaten dan 'wazig' wurde, en wurde se effektyf anonymisearre.

Afwagings

It is oannimlik dat bepaalde groepen better of minder goed herkend wurde troch it algoritme. Dat kin dan resultearje yn in oare behanneling of in ûnderskied op grûn fan eksterne skaaimerken, bygelyks op geslacht, leeftyd, hûdskleur en byhearrende klean en attributen (bygelyks beheining, berop of hobby). It negative gefolch is dat bepaalde groepen in gruttere kâns hawwe om (tydlik) werkenber opnommen te wurden yn de systemen fan de Gemeente Amsterdam. Fansels moat dit foarkommen wurde.

It algoritme wurdt trainearre op in lykwichtige dataset, wat betsjut dat safolle mooglik groepen fertsjintwurdige binne. Der binne bygelyks bylden selektearre om skoallen hinne en ek yn buerten dêr't mear minsken mei in net-westerske migraasjeeftergrûn wenje om bern en minsken mei ferskillende hûdskleuren genôch yn de dataset foar te stellen.

De gemeente hat in ferplichting om te ûndersykjen oft der sa'n ferskil bestiet. Dit ûndersyk is no foltôge en de resultaten kinne tagonklik wurde fia: Link nei iepenbiere side.

Minskele tuskenkomst

D'r is gjin automatisearre beslútfoarming mei it algoritme. In boarger of ûndernimmer sil nea in beslút of oardiel krije generearre troch dit algoritme.

Nei it ferstjoeren fan ôfbyldings nei it Computer Vision Team krije brûkers fan it algoritme anonymisearre ôfbyldings werom. Dizze bylden kinne diel wurde fan in saak, bygelyks yn it ramt fan Tafersjoch en Hanthavening. De saakbehanneler kin altyd beoardielje oft in byld genôch anonymisearre is.

Der binne in oantal prosessen ynsteld om flaters foar te kommen.

1. By it ferwurkjen fan in partij bylden wurdt in stekproef nommen en mei de hân kontrolearre. It doel hjirfan is om te kontrolearjen dat it algoritme docht wat ferwachte wurdt;

2. Der is in feedbackproses ynsteld sadat flaters korrizjearre wurde kinne. Dêrneist kinne dizze flaters ek brûkt wurde om it algoritme te ferbetterjen;

3. Der wurdt jierliks ​​in evaluaasje útfierd om te bepalen oft it algoritme ferbettere wurde moat.

Risikobehear

Ferwurkjen fan (grutte) hoemannichten persoanlike gegevens. Sjoch earlikens analyze yn referinsjes (Link nei iepenbiere side).

Impacttoetsen

Privacyverklaring: https://open.amsterdam/woo-zoeken/detail/9b1b37dd-99ea-4296-a1f6-b719307163f7

Wurking

Gegevens

Arsjitektuer fan it model:

It model is YOLOv5, in konvolúsjoneel neural netwurk dat kin wurde brûkt foar objektdeteksje. It netwurk ûntfangt in byld en foarseit wêr't minsken en kentekenplaten op de bylden sitte mei beheinende doazen, ek wol fjouwerkanten neamd. Yn it folgjende wurde dizze gebieten wazig troch it wazigjen fan de piksels.

Optreden:

It anonymisaasjealgoritme hat op it stuit in krektens fan sawat 95% foar minsken tichtby de kamera.

Foar kentekenplaten dy't tichtby de kamera lizze, wurdt likernôch 97% anonymisearre.

It algoritme is ynsteld om earder te folle as te min te anonymisearjen. Dit kin betsjutte dat in scooter, beam of oar objekt ek wazig is. Wy meitsje leaver wat te folle as te min.

Fisuele ynspeksje fan in stekproef hat útwiisd dat de persoanen dy't net herkend wurde meastentiids net werkenber binne, bygelyks omdat se foar in part efter in beam steane. Idealiter soene dizze persoanen ek anonymisearre wurde, mar dat kin spitigernôch noch net.

Technyske wurking

Ferwurkingsbasis:

De reden en needsaak foar it ûntwikkeljen fan in anonimisearringsalgoritme is basearre op de taak fan de gemeente om de kearnregistraasje aktueel en betrouber te hâlden. Dit is basearre op kêst 2 lid 2 fan de Wet Basisregistraasje Topografy grutskalige, en kêst 2 lid 1 fan de Wet Basisregistraasje Adressen en Gebouwen en kêst 6 lid 1 sub e GDPR. Derneist is it folgjende opnommen yn 'e oanbelangjende regeling (Basisynformaasjeregeling 2018):

A. De iepenbiere taak as boarne leveransier foar de kearnregistraasje fan panoramyske bylden (kêst 7);

B. De iepenbiere taak as boarnehâlder.

It proses fan anonymisaasje is in fierdere ferwurking fan 'e krigen panoramyske bylden. Neffens WP29 is dat proses te achtsjen te ferienigjen mei de oarspronklike doelen, op betingst dat it anonimisaasjeproses rjochte is op it betrouber produsearjen fan anonymisearre ynformaasje en mits der in basis is foar it primêre gebrûk. Sjoch kêst 29 Wurkgroep, 'Advys 5/2014 oer anonimisearringstechniken', WP 216, s. 8:

Sjoen de prestaasjes fan it algoritme kin sein wurde dat it in betroubere metoade is foar anonymisearjen fan ynformaasje. Dizze prestaasjes binne no selsstannich beoardiele troch in eksterne partij, Verdonck, Klooster & Associates. De prestaasjeswearden binne ek fêststeld troch de CIO. It kin konkludearre wurde dat dit in tastiene kompatibele fierdere ferwurking is.

Basis (primêr ferwurkingsdoel) foar it krijen fan de panoramyske bylden:

• Kêst 6 lid 1 sub e GDPR
• Kêst 2 lid 2 fan de Wet Basisregistraasje grutskalige topografy
• Kêst 2 lid 1 fan de Wet Basisregistraasje adressen en gebouwen.
• Regeljouwing (Basisynformaasjeregeling 2018) omfettet it folgjende:

A. De iepenbiere taak as boarne leveransier foar de kearnregistraasje fan panoramyske bylden (kêst 7);

B. De iepenbiere taak as boarnehâlder.

Basis (sekundêre ferwurkingsdoel) foar it ûntwikkeljen fan:

• Kêst 6 lid 1 sub c en e GDPR
• Kêst 2 lid 2 fan de Wet Basisregistraasje grutskalige topografy
• Kêst 2 lid 1 fan de Wet Basisregistraasje adressen en gebouwen.
• Regeljouwing (Basisynformaasjeregeling 2018) omfettet it folgjende:

C. De publike taak as boarne leveransier foar de kearnregistraasje fan panoramyske bylden (kêst 7);

D. de publike taak as boarnehâlder.

• Keunst. 24 jo. 25 lid 1 en 2 yn gearhing mei 32 GDPR.

Persoanlike gegevens:

• Gesicht en posysje fan minsken yn iepenbiere romten;
• Gesicht en postuer fan minsken yn in wengebou of kantoar, of efter ruten. Panoramyske bylden wurde allinnich makke bûten.
• kentekenplaten;
• Bedriuwsynformaasje, bgl. op bedriuwsauto's, buorden of gebouwen.
• 
  

Trening:

De ôfbyldings dy't de ôfrûne jierren sammele binne binne brûkt as trainingsgegevens foar de ûntwikkeling fan it algoritme. It giet om rûchwei 10.000 rauwe bylden. Dizze ôfbyldings wiene nedich om it algoritme manuell te trenen om minsken en kentekenplaten te herkennen. It doel hjirfan is dat it algoritme leart om de minsken en kentekenplaten fan nije bylden te ferwiderjen. Dit proses wurdt 'annotaasje' en 'training' neamd.

Dit trainingsset foar it algoritme is opslein yn de Azure wolkomjouwing fan de Gemeente Amsterdam. De trainingsset wurdt bewarre sa lang as it algoritme yn gebrûk is om mooglike takomstige ferbetteringen mooglik te meitsjen. De panoramyske ôfbyldings wurde opslein yn in fersifere omjouwing en allinich amtners dy't de ôfbyldings nedich hawwe kinne tagong krije ta har, lykas de ûntwikkelders fan it algoritme.

Testen:

Guon fan 'e gegevens waarden sammele en oan 'e kant hâlden om it algoritme dêrnei te testen. De training- en testgegevens binne dus hast identyk, ek al binne de bylden oars. Rûchwei 1.000 ôfbyldings waarden brûkt foar testen.

Bedriuwen:

It algoritme wurdt op it stuit brûkt foar de folgjende applikaasje:

• Sammelje panoramyske ôfbyldings twa kear yn 't jier om kearnregistraasjes bywurke en betrouber te hâlden. It giet om in grut oantal bylden;
• Op koarte termyn wurdt ferwachte dat it algoritme brûkt wurdt om bylden te anonymisearjen dy't mooglik yllegaal pleatste (swiere) konteners sjen litte op kwetsbere kaaimuorren en brêgen. Dat komt op likernôch 2.000 bylden yn it jier.
• 
  

Yn de takomst kin it tal oanfragen tanimme.