Fixi - meldingen openbare ruimte
- Publicatiecategorie
- Overige algoritmes
- Impacttoetsen
- DPIA
- Status
- In gebruik
Thema
Begindatum
Contactgegevens
Doel en impact
Ondersteunt het veilig verwerken van meldingen openbare ruimte door persoonsgegevens te herkennen en af te schermen zowel binnen documenten als in foto's. Inwoners komen hiermee in aanraking bij het melden van schade of overlast. De melder kiest zelf welke hoofdcategorie bij de melding past. Medewerkers van gemeente controleren de meldingen en verdelen deze in subcategorieën. Wanneer melders de keuze maken om een openbaar te delen, herkent het algoritme persoonlijke gegevens in de melding. Tevens maakt het systeem het eenvoudig om de geanonimiseerde meldingen te delen met externe partijen.
Afwegingen
Fixi maakt het mogelijk voor inwoners om meldingen met betrekking tot de openbare ruimte snel te delen, waardoor de gemeente meldingen sneller kunnen afhandelen. Door dit proces te digitaliseren, kunnen er mogelijk onnodige gegevens gedeeld worden. Het algoritme zal dit zoveel mogelijk anonimiseren.
Een mogelijk nadeel kan dan zijn dat bij de melding foto's of tekst kan worden toegevoegd waarop personen, kentekens of andere persoonsgegevens zichtbaar zijn. Wanneer de beoordeling en anonimiseren van deze gegevens volledig handmatig plaatsvinden, kan dit leiden tot langere doorlooptijden.
Daarnaast blijft de melder zelf medeverantwoordelijk voor het delen van de informatie, aangezien deze zelf bepaalt of een melding anoniem wordt ingediend of openbaar wordt gemaakt.
Menselijke tussenkomst
Meldingen komen binnen bij de werkverdelers. Het beeld- en tekstmateriaal is op dat moment al automatisch afgeschermd. De medewerker ziet het oorspronkelijke materiaal, controleert de melding en schermt waar nodig aanvullend of corrigerend af. Is een foto niet goed afgeschermd, dan kan de medewerker die op intern zetten, waarna de foto alleen nog binnen de gemeente zichtbaar is. Inwoners zien altijd de afgeschermde versie.
Als een melding gedeeld wordt met een externe partij, geeft de applicatie de waarschuwing dat er mogelijk persoonsgegevens worden weergegeven bij de melding.
De menselijke tussenkomst bevindt zich in het controleren of de persoonsgegevens ook daadwerkelijk geanonimiseerd zijn.
Er vindt geen geautomatiseerde besluitvorming plaats in de zin van artikel 22 AVG. Elke melding wordt door een medewerker gezien voordat deze in behandeling wordt genomen.
Risicobeheer
Het algoritme heeft als risico dat persoonsgegevens foutief kunnen worden geanonimiseerd. Het kan zijn dat het algoritme een persoonsgegeven niet goed herkend, hier zal per situatie op gehandeld worden door een medewerker van de gemeente.
De inzet van het algoritme brengt slechts beperkte risico's met zich mee, omdat het geen impact op een beslissing heeft. Het is enkel bedoeld om de privacy van inwoners te beschermen. Dit algoritme controleert meldingen op de aanwezigheid van persoonsgegevens in tekst en beeld en maakt deze waar mogelijk onherkenbaar. Wanneer een melding openbaar zichtbaar wordt gemaakt op de meldingenkaart, krijgen inwoners uitsluitend de geanonimiseerde versie van de tekst en foto's te zien. Gemeentelijke medewerkers behouden toegang tot de oorspronkelijke melding en de originele foto's voor behandeling van de melding. Als een foto wel verkeerd geanonimiseerd wordt, kan de medewerker deze foto op intern zetten. Zo verdwijnt de foto van de publieke kaart en wordt privacy geborgd.
Hoewel het algoritme is ontworpen om persoonsgegevens automatisch te herkennen en af te schermen, kan het voorkomen dat bepaalde gegevens niet worden gedetecteerd. In deze gevallen beoordeelt de behandelaar de melding en neemt deze indien nodig aanvullende maatregelen om de privacy van de burger te waarborgen. Hierbij zal de melding hoogstwaarschijnlijk intern blijven, als dit bevorderend is voor de afhandeling van de melding.
Het systeem is geen hoog-risico AI-systeem in de zin van de AI-verordening. Drie toepassingsgebieden uit bijlage III zijn nagelopen. Biometrie: er vindt geen biometrische identificatie op afstand plaats; gezichten worden gedetecteerd om ze af te schermen, niet om personen te herkennen, te categoriseren of emoties af te leiden. Inzet van hulpdiensten: Fixi verwerkt geen noodoproepen en bepaalt geen prioriteit voor politie, brandweer of ambulance; het gaat om onderhoudsmeldingen met een reguliere afhandeltermijn, en bij een spoedeisende situatie verwijst de gemeente naar 112. Essentiële diensten en uitkeringen: het systeem beoordeelt niet of iemand ergens recht op heeft. Het afschermen van beeld en tekst en het categorievoorstel vinden volledig plaats binnen de infrastructuur van de leverancier. Bij het omzetten van een e-mail naar een melding wordt een taalmodel van een externe aanbieder binnen de Europese Unie gebruikt, waarbij de tekst vooraf van direct identificerende gegevens is ontdaan.
Wettelijke basis
- Gemeentewet
- Algemene plaatselijke verordening (APV)
- Wegenwet
- Woningwet
- Wet ruimtelijke ordening
- Milieuwetgeving
- Wet geluidhinder
- Wet bodembescherming
- Flora- en faunawet
- Drank- en Horecawet
- Warenwetbesluit Attractie- en speeltoestellen
Toelichting op impacttoetsen
Er is geen IAMA gedaan, omdat het hier niet gaat om een hoog-risico AI toepassing.
Impacttoetsen
Gegevens
Het algoritme verwerkt gegevens die betrekking hebben op meldingen in de openbare ruimte. Voornamelijk gaat het om informatie over het type melding, de locatie van de melding en het tijdstip waarop deze is ingediend. Deze gegevens worden gebruikt om meldingen bij de juiste afdeling of behandelaar te plaatsen.
Melders kunnen ervoor kiezen om persoonsgegevens op te geven, zoals naam, adres, telefoonnummer en/of e-mailadres. Deze gegevens worden gebruikt om eventueel contact op te nemen over de melding. Het delen van persoonsgegevens is vrijwillig. Ook zonder deze gegevens kan een melding worden gedaan. Nadat de melding dan ook daadwerkelijk is ontvangen, worden alle persoonsgegevens automatisch geanonimiseerd.
Technische werking
Afschermen van beeld. Kentekenherkenning met een ALPR-module die randdetectie uit OpenCV combineert met de op LSTM gebaseerde OCR-engine van Pytesseract. Gezichtsdetectie met RetinaFace, een op deep learning gebaseerde single-shot detector. Tekst in beeld wordt gedetecteerd met EasyOCR, dat CRAFT gebruikt voor het lokaliseren van tekstgebieden en CRNN voor het herkennen van de tekens. De gevonden gebieden worden onherkenbaar gemaakt met een Gaussiaanse vervaging.
Afschermen van tekst. Gevoelige entiteiten in de omschrijving worden herkend met een NER-module op basis van een BERT-model, dat context meeweegt bij het bepalen of een woord een persoonsgegeven is. Gestructureerde patronen zoals telefoonnummers, kentekens en e-mailadressen worden aanvullend gemaskeerd met reguliere expressies.
Toewijzing aan een behandelteam. De koppeling van categorie aan behandelteam en afhandeltermijn is een vaste configuratie die de gemeente zelf inricht. Hier is geen sprake van een lerend of voorspellend model.