Personen en voorwerpen detecteren in live dronebeelden
- Publicatiecategorie
- Impactvolle algoritmes
- Impacttoetsen
- DPIA
- Status
- In ontwikkeling
Algemene informatie
Thema
Begindatum
Contactgegevens
Verantwoord gebruik
Doel en impact
Het algoritme herkent direct personen en voorwerpen in de beelden. Het doet dit op basis van vorm. Bij het bouwen van het algoritme is elke vorm gekoppeld aan een voorwerp. Een mens zou dit langzamer doen, en het zou meer moeite kosten.
De politie maakt deze beelden met een drone in de noodhulp. Bijvoorbeeld om hulp te verlenen of om verdachten aan te houden.
Het effect op mensen in het algemeen is klein. Het algoritme gebruikt geen gezichtsherkenning of andere lichaamskenmerken. De politie maakt en bekijkt door het algoritme niet meer beelden dan zonder het algoritme. Het algoritme helpt de politie om beter te kijken naar de beelden die er echt toe doen.
Voor de mensen die in beeld zijn, is het effect wel groot. De hulp van de politie komt sneller op gang. En verdachten kunnen makkelijker worden aangehouden.
Afwegingen
Met hulp van het algoritme kan de politie de beelden beter gebruiken. Het algoritme laat alleen zien wát het ziet. Het maakt onderscheid tussen personen en herkenbare voorwerpen. Ook een mens is voor het algoritme een 'voorwerp' met de vorm van een persoon.
Het is belangrijk dat we dit goed uitleggen. Het algoritme herkent geen mensen op naam of gezicht. Het herkent alleen vormen. De camerabediener (een politiemedewerker) kijkt live mee. Die kan een persoon of voorwerp wél herkennen. Daardoor kan iemand wel worden geïdentificeerd.
Het algoritme geeft ieder herkend voorwerp een eigen nummer. Zo kan de camerabediener verschillende personen, voertuigen of voorwerpen makkelijker uit elkaar houden. In de praktijk volgt en herkent de bedienaar vooral personen en voertuigen.
Het grootste risico zit in de communicatie: leggen we goed uit wat het algoritme wel en niet doet? Het algoritme neemt zelf geen beslissingen. Zonder actie van de camerabediener gebeurt er niets met wat het algoritme ziet.
Menselijke tussenkomst
De noodhulpdrone wordt bediend door twee politiemensen. De piloot bestuurt de drone. De camerabediener bestuurt de camera en kijkt naar de live beelden.
Het algoritme zet in de beelden een vakje om wat het herkent. Elk vakje krijgt een eigen nummer. De camerabediener bekijkt altijd zelf wat er in dat vakje te zien is. Zo kan de bedienaar de beelden makkelijker en beter beoordelen.
De herkenning van het algoritme is alleen live in de beelden te zien. Het algoritme bestuurt de drone of de camera niet. Zonder actie van de camerabediener gebeurt er niets met wat het algoritme ziet.
Risicobeheer
Juridische en ethische risico's zijn beoordeeld in een GEB. Een GEB is een privacy-toets. Deze toets is speciaal gemaakt voor de noodhulpdrone. We hebben de gevonden risico's bekeken en, waar dat moest, geaccepteerd.
Financieel kopen we voor de pilot een licentie. De kosten zijn beperkt en de licentie heeft een duidelijke einddatum.
Technisch is het algoritme beoordeeld op de manier waarop het is opgebouwd.
Het algoritme draait alleen aan boord van de drone. Dat heet 'on edge'. Er gaan geen politiegegevens naar buiten om door het algoritme verwerkt te worden. Daardoor is het risico op verlies van politiegegevens klein.
Wettelijke basis
De wettelijke basis is artikel 3 van de Politiewet. De politie gebruikt het algoritme bij beelden die zij tijdens haar werk maakt. Bijvoorbeeld bij het helpen van slachtoffers, het bewaren van de orde en het aanhouden van verdachten op heterdaad. De beelden worden verwerkt volgens artikel 8 van de Wet politiegegevens.
Links naar wettelijke basis
- Politiewet 2012: https://wetten.overheid.nl/BWBR0031788/2026-01-23
- Wet politiegegevens: https://wetten.overheid.nl/BWBR0022463/2025-07-01
Impacttoetsen
Werking
Gegevens
Het gaat om indirecte persoonsgegevens. Dat zijn gegevens van personen, auto's en andere zaken. Die gegevens kunnen mogelijk naar een persoon herleid worden. Daarvoor is wel extra politiewerk nodig.
Het algoritme is getraind om vormen in de beelden te herkennen als objecten (mens, auto, vrachtauto). Voor de training is gebruik gemaakt van MS COCO dataset.
Technische werking
Het algoritme werkt volgens het YOLO principe. Beelden (i.c. live video) worden gescand om geselecteerde objecten te herkennen. Deze worden vervolgens visueel gemarkeerd door een box voorzien van een uniek volgnummer in het beeld.
Het algoritme werkt on edge, waardoor geen operationele gegevens extern worden verwerkt. Tevens is het algoritme (hierdoor) niet zelflerend en non-generatief.