Sextortion Classifier
- Publicatiecategorie
- Hoog-risico AI-systeem
- Impacttoetsen
- Veld niet ingevuld.
- Status
- In gebruik
Algemene informatie
Thema
Begindatum
Contactgegevens
Verantwoord gebruik
Doel en impact
De tool is ontwikkeld om beter zicht te krijgen op alle registraties van sextortion in BVH. Door het gebruik van deze tool worden deze registraties sneller herkend en doorgegeven aan de juiste afdelingen. Daardoor kunnen slachtoffers sneller en beter worden geholpen.
Afwegingen
Door het gebruik van deze tool krijgen de zedenafdelingen meer werk. Daar staat tegenover dat registraties sneller worden opgepakt. Slachtoffers worden hierdoor beter en sneller geholpen.
Menselijke tussenkomst
De tool geeft alleen BVH-nummers als uitkomst. Medewerkers controleren deze nummers handmatig om vast te stellen of het echt om sextortion gaat. Het gebruik van de tool is een aanvulling op het gewone werkproces van de zedenafdelingen.
Risicobeheer
De tool laat alleen BVH-nummers zien. Zo wordt voorkomen dat medewerkers automatisch op het oordeel van het systeem vertrouwen. De zedenrechercheur controleert zelf of de registratie klopt en bepaalt de vervolgstappen. Deze werkwijze zorgt er ook voor dat er geen inhoudelijke informatie wordt gedeeld.
Wettelijke basis
Artikel 3 Politiewet 2012
Links naar wettelijke basis
Werking
Gegevens
Op dit moment worden alleen gegevens verwerkt uit de regio Rotterdam.
Het model is getraind met BVH-registraties uit de periode van 22 november 2024 tot en met 8 oktober 2025. Hiervoor zijn registraties gebruikt uit eenheid Rotterdam en uit zeven geselecteerde categorieën die belangrijk zijn voor zedenzaken.
Het gaat om meldingen over zeden, misbruik van seksueel beeldmateriaal, chantage of afpersing, sexchatting, online seksuele intimidatie, grooming en kinderporno.
De Sextortion Classifier gebruikt dit model om BVH-registraties te beoordelen.
Technische werking
De classifier kijkt naar de vrije tekst in BVH-registraties. Het systeem gebruikt meerdere beslisbomen die elk een deel van de registraties bekijken. Elke beslisboom geeft een score tussen 0 en 1. Een score van 0 betekent geen sextortion. Een score van 1 betekent wel sextortion.
De grens is ingesteld op 0,52. Dit is gedaan om het resultaat zo goed mogelijk te maken. Nadat alle beslisbomen een score hebben gegeven, wordt er gestemd. De uitkomst van deze stemming bepaalt of de registratie als sextortion wordt aangemerkt.