Threat-to-life model
- Publicatiecategorie
- Overige algoritmes
- Impacttoetsen
- Veld niet ingevuld.
- Status
- In gebruik
Algemene informatie
Thema
Begindatum
Contactgegevens
Link naar publiekspagina
Verantwoord gebruik
Doel en impact
Het threat-to-life model onderzoekt automatisch berichten, zoals onderschepte EncroChat-berichten, op levensbedreigende inhoud, zoals doodsbedreigingen, ontvoeringen of zware mishandelingen. Het systeem is getraind op berichten met signaalwoorden (zoals ‘dood’, ‘afknallen’ en ‘slapen’) en de context waarin deze worden gebruikt, om te bepalen of er sprake van bedreiging is en hoe ernstig die bedreiging is. Dit bespaart de politie veel tijd bij het doorzoeken van miljoenen berichten, iets wat bijna onmogelijk met de hand te doen is.
Afwegingen
Het gebruik van een model zorgt voor een snelle voorselectie op mogelijke doodsbedreigingen in een grote hoeveelheid data wat handmatig niet mogelijk was. Dit maakt het mogelijk om zelfs woorden die onschuldig lijken, zoals 'slapen', als een bedreiging te herkennen. Dit helpt om echt geweld te voorkomen.
Een mogelijk nadeel is dat het systeem soms blinde vlekken kan hebben. Dit betekent dat bedreigende berichten gemist kunnen worden (zogenaamde false negatives) of dat er onterecht een alarm afgaat (zogenaamde false positives).
Menselijke tussenkomst
Het algoritme geeft elk bericht een 'bedreigingsscore' (tussen 0 en 1), daarna worden alle berichten met een hoge bedreigingsscore door een mens gecontroleerd waarna de mens beslist om echt te waarschuwen of in te grijpen. Deze beslissing ligt dus niet bij het algoritme.
Risicobeheer
Mensen controleren de berichten met een hoge bedreigingsscore om valse alarmen te voorkomen. Ook heeft men altijd de mogelijkheid om op eigen initiatief en op basis van eigen inschatting berichten te onderzoeken, ook als deze mogelijk gemist worden door het model. Het model wordt daarnaast steeds beter door feedback en nieuwe trainingsdata. De politie en het NFI zorgen ervoor dat de gebruikte gegevens netjes blijven en dat het model zich aanpast aan nieuwe vormen van communicatie, zoals straattaal of veranderende dreigingspatronen.
Wettelijke basis
De verwerking van opsporingsgegevens valt onder de Wet Politiegegevens (Wpg) artikel 9; de verwerking met het oog op de handhaving van de rechtsorde in een bepaald geval.
De te analyseren data door het threat-to-life model is verkregen op basis van artikel 94, 126h-126w, 552i Wetboek van Strafvordering.
Links naar wettelijke basis
- Wpg artikel 9: https://wetten.overheid.nl/BWBR0022463/2025-07-01#Paragraaf2_Artikel9
- Wetboek van Strafvordering artikel 94: https://wetten.overheid.nl/BWBR0001903/2018-07-28/#BoekEerste_TiteldeelIV_AfdelingDerde_Paragraaf1_Artikel94
- Wetboek van Strafvordering artikel 126h: https://wetten.overheid.nl/BWBR0001903/2018-07-28/#BoekEerste_TiteldeelIVA_AfdelingTweede_Artikel126h
- Wetboek van Strafvordering artikel 552i: https://wetten.overheid.nl/BWBR0001903/2018-07-28
Werking
Gegevens
Het model is getraind met voorbeelden van (doods)bedreigingen uit cryptocommunicatie. Deze voorbeelden zijn door experts van de politie geselecteerd en voorzien van een label dat aangeeft welke bedreigingen het zijn.
Technische werking
Er is gebruik gemaakt van supervised learning om een taalmodel te trainen. Dit model geeft een score tussen 0 en 1 op nieuwe teksten. Hoe dichter bij de 1, hoe groter de kans dat het om een bedreigend bericht gaat.