Threat-to-life model

Politie

Dit model wordt gebruikt door specialistische opsporingsteams binnen de politie. Het helpt hen snel serieuze bedreigingen te ontdekken, zoals geplande moorden, ontvoeringen of zware mishandelingen, om deze misdrijven te voorkomen. Het handmatig doorzoeken van miljoenen berichten is onmogelijk. Dit model werkt door het prioriteren van de berichten op basis van de score van het model. 

Laatst gewijzigd op 29 december 2025 om 15:00 | Publicatiestandaard 1.0

• Publicatiecategorie: Overige algoritmes
• Impacttoetsen: Veld niet ingevuld.
• Status: In gebruik

Algemene informatie

Thema

Openbare orde en veiligheid

Begindatum

2020-04

Contactgegevens

https://www.forensischinstituut.nl/

Link naar publiekspagina

https://www.politie.nl/

Verantwoord gebruik

Doel en impact

Het threat-to-life model onderzoekt automatisch berichten, zoals onderschepte EncroChat-berichten, op levensbedreigende inhoud, zoals doodsbedreigingen, ontvoeringen of zware mishandelingen. Het systeem is getraind op berichten met signaalwoorden (zoals ‘dood’, ‘afknallen’ en ‘slapen’) en de context waarin deze worden gebruikt, om te bepalen of er sprake van bedreiging is en hoe ernstig die bedreiging is. Dit bespaart de politie veel tijd bij het doorzoeken van miljoenen berichten, iets wat bijna onmogelijk met de hand te doen is.     

Afwegingen

Het gebruik van een model zorgt voor een snelle voorselectie op mogelijke doodsbedreigingen in een grote hoeveelheid data wat handmatig niet mogelijk was. Dit maakt het mogelijk om zelfs woorden die onschuldig lijken, zoals 'slapen', als een bedreiging te herkennen. Dit helpt om echt geweld te voorkomen.

Een mogelijk nadeel is dat het systeem soms blinde vlekken kan hebben. Dit betekent dat bedreigende berichten gemist kunnen worden (zogenaamde false negatives) of dat er onterecht een alarm afgaat (zogenaamde false positives).

Menselijke tussenkomst

Het algoritme geeft elk bericht een 'bedreigingsscore' (tussen 0 en 1), daarna worden alle berichten met een hoge bedreigingsscore door een mens gecontroleerd waarna de mens beslist om echt te waarschuwen of in te grijpen. Deze beslissing ligt dus niet bij het algoritme.

Risicobeheer

Mensen controleren de berichten met een hoge bedreigingsscore om valse alarmen te voorkomen. Ook heeft men altijd de mogelijkheid om op eigen initiatief en op basis van eigen inschatting berichten te onderzoeken, ook als deze mogelijk gemist worden door het model. Het model wordt daarnaast steeds beter door feedback en nieuwe trainingsdata. De politie en het NFI zorgen ervoor dat de gebruikte gegevens netjes blijven en dat het model zich aanpast aan nieuwe vormen van communicatie, zoals straattaal of veranderende dreigingspatronen.

Wettelijke basis

De verwerking van opsporingsgegevens valt onder de Wet Politiegegevens (Wpg) artikel 9; de verwerking met het oog op de handhaving van de rechtsorde in een bepaald geval. 

De te analyseren data door het threat-to-life model is verkregen op basis van artikel 94, 126h-126w, 552i Wetboek van Strafvordering. 

Links naar wettelijke basis

• Wpg artikel 9: https://wetten.overheid.nl/BWBR0022463/2025-07-01#Paragraaf2_Artikel9
• Wetboek van Strafvordering artikel 94: https://wetten.overheid.nl/BWBR0001903/2018-07-28/#BoekEerste_TiteldeelIV_AfdelingDerde_Paragraaf1_Artikel94
• Wetboek van Strafvordering artikel 126h: https://wetten.overheid.nl/BWBR0001903/2018-07-28/#BoekEerste_TiteldeelIVA_AfdelingTweede_Artikel126h
• Wetboek van Strafvordering artikel 552i: https://wetten.overheid.nl/BWBR0001903/2018-07-28

Werking

Gegevens

Het model is getraind met voorbeelden van (doods)bedreigingen uit cryptocommunicatie. Deze voorbeelden zijn door experts van de politie geselecteerd en voorzien van een label dat aangeeft welke bedreigingen het zijn.

Technische werking

Er is gebruik gemaakt van supervised learning om een taalmodel te trainen. Dit model geeft een score tussen 0 en 1 op nieuwe teksten. Hoe dichter bij de 1, hoe groter de kans dat het om een bedreigend bericht gaat. 

Leverancier

Nederlands Forensisch Instituut (NFI), onderdeel van het Ministerie van Justitie en Veiligheid