vlam-chat

SSC-ICT

vlam-chat is een veilige, lokaal gehoste AI-chatassistent ontwikkeld door SSC-ICT voor de Rijksoverheid. Het is een veilig alternatief voor AI-chatbots die in de cloud werken. Met vlam-chat kunnen ambtenaren veilig werken met generatieve AI om hun kantoorwerkzaamheden uit te voeren.

Laatst gewijzigd op 21 oktober 2026 om 11:52 | Publicatiestandaard 1.0

• Publicatiecategorie: Overige algoritmes
• Impacttoetsen: DPIA
• Status: In gebruik

Algemene informatie

Thema

Organisatie en bedrijfsvoering

Begindatum

2026-06

Contactgegevens

https://www.ssc-ict.nl/service/contact

Verantwoord gebruik

Doel en impact

Het hoofddoel van de inzet van vlam-chat is het bieden van een veilig, veelzijdig generatief AI-systeem ter ondersteuning van algemene kantoorwerkzaamheden van medewerkers van de Rijksoverheid. Werkzaamheden die hier onder vallen zijn bijvoorbeeld: samenvatten, herschrijven of vertalen.

Afwegingen

Het betreft een AI-systeem voor algemene doeleinden (GPAI), waardoor het doel en impact afhankelijk kan zijn van de context waarbinnen het wordt ingezet.

Menselijke tussenkomst

Menselijke tussenkomst en controle is in het gebruik altijd de norm.

De medewerker die vlam-chat gebruikt, is verantwoordelijk voor het einduitkomst en beoordeelt, corrigeert of vult de uitkomst altijd aan of negeert deze indien nodig. De uitkomst van vlam-chat heeft zelf geen enkele formele status. Het is voor de gebruiker altijd mogelijk om af te wijken van wat vlam-chat voorstelt.

Risicobeheer

Bij de inzet van vlam-chat zijn de volgende risico's geïdentificeerd:

1. Onjuiste of misleidende output (hallucinaties): het model kan foutieve informatie genereren. Als gebruikers de output onvoldoende kritisch controleren kunnen onjuistheden zich verspreiden binnen de organisatie.
2. Bevooroordeelde of discriminerende output(bias): het model kan maatschappelijke vooroordelen uit de trainingsdata reproduceren.
3. Verschraling van vakmanschap (deskilling): veelvuldig gebruik kan op termijn het kritisch denkvermogen en de professionele autonomie van medewerkers verminderen.
4. Function creep: het risico dat vlam-chat in de praktijk wordt ingezet voor andere, mogelijk hoog-risico, doeleinden dan waarvoor het is bedoeld.

Deze risico's worden beperkt met maatregelen zoals:

1. gebruikers volgen een AI-geletterdheidstraining voordat zij toegang krijgen;
2. de output van vlam-chat geldt altijd als een concept dat menselijke controle vereist.

Gebruik van vlam-chat is enkel buiten de hoog-risicotoepassingen, zoals werving en selectie, rechtshandhaving of het toekennen van uitkeringen.

Wettelijke basis

Verordening Artificiële Intelligentie (AI Act)

Algemene verordening gegevensbescherming (AVG)

Cyberbeveiligingswet (CBW)

Links naar wettelijke basis

• Verordening Artificiële Intelligentie (AI Act): https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=OJ:L_202401689
• Algemene verordening gegevensbescherming (AVG): https://wetten.overheid.nl/BWBR0040940
• Cyberbeveiligingswet (CBW): https://wetten.overheid.nl/BWBR0052872/2026-08-15/0

Toelichting op impacttoetsen

De DPIA is uitgevoerd omdat er sprake is van:

1. Innovatieve technologie;
2. Grootschalige gegevensverwerking, omdat veel ambtenaren gebruiker zijn.

Impacttoetsen

Data Protection Impact Assessment (DPIA)

Werking

Gegevens

Gebruikers worden gestimuleerd om zorgvuldig om te gaan met gegevens die zij invoeren in vlam-chat. Zij zijn zelf verantwoordelijk voor de ingevoerde gegevens. Vlam-chat waarschuwt gebruikers als zij gevoelige gegevens invoeren, die als zodanig worden herkend door vlam-chat. Het gaat bijvoorbeeld om BSN-nummers.

Technische werking

Zodra de gebruiker een chatbericht (prompt) heeft verzonden via de webapplicatie, start het algoritme. Vervolgens controleert vlam-chat de prompt, bijvoorbeeld op gegevens die niet verwerkt mogen worden. Dit zijn zogenoemde moderatiemaatregelen. Als gevoelige informatie wordt gedetecteerd, weegt de applicatie af wat er moet gebeuren: het weghalen van gegevens, de gebruiker attenderen of mogelijk verkeerd gebruik of het blokkeren van de prompt.

Zolang het prompt niet wordt geblokkeerd, wordt de prompt aangeboden aan het AI-model. Deze zal tot een antwoord komen met behulp van een systeemprompt. Dit is een instructie die helpt om tot betere antwoorden te komen.

Het huidige model dat wordt gebruikt is Mistral Medium 3.5. Dit kan in de toekomst vervangen worden als er betere modellen beschikbaar komen. De documentatie van dit model staat op de website van Mistral. Vervolgens controleert vlam-chat opnieuw de uitkomst, aan de hand van moderatiemaatregelen, waarna de gebruiker het antwoord krijgt te zien.

Afwezigheid van leervermogen

Vlam-chat is niet zelflerend en de data die gebruiker naar vlam-chat sturen zal niet gebruikt worden voor het trainen van AI-modellen

Moderatiemaatregelen

Als onderdeel van de moderatiemaatregelen, wordt gebruik gemaakt van het AI-model Shieldstral. De documentatie van dit model staat op de website van Mistral.

Dit model wordt aangevuld met de inzet van Presidio, zonder diens AI-gestuurd capaciteiten. De documentatie van Presidio staat op de website van Presidio.

Leverancier

Vlam-chat is ontwikkeld is door SSC-ICT. De AI-modellen Mistral Medium 3 en Shieldstral zijn geleverd door Mistral. De software Praesidio is op basis van open source van de Data Privacy Stack.