GovChat-NL/GAIMS
- Publicatiecategorie
- Impactvolle algoritmes
- Impacttoetsen
- DPIA, Information Risk Analysis Method (IRAM)
- Status
- In gebruik
Algemene informatie
Thema
Begindatum
Contactgegevens
Link naar publiekspagina
Verantwoord gebruik
Doel en impact
GovChat-NL is ontwikkeld als een veilig, open-source AI-platform dat dient als alternatief voor openbare chatbots (zoals ChatGPT en DeepSeek) en commerciële oplossingen (Zoals Copilot). Het platform stelt overheden in staat om overheidsspecifieke AI-toepassingen in te zetten, met volledige controle over de gegevensverwerking, privacy en integratie binnen bestaande IT-omgevingen (centraal beheer vs decentrale vrijheid).
Met GovChat-NL/GAIMS beschikken ambtenaren over een digitale assistent die hen ondersteunt bij het efficiënt uitvoeren van hun dagelijkse taken.
Afwegingen
Het gebruik van openbare en/of commerciële chatbots kan onwenselijk zijn vanwege de onduidelijkheid over wat er met de data gebeurt. Er ontbreken vaak contractuele afspraken, waardoor het onzeker is hoe en door wie de gegevens worden opgeslagen, verwerkt of gedeeld. Dit vormt een risico voor de privacy en voldoet mogelijk niet aan wet- en regelgeving zoals de Algemene Verordening Gegevensbescherming (AVG). Vanwege de risico’s van het gebruik van openbare/commerciële versies van chatbots kiest gemeente Meierijstad als beschermende maatregel: het ontwikkelen van een eigen, veilige chatbot.
Menselijke tussenkomst
GovChat-NL (GAIMS) wordt niet ingezet voor geautomatiseerde besluitvorming. Medewerkers gebruiken het systeem om vragen te stellen en ontvangen daarop AI-gegenereerde antwoorden. De uiteindelijke beoordeling, interpretatie en toepassing van deze antwoorden blijft altijd de verantwoordelijkheid van de medewerker. Het systeem ondersteunt dus uitsluitend het werkproces en neemt geen beslissingen namens de organisatie.
Risicobeheer
Bij het gebruik van GovChat-NL/GAIMS wordt zorgvuldig omgegaan met privacy- en beveiligingsrisico’s. Gebruikers krijgen pas toegang tot GAIMS als zij de AI geletterdheid training hebben gevolgd. Daarin wordt ook benadrukt dat GAIMS uitsluitend dient als hulpmiddel en geen vervanging van professionele kennis. Dit wordt ook in de interface gecommuniceerd (“GAIMS kan fouten maken. Controleer belangrijke informatie.”).
GAIMS heeft toegang tot door de gemeente gekozen bronnen, online zoekopdrachten uitvoeren kan GAIMS niet. Gesprekshistorie wordt veilig opgeslagen binnen een virtuele machine (VM) op een postgress-database. Gebruikers kunnen daarnaast kiezen voor een tijdelijke chat, waarbij er geen gegevens worden opgeslagen. Binnen de applicatie geldt strikte toegang op basis van Role-based Access Control (RBAC); alleen de gebruiker zelf en de applicatiebeheerder hebben toegang tot de gesprekshistorie. Inloggen is alleen mogelijk via Single Sign On.
Na beëindiging van het contract heeft de gemeente 90 dagen de tijd om alle (persoons)gegevens veilig te stellen en te verwijderen. Medewerkers worden blijvend gewezen op het belang van verantwoord omgaan met persoonsgegevens en de risico’s van het al dan niet moedwillig exporteren van gesprekken buiten het systeem.
Impacttoetsen
- Data Protection Impact Assessment (DPIA)
- Information Risk Analysis Method (IRAM)
Werking
Gegevens
Technische werking
GovChat-NL is ontwikkeld op basis van open-source technologieën. De kern wordt gevormd door OpenWebUI, dat zorgt voor een schaalbare en aanpasbare architectuur. Voor de integratie met Large Language Models (LLM’s) wordt gebruikgemaakt van LiteLLM, waarmee flexibel verschillende modellen kunnen worden aangesloten.
Bij Gemeente Meierijstad wordt de implementatie (GAIMS) gerealiseerd met behulp van een Docker Image, gehost op onze eigen interne server. De taalmodellen worden gehost in Microsoft Azure en op de interne server. Toegang en beveiliging van het platform verlopen via Microsoft Entra ID (voorheen Azure Active Directory), waardoor gebruikersidentiteit, autorisatie en Single Sign-On (SSO) centraal geregeld zijn. Nadere technische details zijn terug te vinden in de openbare documentatie:
https://github.com/GovChat-NL/GovChat-NL