Mai (Montferland AI)
- Publicatiecategorie
- Impactvolle algoritmes
- Impacttoetsen
- DPIA
- Status
- In gebruik
Algemene informatie
Thema
Begindatum
Contactgegevens
Link naar publiekspagina
Verantwoord gebruik
Doel en impact
Het doel van Mai is om burgers sneller en 24/7 antwoorden te geven op hun algemene vragen. Dit ontlast de medewerkers op de livechat, zodat zij zich kunnen richten op complexere taken waarvoor menselijke tussenkomst nodig is. De impact is verbeterde dienstverlening en efficiëntere inzet van gemeentelijke middelen.
Afwegingen
Bij de ontwikkeling van Mai zijn de volgende afwegingen gemaakt:
• Kwaliteit van antwoorden in vergelijking met menselijke medewerkers
• Correctheid en nauwkeurigheid van de gegeven informatie
• Vermogen om binnen het onderwerp te blijven
• Naleving van gemeentelijke kernwaarden
• Privacy, veiligheid en transparantie
Er is een Data Protection Impact Assessment (DPIA) uitgevoerd en een penetratietest door een externe partij om de veiligheid te waarborgen.
Menselijke tussenkomst
In principe functioneert Mai zelfstandig zonder directe menselijke tussenkomst. Echter, de antwoorden van de chatbot worden nauwlettend gemonitord door medewerkers van de gemeente. Feedback van burgers na ieder chatgesprek wordt gebruikt om het systeem continu te verbeteren.
Risicobeheer
Om risico's te beheersen zijn de volgende maatregelen genomen:
- Uitvoering van een DPIA (Data Protection Impact Assessment)
- Externe penetratietest voor veiligheidsvalidatie
- Constante monitoring van de chatbot-prestaties
- Mogelijkheid tot direct ingrijpen indien nodig
- Continue verbetering van kwaliteit en veiligheid op basis van feedback en prestatie-analyses
Wettelijke basis
Het leveren van betrouwbare overheidsinformatie over producten en diensten van Gemeente Montferland.
Impacttoetsen
Werking
Gegevens
Mai maakt gebruik van de volgende gegevensbronnen:
- Informatie van de gemeentelijke website
- De Algemene Plaatselijke Verordening (APV)
- Aanvullende documenten met gemeentelijke informatie
Technische werking
Mai is gebaseerd op een RAG-systeem (Retrieval-Augmented Generation) en maakt gebruik van de volgende componenten:
- Platform: Flowise (open-source, on-premises gehost)
- Vector Database: Qdrant (open-source, on-premises gehost)
- Large Language Model (LLM) en Embedding: Azure OpenAI deployments (eigen instantie)
Dit systeem stelt Mai in staat om relevante informatie op te halen uit de beschikbare bronnen en deze te combineren met de capaciteiten van het taalmodel om accurate en contextrelevante antwoorden te genereren.