Virtuele assistent Gem

Gemeente Utrecht

De virtuele assistent Gem is een digitale hulp op de website van de gemeente Utrecht voor het beantwoorden van inwoners- en ondernemersvragen. Via de chatwidget op de website kunt u in gesprek met Gem

Laatst gewijzigd op 18 november 2024 om 11:06 | Publicatiestandaard 1.0

• Publicatiecategorie: Impactvolle algoritmes
• Impacttoetsen: DPIA
• Status: In gebruik

Algemene informatie

Thema

Organisatie en bedrijfsvoering

Begindatum

202102

Contactgegevens

[e-mail]

Verantwoord gebruik

Doel en impact

Zo goed mogelijk de vraag van de inwoner begrijpen en diegene aan het juiste antwoord helpen. Dat kan een inhoudelijk of procedureel antwoord zijn, maar ook een doorverwijzing of een overdracht naar een (livechat-)medewerker. De virtuele assistent wordt alleen ingezet om antwoord te geven op basis van landelijk vastgestelde antwoorden op inwoners- en ondernemersvragen of doorverwijzing naar een medewerker.

Afwegingen

De antwoorden die GEM kan geven staan in een landelijke bibliotheek. Medewerkers van de gemeente kunnen antwoorden wijzigen zodat de antwoorden aansluiten op lokale situaties. GEM heeft geen rol in besluiten, het adviseert inwoners. De inzet van GEM is nodig om te vraag van de inwoner of ondernemer te herkennen en op basis daarvan de waarschijnlijkheid van het passende antwoord in te schatten. Of om de inschatting te kunnen maken dat het beter is om met een (livechat)medewerker te spreken. Dankzij het algoritme is de virtuele assistent in staat om 24/7 betrouwbare overheidsinformatie te geven aan inwoners en ondernemers.

Menselijke tussenkomst

De antwoorden die Gem geeft staan in een landelijke bibliotheek. Medewerkers van de gemeente kunnen antwoorden wijzigen, zodat de antwoorden aansluiten op situaties van de betreffende gemeente. 

Risicobeheer

De Utrechtse data scientists, Informatie- en Procesadviseurs (IPA) en Decentrale Information Security Officers (DISO) binnen de gemeente Utrecht hebben, naast de direct betrokken medewerkers, een controlerende en monitorende rol bij de toepassing van het algoritme. Daarmee willen we voorkomen dat de volgende risico’s optreden:- datalek door het openbaar beschikbaar stellen van persoonsgegevens van Utrechtse bewoners- algoritme neemt geheel zelfstandig een besluit, zonder tussenkomst van een medewerker en zonder de duiding van de betreffende context van de situatie- ‘function creep’ mbt data bij de toepassing van het algoritme, waardoor het algoritme een vertekend beeld geeft over wat er aan de hand is. Dit kan ontstaan doordat dezelfde soort data wordt gebruikt bij de toepassing van het algoritme, en dat gebruikt het algoritme als bevestiging voor datgene wat er als informatie uitkomt

Wettelijke basis

Het leveren van betrouwbare overheidsinformatie over producten en diensten van de gemeente Utrecht.

Impacttoetsen

Data Protection Impact Assessment (DPIA): Utrechts Uthiek Assessment

Werking

Gegevens

Landelijke bibliotheek van veelgestelde bestaande vragen en antwoorden mbt publieksdienstverlening, plus de geanonimiseerde chatgesprekken tussen inwoners en GEM in Utrecht. De virtuele assistent wordt constant getraind om te vraag van de inwoner te herkennen. Die zogenoemde 'intents' worden continu bijgewerkt, ook op basis van niet-verwachtte invoer van inwoners. Daarmee kan het algoritme steeds beter inschatten wat de inwoner bedoelt en welk vastgesteld antwoord daarbij hoort.

Technische werking

De gemeente biedt digitale hulp aan inwoners en ondernemers met een vraag. Deze digitale hulp heet ‘virtuele assistent GEM’. Via de chat-knop op onze websites kunt u in gesprek met GEM. De virtuele assistent maakt gebruik van kunstmatige intelligentie, ook wel bekend als artificiële intelligentie (AI). AI helpt GEM om de inwoner beter te begrijpen en de juiste informatie te geven. Specifiek maakt GEM gebruikt van supervised machine learning, waarbij op basis van de vraag berekend wordt welk antwoord uit de antwoordenbibliotheek het beste antwoord geeft op de vraag. Zodra een vraag onvoldoende goed beantwoord kan worden, wordt het gesprek voortgezet door een medewerker. Aan het eind van het gesprek kan de gebruiker aangeven of het antwoord heeft geholpen. De volgende keer dat een persoon een soortgelijke vraag stelt, is de kans groter dat het antwoord dat het meest geholpen heeft, wordt gekozen. GEM kan op basis van deze bibliotheek dus inhoudelijk antwoorden op vragen, maar ook doorverwijzen naar een informatiepagina of het gesprek laten voortzetten door een medewerker. De antwoorden die GEM kan geven worden landelijk vastgelegd. Dit kost minder beheer en straalt meer eenheid uit tussen gemeenten.

Link naar broncode

https://gitlab.com/virtuele-gemeente-assistent/gem