Salesforce Einstein Voicebot

Gemeente Amsterdam

Einstein is een chatbot die kan communiceren met de bezoeker van de website. Einstein maakt gebruik van een natural language processing (NLP)algoritme om de bedoeling van een gestelde vraag te herkennen.  

Laatst gewijzigd op 31 januari 2025 om 9:33 | Publicatiestandaard 1.0

• Publicatiecategorie: Impactvolle algoritmes
• Impacttoetsen: DPIA, ...
• Status: In gebruik

Algemene informatie

Thema

Organisatie en bedrijfsvoering

Begindatum

02-2025

Contactgegevens

[e-mail]

Link naar publiekspagina

https://www.amsterdam.nl/contact/

Verantwoord gebruik

Doel en impact

De gemeente Amsterdam is bezig met een programma om het contact met de Amsterdammer te verbeteren.  

 

De chatbot draagt bij aan dit doel: een nieuw laagdrempelig geautomatiseerd communicatiekanaal waar de burger 24/7 vooraf gedefinieerde antwoorden krijgt van een chatbot en (binnen openingstijden) kan doorverbonden worden met een medewerker. 

 

Einstein is een chatbot die met natuurlijke taalherkenning kan communiceren met een bewoner. Einstein maakt gebruik van een algoritme om de bedoeling van een gestelde vraag te herkennen. 

 

Dit algoritme wordt gebruikt om een van de volgende acties in gang te zetten:  

• Het geven van een vooraf gedefinieerd antwoord op veel gestelde vragen. Het algoritme maakt geen antwoorden. 
• Het doorverbinden met de juiste afdeling  

 

Het algoritme is zelflerend omdat het leert om de bedoeling van de bewoners beter te herkennen. Doorverbinden gebeurt op basis van een door de gemeente Amsterdam beheerde routeringstabel. Deze is niet zelflerend.  

 

Afwegingen

Door een chatbot te gebruiken naast de bestaande communicatiekanalen is de gemeente Amsterdam bereikbaarder. De burger kan kiezen tussen verschillende communicatiekanalen. 

 

Een chatbot komt tegemoet aan de behoefte aan 24/7 dienstverlening. Ook krijgt de bewoner hierdoor sneller antwoord op vragen. 

Doordat veel voorkomende vragen afgehandeld worden door de chatbot hebben medewerkers meer tijd voor persoonlijke contact met burgers. 

 

De chatbot vraagt niet om persoonsgegevens, maar het kan gebeuren dat de gebruiker toch persoonlijke gegevens deelt. In het welkomstbericht van de chatbot wordt daarom het gesprek gestart met de volgende waarschuwing: Denk aan je privacy, deel geen persoonsgegevens.  

 

Om het risico op foute antwoorden te verkleinen maken we geen gebruik van generatieve AI. Alle antwoorden zijn vooraf door mensen geformuleerd en gecontroleerd. 

 

Ook worden geen gegevens van de gemeente Amsterdam gebruikt voor het trainen van het NLP-algoritme.  

 

Bewoners die liever contact met een persoon hebben, kunnen (binnen openingstijden) doorverbonden worden met een medewerker. 

Menselijke tussenkomst

Het trainen en aanpassen van de modellen die de chatbot gebruikt, gebeurt door mensen. Net als de monitoring van de prestaties en gesprekken van de chatbot. Bij ingewikkelde vragen of onduidelijke uitkomsten zal worden doorverwezen worden naar een mens. 

Bij vragen waarvoor persoonsgegevensgegevens nodig zijn wordt ook altijd doorverbonden met een mens. 

Risicobeheer

De leverancier Salesforce gebruikt best practices, tools en raamwerken voor het ontwikkelen en gebruiken van Salesforce-producten om ervoor te zorgen dat haar  producten, functies, modellen en apps betrouwbaar zijn, vooroordelen en discriminerende uitkomsten vermijden en prioriteit geven aan transparantie.  

Meer informatie hierover is te vinden op 

Responsible AI and Technology | Salesforce US 

 

Heeft zich ook aangesloten bij de: 

EU Artificial Intelligence Act 

US AI Safety Institute Consortium 

 

De chatbot vraagt niet om persoonsgegevens, maar het kan gebeuren dat de gebruiker toch persoonlijke gegevens deelt. In het welkomstbericht van de chatbot wordt daarom het gesprek gestart met de volgende waarschuwing: Denk aan je privacy, deel geen persoonsgegevens.   

 

Om het risico op foute antwoorden te verkleinen maken we geen gebruik van generatieve AI. Alle antwoorden zijn vooraf door mensen geformuleerd en gecontroleerd. 

 

Ook worden geen gegevens van de gemeente Amsterdam gebruikt voor het trainen van het NLP-algoritme.  

 

Bewoners die liever contact hebben met een persoon kunnen (binnen openingstijden) doorverbonden worden met een medewerker. 

Wettelijke basis

De Algemene Verordening Gegevensbescherming (AVG) definieert ‘taken in het algemeen belang’ als taken die verband houden met de uitoefening van overheidsgezag of taken die worden uitgevoerd door een instantie die belast is met een publieke taak. Dienstverlening van de gemeente valt binnen deze definitie. 

Link naar verwerkingsregister

https://www.amsterdam.nl/privacy/verwerkingsregister/verwerkingsregister-avg/

Toelichting op impacttoetsen

Ethische bijsluiter uitgevoerd; geen IAMA nodig.

Impacttoetsen

• Data Protection Impact Assessment (DPIA)
• Ethische bijsluiter Amsterdam

Werking

Gegevens

Salesforce maakt geen gebruik van externe data voor het trainen van haar NLP modellen, maar gebruikt gegevens van haar klanten.  

De gemeente Amsterdam heeft gekozen voor een ‘opt out’. Hierdoor worden data uit Amsterdam niet gebruikt om algoritmes te trainen. 

Technische werking

De chatbot gebruikt Natural Language Processing (NLP) om uit vrije tekst (uit het chatgesprek) de bedoeling van de vraag te herkennen. 

Leverancier

Salesforce