PolyAI Voicebot
- Publicatiecategorie
- Impactvolle algoritmes
- Impacttoetsen
- DPIA
- Status
- In gebruik
Algemene informatie
Thema
Begindatum
Contactgegevens
Verantwoord gebruik
Doel en impact
PolyAI is een voicebot die op basis van natuurlijke spraakherkenning kan communiceren met een burger. Poly AI maakt gebruik van een algoritme om het onderwerp van een gestelde vraag te herkennen.
Dit onderwerp wordt gebruikt om een van de volgende acties te initiëren:
- Doorverbinden naar de juiste afdeling
- Het geven van een vooraf gedefinieerd antwoord op veel gestelde vragen.
De gemeente Amsterdam is bezig met een programma om het contact met de Amsterdammer te verbeteren. Gemeente Amsterdam vindt hierbij dat de interactie met de Amsterdammer persoonlijk, eenvoudig en toegankelijk moet zijn. Gemeente Amsterdam doet dit onder andere door de informatie in als onze ‘kanalen’ (zoals telefoon, mail, website, social media, balie) samen te brengen zodat u (onafhankelijk van hoe u contact met ons opneemt) altijd dezelfde informatie krijgt. Het gebruik van de voicebot draagt ook bij aan deze doelen. Dit zorgt ervoor dat medewerkers meer tijd hebben voor persoonlijke contact met burgers, waar dat nodig is.
Afwegingen
De Algemene Verordening Gegevensbescherming (AVG) definieert taken in het algemeen belang als taken die verband houden met de uitoefening van overheidsgezag of taken die worden uitgevoerd door een instantie die belast is met een publieke taak. Dienstverlening van de gemeente valt binnen dit kader.
Poly AI wordt ingezet binnen het Contact Centrum Amsterdam (CCA) en vervangt Poly AI vervangt het telefonische keuzemenu.
Het algoritme maakt geen gebruik van persoonsgegevens. Poly AI maakt wel gebruik van transcripties van gesprekken. Indien de burger in een gesprek persoonsgegevens (zoals bijvoorbeeld naam) noemt kan er sprake zijn van geïdentificeerde persoonsgegevens. Deze gegevens worden niet gebruikt voor het bepalen van de intent. Deze gegevens worden na 28 dagen vernietigd
Er is rekening gehouden met het tegengaan van ongelijke behandeling (doordat de voicebot bepaalde groepen mensen niet ‘begrijpt’):
- De spraakherkenning wordt getraind op basis van honderden miljoenen voorbeelden uit publieke online discussies.
- De voicebot vraagt de burger of hij het onderwerp juist heeft herkend voordat hij doorverbindt.
- Als er geen onderwerp herkend wordt, wordt de beller doorverbonden met een medewerker van het contactcentrum.
Menselijke tussenkomst
De bot stuurt de beller door. Als dit niet juist gebeurt, dan wordt het direct gecorrigeerd door de betreffende agent.
Risicobeheer
Het algoritme is geclassificeerd als beperkt risico: Er worden geen persoonsgegevens gebruikt, er is geen spraken van generatieve AI, het resultaat van het algoritme wordt niet gebruikt voor besluitvorming of risicobeoordeling.
Link naar verwerkingsregister
Impacttoetsen
Werking
Gegevens
Het algoritme zorgt ervoor dat de voicebot verder kan generaliseren dan de verstrekte trainingsgegevens en vergelijkbare gegevens correct kan classificeren.
Er wordt getraind met een combinatie van publieke gegevens en gegevens die handmatig zijn overgenomen uit transcripties van echte bellers.
De spraakherkenning wordt getraind op basis van honderden miljoenen voorbeelden uit publieke online discussies.
De “intenties” worden getraind met een combinatie van gegevens. In eerste instantie maakt het PolyAI-ontwikkelteam een lijst met zinnen die een specifieke intentie moeten activeren. Bijvoorbeeld: "Ik wil een paspoort aanvragen" of "Ik heb een nieuw paspoort nodig". De voicebot kan verder generaliseren dan deze voorbeelden, zodat een beller deze zinnen niet woord voor woord hoeft te gebruiken om de intentie te activeren. In de test en vroege nazorg-periode krijgt de voicebot te maken met gegevens die hij niet herkent. Het PolyAI-ontwikkelteam gebruikt deze aanvullende input om de oorspronkelijke trainingsgegevens aan te vullen en de prestaties van elke intentie te versterken.
Technische werking
Het zelflerend aspect betreft het beter leren herkennen van de taal van de burgers. Doorverbinden gebeurt op basis van een door de gemeente Amsterdam beheerde routeringstabel. Deze is niet zelflerend.
Het algoritme is het eigen ConveRT-model van PolyAI. (zie ook dit https://arxiv.org/pdf/1911.03688).