PolyAI Voicebot

Gemeente Amsterdam

PolyAI is in voicebot (spraakrobot) dy't kin kommunisearje mei in boarger basearre op natuerlike spraakherkenning. Poly AI brûkt in algoritme om it ûnderwerp fan in frege fraach te herkennen.

Lêst feroare op 2 septimber 2024 om 7:43 | Publikaasjestandaard 1.0

• Publicatiecategorie: Ympaktfolle algoritmes
• Impacttoetsen: DPIA
• Status: Yn gebrûk

Algemene ynformaasje

Tema

Fjild net ynfierd.

Begjindatum

2024-01

Kontaktgegevens

[e-mail]

Ferantwurde gebrûk

Doel en impact

PolyAI is in stimbot dy't kin kommunisearje mei in boarger basearre op natuerlike spraakherkenning. Poly AI brûkt in algoritme om it ûnderwerp fan in frege fraach te herkennen.

Dit ûnderwerp wurdt brûkt om ien fan 'e folgjende aksjes te begjinnen:

• Oerdracht nei de juste ôfdieling
• It leverjen fan in foardefinieare antwurd op faak stelde fragen.

De gemeente Amsterdam wurket oan in programma om it kontakt mei Amsterdammers te ferbetterjen. De gemeente Amsterdam fynt dat ynteraksje mei Amsterdammers persoanlik, ienfâldich en tagonklik wêze moat. De gemeente Amsterdam docht dat ûnder oare troch de ynformaasje yn ús 'kanalen' (lykas telefoan, e-mail, webside, sosjale media, baly) byinoar te bringen sadat jo altyd deselde ynformaasje krije (nettsjinsteande hoe't jo kontakt mei ús opnimme) ). It brûken fan de voicebot draacht ek by oan dizze doelen. Dat soarget derfoar dat meiwurkers mear tiid hawwe foar persoanlik kontakt mei boargers, wêr nedich.

Afwagings

De Algemiene Gegevensbeskermingsregeling (GDPR) definiearret taken yn it iepenbier belang as taken yn ferbân mei de útoefening fan iepenbier gesach of taken útfierd troch in autoriteit dy't belêste is mei in iepenbiere taak. Gemeentlike tsjinsten falle yn dit ramt.

Poly AI wurdt brûkt binnen it Contact Center Amsterdam (CCA) en ferfangt Poly AI ferfangt de telefoan seleksje menu.

It algoritme brûkt gjin persoanlike gegevens. Poly AI brûkt transkripsjes fan petearen. As de boarger yn in petear persoanlike gegevens (lykas namme) neamt, kin dat identifisearre persoansgegevens foarmje. Dizze gegevens wurde net brûkt om de bedoeling te bepalen. Dizze gegevens wurde nei 28 dagen ferneatige

Der is rekken hâlden mei it foarkommen fan ûngelikense behanneling (omdat de voicebot bepaalde groepen minsken net 'begrypt'):

• Spraakherkenning wurdt trainearre op basis fan hûnderten miljoenen foarbylden fan iepenbiere online diskusjes.
• De stimbot freget de boarger oft hy it ûnderwerp goed herkend hat foardat hy de oprop trochsette.
• As gjin ûnderwerp wurdt werkend, de beller wurdt oerdroegen oan in kontakt sintrum fertsjintwurdiger.

Minskele tuskenkomst

De bot stjoert de beller troch. As dit net goed dien wurdt, wurdt it fuortdaliks korrizjearre troch de oanbelangjende agint.

Risikobehear

It algoritme wurdt klassifisearre as beheind risiko: Gjin persoanlike gegevens wurde brûkt, der is gjin generative AI, it resultaat fan it algoritme wurdt net brûkt foar beslútfoarming of risiko-beoardieling.

Link nei ferwurkingsregister

https://www.amsterdam.nl/privacy/verwerkingsregister/

Impacttoetsen

Data Protection Impact Assessment (DPIA)

Wurking

Gegevens

It algoritme soarget derfoar dat de voicebot kin generalisearje bûten de levere trainingsgegevens en ferlykbere gegevens korrekt klassifisearje.

Training wurdt dien mei in kombinaasje fan iepenbiere gegevens en gegevens dy't mei de hân ekstrahearre binne út transkripsjes fan echte bellers.

Spraakherkenning wurdt trainearre op basis fan hûnderten miljoenen foarbylden fan iepenbiere online diskusjes.

De "yntinsjes" wurde trainearre mei in kombinaasje fan gegevens. Yn earste ynstânsje makket it PolyAI-ûntwikkelingsteam in list mei sinnen dy't in spesifike bedoeling moatte triggerje. Bygelyks: "Ik wol in paspoart oanfreegje" of "Ik ha in nij paspoart nedich". De voicebot kin boppe dizze foarbylden generalisearje, sadat in beller dizze sinnen net wurd foar wurd hoecht te brûken om de bedoeling te aktivearjen. Tidens de test en betide neisoarchperioade wurdt de voicebot konfrontearre mei gegevens dy't er net herkent. It PolyAI-ûntwikkelteam brûkt dizze ekstra ynputs om de orizjinele trainingsgegevens oan te foljen en de prestaasjes fan elke yntinsje te stimulearjen.

Technyske wurking

It selslearjende aspekt giet oer it learen om de taal fan boargers better te herkennen. Oerdrachten wurde makke op basis fan in rûtetabel dy't beheard wurdt troch de gemeente Amsterdam. Dit is net sels learen.

It algoritme is PolyAI's proprietêre ConveRT-model. (sjoch ek dit https://arxiv.org/pdf/1911.03688).

Leveransier

Privee