Tink derom: De algoritmebeskriuwingen yn it Frysk binne automatysk oerset. Hjir kinne flaters yn sitte. Foar de orizjinele beskriuwingen geane jo nei de Nederlânske ferzje fan it Algoritmeregister.
Salesforce Einstein Chatbot
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- DPIA, ...
- Status
- Yn gebrûk
Algemene ynformaasje
Tema
Begjindatum
Kontaktgegevens
Link nei publykspagina
Ferantwurde gebrûk
Doel en impact
De gemeente Amsterdam wurket oan in programma om it kontakt mei Amsterdammers te ferbetterjen.
De chatbot draacht by oan dit doel: in nij leechdrompelich automatisearre kommunikaasjekanaal dêr't boargers 24/7 foarôf definieare antwurden krije fan in chatbot en ferbûn wurde mei in meiwurker (yn iepeningstiden).
Einstein is in chatbot dy't kin kommunisearje mei in ynwenner mei help fan natuerlike taalherkenning. Einstein brûkt in algoritme om de bedoeling fan in frege fraach te erkennen.
Dit algoritme wurdt brûkt om ien fan 'e folgjende aksjes te triggerjen:
- It leverjen fan in foardefinieare antwurd op faak stelde fragen. It algoritme genereart gjin antwurden.
- Ferbine mei de rjochter ôfdieling
It algoritme is selslearend omdat it de bedoelingen fan de ynwenners better leart te herkennen. Oprop trochstjoeren is basearre op in trochstjoertabel beheard troch de gemeente Amsterdam. Dizze is net sels learend.
Afwagings
Troch it brûken fan in chatbot neist besteande kommunikaasjekanalen is de gemeente Amsterdam better berikber. Boargers kinne kieze tusken ferskate kommunikaasjekanalen.
In chatbot foldocht oan de needsaak foar 24/7 tsjinst. Dat betsjut ek dat ynwenners flugger antwurd krije op fragen.
Om't faak stelde fragen troch de chatbot behannele wurde, hawwe meiwurkers mear tiid foar persoanlik kontakt mei boargers.
De chatbot freget gjin persoanlike gegevens, mar it kin barre dat de brûker dochs persoanlike gegevens dielt. It wolkomberjocht fan de chatbot begjint it petear dêrom mei de folgjende warskôging: Tink oan jo privacy, diel gjin persoanlike gegevens.
Om it risiko fan ferkearde antwurden te ferminderjen, brûke wy gjin generative AI. Alle antwurden binne formulearre en kontrolearre foarôf troch minsken.
Ek wurde gjin gegevens fan de gemeente Amsterdam brûkt om it NLP-algoritme te trainen.
Ynwenners dy't it leafst kontakt opnimme mei in persoan, kinne (yn iepeningstiden) ferbûn wurde mei in meiwurker.
Minskele tuskenkomst
Training en oanpassen fan de modellen brûkt troch de chatbot wurdt dien troch minsken. Lykas it kontrolearjen fan de prestaasjes en petearen fan 'e chatbot. Foar yngewikkelde fragen of ûndúdlike resultaten wurde jo ferwiisd nei in minske.
Foar fragen dy't persoanlike gegevens nedich binne, sille jo altyd ferbûn wêze mei in minske.
Risikobehear
Ferkeaper Salesforce brûkt bêste praktiken, ark en kaders foar it ûntwikkeljen en operearjen fan Salesforce-produkten om te soargjen dat har produkten, funksjes, modellen en applikaasjes betrouber binne, foaroardielen en diskriminearjende útkomsten foarkomme, en transparânsje prioritearje.
Mear ynformaasje oer dit is te finen op
Ferantwurdlik AI en Technology | Salesforce US
Hat ek lid fan:
EU Artificial Intelligence Act
US AI Safety Institute Consortium
De chatbot freget gjin persoanlike gegevens, mar it kin barre dat de brûker dochs persoanlike gegevens dielt. It wolkomberjocht fan de chatbot begjint it petear dêrom mei de folgjende warskôging: Tink oan jo privacy, diel gjin persoanlike gegevens.
Om it risiko fan ferkearde antwurden te ferminderjen, brûke wy gjin generative AI. Alle antwurden binne formulearre en kontrolearre foarôf troch minsken.
Ek wurde gjin gegevens fan de gemeente Amsterdam brûkt om it NLP-algoritme te trainen.
Ynwenners dy't it leafst kontakt opnimme mei in persoan, kinne (yn iepeningstiden) ferbûn wurde mei in meiwurker.
Wettlike basis
De General Data Protection Regulation (GDPR) definiearret 'taken útfierd yn it iepenbier belang' as taken yn ferbân mei de útoefening fan offisjele autoriteit of taken útfierd troch in orgaan dat is belast mei in publike taak. Gemeentlike tsjinsten falle binnen dizze definysje.
Link nei ferwurkingsregister
Taljochting op impacttoetsen
Etyske folder ymplementearre; gjin IAMA nedich.
Impacttoetsen
- Data Protection Impact Assessment (DPIA)
- Ethische bijsluiter Amsterdam
Wurking
Gegevens
Salesforce brûkt gjin eksterne gegevens om har NLP-modellen te trenen, mar brûkt gegevens fan har klanten.
De gemeente Amsterdam hat keazen foar in 'opt-out'. Dêrtroch wurde gegevens út Amsterdam net brûkt om algoritmen te trainen.
Technyske wurking
De chatbot brûkt Natural Language Processing (NLP) om de bedoeling fan 'e fraach te werkennen út frije tekst (fan it petearkonversaasje).
Leveransier
Soartgelikense algoritme beskriuwingen
- It algoritme herkent, basearre op de tekst ynfierd troch de brûker, hokker fraach of fersyk de brûker hat. Sadree't dit ûnderwerp is erkend, begjint in petear. De petearen yn de chatbot falle ûnder saneamde 'conversational AI'. Dat dit is net oer generative AI, lykas ChatGPT.Lêst feroare op 31 jannewaris 2025 om 13:24 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Oare algoritmes
- Impacttoetsen
- DPIA
- Status
- Yn gebrûk
- PZH-Assist is in chatbot dy't kin wurde rieplachte foar algemien gebrûk. Dizze chatbot is net oplaat op ynterne gegevens en hat der gjin kennis fan. It is mooglik om in dokumint ad hoc yn te foegjen yn 'e chatbot en dêr fragen oer te stellen. De chatbot is allinnich beskikber foar meiwurkers fan de Provinsje Súd-Hollân.Lêst feroare op 8 novimber 2024 om 13:12 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- DPIA
- Status
- Yn ûntwikkeling
- Immen stelt de Chatbot in fraach. Chatbot reagearret mei in antwurd generearre troch Ai. De gemeente Veere fiert de chatbot mei ynformaasje (keppelings nei siden/kennisbank) en kontrolearret/analyzeart it brûken fan de chatbot.Lêst feroare op 18 april 2024 om 14:14 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Oare algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn ûntwikkeling
- It doel fan de e-tsjinsten mei it ûnderlizzende algoritme is om mei in digitale applikaasje maksimale stipe/begelieding te jaan oan ynwenners en ûndernimmers.Lêst feroare op 19 desimber 2024 om 14:09 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Ympaktfolle algoritmes
- Impacttoetsen
- DPIA
- Status
- Yn gebrûk
- De gemeente hat in chatbot, syn namme is Robin. Immen stelt de chatbot in fraach. De bot stjoert de fraach nei OpenAI foar analyse. OpenAI makket in antwurd en stjoert it werom nei de bot. It antwurd is makke mei boarnen fan de gemeente. Yn dit gefal de URL's fan de webside www.wijchen.nl.Lêst feroare op 4 febrewaris 2025 om 9:50 | Publikaasjestandaard 1.0
- Publicatiecategorie
- Oare algoritmes
- Impacttoetsen
- Fjild net ynfierd.
- Status
- Yn gebrûk