ChatAmsterdam

Gemeente Amsterdam

ChatAmsterdam is in generative AI-assistint ûntwikkele foar de gemeente Amsterdam om AI-geletterdheid binnen de organisaasje te befoarderjen en it feilich en ferantwurdlik gebrûk fan AI as ark yn ús wurk mooglik te meitsjen.

Lêst feroare op 2 july 2026 om 15:57 | Publikaasjestandaard 1.0

• Publicatiecategorie: Oare algoritmes
• Impacttoetsen: DPIA, De Etyske Folder
• Status: Yn gebrûk

Algemene ynformaasje

Tema

Organisaasje en bedriuwsfiering

Begjindatum

2024-11

Kontaktgegevens

[e-mail]

Ferantwurde gebrûk

Doel en impact

Generative AI biedt in protte mooglikheden om de wurkdruk te ferminderjen, lykas it finen fan ynformaasje, it gearfetten fan dokuminten, it analysearjen fan gegevens of it helpen by it skriuwen fan papers.

Dizze technology hat lykwols ek neidielen: it trainen fan AI brûkt in soad enerzjy en natuerlike boarnen, eigners fan it boarnemateriaal dat brûkt wurdt om de modellen te trainen wurde net betelle, en it model kin - ôfhinklik fan 'e boarnen - rasistyske of oare etysk ûnwinske resultaten produsearje.

Neist dizze algemiene krityk binne der ek risiko's foar de organisaasje. Dokuminten dy't oan in chatbot presintearre wurde, kinne troch de leveransier brûkt wurde om it model fierder te trainen. Wat as se gefoelige ynformaasje befetsje? Of as in amtner de bot rieplachtet om ynformaasje te finen om beslútfoarming te stypjen, wylst it model reagearret op basis fan ferâldere of gewoan ferkearde ynformaasje?

Om de wearde fan Generative AI foar Amsterdam te ûndersiikjen en tagelyk de praktyske risiko's yn kaart te bringen, is ûndersyk nedich. Dêrom sille meiwurkers yn Amsterdam foar in beheinde perioade in ynterne Generative AI-chatbot brûke: ChatAmsterdam. Dizze chatbot is boud mei it GPT4o-taalmodel fan Open AI en is net oanpast of oanfolle mei (ynterne) trainingsgegevens.

Tidens de ûndersyksperioade wurde gebrûksgedrach, wearde en risiko's yn kaart brocht om te bepalen oft wy dizze technology yn 'e takomst brûke sille.

Afwagings

Wy witte dat Generative AI al brûkt wurdt troch meiwurkers, en wy erkenne de kânsen en risiko's. Der binne in soad potinsjele tapassingen foar de organisaasje, sawol yntern as ekstern. Foardat wy Generative AI (binnen neilibingseasken) tastean binnen de gemeente Amsterdam, is lykwols ûndersyk nedich. Hoe kommunisearje minsken mei in bot? Hokker soarte (gefoelige) ynformaasje wurdt opnommen yn 'e prompts? Wêrfoar wurde de resultaten brûkt? Hoe weardefol is de technology foar de gemeente Amsterdam en de boargers en bedriuwen fan 'e stêd?

Dizze antwurden helpe de gemeente Amsterdam om de technology feilich, ferantwurde en op in doelgerichte manier yn te setten.

Minskele tuskenkomst

De chatbot en it ûnderlizzende taalmodel nimme gjin ûnôfhinklike besluten, en se binne ek net ûnderdiel fan in automatisearre beslútfoarmingsproses sûnder minsklike yntervinsje.

Alle generearre antwurden wurde beoardiele troch de brûker dy't de fraach of it kommando oan de chatbot steld hat. Dêrnei wurket de brûker mei it antwurd, bygelyks troch it foar in part of hielendal oer te nimmen, of troch fierdere fragen oan de chatbot te stellen. De brûker is altyd posisjonearre tusken it generearre antwurd fan 'e chatbot en de taak of it proses wêrfoar it antwurd brûkt wurdt.

Risikobehear

ChatAmsterdam wurdt oanbean as in ynterne chatbot oan ynterne meiwurkers fan 'e gemeente Amsterdam.

De chatbot-applikaasje, de gegevens en de hostingomjouwing foldogge oan de jildende BBN2-feiligensnormen om it risiko op datalekken en feiligensynsidinten te minimalisearjen.

Alle yntsjinne prompts wurde opslein en mei de hân kontrolearre op potinsjele etyske risiko's, foaroardielen en mooglike datalekken.

Derneist is der in filterfunksje mei twa lagen. It promptfilter fan Microsoft filteret alle prompts op gefaarlike en ûnetyske saken lykas diskriminaasje, selsmoard of misbrûk. It twadde filter is in yntern ûntwikkele promptfilter dat spesifyk siket nei risikofolle ynhâld lykas it gebrûk fan gefoelige gegevens, etnyske profilering, ensfh.

Dizze risiko-prompts wurde apart opslein en yntsjinne by de relevante Risiko/KI-amtners foar ynhâldlike beoardieling.

Taljochting op impacttoetsen

Amsterdam fiert op it stuit de etyske ynfloedbeoardieling út yn 'e foarm fan in Etyske Ynformaasjebrosjuere. Dizze is foltôge foar dit algoritme.

Impacttoetsen

• Data Protection Impact Assessment (DPIA)
• De Etyske Folder

Wurking

Gegevens

ChatAmsterdam brûkt de Open AI LLM, spesifyk GPT4o. Dit is itselde taalmodel (algoritme) dat ek brûkt wurdt yn ChatGPT.

Dit taalmodel is net fierder traind mei ekstra (ynterne) gegevens. It taalmodel wurdt brûkt sa't it is, sûnder feroarings of fynôfstimming.

Technyske wurking

ChatAmsterdam, as in Generative AI-chatbot, brûkt it GPT4o-taalmodel yn syn hjoeddeistige foarm sûnder de tafoeging fan (ynterne) trainingsgegevens of oare gegevens. It is itselde taalmodel dat ChatGPT brûkt.

ChatAmsterdam wurket op in fergelykbere wize as ChatGPT. Meiwurkers kinne in fraach stelle of in kommando (in saneamde 'prompt') jaan oan de chat-applikaasje en dêrnei in generearre antwurd ûntfange. In foarbyld hjirfan is it gearfetsjen of opnij skriuwen fan teksten.

It taalmodel ferwurket de ynfierde fraach of it kommando en de begeliedende ynformaasje, en stjoert dan it generearre antwurd werom nei de brûker.

Leveransier

It algoritme (yn dit gefal it GPT4o-taalmodel) wurdt troch Microsoft levere fia it Azure-wolkplatfoarm.