Civinc

Gemeente Amsterdam

Het gebruik van de Civinc-applicatie, waarbij medewerkers anoniem in gesprek gaan en er een sentiment-analyse plaatsvindt met behulp van generatieve AI.

Laatst gewijzigd op 15 mei 2025 om 11:51 | Publicatiestandaard 1.0

• Publicatiecategorie: Overige algoritmes
• Impacttoetsen: Veld niet ingevuld.
• Status: In gebruik

Algemene informatie

Thema

Organisatie en bedrijfsvoering

Begindatum

Veld niet ingevuld.

Contactgegevens

[e-mail]

Link naar publiekspagina

www.civinc.co/nl

Verantwoord gebruik

Doel en impact

Civinc is een nieuwe toepassing waarmee medewerkers op een veilige manier van gedachten wisselen over belangrijke organisatievraagstukken met collega’s die een ander perspectief hebben . Dit gebeurt in anonieme 1-op-1 chatgesprekken. In afgebakende sessies kunnen medewerkers met uiteenlopende perspectieven op grote schaal met elkaar in gesprek worden gebracht, zonder sociale wenselijkheid of groepsdruk.

Enerzijds geeft de toepassing grote groepen medewerkers een stem en stelt de organisatie in staat om op een veilige en inclusieve manier belangrijke (en soms gevoelige) thema’s bespreekbaar te maken.

Anderzijds geeft de toepassing inzicht in het sentiment van medewerkers, zodat de organisatie voeling houdt met wat er leeft en zo ‘blinde vlekken’ voorkomt. Een AI-analyse van de anonieme chats brengt in kaart hoe medewerkers naar bepaalde thema’s kijken, welke ideeën daarbij naar boven komen, en waar het spanningsveld tussen verschillende perspectieven zit.

Afwegingen

Dit algoritme geeft de organisatie inzicht in het sentiment onder medewerkers over belangrijke organisatievraagstukken. Generatieve AI maakt het daarbij mogelijk om op grote schaal tekstuele data te analyseren en in korte tijd te verwerken, op een manier die niet haalbaar/rendabel zou zijn met een andersoortige (handmatige) analyse. Daarbij zorgt het gebruik van generatieve AI ervoor dat de chats van deelnemers niet ingezien hoeven te worden, wat wenselijk is vanuit privacy-oogpunt.

Het risico op bias of onjuistheden in de analyse wordt voorkomen door een quality assurance process dat periodiek nagaat of de uitgevoerde analyses steekhoudend en betrouwbaar zijn. 

Menselijke tussenkomst

De output van het algoritme wordt altijd gecontroleerd door een mens. Daarnaast mag de output van een analyse in deze toepassing nooit op zichzelf staan, maar moet in een breder verband van data-punten en ervaringen worden bezien en beoordeeld. 

Risicobeheer

Om het algoritme te laten voldoen aan de hoge eisen voor informatiebeveiliging, worden uitgebreide compliance processen doorlopen.

Toelichting op impacttoetsen

Een DPIA is niet vereist omdat gebruikers persoonlijke informatie alleen op vrijwillige basis delen in de anonieme chats of open tekstvelden. Gebruikers wordt altijd afgeraden dit te doen.

Een mensenrechtencheck is uitgevoerd in de vorm van een Ethische Bijsluiter, Amsterdams model.

Werking

Gegevens

Het (generieke) model is getraind met data van OpenAI. Daarbij is geen sprake van toegang tot de gebruikte data set.

 https://platform.openai.com/docs/models

Technische werking

GPT-4(o) is een taalmodel ontwikkeld door OpenAI. Het maakt gebruik van een transformer-architectuur, die is gebaseerd op deep learning. Het model wordt getraind met grote hoeveelheden tekstdata en leert daarbij de structuur van taal te begrijpen. Het kan context herkennen, voorspellingen doen over welke woorden er waarschijnlijk volgen en zinvolle antwoorden genereren op basis van de ingevoerde tekst.

In de context van de toepassing van Civinc worden er specifieke instructies (‘prompts’) gegeven aan het taalmodel om de geaggregeerde anonieme chats in de toepassing van relevante analyses te voorzien.

Leverancier

Civinc is de leverancier van de toepassing, waarin het algoritme van OpenAI is geïntegreerd (GPT4-o). Meer informatie over Civinc: www.civinc.co/nl/, meer informatie over OpenAI: www.openai.com.