Rapportage-assistent intake Wmo/Jeugdwet

Gemeente Amersfoort

De AI-assistent verwerkt opgenomen audio uit een intakegesprek in een geanonimiseerde rapportage (pilot). Het betreft het proces 'Vraagverheldering in het kader van Wmo/Jeugdwet'. Dit wordt door de Stichting Wijkteams Amersfoort in opdracht van gemeente Amersfoort uitgevoerd.

Laatst gewijzigd op 22 april 2025 om 9:42 | Publicatiestandaard 1.0

• Publicatiecategorie: Overige algoritmes
• Impacttoetsen: DPIA
• Status: In gebruik

Algemene informatie

Thema

Zorg en gezondheid

Begindatum

05-2025

Contactgegevens

[e-mail]

Link naar publiekspagina

Wijkteam Amersfoort - Wijkteam Amersfoort

Verantwoord gebruik

Doel en impact

Het doel van de inzet van de AI-assistent is om de administratiedruk onder wijkteammedewerkers te verlagen. Door de inzet van de tool wordt een tijdsbesparing van 50 tot 75% beoogd om gesprekken te verwerken in een concept-rapportage. De AI-assistent neemt geen zelfstandige beslissingen; een wijkteammedewerker controleert altijd de uitkomsten. De conclusies worden altijd door de wijkteammedewerker zelf geformuleerd. Elke rapportage, ook die niet via de AI-assistent wordt opgesteld, wordt ter goedkeuring voorgelegd aan de inwoners. Deelname is vrijwillig voor inwoners en wordt voorafgaand aan het gesprek expliciet gevraagd. Het gebruik van de tool staat los van de (toegang tot) hulp en ondersteuning.

Afwegingen

Om een zorgvuldige afweging te maken voor de inzet van de AI-assistent, is er een DPIA uitgevoerd, een interne waardendialoog gevoerd, en is de externe klankbordgroep digitalisering en ethiek geraadpleegd. De inzichten en adviezen zijn overgenomen. Voorafgaand aan de keuze om deze pilot te starten zijn er andere stappen ondernomen om de administratieve druk voor wijkteammedewerkers significant te verbeteren, maar dit heeft onvoldoende opgeleverd.

Menselijke tussenkomst

De (tussentijdse) uitkomsten van de AI-assistent kunnen realtime worden meegelezen door de wijkteammedewerker en inwoner. Indien het rapport is gegenereerd kan de wijkteammedewerker alle gegenereerde tekst aanpassen, verwijderen of toevoegen. 

Risicobeheer

Door middel van de uitgevoerde DPIA, de gevoerde waardendialoog en het advies van de Klankbordgroep digitalisering en ethiek zijn risico's op het gebied van gegevensbescherming en ethiek in beeld gebracht. Om risico's te beheersen zijn onder andere de volgende maatregelen genomen: wijkteammedewerkers zijn getraind om te werken met de AI-assistent. Er is nadrukkelijk aandacht voor het goed kunnen uitleggen aan inwoners wat deze AI-assistent doet en zijn er handvatten opgesteld voor het gebruik. Verder zijn er met de leverancier afspraken gemaakt over de verwerking van persoonsgegevens, is de juiste mate van beveiliging angebracht op het systeem en is dit onafhankelijk getoetst. Verder wordt alleen dat wat nodig is voor het proces aan gegevens bewaard. Er vindt constante monitoring plaats van de prestaties van de AI-assistent.  

Wettelijke basis

Het verwerken van persoonsgegevens is noodzakelijk voor de vervulling van een taak van algemeen belang (uitvoering Wmo en Jeugdwet) dat aan de verwerkingsverantwoordelijke is opgedragen;

Links naar wettelijke basis

• artikel 5.1.1 Wet maatschappelijke ondersteuning: https://wetten.overheid.nl/BWBR0035362/2025-01-01/0
• artikel 7.4.0 en 7.4.1 Jeugdwet: https://wetten.overheid.nl/BWBR0034925/2025-01-01/0
• artikel 6, eerste lid onder e Algemene Verordening Gegevensbescherming : https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=legissum:310401_2

Toelichting op impacttoetsen

De AI-assistent is niet bedoeld als AI-systeem voor het beoordelen van (de mate van) toegang tot essentiële overheidsuitkeringen en -diensten. Het doel is met name om inwoners beter en sneller te kunnen helpen en de administratieve lasten te verlagen. Hierdoor valt de toepassing onder een van de uitzonderingen uit de AI Act (artikel 6, derde lid AI Act) waarbij AI-systemen die onder een van de toepassingsgebieden vallen tóch niet als hoog risico AI (Essentiële particuliere en publieke diensten en uitkeringen (artikel 6, lid 2 juncto bijlage III AI Act)) worden gezien en het uitvoeren van een IAMA-toets niet verplicht is. Er is een interne ethische waardendialoog over publieke waarden gevoerd (CODIO). Daarnaast heeft de gemeente een advies gekregen van de externe klankbordgroep digitalisering en ethiek in april 2025 (inwoners).

Impacttoetsen

Data Protection Impact Assessment (DPIA)

Werking

Gegevens

Het algoritme is ontwikkeld met een beschrijving over het gespreksprotocol. Om het prompting-model te verfijnen zijn gesimuleerde gesprekken tussen wijkteammedewerkers gebruikt. Het algoritme verwerkt alleen gegevens die verkregen zijn uit een audio-opname van het gesprek tussen de inwoner en de wijkteammedewerker. Persoonsgegevens die mogelijk verwerkt kunnen worden zijn NAW, BSN, e-maildres, telefoonnummer, geboortedatum, gezinssituatie, gezondheidsgegevens. Direct herleidbare persoonsgegevens worden verwijderd tijdens het omzetten van elke 30 tot 60 seconden audio naar tekst. Gegevens als gezinssituatie, gezondheidsgegevens, en overige bijzondere persoonsgegevens die genoemd worden in het gesprek én relevant kunnen zijn om de benodigde hulp en ondersteuning aan betrokkene te kunnen levereren zullen worden verwerkt op het platform van de leverancier en maximaal 28 dagen worden opgeslagen.

Technische werking

De AI-gespreksverslagen assistent is een is een hulpmiddel om het gesproken woord tijdens een vraagverhelderingsgesprek om te zetten in geschreven verslag. De software zet audio om naar een uitgeschreven, gede-indentificeerd transscript. Dit transcript wordt aangeboden aan verschillende lokaal gehoste kopieën van LLM’s (Large language Models) voor het schrijven van het gespreksverslag. Om te zorgen dat deze verslagen in de gewenste vorm geschreven worden bevat de software specifieke regels over de prompts die aangeboden worden aan de LLM’s. De software vormt als het ware een tussenlaag tussen het transcript van het gesprek en de LLM’s die er voor zorgt dat de ouput van de LLM’s beter aansluit bij de wijze van verslaglegging van de wijkteams dan wanneer men een transcript direct zou aanbieden aan een LLM.

De software maakt gebruik van webservices en lokaal gehoste kopieën van LLM’s. De volgende modellen worden gebruikt: spraakmodellering services 'Azure Language' en 'speech-to-text services' (Microsoft), GPT4o en GPT4o mini van OpenAI, Claude Sonnet van Anthropic en Llama (open source). LLM providers (bijvoorbeeld OpenAI) hebben geen verbinding met de servers van het leveranciersplatform. LLM provider levert weliswaar de modellen, maar hosting gebeurt onafhankelijk op servers van leverancier binnen de EER. Hierdoor is de data niet toegankelijk of inzichtelijk voor LLM providers.

Leverancier

Verticai B.V.