PZH-Assist
- Publicatiecategorie
- Impactvolle algoritmes
- Impacttoetsen
- DPIA
- Status
- In ontwikkeling
Algemene informatie
Thema
- Organisatie en bedrijfsvoering
- Werk
Begindatum
Einddatum
Contactgegevens
Link naar publiekspagina
Verantwoord gebruik
Doel en impact
PZH-Assist is ontwikkeld als veilig alternatief voor ChatGPT en soortgelijke chatbots. PZH-Assist is alleen beschikbaar voor ambtenaren van provincie Zuid-Holland. PZH-Assist is bedoeld als assistent en heeft geen directe impact op bedrijven en burgers. PZH-assist heeft niet noodzakelijk een directe en grote impact op inwoners, omdat het voornamelijk intern wordt gebruikt. De gebruiker bepaalt echter zelf het specifieke doel waarvoor PZH-assist wordt ingezet.
Het experiment is afgerond. PZH-Assist blijft tot eind 2024 beschikbaar.
Afwegingen
PZH-Assist mitigeert een aantal privacyrisico's die commerciele taalmodellen wel hebben. Zo worden de gesprekken en ge-uploade bestanden niet gebruikt om de taalmodellen te trainen. Verder monitort PZH-Assist niet het gebruik van de interface.
Menselijke tussenkomst
PZH-Assist wordt niet gebruikt voor geautomatiseerde besluitvorming. Medewerkers stellen vragen en krijgen antwoorden van de chatbot. Medewerkers zijn zelf verantwoordelijk voor het juiste gebruik van de antwoorden.
Risicobeheer
Privacy:
- Gesprekken en bestanden worden gebruikt om taalmodellen te trainen. Dit risico is gemitigeerd doordat we een eigen omgeving gebruiken waar de gesprekken en bestanden in opgeslagen worden. De gebruikte taalmodellen draaien ook in onze eigen omgeving en leren niet van de gesprekken en bestanden.
- Monitoring van gebruik van de interface. Dit risico is gemitigeerd doordat we onze eigen interface hebben gebouwd. Deze eigen interface monitort niet het gebruik van de interface.
- Onttrekken van persoonsgegevens uit het onderliggende taalmodel. Door een proces van promptengineering hebben we geprobeerd om persoonsgegevens van derden uit het onderliggende taalmodel te krijgen. Uit dit proces bleek dat niet mogelijk en de onderliggende beveiligingsmaatregelen te werken.
Toelichting op impacttoetsen
DPIA is uitgevoerd en is nu ook afgetekend door de Functionaris gegevensbescherming. Toestemming is onder voorbehoud voor 12 maanden.
Een IAMA is in voorbereiding.
Impacttoetsen
Werking
Gegevens
Deze chatbot is niet getraind op interne data en heeft daar ook geen kennis van. Wel is het mogelijk om ad-hoc een document in te voegen in de chatbot en om daar vragen over te stellen.
Technische werking
PZH-Assist maakt gebruik van privé instantie van GPT4o. (Azure OpenAI) om antwoorden op vragen te formuleren. https://learn.microsoft.com/en-us/azure/ai-services/openai/overview