PZH-Assist

Provincie Zuid-Holland

PZH-Assist is een chatbot die geraadpleegd kan worden voor algemeen gebruik. Deze chatbot is niet getraind op interne data en heeft daar ook geen kennis van. Wel is het mogelijk om ad-hoc een document in te voegen in de chatbot en om daar vragen over te stellen. De chatbot is alleen beschikbaar voor medewerkers van Provincie Zuid-Holland.

Laatst gewijzigd op 18 juli 2024 om 9:23 | Publicatiestandaard 1.0

• Publicatiecategorie: Impactvolle algoritmes
• Impacttoetsen: DPIA
• Status: In ontwikkeling

Algemene informatie

Thema

• Organisatie en bedrijfsvoering
• Werk

Begindatum

04-2024

Einddatum

12-2024

Contactgegevens

Voor vragen en opmerkingen kan je terecht bij: [e-mail] Wil je bezwaar maken, dan kan je terecht bij de Juridische afdeling van dienst beheer organisatie. https://www.zuid-holland.nl/contact/

Link naar publiekspagina

https://www.zuid-holland.nl/politiek-bestuur/feiten-cijfers/algoritmeregister/

Verantwoord gebruik

Doel en impact

PZH-Assist is ontwikkeld als veilig alternatief voor ChatGPT en soortgelijke chatbots. PZH-Assist is alleen beschikbaar voor ambtenaren van provincie Zuid-Holland. PZH-Assist is bedoeld als assistent en heeft geen directe impact op bedrijven en burgers. PZH-assist heeft niet noodzakelijk een directe en grote impact op inwoners, omdat het voornamelijk intern wordt gebruikt. De gebruiker bepaalt echter zelf het specifieke doel waarvoor PZH-assist wordt ingezet.

Het experiment is afgerond. PZH-Assist blijft tot eind 2024 beschikbaar.

Afwegingen

PZH-Assist mitigeert een aantal privacyrisico's die commerciele taalmodellen wel hebben. Zo worden de gesprekken en ge-uploade bestanden niet gebruikt om de taalmodellen te trainen. Verder monitort PZH-Assist niet het gebruik van de interface.

Menselijke tussenkomst

PZH-Assist wordt niet gebruikt voor geautomatiseerde besluitvorming. Medewerkers stellen vragen en krijgen antwoorden van de chatbot. Medewerkers zijn zelf verantwoordelijk voor het juiste gebruik van de antwoorden.

Risicobeheer

Privacy:

- Gesprekken en bestanden worden gebruikt om taalmodellen te trainen. Dit risico is gemitigeerd doordat we een eigen omgeving gebruiken waar de gesprekken en bestanden in opgeslagen worden. De gebruikte taalmodellen draaien ook in onze eigen omgeving en leren niet van de gesprekken en bestanden.

- Monitoring van gebruik van de interface. Dit risico is gemitigeerd doordat we onze eigen interface hebben gebouwd. Deze eigen interface monitort niet het gebruik van de interface.

- Onttrekken van persoonsgegevens uit het onderliggende taalmodel. Door een proces van promptengineering hebben we geprobeerd om persoonsgegevens van derden uit het onderliggende taalmodel te krijgen. Uit dit proces bleek dat niet mogelijk en de onderliggende beveiligingsmaatregelen te werken.

Toelichting op impacttoetsen

DPIA is uitgevoerd en is nu ook afgetekend door de Functionaris gegevensbescherming. Toestemming is onder voorbehoud voor 12 maanden.

Een IAMA is in voorbereiding.

Impacttoetsen

DPIA: x

Werking

Gegevens

Deze chatbot is niet getraind op interne data en heeft daar ook geen kennis van. Wel is het mogelijk om ad-hoc een document in te voegen in de chatbot en om daar vragen over te stellen.

Technische werking

PZH-Assist maakt gebruik van privé instantie van GPT4o. (Azure OpenAI) om antwoorden op vragen te formuleren. https://learn.microsoft.com/en-us/azure/ai-services/openai/overview

Leverancier

Microsoft (Azure OpenAI)