'Algoritmes en AI schaden vertrouwen in de overheid'

Dit is een expertquote van Johan de Jong, Vice President Consulting Expert, CGI Nederland.

U kunt dit bericht, of delen hiervan gebruiken op uw kanalen, met vermelding van de naam van de expert en organisatie. Aanleiding: D66 vraagt minister om termijn voor verplicht algoritmeregister - AG Connect

De overheid moet het vertrouwen van burgers herstellen na het gebruik van algoritmes in de toeslagenaffaire. Burgers maken zich ook steeds meer zorgen over de risico's van AI. Transparantie, verantwoordelijkheid en ethisch handelen zijn cruciaal voor het vertrouwen van burgers wanneer de overheid AI gebruikt. Als mensen twijfelen aan de veiligheid van hun persoonsgegevens en privacy bij de overheid, kan dit leiden tot ontevredenheid en terughoudendheid bij het gebruik van digitale diensten en het delen van informatie die de overheid nodig heeft voor beleidsontwikkeling en besluitvorming.

Herstel van vertrouwen

Om het vertrouwen van burgers in de overheid te herstellen, moet de overheid transparant zijn over hoe persoonsgegevens worden verwerkt en privacy wordt beschermd. Ook moet de overheid laten zien welke maatregelen worden genomen bij het gebruik van AI. Het bijhouden van een algoritmeregister en het uitvoeren van een Impact Assessment for Human Rights (IAMA) helpen bij het identificeren en beperken van risico's en negatieve gevolgen van algoritmes. Door dergelijke instrumenten te gebruiken, laat de overheid zien dat ze serieus bezig is met het waarborgen van de privacy en rechten van burgers.

Voorkomen is beter dan genezen

Vertrouwen behouden is een continu proces. Algoritmes en AI zijn een volgende stap in de digitalisering van overheidsdiensten. Los van de technologie pleit ik ervoor dat de overheid preventief op de algemene beginselen van behoorlijk bestuur toetst bij het ontwikkelen van haar digitale diensten. Zoals dit ook gebeurt voor risico’s rondom informatiebeveiliging en privacy in de vorm van bijvoorbeeld Privacy Impact Assessments (PIA). Een vergelijkbare toets kan worden toegepast om alle aspecten van behoorlijk bestuur te beoordelen. Door proactief te toetsen, versterkt de overheid het vertrouwen van burgers, vermindert ze risico's en voorkomt ze privacy- en ethische problemen.