Niet AI, maar de mens moet fraudesignalen verwerken, vindt de privacywaakhond

In dit artikel:

De Autoriteit Persoonsgegevens (AP) eist strengere regels voor hoe gemeenten, het UWV en de Belastingdienst omgaan met fraudesignalen over burgers en bedrijven. De privacywaakhond waarschuwt dat het gebruik van algoritmes en AI bij de beoordeling van tips uit kliklijnen, signalen van andere overheden en anonieme meldingen kan leiden tot vooringenomen besluiten en discriminatie. Daarom moet volgens de AP altijd eerst een mens de melding beoordelen, niet een systeem.

In een nieuw advies stelt de AP elf minimale voorwaarden op voor de verwerking van zulke gevoelige signalen over uitkeringen, toeslagen en subsidies. Zo moeten overheden precies vastleggen hoe een tip binnenkwam, hoe betrouwbaar de melder wordt ingeschat en hoe het signaal is beoordeeld. Als geen bewijs voor fraude wordt gevonden, moet de burger direct uit de systemen worden verwijderd. Betrokkenen moeten bovendien in principe worden geïnformeerd dat zij zijn geregistreerd, tenzij dat het onderzoek aantoonbaar zou schaden. Ook moeten gevoelige gegevens zwaar worden beveiligd en moeten termen als ‘fraude’ of ‘mogelijke fraude’ zo lang mogelijk worden vermeden zolang er geen hard bewijs is.

De waarschuwing sluit aan bij de lessen uit de toeslagenaffaire. Toen gebruikte de Belastingdienst een foutieve, discriminerende fraudelijst en werden tienduizenden gezinnen onterecht geraakt. De AP wil een herhaling daarvan voorkomen. De Belastingdienst gebruikt nog altijd zo’n honderd algoritmes voor fraudeschattingen, maar volgens de waakhond voldoet een deel daarvan niet aan de wettelijke eisen. Het ministerie van Financiën noemt die systemen juist onmisbaar, en de Kamer hoort in augustus wat de Belastingdienst met het AP-advies gaat doen.