Geprofileerd en gediscrimineerd?

: Geautomatiseerde individuele besluitvorming op basis van financiële gegevens in het risicoclassificatiemodel in kinderopvangtoeslagzaken

Abstract

De bescherming van persoonsgegevens valt onder het recht op eerbiediging van mensen hun persoonlijke levenssfeer, een mensenrecht dat onder meer vastligt in art. 10 van de Nederlandse Grondwet en art. 8 EVRM. Indien de persoonsgegevens op een geautomatiseerde manier worden verwerkt is, onder voorwaarden, de AVG het toetsingskader voor deze verwerking. De AVG biedt een raamwerk om een geautomatiseerde verwerking rechtmatig te laten verlopen. De Belastingdienst heeft jarenlang financiële gegevens van burgers verwerkt in het risicoclassificatiemodel ter beoordeling van aanvragen kinderopvangtoeslag. Het risicoclassificatiemodel bestond uit indicatoren die de Belastingdienst verzamelde en waarvan de Belastingdienst verwachtte dat het een beoordeling kon geven van het frauderisico. Nadat het systeem een testfase had doorgemaakt, beoordeelde het systeem de aanvragen zelfstandig en ‘leerde’ het zelf de weging van de indicatoren bepalen. De controle op het systeem dat de aanvragen beoordeelde is nadien niet voldoende geweest. Uit dit onderzoek blijkt dat niet aan alle vereisten uit de AVG is voldaan, waardoor bepaalde verwerkingen van persoonsgegevens onrechtmatig zijn geweest.

Date of Award	1 Jul 2022
Original language	Dutch
Awarding Institution	Department of Public Law