In een recent rapport waarschuwt de commissie dat overheidsinstanties gebruikmaken van steeds uitgebreidere en onderling gekoppelde datasets om groepen burgers te identificeren die als een “risico” worden beschouwd, wat leidt tot (het risico op) discriminatie en een bedreiging vormt voor de rechtsstaat en de democratische waarden.

De commissie noemt specifieke voorbeelden uit de afgelopen jaren: de controverse rond de toeslag voor kinderopvang waarbij (dubbele) nationaliteit een rol speelde, studenten met een migratieachtergrond die vaker werden gecontroleerd, en signalen dat de politie en de Koninklijke Marechaussee steeds meer op data vertrouwen.

Toezichthouders, waaronder de Autoriteit Persoonsgegevens en de Wetenschappelijke Raad van Advies van de Politie, hebben herhaaldelijk hun bezorgdheid geuit over onrechtmatige of bevooroordeelde gegevensverwerking en de uitdagingen bij het toezicht op algoritmen.

Niet het eerste keer

In 2023 oordeelde het Gerechtshof in Den Haag dat de Koninklijke Marechaussee niet op huidskleur mag controleren; de commissie spreekt haar teleurstelling uit dat de regering niet heeft toegestaan dat die uitspraak brede gevolgen kreeg.

Belangrijke knelpunten die in het rapport naar voren komen: mensen realiseren zich vaak niet dat ze worden geprofileerd, welke criteria daarbij worden gehanteerd of hoe de beslissingen tot stand komen; er is onvoldoende transparantie, er ontbreekt een effectbeoordeling en er zijn onvoldoende waarborgen tegen discriminatie.

Tijdelijke opschorting

Gezien de ernstige gevolgen die een stopzetting van de activiteiten zou hebben voor de uitvoerende organisaties, stelt de commissie een tijdelijke opschorting voor totdat er doeltreffende maatregelen en garanties zijn ingevoerd, en pleit zij voor veiligere alternatieven zoals steekproeven.

De commissie stelt dat er zonder deze maatregelen een aanzienlijk risico bestaat op blijvende maatschappelijke schade en hogere herstelkosten.