Een nieuwe toezichthouder die toezicht gaat houden op het gebruik van algoritmen wordt in de loop van volgend jaar opgericht, zo laat het kabinet in een brief aan de Tweede Kamer weten. De algoritmetoezichthouder moet ervoor zorgen dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur, en zal zich richten op drie clusters: coördinatie, monitoring en kennisdeling en naleving en handhaving.

Volgens het Rathenau Instituut maken uitvoeringsorganisaties in toenemende mate gebruik van algoritmes om wet- en regelgeving te vertalen naar de praktijk. Zo worden voorzieningen als uitkeringen en toeslagen steeds meer per algoritme aan de burger geleverd. "Uitvoeringsorganisaties zijn ervan overtuigd dat algoritmes kunnen helpen om efficiënter en gerichter diensten aan burgers te leveren en tegelijkertijd fraude te bestrijden", aldus het instituut in een rapport dat afgelopen mei verscheen.

"Het inzetten van profilerende algoritmes vormt de volgende stap in deze ontwikkeling. Profilerende algoritmes proberen het gedrag van mensen te voorspellen door hen in te delen in groepen. Op die manier willen organisaties bijvoorbeeld te weten komen welke werklozen ze het snelst aan een baan kunnen helpen of welke uitkeringsontvangers ze het meest kansrijk kunnen controleren op fraude", laat Rathenau verder weten.

Het instituut stelt dat het toepassen van algoritmes en profilering niet zonder risico is. Bijvoorbeeld omdat ze discriminerende effecten blijken te hebben, privacy kunnen schenden en burgers kunnen confronteren met dienstverlening waarvan ze niets meer begrijpen. "Algoritmische profilering verdiept deze risico’s. Zo zijn deze algoritmes moeilijker om uit te leggen, omdat ze kunnen ‘leren’ en gaandeweg hun code aanpassen. Hierdoor is het ook lastiger om bijvoorbeeld discriminatie te detecteren", waarschuwt het instituut, dat verder stelt dat instanties die profilerende algoritmes willen gebruiken, maatregelen moeten nemen om de bescherming van mensenrechten te borgen.

"De nadruk moet bij inzet van algoritmen niet alleen liggen op het bestraffen van mensen. Er zijn nu ook veel algoritmen die goede dingen doen", laat staatssecretaris Van Huffelen van Digitalisering weten. Zo komt er een onderzoek naar het gebruik van algoritmen om mensen te wijzen op beschikbare regelingen. "Ik heb ook geld uitgetrokken om met oplossingen te komen om met data en algoritmen armoede en problematische schulden te bestrijden. Algoritmen moeten alleen gebruikt worden wanneer het echt nodig is om de overheid goed te laten werken", aldus Van Huffelen.

In een reactie op het rapport laat het kabinet weten dat "stevig toezicht" onmisbaar is om ervoor te zorgen dat de nodige waarborgen in acht worden genomen, om grondrechten en publieke waarden te beschermen. "Het kabinet investeert daarom in een algoritmetoezichthouder die in de loop van 2023 zal worden ingericht. Ten aanzien van nieuwe toezichtstaken die hieruit voortvloeien zal een uitvoeringstoets worden uitgevoerd. Ook wordt het budget van de Autoriteit Persoonsgegevens structureel verhoogd om het toezicht op de naleving van de AVG in het digitale domein te ondersteunen." Eerder werd al bekend dat voor de algoritmetoezichthouder volgend jaar een bedrag van 1 miljoen euro is gereserveerd.