image

AP wil dat overheidsinstanties algoritmes verplicht gaan registreren

vrijdag 11 juli 2025, 14:20 door Redactie, 7 reacties

Overheidsinstanties moeten de algoritmes waarvan ze gebruikmaken verplicht registreren, zo vindt de Autoriteit Persoonsgegevens (AP). Op dit moment schiet de registratie tekort, waardoor het volgens de privacytoezichthouder voor burgers vaak niet duidelijk is waarvoor en hoe organisaties AI en algoritmes gebruiken. Eind 2022 werd het Algoritmeregister van de Nederlandse overheid gelanceerd.

In totaal zijn er sindsdien duizend algoritmes in het register opgenomen. De meeste overheidsorganisaties ontbreken echter, aldus de AP. "Meer dan de helft van de gemeenten heeft nog geen algoritmes geregistreerd. Van de zelfstandige bestuursorganen heeft meer dan driekwart helemaal niets geregistreerd. Bij bijna alle geregistreerde algoritmes ontbreekt een grondrechtenbeoordeling. Die is maar in 5 procent van de gevallen gedaan."

De privacytoezichthouder stelt dat met duizend geregistreerde algoritmes de pioniersfase voorbij is en er een volgende stap moet worden gezet. Om die te bereiken wil de AP een registratieplicht voor overheidsorganisaties instellen. "Een compleet algoritmeregister is de basis voor transparantie, bescherming van grondrechten, uitlegbaarheid en controleerbaarheid bij de inzet van algoritmes en AI", aldus de toezichthouder.

Reacties (7)
Gisteren, 14:50 door Briolet
In totaal zijn er sindsdien duizend algoritmes in het register opgenomen

Dat zijn er erg weinig. Een algoritme is een serie van bewerkingen en bijna alle financiële zaken zijn op algoritmes opgebouwd. Het begint al bij een simpel kassabonnetje bij de supermarkt waar je prijzen met aantallen vermenigvuldigd en dan optelt en over de som nog btw berekend.

De vraag is dan of elk filiaal dit algoritme moet registreren, of dat een concern dit moet registreren, of dat je kunt verwijzen naar het register als iemand anders dit algoritme al geregistreerd heeft.

Volgens mij zijn ze gek geworden bij de overheid met al deze toegevoegde bureaucratie. Volgens mij hadden ze de kamer beloofd om juist de bureaucratie terug te dringen.
Gisteren, 15:30 door ph-cofi
De scope van dit register is vaag omschreven. We gaan niet elke spreadsheetberekening melden, toch? Ik zie
Het register focust op impactvolle algoritmes (waaronder hoog risico AI-systemen) en geeft de bezoeker inzicht in hoe deze algoritmes werken.
Dit is meer in lijn met verwachtingen. Enge AI algoritmes die invloed hebben op levens van Nederlanders, willen de burgers kunnen nakijken als ze zich benadeeld voelen.

Het lijkt me echter dat een ontwikkelproject deze registratie opvat als de documentatie-bij-afronding fase, vlak na de acceptatietest-onder-tijdsdruk fase. Bij de volgende onderhoudsprojecten ijlt de registerbeschrijving na, wedden? M.a.w. een algoritmeregister dat niet gekoppeld in aan de broncode uit het project, zegt niet zoveel over wat een systeem werkelijk doet. Vergelijkbaar wellicht met de beschikbare broncode van Microsoft Windows in Brussel, dat geen garantie geeft dat die software gecompileerd is en uitgeleverd is bij installatie.
Gisteren, 15:35 door Anoniem
De belastingdienst ontloopt boetes en het AP legt niet op. Dus het AP kan zeggen wat het wil maar de overheid gaat fluitend door.
Gisteren, 15:59 door Briolet - Bijgewerkt: Gisteren, 16:07
Door ph-cofi: De scope van dit register is vaag omschreven. We gaan niet elke spreadsheetberekening melden, toch? .

Ik zie dat het AP het alleen over de kwantiteit heeft en niet over de kwaliteit van de registraties.

Als ik als onderdeel van de overheid afgerekend wordt op de kwantiteit van mijn registraties, dat zou ik ook beginnen met het maken van meters door met de eenvoudige algoritmes te beginnen. b.v. hoeveel straatklinkers je moet bestellen per m2 aan te leggen straat, rekening houdende met extra verlies per bocht of kromming in de weg. Algoritmes worden echt overal gebruikt.

Overigens snap ik de opmerking "waaronder hoog risico AI-systemen" niet helemaal. Essentie van AI is dat er juist geen algoritme aan ten grondslag ligt, maar het vooral een blackbox betreft waar alleen de uitkomst telt.
Gisteren, 20:44 door Anoniem
En hoe zit het met particulieren en hun instapmodelletje kwantumcomputer? Niet onbelangrijk.
Gisteren, 23:44 door Anoniem
Door Briolet:

Ik zie dat het AP het alleen over de kwantiteit heeft en niet over de kwaliteit van de registraties.

Dat is niet waar. Zie bijvoorbeeld pagina 2, laatste kopje. Ten opzichte van vorige publicaties gaat de AP juist beter in op de kwaliteit.
Vandaag, 10:37 door Anoniem
In de berichtgeving over AI in de laatste jaren hebben de nieuwsmedia heel druk over algoritmes bericht alsof dat een term is die uitsluitend gaat over wat AI-systemen doen. Ik was dus benieuwd wat AP eigenlijk bedoelt als ze het over algoritmes hebben.

Hier beschrijven ze een algoritme alsof er per definitie trainingsdata aan ten grondslag ligt, ze bekijken het door de AI-bril dus:
Een algoritmeregister bevat informatie over de inzet van algoritmes. Het is een soort logboek of database waarin informatie staat over het doel, de trainingsdata en wie (intern) verantwoordelijk is voor het algoritme.

Hier geven ze juist aan dat het breder is dan alleen AI:
Een algoritmeregister kan dus ook gaan over algoritmische processen die niet voldoen aan de definitie van een AI-systeem volgens de AI-verordening. Deze algoritmes kunnen evengoed hoog risico met zich meebrengen.

Dat wekt niet de indruk dat ze zelf goed op een rijtje hebben waar ze het nou eigenlijk over hebben. Als je zelf je boodschap niet helder hebt kan je er gif op innemen dat die ook niet helder overkomt op anderen.

En deze formulering vind ik ook veelzeggend:
Veel organisaties gebruiken talloze computerprogramma’s die algoritmes gebruiken.

Computerprogramma's gebruiken geen algoritmes, ze zijn de implementaties van algoritmes in een vorm die een computer kan verwerken. Een processor voert uiteindelijk domweg instructies uit en zo'n verzameling instructies is per definitie een algoritme. En zelfs als een ontwikkelaar in een IDE een knopje naar een formulier sleept, in de properties invult wat voor tekst erop staat en welke routine moet worden aangeroepen als de gebruiker erop klikt, dan is dat een high-level specificatie van code die uiteindelijk als machinetaalinstructies door de processor wordt uitgevoerd. Nog steeds algoritmes dus.

Het document van AP had een duidelijke definitie kunnen gebruiken van wat een algoritme is, en een veel betere afbakening van wat voor algoritmes wel en niet relevant zijn voor deze registers. Niemand hoeft zich druk te maken om een sorteeralgoritme dat ergens in een standaard-library zit; dat is generiek maar wel degelijk een algoritme. Het gaat hier om verwerkingen van gegevens over anderen of die anderen kunnen raken.

De afbakening ontbreekt gelukkig niet helemaal, die zit wel weer in het advies van AP om een doel voor de algoritmeregistratie te formuleren en dan te inventariseren welke algoritmes binnen dat doel vallen. Maar ik denk dat ze hun boodschap duidelijker hadden kunnen formuleren als ze om te beginnen scherp hadden geformuleerd waar ze het eigenlijk over hebben. In plaats daarvan zijn ze het woord "algoritme" domweg gaan gebruiken alsof het geen definitie behoeft. Voor "AI" geldt dat trouwens ook.

Mensen kunnen ontzettend goed om dingen heen lullen die ze zelf niet goed op een rijtje hebben, en dat zie ik hier gebeuren. Jammer, dat is niet hoe je een boodschap duidelijk overbrengt, daarvoor moet je zelf eerst duidelijk op een rijtje hebben waar je het eigenlijk over hebt.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.