AP wil dat overheidsinstanties algoritmes verplicht gaan registreren
Overheidsinstanties moeten de algoritmes waarvan ze gebruikmaken verplicht registreren, zo vindt de Autoriteit Persoonsgegevens (AP). Op dit moment schiet de registratie tekort, waardoor het volgens de privacytoezichthouder voor burgers vaak niet duidelijk is waarvoor en hoe organisaties AI en algoritmes gebruiken. Eind 2022 werd het Algoritmeregister van de Nederlandse overheid gelanceerd.
In totaal zijn er sindsdien duizend algoritmes in het register opgenomen. De meeste overheidsorganisaties ontbreken echter, aldus de AP. "Meer dan de helft van de gemeenten heeft nog geen algoritmes geregistreerd. Van de zelfstandige bestuursorganen heeft meer dan driekwart helemaal niets geregistreerd. Bij bijna alle geregistreerde algoritmes ontbreekt een grondrechtenbeoordeling. Die is maar in 5 procent van de gevallen gedaan."
De privacytoezichthouder stelt dat met duizend geregistreerde algoritmes de pioniersfase voorbij is en er een volgende stap moet worden gezet. Om die te bereiken wil de AP een registratieplicht voor overheidsorganisaties instellen. "Een compleet algoritmeregister is de basis voor transparantie, bescherming van grondrechten, uitlegbaarheid en controleerbaarheid bij de inzet van algoritmes en AI", aldus de toezichthouder.
Dat zijn er erg weinig. Een algoritme is een serie van bewerkingen en bijna alle financiële zaken zijn op algoritmes opgebouwd. Het begint al bij een simpel kassabonnetje bij de supermarkt waar je prijzen met aantallen vermenigvuldigd en dan optelt en over de som nog btw berekend.
De vraag is dan of elk filiaal dit algoritme moet registreren, of dat een concern dit moet registreren, of dat je kunt verwijzen naar het register als iemand anders dit algoritme al geregistreerd heeft.
Volgens mij zijn ze gek geworden bij de overheid met al deze toegevoegde bureaucratie. Volgens mij hadden ze de kamer beloofd om juist de bureaucratie terug te dringen.
Het lijkt me echter dat een ontwikkelproject deze registratie opvat als de documentatie-bij-afronding fase, vlak na de acceptatietest-onder-tijdsdruk fase. Bij de volgende onderhoudsprojecten ijlt de registerbeschrijving na, wedden? M.a.w. een algoritmeregister dat niet gekoppeld in aan de broncode uit het project, zegt niet zoveel over wat een systeem werkelijk doet. Vergelijkbaar wellicht met de beschikbare broncode van Microsoft Windows in Brussel, dat geen garantie geeft dat die software gecompileerd is en uitgeleverd is bij installatie.
Ik zie dat het AP het alleen over de kwantiteit heeft en niet over de kwaliteit van de registraties.
Als ik als onderdeel van de overheid afgerekend wordt op de kwantiteit van mijn registraties, dat zou ik ook beginnen met het maken van meters door met de eenvoudige algoritmes te beginnen. b.v. hoeveel straatklinkers je moet bestellen per m2 aan te leggen straat, rekening houdende met extra verlies per bocht of kromming in de weg. Algoritmes worden echt overal gebruikt.
Overigens snap ik de opmerking "waaronder hoog risico AI-systemen" niet helemaal. Essentie van AI is dat er juist geen algoritme aan ten grondslag ligt, maar het vooral een blackbox betreft waar alleen de uitkomst telt.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Cybersecurity Trainer / Full Stack Developer
Ben je toe aan een nieuwe job waarmee je het verschil maakt? Wil jij je security kennis graag delen en hands-on laten zien hoe cybersecurity in de praktijk echt werkt? Werk je net als wij graag samen met enthousiaste en gedreven collega's? Bij ons geen bureaucratie maar open communicatie en een werkomgeving gericht op samenwerking.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?