Autoriteit Persoonsgegevens wil verplicht algoritmeregister voor publieke sector
De Autoriteit Persoonsgegevens (AP) wil dat publieke organisaties worden verplicht om de algoritmes die ze gebruiken te registreren in het algoritmeregister (pdf). Er wordt al jaren over een dergelijke verplichting gesproken, maar die is er nog altijd niet, tot onvrede van de privacytoezichthouder. Eind 2022 verscheen het algoritmeregister online, dat op het moment van schrijven 1369 algoritmes bevat. Via het register publiceren overheden informatie over hun algoritmes, zodat die kunnen worden gecontroleerd op discriminatie en willekeur.
Volgens de AP schiet de huidige opzet tekort, omdat deelname grotendeels vrijwillig is. "Registratie en transparantie ontwikkelt onvoldoende. Nog te veel Nederlandse toepassingen zijn onvoldoende transparant. En registratie is amper of niet verplicht, daarom is maar een selectie van algoritmes geregistreerd en publiek te raadplegen", aldus de toezichthouder. Er wordt al jaren gesproken over een verplichting voor publieke organisaties om gebruikte algoritmes te registreren, maar dit is nog altijd niet gerealiseerd.
Een verplichting zou volgens de AP zowel de kwantiteit als de kwaliteit van de geregistreerde impactvolle algoritmes aanzienlijk kunnen verbeteren. "Dit is essentieel om het register daadwerkelijk te laten functioneren als instrument voor transparantie, verantwoording en toezicht op systemen die ingrijpen in het leven van burgers." De privacytoezichthouder roept het kabinet op om een verplichting tot algoritmeregistratie in het regeerakkoord op te nemen en deze met prioriteit uit te werken.
Dat men het woord algoritme voor zelflerende systemen en AI gebruikt is een poosje stevig gehypet maar twijfelachtig. Ik zou niet wat zo'n systeem door "training" "geleerd" heeft als een algoritme bestempelen, maar als de data waar het algoritme mee werkt, en dan is het algoritme de vaste code van het AI-systeem die helemaal niet het resultaat is van dat trainingsproces.
En zelfs als je ervoor kiest om dat wel een algoritme te noemen, doe dan niet alsof de oorspronkelijke betekenis van het woord daarmee vervallen is. Ik betwijfel bijvoorbeeld ernstig of de bedoeling van dat algoritmeregister is om te vermelden of je quicksort of een ander sorteeralgoritme inzet om iets op volgorde te leggen. Het is geen goed idee dat een algemene term voor iets bijzonders wordt gekaapt. Doe dan de moeite om een goede term voor dat bijzondere te verzinnen.
Volgens mij moeten we simpelweg vereenvoudigen. Als er complexe algoritmes nodig zijn om wetgeving tot uitvoering te brengen is het geen goede wetgeving.
De AP maakt dit onderscheid zelf al en heeft het over "bepaalde typen algoritmen" waarvoor een verplichting zou moeten komen. Bovendien kent het huidige Algoritmeregister al een definitie voor impactvolle algoritmen, waarvoor het register bedoeld is. Dat wordt gedefinieerd als hoog risico AI-systeem volgende de definitie van de AI Act, algoritmen met directe rechtsgevolgen voor betrokkenen en algoritmen die beïnvloeden hoe de overheid betrokkenen of een groep definieert.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Functionaris Gegevensbescherming
Ben jij die onafhankelijke expert die privacy naar een hoger plan tilt? Als Functionaris Gegevensbescherming (FG) krijg je bij ons een unieke uitdaging: jij bent hét toezichthoudend én adviserend geweten op privacygebied voor maar liefst vier gemeenten: Venray, Peel en Maas, Horst aan de Maas en Beesel.
Digital Designer
Ben jij een Grafisch vormgever, UI/UX-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, en op zoek naar een unieke en uitdagende baan waar je al je creativiteit in kwijt kan? Dan ben je bij Certified Secure aan het juiste adres! Je werkt samen met onze security developers aan onze Gamified Cybersecurity Challenges.