Kabinet heeft geen zicht op hoog-risico algoritmes gebruikt door Rijksoverheid
Het kabinet heeft geen zicht op de 'hoog-risico' algoritmes die binnen de Rijksoverheid worden gebruikt, zo heeft demissionair staatssecretaris Van Huffelen van Digitalisering laten weten. Wel hoopt de regering dat het vorig jaar gelanceerde Algoritmeregister in 2025 volledig gevuld te hebben met algoritmes die zijn aangemerkt als 'hoog-risico'. Sinds de opening van het register is de website door tienduizend mensen bezocht. Via het register publiceren overheden informatie over hun algoritmes, zodat die kunnen worden gecontroleerd op discriminatie en willekeur.
"Het Algoritmeregister levert een belangrijke bijdrage aan het transparant en uitlegbaar maken van de toepassing en uitkomst van algoritmes. Zo kunnen burgers, maatschappelijke organisaties en media de overheid kritisch volgen en bevragen en controleren of zij zich aan de regels houdt", zo laat het register zelf weten. Bij de lancering in december 2022 stonden er 109 algoritmes op de website. Dat zijn er inmiddels 255.
"Het Algoritmeregister zoals het er nu is, is eigenlijk een wassen neus", stelde onderzoeker Iris Muis van de Data School van de Universiteit Utrecht eerder dit jaar tegenover de NOS. "Ten eerste vullen lang niet alle instanties het register in en als ze het wel invullen, blijft er veel onduidelijk." Volgens Van Huffelen is bij een aantal algoritmen nog niet alle velden ingevuld. Een aantal organisaties heeft dit al verbeterd. Anderen hebben aangegeven hiermee aan de slag te gaan.
De staatssecretaris stelt dat ze overheden actief wijst op het publiceren van algoritmes en ook haar collega's in het kabinet erop aanspreekt. "Het inventariseren, beleggen van verantwoordelijkheden en het uiteindelijke registreren kost echter tijd en capaciteit voor overheidsorganisaties, omdat dit zorgvuldig moet en tot een toegankelijk resultaat moet leiden. De ambitie is om het Algoritmeregister in 2025 volledig gevuld te hebben met alle algoritmen die voldoen aan de definitie van hoog-risico AI."
D66 had Van Huffelen Kamervragen over het register gesteld en wilde onder andere weten hoeveel hoog-risico algoritmen er binnen de Rijksoverheid worden ingezet. "Daar is momenteel geen zicht op. De vulling van het Algoritmeregister moet daar inzicht in gaan geven", antwoordt de staatssecretaris (pdf).
Met enige moraal is het allemaal niet nodig.
maar toch vinden ze het niet belangrijk om onze privacy te waarborgen?
Dat gaat natuurlijk vroeg of laat heel erg fout...
kondig aan dat alle algorithmes verboden zijn die na 1 juli 2024 niet correct geregistreerd zijn.
nb dat kan best ver gaan want bv 21% btw heffing bevat al een (laag risico ) algorithme want er is een bewerking / transformatie.
maar er is nog ruim een half jaar beschikbaar om even af te ronden wat al ver onderweg was toch?.....
maar toch vinden ze het niet belangrijk om onze privacy te waarborgen?
Dat gaat natuurlijk vroeg of laat heel erg fout...
Ehm. De toeslagenaffaire?
Of moet het nog een (paar) keer fout gaan.
Nee hoor, als de overheid haar zaken hieromtrent namelijk netjes had geregeld, zoals fatsoenlijke governance inrichten en verantwoordelijkheden beleggen enzo, dan was dit geen enkel probleem geweest.
Maar "verantwoordelijkheid" is een erg vies woord in onze overheid en met name bij dit soort knutsel projecten.
Waarschijnlijk komen ze er allemaal achter dat ze helemaal vol zitten met hoog risico algorithmes en/of zijn ze nu heel hard notaatjes aan het bedenken om er mar voor te zorgen dat hun speelgoed vooral geen hoog risico implementatie is.
Advies aan de redactie hier: WOO verzoeken indienen over de besluitvorming en alle achterliggende nota's, speciaal die gemarkeerd zijn als concept, over al die algorithmes.
En aan een ieder die dit leest: weet jij van algorithmes die er, nog, niet op staan? Meldt ze bij de redactie van security.nl (anoniem natuurlijk en vooral niet vanaf je overheidswerkplek).
Daarnaast ben ik benieuwd wat die AI Act voor effect gaat opleveren. Gaat dat net zo als de QWAC discussie (art. 45 eIDAS 2.0 verordening) waarbij de overheid Mozilla wegzet als leugenaars omdat het een nogal ongemakkelijk feitje is dat ze eigenlijk gelijk hebben?
Voor zover ik weet is er ook geen wettelijke verplichting om algoritmes te registreren, en is het vullen van het register op initiatief van de verschillende Ministeries binnen de Rijksoverheid. Het is bemoedigend om te lezen dat er sinds de relatief korte levensduur al meer dan 250 algoritmes hebben gepubliceerd. Dat moet een heleboel Woo-verzoeken (en daarop wachten) schelen.
Merk op dat het ogenschijnlijk lage aantal algoritmes misschien niet veel lijkt, maar dat het voor een deel te verklaren is doordat ICT binnen de Rijksoverheid problematisch is. Er wordt veel met kantoorapplicaties gewerkt en nog meer op papier. En de focus in dit bericht ligt vooral op AI-algoritmen, die gelabeld zijn als 'hoog risico'.
En dan moet je bedenken dat de definitie voor 'hoog risico' in de AI Verordening staat waar pas gisteren een akkoord over is bereikt. (https://ecer.minbuza.nl/-/europees-parlement-en-raad-bereiken-politiek-akkoord-over-nieuwe-ai-verordening)
Het is nog niet eens van kracht, er moet eerst nog door het Europees Parlement over worden goedgekeurd.
En als je dan kijkt naar wat het inhoudt: "De AI Verordening stelt vast wat hoog risico AI is. Dit zijn vaak producten die
nauw te maken hebben met fundamentele rechten en/of productveiligheid. Denk hierbij bijvoorbeeld aan AI in vliegtuigen, vaartuigen, voertuigen, rails, wegverkeer, vliegnavigatie en drinkwatertoevoer."
De meeste raakvlakken zijn met sectoren buiten de Rijksoverheid, waar wel wordt gereguleerd maar die niet direct betrekking hebben op de Rijksoverheid zelf, waar het register voor is.
Momenteel loopt het register met 257 netjes registreerde en gepubliceerd algoritmes aardig op de troepen vooruit. Dergelijke acties verdienen aanmoedigen en verdienen het gestimuleerd te worden.
En dus niet een nieuwigheidje dat alleen bij AI, of eerder machine learning wordt toegepast.
Het gaat er om dat er in programma's besluiten worden gemaakt adhv variabelen die een bepaalde puntenscore heeft. Een mens/burger/bsn-nummer wordt opgedeeld in variabele die van toepassing zijn op dat unieke mens-nummer. Daaonder zijn er bv ook de 'gevoelige'variabele als :
autochtoon (true/false)
land van herkomst
dubbele nationaliteit
En nu wil de overheid een overzicht van alle beslisbomen die worden toegepast en de hoog-risico eruit filteren, en doen alsof hun neus bloed om vol te houden dat dit ook gaat lukken!Wat inhoud dat álle programmatuur in gebruik door alle overheidsdiensten (+ uwv + banken en andere indirecte overheid) doorgelicht zou moeten worden. LOL
Nog erger, als zo'n stukje programmacode met variabelen en beslisbomen klaar is, is het een 'blackbox' waarbij je iets instopt en er iets uitkomt. En al die databases met variablen en alle uitkomsten van verschillende blackboxen worden -zoals met syri- aan elkaar geknoopt om daar weer beslisbomen op los te laten.
Dit is als niet-toepasbaar verklaard door de rechter en dan doopt de overheid het om naar supersyri en blijven daardoor -wenselijk- hangen met de output "computer says No"
Een wassen neus dat van Huffelen alle hoog-risico (lees stinkende) algoritmes geïnventariseerd wil hebben om te bepalen of ze het daglicht (nog) wel verdragen.
Ze kunnen in het belastingssysteem wel heel snel schakelen als ze ergens de btw voor willen verhogen, maar als het om verlagen gaat dan is het opééns ingewikkeld en complex!
En dan wél 'alle software' door willen lichten op foute hoog-risico algoritmes!!??
Hypocriete kwalitatief uitermate teleurstellende politici!
autochtoon (true/false)
land van herkomst
dubbele nationaliteit
Ben ik ooit tegengekomen in een onderzoeksrapport van een door de gemeente ingehuurde keuringspsycholoog (voor een bepaalde levensonderhoudsuitkering).
Zie: https://www.bertelsmann-stiftung.de/en/our-projects/ethics-of-algorithms
#laufer
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
IT Security Officer
Utrecht heeft jou nodig! Als Information Security Officer vertaal je beleid naar technische uitvoering. Dit is cruciaal voor het waarborgen van de informatiebeveiliging van onze inwoners. Je krijgt de kans om betrokken te zijn bij complexe projecten met de nieuwste technologieën en kunt jouw stempel drukken op innovatie. Solliciteer nu!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Cyber Security Trainer
"You know that feeling after you have been to the cinema and seen an exciting movie? It's the same after this training. I can only say that this is probably the BEST TRAINING that I've ever done!!!”
Are you ready for a challenge?
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.