Dat zijn er erg weinig. Een algoritme is een serie van bewerkingen en bijna alle financiële zaken zijn op algoritmes opgebouwd. Het begint al bij een simpel kassabonnetje bij de supermarkt waar je prijzen met aantallen vermenigvuldigd en dan optelt en over de som nog btw berekend.

De vraag is dan of elk filiaal dit algoritme moet registreren, of dat een concern dit moet registreren, of dat je kunt verwijzen naar het register als iemand anders dit algoritme al geregistreerd heeft.

Volgens mij zijn ze gek geworden bij de overheid met al deze toegevoegde bureaucratie. Volgens mij hadden ze de kamer beloofd om juist de bureaucratie terug te dringen.

De scope van dit register is vaag omschreven. We gaan niet elke spreadsheetberekening melden, toch? Ik zie Dit is meer in lijn met verwachtingen. Enge AI algoritmes die invloed hebben op levens van Nederlanders, willen de burgers kunnen nakijken als ze zich benadeeld voelen.

Het lijkt me echter dat een ontwikkelproject deze registratie opvat als de documentatie-bij-afronding fase, vlak na de acceptatietest-onder-tijdsdruk fase. Bij de volgende onderhoudsprojecten ijlt de registerbeschrijving na, wedden? M.a.w. een algoritmeregister dat niet gekoppeld in aan de broncode uit het project, zegt niet zoveel over wat een systeem werkelijk doet. Vergelijkbaar wellicht met de beschikbare broncode van Microsoft Windows in Brussel, dat geen garantie geeft dat die software gecompileerd is en uitgeleverd is bij installatie.

De belastingdienst ontloopt boetes en het AP legt niet op. Dus het AP kan zeggen wat het wil maar de overheid gaat fluitend door.

Ik zie dat het AP het alleen over de kwantiteit heeft en niet over de kwaliteit van de registraties.

Als ik als onderdeel van de overheid afgerekend wordt op de kwantiteit van mijn registraties, dat zou ik ook beginnen met het maken van meters door met de eenvoudige algoritmes te beginnen. b.v. hoeveel straatklinkers je moet bestellen per m2 aan te leggen straat, rekening houdende met extra verlies per bocht of kromming in de weg. Algoritmes worden echt overal gebruikt.

Overigens snap ik de opmerking "waaronder hoog risico AI-systemen" niet helemaal. Essentie van AI is dat er juist geen algoritme aan ten grondslag ligt, maar het vooral een blackbox betreft waar alleen de uitkomst telt.

En hoe zit het met particulieren en hun instapmodelletje kwantumcomputer? Niet onbelangrijk.

Dat is niet waar. Zie bijvoorbeeld pagina 2, laatste kopje. Ten opzichte van vorige publicaties gaat de AP juist beter in op de kwaliteit.

In de berichtgeving over AI in de laatste jaren hebben de nieuwsmedia heel druk over algoritmes bericht alsof dat een term is die uitsluitend gaat over wat AI-systemen doen. Ik was dus benieuwd wat AP eigenlijk bedoelt als ze het over algoritmes hebben.

Hier beschrijven ze een algoritme alsof er per definitie trainingsdata aan ten grondslag ligt, ze bekijken het door de AI-bril dus:

Hier geven ze juist aan dat het breder is dan alleen AI:

Dat wekt niet de indruk dat ze zelf goed op een rijtje hebben waar ze het nou eigenlijk over hebben. Als je zelf je boodschap niet helder hebt kan je er gif op innemen dat die ook niet helder overkomt op anderen.

En deze formulering vind ik ook veelzeggend:

Computerprogramma's gebruiken geen algoritmes, ze zijn de implementaties van algoritmes in een vorm die een computer kan verwerken. Een processor voert uiteindelijk domweg instructies uit en zo'n verzameling instructies is per definitie een algoritme. En zelfs als een ontwikkelaar in een IDE een knopje naar een formulier sleept, in de properties invult wat voor tekst erop staat en welke routine moet worden aangeroepen als de gebruiker erop klikt, dan is dat een high-level specificatie van code die uiteindelijk als machinetaalinstructies door de processor wordt uitgevoerd. Nog steeds algoritmes dus.

Het document van AP had een duidelijke definitie kunnen gebruiken van wat een algoritme is, en een veel betere afbakening van wat voor algoritmes wel en niet relevant zijn voor deze registers. Niemand hoeft zich druk te maken om een sorteeralgoritme dat ergens in een standaard-library zit; dat is generiek maar wel degelijk een algoritme. Het gaat hier om verwerkingen van gegevens over anderen of die anderen kunnen raken.

De afbakening ontbreekt gelukkig niet helemaal, die zit wel weer in het advies van AP om een doel voor de algoritmeregistratie te formuleren en dan te inventariseren welke algoritmes binnen dat doel vallen. Maar ik denk dat ze hun boodschap duidelijker hadden kunnen formuleren als ze om te beginnen scherp hadden geformuleerd waar ze het eigenlijk over hebben. In plaats daarvan zijn ze het woord "algoritme" domweg gaan gebruiken alsof het geen definitie behoeft. Voor "AI" geldt dat trouwens ook.

Mensen kunnen ontzettend goed om dingen heen lullen die ze zelf niet goed op een rijtje hebben, en dat zie ik hier gebeuren. Jammer, dat is niet hoe je een boodschap duidelijk overbrengt, daarvoor moet je zelf eerst duidelijk op een rijtje hebben waar je het eigenlijk over hebt.

Waarom verwachten ze dat elke organisatie hoog risico algoritmes gebruikt? Waarschijnlijk heeft 99% van de 50% van de gemeentes en 75% van de zbo's geen hoog risico algoritme opgegeven, omdat ze die gewoonweg niet gebruiken en met de toeslagenaffaire in het achterhoofd ook terughoudend in het gebruik zijn.

AP, ze hebben nu al personeel te weinig om hun privacy functie uit te voeren. Waarom de overheid? Dat is de makkelijkste melkkoe, de echte privacy criminelen betalen toch niet want die hebben meer budget voor hun advocaat dan de AP in een jaar. Waarom dan toch? Ze ruiken geld. Dus eerst registratie verplicht, dan gaat de kassa rinkelen.

Jij hebt hem door. Totale big brother insteek bij de overheid in dit geval de AP. Ze hebben geen echt idee over wat privacy is maar dan kunnen ze er alles onder plaatsen voor een uitdijend groeiend monster

Het register bestaat al jaren: https://algoritmes.overheid.nl/nl.
Misschien nog niet de verplichting om ze te registreren, zou wel mooi zijn in kader Open Overheid (https://www.open-overheid.nl/)

Een algoritmeregister van een overheidsorganisatie valt onder de bescherming van de Archiefwet 1995. Dat betekent dat het register en de inhoud daarvan opgenomen moet worden in een selectielijst met de wettelijke bewaartermijnen (Artikel 5).

Voor een algoritme van een overheidsorgaan geldt dezelfde regel. Alleen zijn de bewaartermijnen van een algoritme en de versies daarvan te koppelen aan de bewaartermijnen die gelden voor de processen waarbinnen deze algoritmes gebruikt worden. Dit om reconstructie van zaken en verantwoording daarover mogelijk te maken.

In het kader van de goede, geordende en toegankelijke staat van documenten en gegevens (Archiefwet artikel 3) is alles goed te registreren. Heet tegenwoordig ook wel duurzame toegankelijkheid.

Artikel 3: https://wetten.overheid.nl/jci1.3:c:BWBR0007376&hoofdstuk=II&artikel=3&z=2024-06-19&g=2024-06-19
Artikel 5: https://wetten.overheid.nl/jci1.3:c:BWBR0007376&hoofdstuk=II&artikel=5&z=2024-06-19&g=2024-06-19

Dit heeft niets met big brother te maken, als in 2030 blijkt dat een algoritme, berekening in dit jaar een issue had, dan moet evt opnieuw gereproduceerd worden voor onderzoek.
Er is wel degelijk een goed idee over wat privacy is bij de overheid, en een nog beter idee hoe er omheen te werken.
Bv door het AP te klein te houden, overheidsonderdelen niet in de houding te zetten, klokkenluiders te dwarsbomen, en ondanks bezwaren stug volharden in fouten, waaronder toeslagen affaire, politie dossiers en wat nog boven water moet komen.