image

SP wil onderzoek naar gebruik algoritmes door decentrale overheden

woensdag 22 december 2021, 12:59 door Redactie, 12 reacties

De SP heeft demissionair minister Ollongren van Binnenlandse Zaken gevraagd om een onderzoek uit te voeren naar het gebruik van algoritmes door decentrale overheden zoals gemeenten en provincies. Vorige week meldde het programma Argos hoe de gemeente Rotterdam een algoritme gebruikt om bijstandsfraude te voorspellen en kende jarenlang risicoscores toe op basis van bijvoorbeeld geslacht, woonwijk, taal en zelfs indicaties van psychische en financiële problemen.

Naast de vraag of de minister onderzoek wil doen naar welke gemeenten en provincies soortgelijke algoritmes gebruiken en met welk doel, wil SP-Kamerlid Leijten ook weten welke bedrijven of instanties deze algoritmes voor overheidsinstanties ontwikkelen en aan welke regels en voorwaarden algoritmes moeten voldoen als deze gebruikt worden door decentrale overheden en andere overheidsinstanties.

"Op welke manieren wordt er door gemeenten of andere overheden getoetst of het gebruik van een dergelijk algoritme de meest proportionele maatregel is ten aanzien van andere maatregelen? Is een dergelijke toetsing verplicht? Zo nee, waarom niet?", vraagt Leijten verder. Ollongren moet daarnaast duidelijk maken of gemeenten en andere overheden verplicht zijn om burgers te informeren dat zij onderwerp zijn van een fraudeonderzoek op basis van een resultaat van een algoritme.

Als laatste wil het SP-Kamerlid weten of de minister het gerechtvaardigd vindt dat gemeenten of andere decentrale overheden algoritmes gebruiken gebaseerd op kenmerken als woonplaats, leeftijd, geslacht, levensovertuiging, burgerlijke staat of etnische achtergrond. Ollongren heeft drie weken om met een reactie te komen. Vorige week werd bekend dat het nieuwe kabinet vanaf volgend jaar 1 miljoen euro uitrekt voor een algoritmetoezichthouder. Een bedrag dat in 2026 3,6 miljoen euro zal bedragen.

Reacties (12)
22-12-2021, 13:37 door Anoniem
Goede vragen van mevrouw Leijten. Terecht om hier zorgen over te hebben, vooral als deze algoritmen ook nog eens zelflerend zijn. Andere kamerleden kunnen nog wat leren van dit soort vragen. Dit zijn vragen die over de kern van een écht probleem/risico gaan, niet over een specifiek onderwerp dat toevallig veel media-aandacht heeft. Zie de tenenkrommende vragen van kamerlid Rajkowski (https://www.security.nl/posting/735146/VVD+wil+opheldering+over+schade+en+aanpak+Log4j-lek+en+vraagt+om+alternatieven)
22-12-2021, 13:43 door Anoniem
een algoritme gebruikt om bijstandsfraude te voorspellen en kende jarenlang risicoscores toe op basis van bijvoorbeeld geslacht, woonwijk, taal en zelfs indicaties van psychische en financiële problemen.

Serieus, welke pinda heeft dit nu weer bedacht?
22-12-2021, 13:49 door Bitje-scheef
Je zou toch verwachten dat als men constateert dat de belastingdienst zo groots de fout is ingegaan er toch meer belletjes moeten gaan rinkelen.
22-12-2021, 14:54 door Anoniem
Door Bitje-scheef: Je zou toch verwachten dat als men constateert dat de belastingdienst zo groots de fout is ingegaan er toch meer belletjes moeten gaan rinkelen.
Door Bitje-scheef: Je zou toch verwachten dat als men constateert dat de belastingdienst zo groots de fout is ingegaan er toch meer belletjes moeten gaan rinkelen.

Kamerleden kunnen dit soort(terechte) vragen wel stellen en de Regering kan dan wel onderzoek toezeggen,maar men moet niet verwachten dat daar in de pandemie en de tijd daarna waarin allerlei problemen moeten worden aangepakt,dat een regering de rijd en manschappen(ambtenaren) heeft om dit soort vragen te laten onderzoeken.
Vanuirt de goede wil zegt men dat toe,maar de uivoering....
Daarom loopt het met de afwikkeling van de aardbevingschade en toeslagaffaire zo slecht.
Wij hebben een systeem wat zo ingewikkeld is en wij willen zoveel(teveel) als land dat we steeds meer haperingen zullen zien.
En wij hebben geen geduld meer.
Een kamer kan wel allerlei moties indienen(vaak meer om als partij te scoren)
of vragen stellen of eisen etc maar de kwaliteit van een gemiddeld kamerlid laat zeer te wensen over en ze zijn te jong,zitten te kort enz.
Kees v.d. Staaij is bijvoorbeeld goed omdat deze man zijn dossiers goed kent.
Dus dit alles gaat steeds meer spaak lopen.
22-12-2021, 15:00 door Anoniem
Sorry, dat ik het zeg maar als Rutte zo maar uit het vuistje tig miljarden toekent aan stikstof bestrijding.

Zie ook de tweet van Caroline van der Plas. Dan verliest het kabinet grof aan geloofwaardigheid.

https://twitter.com/i/status/1471882788727148556

25 miljard gereserveerd voor stikstof zonder duidelijk plan en dan algoritmen los laten op burgers.

Sorry hoor. Trek uw conclusies.

Als ik zo een budget zou willen bij een ICT project dan zeggen.
22-12-2021, 17:05 door Anoniem
anoniem 15:00: vervolg =>

Als ik zo een budget zou aanvragen voor een ICT project dan zeggen ze direct, ga maar ergens anders werken. Of ze nemen me nooit meer serieus.
22-12-2021, 17:38 door Anoniem
Een oneerlijk systeem

oude bijstandsregels vs participatiewet 2015

Schaf de bijstand af !

Basisinkomen/basisbaan vs bijstand
ze gebruiken gruwelijke systemen en algoritmes
om je op te sporen de middelen als je bijstand aanvraagt,
dan weet je wat je aanvraagt,stress,controle,uitbuiting,boetes noem
het maar op.

NLNU2021
22-12-2021, 18:09 door Anoniem
Grapje: "Stikstof - Ahum. Je zou het er bijna benauwd van krijgen".
Maar een bak vo met recente toeslagen affaire ellende zou toch dwingen tot een heroverweging of tenminste wat terughoudendheid. Maar neen hoor, men gaat door met meer van het eerder tevergeefs beproefde.

Geen medelijden mee als het voor betrokkenen verkeerd gaat.
Wie niet luisteren wil, moet doorgaans later "voelen" en dat geldt ook voor arrogante autoritaire overheden.
What comes around will go around. No matter what. Gevalletje karma-uitwerking.
22-12-2021, 19:27 door karma4 - Bijgewerkt: 22-12-2021, 19:30
Naast de vraag of de minister onderzoek wil doen naar welke gemeenten en provincies soortgelijke algoritmes gebruiken en met welk doel, wil SP-Kamerlid Leijten ook weten welke bedrijven of instanties deze algoritmes voor overheidsinstanties ontwikkelen en aan welke regels en voorwaarden algoritmes moeten voldoen als deze gebruikt worden door decentrale overheden en andere overheidsinstanties.
He algoritme van de SP om iedereen die ze aardig vrij geld te geven ("hertstel operatie toeslagen) is discriminerend voor wie net buiten de doelgroep valt. Intussen lopen de bedragen gieren uit de klauwen omdat men liever geld weggeeft dan de waarheid te onderzoeken. Er zal ooit een nieuwe parlementaire komen hoe dat allemaal heeft kunnen gebeuren,

Door Bitje-scheef: Je zou toch verwachten dat als men constateert dat de belastingdienst zo groots de fout is ingegaan er toch meer belletjes moeten gaan rinkelen.
Als je er in zou verdiepen is de echte fout inde kamers door politici gemaakt. Wetgeving die niet uit te voeren valt en dan maar een andere instantie aanwijzen in de hoop dat die er wel iets mee kunnen. De ander grootste fout is het meelopen op media hypes. De ene dag dat de volgende het tegenovergestelde, dat werkt ondermijnend.
22-12-2021, 19:44 door Anoniem
Is dat Argos item geen oud nieuws, paar jaar geleden is Rotterdam aangesproken en gestopt met Syri? Dit soort buitenissige probeersels geeft het gebruik van geautomatiseerde data-analyse een slechte naam. Opsporen en aanpakken van fraude is belangrijk, door data-analyse te automatiseren en daarna een fraudeonderzoeker met de resultaten aan het werk te zetten verbetert de opsporing.
Een 'niet te complex algoritme' kun je nog toetsen, de bias van een fraudeonderzoeker niet. Ik benijd zo'n fraudeonderzoeker niet, je zal maar iemand aan moeten spreken obv het resultaat van een algoritme...
verstandig om enig toezicht in te richten om al te enthousiaste organisaties te behoeden voor frivole experimenten met persoonsgegevens. Maar laat het niet doorslaan.
23-12-2021, 03:35 door Anoniem
Door Anoniem: Is dat Argos item geen oud nieuws, paar jaar geleden is Rotterdam aangesproken en gestopt met Syri? Dit soort buitenissige probeersels geeft het gebruik van geautomatiseerde data-analyse een slechte naam. Opsporen en aanpakken van fraude is belangrijk, door data-analyse te automatiseren en daarna een fraudeonderzoeker met de resultaten aan het werk te zetten verbetert de opsporing.
Een 'niet te complex algoritme' kun je nog toetsen, de bias van een fraudeonderzoeker niet. Ik benijd zo'n fraudeonderzoeker niet, je zal maar iemand aan moeten spreken obv het resultaat van een algoritme...
verstandig om enig toezicht in te richten om al te enthousiaste organisaties te behoeden voor frivole experimenten met persoonsgegevens. Maar laat het niet doorslaan.

Dit soort "buitenissige probeersels" gaan landelijk uitgerold worden en beslist niet alleen voor bijstandsgerechtigden.
Al bekend met Super SyRI? SyRI in het kwadraat, oftewel De Wet Gegevensverwerking door Samenwerkingsverbanden (WGS) ligt al bij de Eerste Kamer en recent heeft de Raad van State, na een behoorlijke draai, positief geadviseerd.
https://bijvoorbaatverdacht.nl/raad-van-state-ten-onrechte-positief-over-super-syri/
27-12-2021, 15:49 door Anoniem
van mij mogen dan meteen de OSV-algoritmes worden onderzocht die alle lokale kieskringen ter beschikking krijgen gesteld voor inzet bij verkiezingen.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.