image

SP vraagt minister om verbod van ongetoetste voorspellende algoritmes

donderdag 2 juni 2022, 14:45 door Redactie, 6 reacties

De SP heeft minister Bruins Slot van Binnenlandse Zaken gevraagd om het gebruik van ongetoetste voorspellende algoritmes door gemeenten te verbieden. Ook wil de partij opheldering over de naleving van de AVG door Nederlandse gemeenten. Aanleiding is onderzoek van burgerrechtenbeweging Bits of Freedom dat gemeenten zich onvoldoende aan de privacywet houden.

"Bent u bereid om gemeenten te verbieden gebruik te maken van voorspellende algoritmes zo lang deze niet getoetst zijn en de rechtsbescherming van mensen niet gewaarborgd kan worden? Zo nee, waarom niet?", vraagt SP-Kamerlid Leijten aan de minister. Bruins Slot moet ook laten weten of ze het gevaar ziet van gemeenten die wel gebruikmaken van algoritmes en data om fraude op te sporen, maar tegelijkertijd de gegevensbescherming niet op orde hebben.

Leijten wil tevens duidelijkheid of de minister de signalen herkent dat gemeenten hun informatiehuishouding slecht op orde hebben en in hoeverre zij toezicht houdt op de mate van kwaliteit van gegevensbescherming bij gemeenten. "Kunt u toelichten wat de mogelijkheden zijn tot handhaving zodat gemeenten de gegevensbescherming van mensen op orde krijgen?", vraagt het SP-Kamerlid verder.

Bruins Slot moet ook verklaren hoe het kan dat gemeenten te weinig middelen vrijmaken voor gegevensbescherming en of er onderzoek gedaan is naar de vraag in welke mate lokale volksvertegenwoordigers in staat zijn om hun controlerende taak op dit gebied uit te voeren. De minister heeft drie weken om de vragen te beantwoorden.

Reacties (6)
02-06-2022, 15:01 door Anoniem
Zullen we afspreken dat ze het WEL mogen, maar pas NADAT ze alle andere IT in orde gemaakt hebben?
02-06-2022, 17:01 door karma4
Zo voorspelbaar de reactie van de SP helaas is het wel ongetoetst.
Ze mogen niets meer eisen rond AI voordat ze het zelf intern op orde hebben. Dat lijkt me beter dan wilde niet onderbouwde eisen

Overigens was de basis van statistiek ooit standaard algemene lesstof. Wat is er mis bij de SP dat ze dat missen?
02-06-2022, 21:23 door Anoniem
Gemeenten zouden sowieso geen beslissingen over mensen mogen nemen op grond van "voorspellende algoritmen". Algoritmen voorspellen trouwens helemaal niks, ze produceren alleen het resultaat van een machinale calculatie. Het zijn mensen, in dit geval ambtenaren, die dat omzetten in een "voorspelling".
Gemeenten moeten hun besluiten motiveren. Die motivering mag nooit zijn: "We besluiten dit omdat dit de uitkomst is van ons algoritme".
En bijvoorbeeld ook niet: "We besluiten uw uitkering te verlagen omdat we voorspellen dat u binnenkort de regels zult overtreden."
Of: "We besluiten u een boete op te leggen omdat volgens ons algoritme de kans 70% is dat u een overtreding hebt begaan, zolang u het tegendeel niet hebt bewezen."

Dus goede vragen van de SP. Ik vind de SP op dit punt de laatste tijd wel goed bezig.
03-06-2022, 10:34 door Anoniem
Tjee, Minority Report was toch een sciencefiction film, of was 't de tv-serie DeVs waar ze zo geïnspireerd door waren; Die gekke ambtenaren toch, denken met wat data en vage algoritmetjes een glazen bol in bezit te hebben!
03-06-2022, 13:50 door Anoniem
Door Anoniem: Gemeenten zouden sowieso geen beslissingen over mensen mogen nemen op grond van "voorspellende algoritmen". Algoritmen voorspellen trouwens helemaal niks, ze produceren alleen het resultaat van een machinale calculatie. Het zijn mensen, in dit geval ambtenaren, die dat omzetten in een "voorspelling".
Gemeenten moeten hun besluiten motiveren. Die motivering mag nooit zijn: "We besluiten dit omdat dit de uitkomst is van ons algoritme".
En bijvoorbeeld ook niet: "We besluiten uw uitkering te verlagen omdat we voorspellen dat u binnenkort de regels zult overtreden."
Of: "We besluiten u een boete op te leggen omdat volgens ons algoritme de kans 70% is dat u een overtreding hebt begaan, zolang u het tegendeel niet hebt bewezen."

Dus goede vragen van de SP. Ik vind de SP op dit punt de laatste tijd wel goed bezig.
Goede punten.
03-06-2022, 16:38 door Anoniem
Het ligt niet aan het algoritme,
ze kunnen gewoon geen fraude opsporen.

Hier dacht iemand die flink betaal word,
dus we maken een zwarte lijst,
hoe vullen we die ?
DAT IS NIET ZO MOEILIJK.

Hebben ze echt nog niet kunnen achterhalen wie dit geprogrammeerd heeft ?
Dat geloof ik niet, ik geloof dat ze niet presies willen vertellen hoe en wat.
Ze beschermen elkaar dat weet ik zeker.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.