D66 wil door overheid gebruikte algoritmes openbaar maken
Als het aan D66 ligt worden alle algoritmes die de overheid gebruikt voor besluitvorming openbaar gemaakt. De overheid maakt steeds vaker gebruik van geautomatiseerde beslissingen die zijn gebaseerd op data en algoritmen. Het gaat dan bijvoorbeeld om energiebeheer en het leiden van verkeersstromen.
Volgens D66 biedt dit kansen, maar zien bestuurders en beleidsmakers de risico's onvoldoende onder ogen. "Maar zoals zo vaak bij de introductie van nieuwe technologieën, ontnemen de voordelen het zicht op de nadelen. Met als gevolg dat die pas in ons blikveld verschijnen als het te laat is. Zo kunnen algoritmes discriminerend werken, omdat ze kwetsbare groepen vaak nog verder benadelen", aldus D66-Kamerlid Kees Verhoeven.
Om discriminatie door algoritmes te voorkomen pleit D66 voor meer transparantie bij het instellen van de algoritmes en de gekozen criteria. "Dus als overheidsinstanties algoritmes gebruiken bij besluitvorming, wil ik dat ze op een website publiceren naar welke kenmerken de rekenformule op zoek is en welke data worden gebruikt", stelt Verhoeven. Hij merkt op dat technologie nooit neutraal of objectief is en algoritmes de aannames van programmeurs volgen. Overheden moeten volgens het Kamerlid dan ook altijd kunnen uitleggen hoe besluiten tot stand komen.
Een anpr flitscamera voor snelheidsovertreding zou discriminerend werken? Sommigen geloven dat nog ook.
Een voorbeeld waar het discriminerende effect foor de regering is ingesteld is het scheefwonen met toegang tot inkomen door verhuurders. Het tellen van tandenborstels voor de hoogte van bijstand als gezamenlijk inkomen met een persoonlijke inkomensnormstelling.
Met SyRi is er het probleem dat dd uitvoerende taken bij gemeentes belegd zijn terwijl deze niet dd toegang hebben tot de benodigde informatie. Dat zijn politieke beslissingen met onduidelijke achterliggende algoritmes.
Net zo'n onduidelijk algoritme als van Rutte met het schenken van dividendbelasting aan grootkapitaal.
Als Kees V. een basiscursus data science zou doen dan zou het begrip wat een algoritme is en hoe je dat verantwoord ethisch doet veel kunnen helpen. Nu wordt het snel onderbuikgevoel.
De voorbeelden zoals levensverzekeringen ofwel woekerpolissen heb ik ook intern gezien. Het waren dikke winstmaker (aandelen bonussen) zeker als je actuariaat nog wat aan de leeftijdsverwachting kon laten sleutelen dan was er meteen een hogere winst te boeken. Toen het fout ging heette ineens dat we onverwacht ouder werden (manipulatie ?)
Met Lehman Brothers herhaalde dat zich. Dat bedrijf hoewel het op Enron affaire leek was het voorbeeld voor bankiers om winst te maken. Gewoon betalingsverkeer sparen hypotheken zijn niet lucratief genoeg. De hele wiskundige onderbouwing was er om die zaken goed te praten, dat is een onverantwoord doel.
Een verantwoorde aanpak gaat via wel doordachte dataminimalisatie met een constante monitoring wat er gebeurt (evaluatie) met een menselijke eindverantwoordelijkheid. Dat laatste betekent: niet verschuilen achter het systeem. Voor de lopende band robot afhandeling als mens is er geen mens nodig.
Interessant, net besteld op basis van je advies ;)
De voorbeelden zoals levensverzekeringen ofwel woekerpolissen heb ik ook intern gezien. Het waren dikke winstmaker (aandelen bonussen) zeker als je actuariaat nog wat aan de leeftijdsverwachting kon laten sleutelen dan was er meteen een hogere winst te boeken. Toen het fout ging heette ineens dat we onverwacht ouder werden (manipulatie ?)
Met Lehman Brothers herhaalde dat zich. Dat bedrijf hoewel het op Enron affaire leek was het voorbeeld voor bankiers om winst te maken. Gewoon betalingsverkeer sparen hypotheken zijn niet lucratief genoeg. De hele wiskundige onderbouwing was er om die zaken goed te praten, dat is een onverantwoord doel.
En daarom is mw O'Neil gestopt met dat werk, zoals ze in het boek uitlegt.
Bespaar je de moeite: ik geloof Cathy en vind haar mening duizend maal interessanter en geloofwaardiger dan jouw verhaaltjes hier.
Ik zou niet weten hoe je hierbij kunt discrimineren. Als je op relevante dingen onderscheid maakt, is het nml. geen discriminatie meer.
Sommige dingen moet je niet openbaar willen maken:
Een duidelijk voorbeeld van iets wat je geheim wilt houden is het algoritme dat het random tijdstip bepaalt van de rondes van een bewaker.
Dus de algoritmes van de belastingdienst en het uwv worden ook openbaar?
en hoe ze mensen met bijstand via algoritmes en data kunnen volgen?
Smart management,smart devices,drones,camera's
Bespaar je de moeite: ik geloof Cathy en vind haar mening duizend maal interessanter en geloofwaardiger dan jouw verhaaltjes hier.
Pijnlijk maar helaas wel hoe het foute gebruik in de praktijk gaat. De algoritmes en Tools zijn open source gebruik ze maar om naar het gewenste resultaat te werken. Kritiek schuiven we onder tafel net het argument open source.
Nee, D66 wil dat ze openbaar worden. Dat betekent nog niet dat het ook gebeurd.
Ik zou het ook prettig vinden om te weten hoe de steekproeven bij de belastingdienst bepaald worden. Het helpt bij het manipuleren van mijn eigen aangifte om te weten welke combinaties van data een alarmbel doen overgaan en welke nog net onder de radar blijven. (:-
Deze posting is gelocked. Reageren is niet meer mogelijk.
Toezichthouder informatiebeveiliging Overheid
Rijksinspectie Digitale Infrastructuur (RDI)
Vind je het leuk om als toezichthouder bij te dragen aan de verdere groei in informatie-beveiliging van de overheid en in contact te staan met (belangen) organisaties binnen de overheid? Dan kun je komen bouwen aan toezicht op een veilige en betrouwbare Digitale Infrastructuur in Nederland.
Adviseur Informatiebeveiliging
Je bent een belangrijke speler om invulling te geven aan de gemeentelijke ambities op het gebied van informatiebeveiliging. Deze ambities neem jij op in het Informatie-beveiligingsbeleid Gemeente Zoetermeer. Wil je helpen bij het verbeteren van de informatiebeveiliging in Zoetermeer en het versterken van het cyberbewustzijn binnen onze organisatie? Wacht dan niet en kom ons team informatiebeveiliging versterken!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.