EFF: gebruik gezichtsherkenning door overheid is onacceptabel
Het gebruik van gezichtsherkenning door de overheid is onacceptabel, ook in het geval om de bestormers van het Capitool te identificeren, zo stelt de Amerikaanse burgerrechtenbeweging EFF. Amerikaanse politiekorpsen zetten de gezichtsherkenningssystemen van het bedrijf Clearview AI in om te achterhalen wie de relschoppers waren.
Clearview zou over drie miljard afbeeldingen bevatten, onder andere afkomstig van Facebook, LinkedIn en andere websites en socialmediaplatformen. Het bedrijf heeft naar eigen zeggen meer dan 2400 politie- en opsporingsdiensten als klant. Een deel daarvan gebruikt de foto's die tijdens de bestorming zijn gemaakt en vergelijkt die met de Clearview-database. Resultaten worden vervolgens naar de FBI gestuurd.
Volgens de EFF moeten de Capitool-bestormers worden vervolgd, maar kleven er aan het gebruik van gezichtsherkenning teveel risico's en problemen, zowel technisch als juridisch, om het gebruik ervan te rechtvaardigen. In het geval van Clearview AI hebben mensen nooit toestemming gegeven voor het schrapen van hun foto's.
Daarnaast maken Amerikaanse politiediensten vermoedelijk ook gebruik van overheidsdatabases, waaronder die van het Department of Motor Vehicles. Iets waar burgers zich niet voor kunnen afmelden. "Het is geen vraag van 'wat er gebeurt wanneer gezichtsherkenning tegen je wordt gebruikt?' Het is de vraag hoe vaak politie dit al heeft gedaan", zegt Jason Kelley van de EFF.
Hij stelt dat het gebruik van gezichtsherkenning door de overheid een grens overschrijdt en het gebruik nooit gewoon moet worden gevonden, zelfs niet in het geval van de recente tragedie. Volgens Kelley moet er in de reactie op deze ongekende gebeurtenis bedachtzaam worden gereageerd en rekening gehouden met de gevaren die surveillancetechnieken zoals gezichtsherkenning vormen.
"Deze technologie vormt een grote dreiging voor de persoonlijke privacy, raciale gelijkheid, politieke en religieuze uitingen en de fundamentele vrijheid om ons leven te leiden zonder dat al onze bewegingen en contacten in het geheim worden gemonitord en geanalyseerd", besluit de EFF-medewerker.
wie een dader kan zijn, dat dan meteen gelijk staat aan bewijs tegen, vervolging van, en veoordeling van die persoon.
Zo werkt dat echt niet, en je zou verwachten dat een organisatie als EFF niet zo naief (en dom) zou zijn dat te denken.
Als de FBI een lijst krijgt van matches met gezichten die zogenaamd herkend zouden zijn op de plek van die
ongeregeldheden, dan is dat echt geen reden om die mensen te vervolgen. Ze gaan dat dan eerst naast allerlei andere
informatie leggen, zoals telefoondata, mogelijke uitspraken op (publieke) sociale media, etc etc en DAN pas gaan ze
met de overgebleven verdachten aan de gang om die eventueel te verhoren of te volgen. Vervolging is helemaal niet
aan de orde zolang er niet meer bewijs is.
En ohja, met privacy of raciale gelijkheid heeft dat HELEMAAL NIKS te maken. Als je misdadiger bent dan verdien je
het om te worden getraceerd en vervolgd, niks privacy en niks "maar ik ben zwart dus moeten ze mij weer hebben".
Gezichtsherkenning met fuction creep.
Andere regels geldend voor herkenners en herkenden.
Onverdraagzaamheid jegens 1 bepaalde visie en ondersteuning voor de andere.
We wonen nog niet in Hong Kong en staan onder een soort robocop surveillance.
Willen we dit of hebben we wel iets te willen?
J.O.
Indien aan die voorwaarden bij wettelijke grondslag is voldaan mag van mij gezichtsherkenning, net als bij een DNA match, als een van meerdere bewijsvoeringen in een casus worden gebruikt.
Ten overvloede: zo niet, dan nooit of te nimmer.
Om dit kracht bij te zetten zou er een clausule of hoe dat ook mag heten moeten worden gevoegd bij dit wetsartikel dat mocht er een voorstel tot wijziging komen dit onmiddellijk leidt tot een motie van afkeuring, dus automatisch zonder dat deze oppositioneel is ingebracht.
Op dit punt slaat de EFF de plank mis. Alsof gezichtsherkenning de enige wijze is waarop de FBI de identiteiten van de verdachten van de terreur bij het Capitool vaststelt. Gezichtsherkenning is slechts één van de vele puzzelstukjes om iemands identiteit vast te stellen. Er wordt tevens gebruik gemaakt van afbeeldingen van de kleding en voorwerpen die de verdachten met zich mee droegen, en van vele andere forensische bewijsmethoden, zoals vingerafdrukken, telefoontaps, kassabonnen, etc., alsmede vele honderden getuigenverklaringen, waaronder die van de politie agenten.
Behalve natuurlijk als je er hobby in hebt om parlementsgebouwen te bestormen.
Daarom hoor je de bezwaren ook meestal uit kringen waar men boter op het hoofd heeft.
Analogie: als iemand vindt dat kledingzaken geen bont moeten verkopen claimt die daarmee nog niet dat kledingzaken uitsluitend bont verkopen.
wie een dader kan zijn, dat dan meteen gelijk staat aan bewijs tegen, vervolging van, en veoordeling van die persoon.
Zo werkt dat echt niet, en je zou verwachten dat een organisatie als EFF niet zo naief (en dom) zou zijn dat te denken.
Als de FBI een lijst krijgt van matches met gezichten die zogenaamd herkend zouden zijn op de plek van die
ongeregeldheden, dan is dat echt geen reden om die mensen te vervolgen. Ze gaan dat dan eerst naast allerlei andere
informatie leggen, zoals telefoondata, mogelijke uitspraken op (publieke) sociale media, etc etc en DAN pas gaan ze
met de overgebleven verdachten aan de gang om die eventueel te verhoren of te volgen. Vervolging is helemaal niet
aan de orde zolang er niet meer bewijs is.
En ohja, met privacy of raciale gelijkheid heeft dat HELEMAAL NIKS te maken. Als je misdadiger bent dan verdien je
het om te worden getraceerd en vervolgd, niks privacy en niks "maar ik ben zwart dus moeten ze mij weer hebben".
Ja en nee. Zo zou het in theorie moeten werken. In de praktijk werkt het helaas anders.
Ook de FBI bestaat uit mensen. Waarvan een aantal van 9 tot 5 werken en maar al te graag hun werk met minimale inspannning doen (wat prioriteit heeft over het goed doen). Zelden blijkt dat zij werken zoals de handboeken en cursussen een indruk geven dat ze zouden doen. De verlokkingen van de vermeende 'silver bullet' zijn dan ook groot, groter dan de bedenkingen over false positives en andere issues.
EFF is bekend met de incidenten waar gezichtsherkenning en andere dergelijke silver bullets er kort en goed naast zaten en mensen bepaald meer problemen van welke aard ook hadden dan hen lief was of ze verdienden. De valkuil van een false positive is dat het veel meer tijd kost weer uit de problemen te komen dan een overheidsorganisatie je er in geblunderd heeft. Een treffend voorbeeld in NL is natuurlijk de toeslagenaffaire.
Jammer genoeg sluipen in dergelijke algorithmes op de een of andere manier ook altijd weer bepaalde vooroordelen binnen. Waardoor de foutkans bij gekleurde mensen aantoonbaar groter is dan bij witte mensen (https://tweakers.net/nieuws/161438/gezichtsherkenningsalgoritmes-maken-onderscheid-tussen-zwarte-en-witte-mensen.html).
Zoals gezegd, EFF is bekend met de diverse incidenten en het patroon dat daarin ontstaat. Dat geeft hun natuurlijk weer een andere blikveld en achterban. Maar de feiten die zij hebben kunnen niet genegeerd worden. Ze vertellen dat er meer is dan alleen true positives en true negatives. En dat je hoe dan ook meer moet met false positives en false negatives dan op dit moment de gebruikelijke praktijk is wat de theorie er ook van vindt.
daarmee dat een dergelijk systeem fouten kan maken en door daar een probleem van te maken geven ze duidelijk aan
dat ze er niks van snappen. Of dat ze het wel snappen maar dat ze tamtam willen maken en het ze niet kan schelen dat
het argument daarvoor geen hout snijdt.
Dat is overigens een terugkerend patroon bij privacy activisten.
Deze posting is gelocked. Reageren is niet meer mogelijk.
Toezichthouder informatiebeveiliging Overheid
Rijksinspectie Digitale Infrastructuur (RDI)
Vind je het leuk om als toezichthouder bij te dragen aan de verdere groei in informatie-beveiliging van de overheid en in contact te staan met (belangen) organisaties binnen de overheid? Dan kun je komen bouwen aan toezicht op een veilige en betrouwbare Digitale Infrastructuur in Nederland.
Adviseur Informatiebeveiliging
Je bent een belangrijke speler om invulling te geven aan de gemeentelijke ambities op het gebied van informatiebeveiliging. Deze ambities neem jij op in het Informatie-beveiligingsbeleid Gemeente Zoetermeer. Wil je helpen bij het verbeteren van de informatiebeveiliging in Zoetermeer en het versterken van het cyberbewustzijn binnen onze organisatie? Wacht dan niet en kom ons team informatiebeveiliging versterken!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.