image

'EU moet bepalen of gezichtsherkenning in een democratie is toegestaan'

maandag 28 oktober 2019, 13:44 door Redactie, 20 reacties

Nu de Europese Unie de ethiek van kunstmatige intelligentie bespreekt moet het ook bepalen of gezichtsherkenning in een democratische samenleving kan worden toegestaan, zo stelt adjunct European Data Protection Supervisor (EDPS) Wojciech Wiewiorowski in een vandaag verschenen blog.

De EDPS is de privacytoezichthouder van de EU. De organisatie werd geleid door Giovanni Buttarelli die afgelopen augustus overleed. Wiewiorowski neemt tot het einde van dit jaar de taken van Buttarelli waar. Volgens de adjunct-EDPS spelen er allerlei privacy- en databeschermingsonderwerpen als het om gezichtsherkenning gaat. Zo verbiedt de Algemene verordening gegevensbescherming (AVG) het verwerken van biometrische gegevens, tenzij er aan één van de tien uitzonderingen wordt voldaan. Daarnaast moet de noodzakelijkheid om de technologie in te zetten worden aangetoond.

Wiewiorowski ziet ook problemen als het gaat om aansprakelijkheid en transparantie. "De uitrol van deze technologie wordt gekenmerkt door obscuriteit. We weten gewoon niet hoe de data wordt gebruikt door degenen die het verzamelen, wie er toegang toe heeft, naar wie het wordt gestuurd, hoelang ze het bewaren, hoe er een profiel van wordt gemaakt en wie uiteindelijk voor de geautomatiseerde beslissingen verantwoordelijk is."

De adjunct-EDPS stelt dat het bijna onmogelijk is om de herkomst van de invoerdata te achterhalen, aangezien gezichtsherkenningssystemen door allerlei afbeeldingen worden gevoed, afkomstig van internet en social media zonder dat mensen hier toestemming voor hebben gegeven. Daarnaast kan iedereen slachtoffer worden van het algoritme en worden gecategoriseerd, gaat Wiewiorowski verder.

Verder heeft hij twijfels over de compliance van de technologie met principes zoals dataminimalisatie en databescherming by design. "Gezichtsherkenning is nooit echt nauwkeurig geweest en dit heeft ernstige gevolgen voor personen die ten onrechte als crimineel of anders worden geïdentificeerd", merkt de adjunct-EDPS op. "In werkelijkheid is er nooit genoeg data om vooroordelen en het risico van false positives of false negatives te elimineren."

Niet bestaand probleem

Wiewiorowski vindt dat voorstanders gezichtsherkenning promoten als een oplossing voor een niet bestaand probleem. Daarom zouden verschillende landen het gebruik van de technologie inmiddels aan banden hebben gelegd. "We moeten niet alleen de technologie op zijn eigen merites beoordelen, maar ook de waarschijnlijke richting die het opgaat als het meer en meer wordt uitgerold. De volgende stap is de druk om andere vormen van objectificatie van het menselijk wezen uit te rollen, zoals zijn manier van lopen, emoties en hersengolven."

Binnen de EU is er nu een discussie gaande over de ethiek van kunstmatige intelligentie en de noodzaak van regels. Volgens Wiewiorowski is dit dan ook het moment om te bepalen of gezichtsherkenning in een democratische samenleving kan worden toegestaan. "Als het antwoord ja is, alleen dan stellen we pas de vragen over hoe beschermingsmaatregelen en aansprakelijkheid moeten worden geregeld." De onafhankelijke privacytoezichthouders in de EU-landen zullen zich proactief met deze discussie gaan bemoeien, besluit Wiewiorowski.

Reacties (20)
28-10-2019, 14:19 door Anoniem
ik ben wel voor ik zie het all in de toekomst beeld .smartphone weet je gelijk met wie je te doen heeft een goede zaak
zeker voor mensen die iets te verbergen hebben .
ps wel beeld en foto met mijn watermerk van mijn?
28-10-2019, 15:12 door Anoniem
Sla deze discussie maar over, antwoord vanuit Brussel wordt toch zonder enige twijfel ''Ja, dat mag".
28-10-2019, 15:57 door Anoniem
Door Anoniem: Sla deze discussie maar over, antwoord vanuit Brussel wordt toch zonder enige twijfel ''Ja, dat mag".
Dat betwijfel ik, want daar is in wetgeving en uitvoeringswet al in voorzien : Als algemeen principe geldt mag niet (verwerken van biometrische gegevens), maar voor identificatie van iemand mag t wel indien het "noodzakelijk en proportioneel is voor behartiging van de gerechtvaardigde belangen van de verwerkingsverantwoordelijke of een derde". Noodzakelijk en proportioneel is zoiets zelden, ik zou verwachten dat het tot hoge boetes gaat leiden in de toekomst.
28-10-2019, 16:14 door Anoniem
Dat is heel lang al opgebouwd, hniets voor niets, er is geen ontkomen meer aan.
Het zou wel mooi zijn als het verboden is.

Natuurlijk geld dit niet voor je telefoon @ hierboven, meer voor op straat en in gebouwen.
28-10-2019, 18:05 door Anoniem
Natuurlijk gaat de eUSSR zeggen dat het een goed idee is.
Ook als iedereen al lang weet dat het geen goed idee is.
28-10-2019, 18:21 door karma4 - Bijgewerkt: 28-10-2019, 18:41
Het mag al lang of zou je de poortjes met een lichaamscan of je iets verbergt op luchthavens anders moeten zijn dan een volledige biometrische scan met een slim algoritme op afwijkende zaken.
Wel jammer dat die zo slecht tegen het minimale metaal van een ritssluiting kunnen en je bijna naakt er door heen moet.

Het probleem zit niet in een koppeling van een goede gezichtsscan aan de juiste persoon.
Het werkelijke probleem zit in een foute koppeling naar een persoon die er niet bij hoort.
De werkelijke herkomst van een pasfoto (en voorgaande versies) zou duidelijk moeten zijn.

Voor het ophalen van een pas, officiële documenten, lijkt me gezichtsherkenning op zijn plaats. Je wilt niet dat een verkeerde persoon met andermans gegevens er vandoor gaat.

Nederland heeft er al een aparte wet voor. Gezichtsbedekking in openbare ruimtes is wettelijk verboden.
(populistisch geframed als boerkaverbod.)
28-10-2019, 18:37 door [Account Verwijderd]
Wiewiorowski vindt dat voorstanders gezichtsherkenning promoten als een oplossing voor een niet bestaand probleem.

En dat, dames en heren, is waar het allemaal om draait. Daarom worden miljoenen geïnvesteerd.
29-10-2019, 09:16 door Anoniem
Dat betwijfel ik, want daar is in wetgeving en uitvoeringswet al in voorzien

Dat mag je betwijfelen, maar de EU maakt er al lang gebruik van. De vraag is niet of gezichtsherkenning volgens de EU is toegestaan, maar onder welke voorwaarden. Of gaat deze wet, om maar wat te noemen, het gebruik van gezichtsherkenning op vliegvelden verbieden ?
29-10-2019, 10:04 door Anoniem

Wiewiorowski vindt dat voorstanders gezichtsherkenning promoten als een oplossing voor een niet bestaand probleem.
Het probleem is er ook niet, dat is er pas als ze het gaan invoeren en er een standaard van gaan maken buiten het gebruik van de politie en justitie om. Hoe veilig was de biometrie van een telefoon ook alweer de vingerafdrukscanner dus. Nou zoals je hier kunt zien niet al te geweldig, er zijn zelfs telefoons die je kunt ontgrendelen met een kauwgom..

https://www.security.nl/posting/628816/Samsung+rolt+update+uit+voor+vingerafdrukprobleem+Galaxy-telefoons
https://www.security.nl/posting/628629/Britse+bank+verwijdert+bankieren-app+voor+Samsung+S10-telefoons

Niet te vergeten dat gezichtsherkenning nog zwakker is omdat er heel veel meer variabelen zijn in vergelijking met een vingerafdruk of meerdere afdrukken. Tenzij je superlijm op je vingers hebt gedaan..

#sockpuppet
29-10-2019, 11:08 door SPer
Ik denk dat ik maar een bivakmuts koop en deze ga dragen.

Dat is grappig genoeg toegestaan ;-) (op de openbare weg)
29-10-2019, 12:23 door Anoniem
In de hele discussie moet ik ineens denken aan het verschil tussen wapens en massavernietigingswapens.

Er is een parallel met nieuwe technieken en zaken als gezichtsherkenning, maar ook het combineren van data uit databases.

Over massavernietigingswapens is toch wel een heel groot deel van de wereld het eens dat die wat "overdreven" zijn om te gebruiken. Als je het hebt over atoombommen dan zijn er ooit maar twee gebruikt om een oorlog te winnen. Maar als je dan kijkt naar de slachtoffers die dat bracht, wel een erg zwaar punt om te maken. Je kunt daar wel over van mening verschillen, maar feit is dat zulke stunts in de praktijk daarna nooit meer zijn voorgekomen. Beetje too much allemaal om met zulke spullen je gelijk te halen.

Gezichtsherkenning, datamining, maar ook het gebruiken van telefoons om mensen te volgen, te traceren, te manipuleren, zijn allemaal op zich wel hele nuttige dingen. Mits je het niet massaal gaat doen.

Dat laatste gebeurt ook te veel uit gemakszucht of luiheid. Laten we alle data maar pakken, en dan zien we later wel. Trek je de parallel met wapens dan weer dan zouden heel wat wereld conflicten en problemen ook anders opgelost geweest kunnen zijn. Dat gebeurt niet. Want het zou veel te veel onschuldige slachtoffers maken. Het is ook niet controleerbaar, zulke massaklappen. Je vindt van al die onschuldigen maar weinig terug.

Zulke technieken inzetten is prima, ze kunnen waarschijnlijk nog een hele hoop verbeterd worden. Maar het moet wel gericht gebeuren. En controleerbaar zijn. Er wordt te gemakkelijk met kanonnen op muggen geschoten.

Daar horen goeie wetten bij. Want dat is kàn wil nog niet zeggen dat het wenselijk is. Atoombommen smijten werkt technisch gezien ook prima. Vrij simpel eigenlijk. Maar we vinden vrijwel allemaal uiteindelijk dat het niet mag. Daar maken we dus wetten en verdragen voor.

En dan beter een wet die misschien later ook nog beter kan, dan helemaal geen wet. Want anders komen er ongelukken van.
29-10-2019, 14:45 door Anoniem
Niet te vergeten dat gezichtsherkenning nog zwakker is omdat er heel veel meer variabelen zijn in vergelijking met een vingerafdruk of meerdere afdrukken. Tenzij je superlijm op je vingers hebt gedaan..

Hangt erg af van de gebruikte techniek. Niet anders, dan met vinger afdrukken. Niet iedere oplossing is de beste oplossing.
29-10-2019, 14:58 door Anoniem
Door SPer: Ik denk dat ik maar een bivakmuts koop en deze ga dragen.

Dat is grappig genoeg toegestaan ;-) (op de openbare weg)

Een doordachter wetgeving zou ook het dragen van maskers, bivakmutsen en andere vormen van gezichtsbedekkende kleding op busstations en spoorperrons hebben verboden. De OV-bedrijven hadden daarbij dan ook moeten worden ontslagen van de wettelijke plicht om iemand die een vorm van gezichtsbedekking draagt, anders dan voor medische redenen, zij het wel in bezit van een geldig vervoersbewijs, te moeten vervoeren.

Daar heerst nu in de praktijk en juridisch gezien onduidelijkheid over, omdat een busstation of spoorperron het eigen terrein van de vervoerder is, waarop de conducteurs, boa's en beambten van de OV-maatschappij het recht hebben het kunnen tonen van een geldig vervoersbewijs en een ID van de passagiers te vereisen. Alleen hoe gaat men in de praktijk de identiteit en het recht op deelname aan het OV vaststellen van iemand die geheel onherkenbaar is gekleed?

Daar wringt de schoen in deze kwestie. Gezien de aanmerkelijke risico's van draaideur criminelen, reltrappers en de kans op mogelijke extremisten die hun gezicht verhullen, temidden van de kwetsbare massa's reizigers in het OV (denk aan de aanslagen in de Thalys naar Parijs en op Amsterdam CS), voorziet het nogal ondoordachte "wetje van blonde Geert" daar niet duidelijk in. Die wetgeving, niet mee dan een zwak symbool, mist mede daardoor het beoogde doel.

Wet gedeeltelijk verbod gezichtsbedekkende kleding
https://wetten.overheid.nl/BWBR0041161/2019-08-01
29-10-2019, 16:35 door _R0N_
Door SPer: Ik denk dat ik maar een bivakmuts koop en deze ga dragen.

Dat is grappig genoeg toegestaan ;-) (op de openbare weg)

Tja, alleen zullen de camera's vast als eerste in openbare gebouwen, het OV worden opgehangen en in winkelcentra uiteraard.
29-10-2019, 17:03 door Anoniem
Maar er bestaat al een tweedeling - gezagsdragers en beveiligers (ook private) blijven buiten de gezichtsherkenning.
Op lijsten waar normaal de pasfotootjes pronken, zijn die bij hen leeg of grijs.

Iedereen dient dus herkenbaar te zijn, behalve degenen die ieder anders moeten herkennen.
Staan derhalve bepaalde partijen boven de wet of wordt er wederom met twee maten gemeten?

J.O.
29-10-2019, 20:34 door [Account Verwijderd]
Door Anoniem: Maar er bestaat al een tweedeling - gezagsdragers en beveiligers (ook private) blijven buiten de gezichtsherkenning.
Op lijsten waar normaal de pasfotootjes pronken, zijn die bij hen leeg of grijs.

Iedereen dient dus herkenbaar te zijn, behalve degenen die ieder anders moeten herkennen.
Staan derhalve bepaalde partijen boven de wet of wordt er wederom met twee maten gemeten?

J.O.

Kort:
Neen die staan niet boven de wet. Die handhaven de wet, vandaar dat wetshandhavers ook meestal bevoegd zijn om een vuurwapen te dragen en ik en jij niet, behalve als we een vuurwapenvergunning hebben.
En dat gewichtige gebruik van 'derhalve' en 'wederom' voegt al helemaal geen belang toe aan je kant noch wal rakende suggestieve vraagstelling of er weer (hoezo weer?) met twee maten gemeten wordt.
29-10-2019, 22:16 door Anoniem
1984 on Steroids geef het nog even en het komt allemaal uit
Hand in hand lopen de schaapjes naar de slachtbank
En ja tuurlijk is het antwoord ja
30-10-2019, 13:08 door Anoniem
Door karma4: Het mag al lang of zou je de poortjes met een lichaamscan of je iets verbergt op luchthavens anders moeten zijn dan een volledige biometrische scan met een slim algoritme op afwijkende zaken.
Wel jammer dat die zo slecht tegen het minimale metaal van een ritssluiting kunnen en je bijna naakt er door heen moet.

Je MOET niet door de body scan, dat is een keuze die je zelf kunt en mag maken.

https://www.rijksoverheid.nl/onderwerpen/luchtvaart/vraag-en-antwoord/security-scan
30-10-2019, 16:37 door Anoniem
Met scans gaat het random. Je moet niet en je mag niet, onzin, je bent toevallig volgens het protocol aan de beurt.

Wel vreemd dat op sommige luchthavens de mobieltjes nog mogen blijven opgeborgen,
terwijl de laptop moet worden uitgepakt.

Ik vind volgens random methoden werken wel juist, het verhoogt de veiligheid,
Tenminste als het ondersteunt wordt door vaste methodiek.

Elk schaartje halen ze eruit, daarna bepalen de afmetingen of je doormag.
We mogen 's Lands Wapen wel eens prijzen, mensen.
Dat doen we veel te weinig.

#sockpuppet
01-11-2019, 15:20 door karma4
Door Anoniem: ..
Je MOET niet door de body scan, dat is een keuze die je zelf kunt en mag maken.
https://www.rijksoverheid.nl/onderwerpen/luchtvaart/vraag-en-antwoord/security-scan
eh het altijnatief is "U mag weigeren om door de security scan te gaan. Een beveiligingsbeambte fouilleert u dan daarvoor in de plaats.". Je gaat door een scan uitgevoerd door een machine of door een mens.
Er is geen keus: ongecontroleerd doorlopen. Dat is nu net de eis bij het systeem van beveiligen.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.