Europees Parlement stemt voor AI Act, verbod op real-time gezichtsherkenning
Het Europees Parlement heeft vandaag ingestemd met de AI Act, waaronder ook een verbod op de inzet van real-time gezichtsherkenning in openbare ruimtes valt en het gebruik van een sociaal kredietscoresysteem. De christendemocratische fractie reageert teleurgesteld en stelt dat de inzet van gezichtsherkenning in bepaalde gevallen wel mogelijk moet zijn.
Onder de AI Act gaan verschillende regels voor verschillende risiconiveaus gelden. Zo zijn real-time en remote biometrische identificatiesystemen, zoals gezichtsherkenning, een "onacceptabel risico". Dat geldt ook voor sociale scoringssystemen die mensen op basis van gedrag, socio-economische status of persoonlijke eigenschappen beoordelen. Verder worden ook "cognitieve gedragsmanipulatie", voorspellende politiesystemen en het scrapen van gezichtsafbeeldingen van internet of camera's voor de aanleg van gezichtsherkenningsdatabases verboden.
Voor generatieve AI-systemen, zoals ChatGPT, gaan transparantie-eisen gelden. Zo moet duidelijk worden dat de gegenereerde content afkomstig van een AI is en moet het model zo worden ontworpen dat het geen strafbare content genereert. AI-systemen die als "hoog risico" zijn aangemerkt zullen in een EU-database moeten worden geregistreerd. Voor AI-systemen met een beperkt risico gaan minimale transparantievereisten gelden. Nu het Europees Parlement akkoord is gegaan zullen er vandaag nog onderhandelingen met de EU-landen plaatsvinden. Het doel is om tegen het einde van dit jaar tot een overeenkomst te komen.
Een belangrijke stap al lost het niet alle privacy problemen op. Maar het is hoopgevend.
Hoe, precies, stellen ze zich dat dan voor? Als je het onder de geschetste omstandigheden wel wil toestaan, dan moet je dus wel een hele infrastructuur opbouwen waarmee je het dan wel kan doen. Dus ze willen dan wel op allerlei plekken camera's plaatsen inclusief de achterliggende systemen om gezichtsherkenning of biometrische identificatie te kunnen toepassen, maar die willen ze dan uit zetten tenzij een officier van justitie of rechter vooraf toestemming geeft om het te mogen gebruiken.
Die moeten dus vooraf voorspellen waar terrorisme en zware criminaliteit zullen gaan plaatsvinden, zodat de camera's aldaar aan gezet kunnen worden teneinde de misdrijf of de aanslag te verijdelen? Maar de identificatie moet "strict, targeted en real-time" zijn, maar met voorafgaande toestemming... Dus willen ze nu vooraf gaan voorspellen welk kind ontvoerd zal gaan worden? Wie een aanslag zal gaan plegen?
De hele combinatie van "strikt, doelgericht, voorafgaande toestemming" en als doel "criminaliteit, terrorisme en vermiste kinderen" kan ik niet goed plaatsen, die doelen lijken tegenstrijdig met de beperkingen.
Of zouden ze bedoelen dat ze eigenlijk gewoon het op alle plekken kunnen aanzetten die hen goeddunkt, zoals bij demonstraties of in straten waar erotisch vertier e.d. aangeboden wordt?
De teleurstelling van de christendemocraten laat zien dat er mensen zijn die dit soort dingen (in ieder geval voor een deel) wel zien zitten. Wat je hier ziet is dat er krachten en tegenkrachten spelen en dat het niet allemaal één groot complot is dat eensgezind het ergste wil, maar dat degenen die het ergste niet willen ook wat in de melk te brokkelen hebben.
Of worden hier weer woordspelletjes gespeeld? Het is EU, dus erg waarschijnlijk. Jammer.
Geloof niet dat dit onder realtime valt.
Of worden hier weer woordspelletjes gespeeld? Het is EU, dus erg waarschijnlijk. Jammer.
Wat een onzin, welke vrijheden ben je 3 jaar geleden kwijtgeraakt? Welk kredietscoresysteem hebben we nu actief?
woensdag 21 juni 2023, 10:17 door Redactie
https://www.security.nl/posting/800338/OpenAI+lobbyde+in+Brussel+om+Europese+AI-wetgeving+af+te+zwakken
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Ketenregisseur Gedigitaliseerde Criminaliteit en Cybercrime
Ben jij er klaar voor om de leiding te nemen in het bevorderen van de regionale samen-werking in de strijd tegen gedigitaliseerde criminaliteit en cybercrime? Samen met collega's, politie en regionale en landelijke partners? Dan is de dynamische rol van Ketenregisseur Gedigitaliseerde Criminaliteit en Cybercrime bij het Regionaal Samenwerkingsverband Integrale Veiligheid (RSIV) jouw op het lijf geschreven!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Cyber Security Trainer
"You know that feeling after you have been to the cinema and seen an exciting movie? It's the same after this training. I can only say that this is probably the BEST TRAINING that I've ever done!!!”
Are you ready for a challenge?
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.