Bits of Freedom: 'nationale veiligheid' zorgt voor maas in Europese AI-wet
Burgerrechtenbeweging Bits of Freedom (BoF) hekelt de AI-verordening die door het Europees Parlement is aangenomen. Het gaat onder andere om de uitzonderingen die in het kader van 'nationale veiligheid' gemaakt kunnen worden, terwijl niet duidelijk is wat hieronder valt. Dit zorgt voor een enorme maas in de wet, aldus Nadia Benaissa, beleidsadviseur van Bits of Freedom.
Afgelopen maart stemde het Europees Parlement al in met een niet vertaalde en door juridische experts gevalideerde versie. Gisteren werd de wel vertaalde en gevalideerde versie goedgekeurd. De AI Act verbiedt 'predictive policing', real-time biometrische identificatie in de publieke ruimte en social scoring. "In eerste instantie klinkt dit misschien goed, maar we zien hier dat de verboden behoorlijk nauw zijn geformuleerd. Dit terwijl de uitzonderingen weer heel breed zijn. Daarmee blijft er helaas nog maar weinig over van échte verboden," aldus Benaissa.
Zo mag real-time gezichtsherkenning worden ingezet voor het zoeken van mensen die worden vermist of slachtoffer van mensenhandel of seksueel misbruik zijn. Andere uitzonderingen zijn het voorkomen van een 'specifieke en actuele' terroristische dreiging of het vinden van de locatie of het identificeren van personen die worden verdacht van misdrijven, waaronder terrorisme, mensenhandel, seksueel misbruik, moord, kidnapping, verkrachting, gewapende overvallen, deelname aan een criminele organisatie en milieudelicten.
Verder worden private bedrijven niet verplicht AI-systemen die ze gebruiken te registreren. "Terwijl we nu al zien dat banken, incassobureaus en verzekeraars AI gebruiken die heel ingrijpend zijn voor mensen", gaat de BoF-beleidsadviseur verder. "Daarnaast is een groot deel van de AI-verordening alléén van toepassing als er sprake is van een hoog risico." Daar is sprake van als een AI-toepassing een significant risico oplevert voor iemands gezondheid, veiligheid of fundamentele rechten.
Tevens zijn in de wet beperkte rechtsmiddelen opgenomen als het gaat om de rechten van burgers én is er een hele brede uitzondering opgenomen voor 'nationale veiligheid'. Als een AI-toepassing in dit kader wordt ingezet geldt de AI-verordening niet. "Maar wat precies onder nationale veiligheid valt, wordt uit de wet niet duidelijk. Daarmee wordt er dus een enorme maas in de wet gecreëerd waarmee een soort 'digitale vrije zone' ontstaat", merkt Benaissa op.
"Europa had zich wat betreft de ontwikkeling en het gebruik van kunstmatige intelligentie kunnen onderscheiden van andere werelddelen. In plaats daarvan laat Europa nu zien dat de markt en economie belangrijker zijn dan de bescherming van mensenrechten", besluit Benaissa. De wet zal in verschillende fases geïmplementeerd worden, met termijnen variërend tussen zes maanden en een twee jaar.
Het faciliteren van kwaadwillenden die geen boodschap aan privacy hebben en het niet beschermen van de burger door gedegen authenticatie te verplichten. Dat laatste wordt wonderlijk genoeg als een privacyschending neergezet. Het komt overeen met newspeak
Benaissa heeft wel gelijk, maar toch.
Het gaat alleen en alleen maar om markt en economie.
Waarom zo verrast doen?
Daar zit vaak de crux. Veel wetgeving gaat er van uit dat:
1. Alle machthebbers mensen zijn met een redelijke opvatting van dergelijke begrippen.
2. De definitie binnen een bepaalde bandbreedte blijft.
Dat is echter geen van tweeén een vast gegeven. Het is zeker niet ondenkbaar dat mensen een ander voor dom of slecht zien op basis van betrekkelijk onschuldige dingen, en ze dus als gevaar voor de nationale veiligheid zijn. Buro Janssen heeft al gevallen gevonden waarin demonstranten die op het fietspad liepen (!) een etiket "gevaar voor nationale veiligheid" opgeplakt bleken te hebben gekregen en bij een G7 top vervolgens de toegang tot Duitsland geweigerd werden (let wel, niet tot de gemeente waar die top gehouden werd, maar de volledige 357600km(2) van Duitsland, van de Oostzee tot de Alpen en van ten westen van de Rijn tot de Oder.
Aangezien het tegenwoordig lastig wordt om je in het openbaar te verplaatsen zonder een camera tegen te komen,.zal dus van iedereen die zich voor een camera vertoont diens gezicht worden herkend.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
IT Security Officer
Utrecht heeft jou nodig! Als Information Security Officer vertaal je beleid naar technische uitvoering. Dit is cruciaal voor het waarborgen van de informatiebeveiliging van onze inwoners. Je krijgt de kans om betrokken te zijn bij complexe projecten met de nieuwste technologieën en kunt jouw stempel drukken op innovatie. Solliciteer nu!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Cyber Security Trainer
"You know that feeling after you have been to the cinema and seen an exciting movie? It's the same after this training. I can only say that this is probably the BEST TRAINING that I've ever done!!!”
Are you ready for a challenge?
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.