Het Europees Parlement is vandaag akkoord gegaan met de Artificial Intelligence Act die onder andere opsporingsdiensten in bepaalde gevallen live gezichtsherkenning laat inzetten. De AI-wet stelt regels aan het gebruik van kunstmatige intelligentie. Eén van de onderdelen betreft het gebruik van live gezichtsherkenning door justitie. Het Europees Parlement stemde eerder nog voor een volledig verbod op real-time gezichtsherkenning, zonder uitzonderingen.

In de onderhandelingen met de EU-landen heeft het Europees Parlement de eerder ingenomen positie prijsgegeven en is akkoord gegaan met uitzonderingen voor opsporingsdiensten. De uitzonderingen die worden genoemd betreffen het zoeken van mensen die worden vermist of slachtoffer van mensenhandel of seksueel misbruik zijn. Het voorkomen van een 'specifieke en actuele' terroristische dreiging of het vinden van de locatie of het identificeren van personen die worden verdacht van misdrijven, waaronder terrorisme, mensenhandel, seksueel misbruik, moord, kidnapping, verkrachting, gewapende overvallen, deelname aan een criminele organisatie en milieudelicten.

De AI-wet verbiedt wel het ongericht scrapen van gezichtsafbeeldingen van internet of beveiligingscamerabeelden om gezichtsherkenningsdatabases aan te leggen. Ook is emotieherkenning op de werkvloer en scholen niet toegestaan, alsmede sociale kredietscoringssystemen, 'predictive policing' en AI die misbruik maakt van kwetsbaarheden in menselijk gedrag.

Verder verplicht de AI Act regels voor AI-systemen. Daarbij hangen de maatregelen die ontwikkelaars moeten nemen af van het risiconiveau dat het betreffende AI-systeem vormt. AI-systemen die als "hoog risico" zijn aangemerkt zullen in een EU-database moeten worden geregistreerd en mogen pas na een assessment op de markt komen. Open AI, het bedrijf achter ChatGPT en Dall-E 2, lobbyde in Brussel om ervoor te zorgen dat die systemen niet als "hoog risico" zouden worden aangemerkt, zo werd vorig jaar bekend.

"De EU heeft geleverd. We hebben het concept van kunstmatige intelligentie gekoppeld aan de fundamentele waardes die de basis van onze samenlevingen vormen", aldus Dragos Tudorache, rapporteur van de Commissie Burgerlijke vrijheden van het Europees Parlement. Een deel van de wet met betrekking tot verboden toepassingen wordt over zes maanden al van kracht, de rest variërend van 9 tot 36 maanden.