Europese privacytoezichthouders zijn kritisch op een plan van de Europese Commissie om de AI-regels in de EU te vereenvoudigen. Brussel wil dat het eenvoudiger voor AI-bedrijven wordt om in de EU te opereren, waarbij er ook makkelijker van allerlei gegevens gebruik kan worden gemaakt. Volgens de Europese privacytoezichthouder EDPS en de nationale Europese privacytoezichthouders verenigd in de EDPB mag een vereenvoudiging niet ten koste van de bescherming van fundamentele rechten gaan.

Het voorstel van de Europese Commissie verruimt het gebruik voor leveranciers en afnemers van AI-systemen om bijzondere persoonsgegevens, zoals etniciteit of gezondheidsgegevens, voor het opsporen en corrigeren van discriminatie te gebruiken. De EDPB en EDPS vinden dat dit alleen in vooraf beschreven situaties mag, waar de risico’s van dergelijke discriminatie ernstig genoeg zijn.

De privacytoezichthouders zijn ook tegen het schrappen van de registratieplicht voor AI-systemen die in categorieën van hoog-risicovolle systemen vallen, maar waarvan de leverancier vindt dat er geen hoog risico is. "Dit ondermijnt transparantie en toezicht en kan misbruik in de hand werken", aldus de Autoriteit Persoonsgegevens, die onderdeel van de EDPB is. Het zou voor een ongewenste prikkel zorgen waarbij AI-leveranciers ten onrechte claimen dat hun AI-systeem geen hoog risico is, om zo toezicht te ontlopen, aldus de privacytoezichthouders.

De EDPB en EDPS vinden ook dat AI-leveranciers verplicht moeten blijven om ervoor te zorgen dat hun personeel AI-geletterd blijven. Verder maken de de toezichthouders zorgen over het uitstellen van kernverplichtingen voor AI-systemen met een hoog risico. De privacytoezichthouders pleiten ervoor om deze verplichtingen zo veel mogelijk volgens de oorspronkelijke planning te laten ingaan.