De Autoriteit Persoonsgegevens (AP) maakt zich zorgen over organisaties die generatieve AI te snel inzetten, zonder vooraf voldoende aandacht te besteden aan de gevolgen voor mensen en samenleving. Ook waarschuwt de privacytoezichthouder dat door het gebruik van generatieve AI er momenteel een ongekend snelle centralisatie van gevoelige data plaatsvindt. Volgens de AP zijn er dan ook stevige vangrails nodig. Dat laat de toezichthouder in een vandaag verschenen visie op generatieve AI weten.

"De nood is hoog. De impact van generatieve AI wordt steeds duidelijker, mede door de wildgroei aan applicaties die in hoog tempo op de markt komen. Veel toepassingen komen bovendien van Amerikaanse techbedrijven. Daardoor groeit de Europese afhankelijkheid en staat onze digitale autonomie onder druk. Dat gebeurt in een context van grote geopolitieke verschuivingen waarbij economische integratie steeds vaker wordt ingezet als drukmiddel", aldus de AP.

Volgens de privacytoezichthouder worden modellen over het algemeen uitvoerig getest voordat ze op de markt verschijnen, maar kan het gebruik in de praktijk nooit volledig worden nagebootst. "Terwijl de risico’s en incidenten zich juist daar manifesteren. Daarnaast gaat het gebruik gepaard met de verwerking van grote hoeveelheden data die de gebruiker afhankelijk en kwetsbaar kunnen maken."

De toezichthouder merkt op dat de capaciteiten van generatieve AI steeds verder toenemen en mensen chatbots steeds vaker als enige informatiebron gebruikt. De AP zegt deze ontwikkeling zorgelijk te vinden, omdat organisaties generatieve AI vaak te snel inzetten, zonder vooraf voldoende aandacht te besteden aan de gevolgen voor mensen en samenleving.

Een ander probleem dat de toezichthouder signaleert is dat door het gebruik van generatieve AI er een ongekend snelle centralisatie van gevoelige data plaatsvindt. Niet alleen beschikken AI-aanbieders over grote hoeveelheden data, de gevoeligheid van deze data is volgens de AP ook opvallend. "Zo’n elf procent van de berichten wordt geclassificeerd als ‘expressing’, vaak het uiten van gedachten of gevoelens zonder dat daar een directe actie of vraag aan gekoppeld."

Verder stelt de AP dat het gebruik van generatieve AI gecentraliseerd is bij een klein aantal aanbieders, technologische afhankelijkheid wordt ingezet als drukmiddel en de EU bij een te grote afhankelijkheid van buitenaf onvoldoende kan sturen op verantwoord gebruik. De toezichthouder pleit dan ook voor "stevige vangrails" om een "wilde Westen-scenario" te voorkomen.

"Wanneer een technologie razendsnel wordt geïntegreerd in onderwijs, zorg, media en bestuur, zonder gedeeld normatief kader, ontstaat geen innovatie-ecosysteem maar een maatschappelijk experiment zonder protocol. Daarom moeten we nu keuzes maken", zegt AP-voorzitter Aleid Wolfsen. De toezichthouder pleit voor de ontwikkeling en inzet van "waardengedreven generatieve AI", waarbij ruimte is voor innovatie, met bescherming van democratie, grondrechten en onderling vertrouwen.