image

AP: ontstaan generatieve AI-modellen vermoedelijk onrechtmatig

vrijdag 23 mei 2025, 12:26 door Redactie, 8 reacties

Veel modellen voor generatieve AI hebben door het gebruik van gigantische hoeveelheden gescrapete informatie en het gebruik van de gegevens die gebruikers zelf invoeren vermoedelijk een onrechtmatige ontstaansgeschiedenis. Dat laat de Autoriteit Persoonsgegevens (AP) vandaag weten bij de presentatie van een visie op verantwoorde ontwikkeling en inzet van generatieve AI.

"De overkoepelende inschatting is dat op basis van de huidige praktijk het overgrote gedeelte van alle generatieve AI-modellen op dit moment tekortschiet qua rechtmatigheid", aldus de privacytoezichthouder in een document genaamd AVG-Randvoorwaarden voor generatieve AI (pdf). Generatieve AI-applicaties maken gebruik van 'foundation modellen'. Voor het trainen van deze modellen is vrijwel alle publiekstoegankelijke data op het internet gescrapet, zo stelt de AP.

Het is aannemelijk dat tussen deze data ook onrechtmatig verzamelde bijzondere persoonsgegevens zitten. "Toch is de verdere inzet van deze foundation modellen door Nederlandse en Europese partijen daardoor niet bij voorbaat onrechtmatig, zoals volgt uit een analyse van de EDPB", voegt de Autoriteit Persoonsgegevens toe. Met de AVG-Randvoorwaarden wil de AP organisaties meer duidelijkheid geven over het gebruik van generatieve AI en aan welke voorwaarden moet worden voldaan.

"De mogelijkheden van generatieve AI blijven verrassen. De technologie kan veel goeds brengen, maar net zo goed zorgen baren. Bovendien gaat generatieve AI hand in hand met massale gegevensopslag. Het is essentieel dat de bescherming van persoonsgegevens ook bij de inzet van generatieve AI op orde is", zegt AP-voorzitter Aleid Wolfsen, die toevoegt dat gegeven de snelle technologische ontwikkelingen achteraf corrigeren niet voldoende is.

Image

Reacties (8)
Vandaag, 12:46 door Anoniem
ap weet het verhaal te brengen maar wat gaan ap er aan doen..?
Vandaag, 12:57 door EersteEnigeEchte M.J. - EEEMJ - Bijgewerkt: Vandaag, 13:30
Het is aannemelijk dat tussen deze data ook onrechtmatig verzamelde bijzondere persoonsgegevens zitten. "Toch is de verdere inzet van deze foundation modellen door Nederlandse en Europese partijen daardoor niet bij voorbaat onrechtmatig, zoals volgt uit een analyse van de EDPB", voegt de Autoriteit Persoonsgegevens toe.

Ziehier de hypocrisie waar de AP en EDPB menen genoodzaakt te zijn om toe over te gaan. Vergelijkbaar met: "De buit van de inbraak is op onrechtmatige wijze in het bezit gekomen van de inbrekers en die hebben met behulp daarvan een apparaat geknutseld. Toch is de verdere inzet van dit apparaat, inclusief de geroofde data, door Nederlandse en Europese inbrekers daardoor niet bij voorbaat onrechtmatig." Stilzwijgende achterliggende gedachten: "Want het lukt ons toch nooit meer om de buit weer uit handen van de inbrekers te verwijderen, vanwege hun overmacht. En bovendien komt het de EU en andere overheden wel goed uit om nu zelf de op misdadige wijze gebouwde apparaten te gaan gebruiken."

Het is op zichzelf goed dat de AP erop wijst wat er in eerste instantie feitelijk heeft plaatsgevonden. Maar door hieraan niet de logische consequentie te verbinden (namelijk dat de misdaad beëindigd en de dief gestraft moet worden), normaliseert en legaliseert de AP hiermee tegelijkterijd de gepleegde dataroof.

Er is op zich niets mis met "AI" (LLM´s) als daarbij alleen data worden verwerkt die door de betreffende natuurlijke personen (datasubjecten) door middel van geïnformeerde toestemming beschikbaar zijn gesteld.

Dat hebben de datarovers in Silicon Valley en elders (bijv. China) echter niet gedaan.

Het ooit met veel fanfare aangekondigde "recht om vergeten te worden" wordt op deze manier door de AP en EDPB impliciet ook het raam uit gegooid. Ze zeggen eigenlijk: "Als bad actors erin slagen om jouw persoonsgegevens te roven, dan is het rechtmatig als diezelfde bad actors vervolgens (met behulp van oprichting van een nieuwe rechtspersoon, die we dan "verwerkingsverantwoordelijke B" noemen), de geroofde gegevens gebruiken om winst te maken op manieren die in de ogen van de door diezelfde bad actors gelobbyde EU en andere overheden nuttig zijn."

Kortom: de AP bepleit hier straffeloosheid, "legalisering" van het recht van de sterkste en het legaal helen van gestolen waar. Deze manier van data roven en vervolgens misbruiken is door Shoshana Zuboff reeds geanalyseerd in haar boek The Age of Surveillance Capitalism (2019).

Een ander fraai staaltje hypocrisie is dat de AP nu beweert dat als het niet om "bijzondere" persoonsgegevens gaat, het niet-anonieme gebruik van de geroofde gegevens opeens niet onrechtmatig hoeft te zijn. De opname van een speciale categorie "bijzondere" persoonsgegevens in de AVG was bedoeld om die gegevens EXTRA te beschermen. Maar nu gebeurt het omgekeerde, namelijk dat alle persoonsgegevens die buiten die speciale categorie vallen, volgens de AP niet adequaat hoeven te worden beschermd.

Er valt hierover nog veel meer te zeggen, maar hier laat ik het even bij.

M.J.

P.S. Een andere parafrasering van de benadering die EDPB en de AP volgen, is de volgende: "Weliswaar zijn de slaven waarschijnlijk op onrechtmatige wijze in het bezit gekomen van de slavenhandelaars, maar het hoeft voor Amerikaanse plantagehouders niet per se onrechtmatig te zijn om die slaven aan te schaffen en te werk te stellen op Amerikaanse plantages, mits de omstandigheden op die plantages menswaardig zijn."
Vandaag, 13:19 door Anoniem
Nog erger is het vullen van AI modules met gerefereerde info
en het effectief om zeep helpen van het vrije Internet van weleer. AI als '1984'-instigator tool. Waarom is men hier nog niet alert op en wordt deze agenda weggehouden van de massa's?
Vandaag, 13:54 door Anoniem
Door EersteEnigeEchte M.J. - EEEMJ: .... Het ooit met veel fanfare aangekondigde "recht om vergeten te worden" wordt op deze manier door de AP en EDPB impliciet ook het raam uit gegooid. Ze zeggen eigenlijk: "Als bad actors erin slagen om jouw persoonsgegevens te roven, dan is het rechtmatig als diezelfde bad actors vervolgens (met behulp van oprichting van een nieuwe rechtspersoon, die we dan "verwerkingsverantwoordelijke B" noemen), de geroofde gegevens gebruiken om winst te maken op manieren die in de ogen van de door diezelfde bad actors gelobbyde EU en andere overheden nuttig zijn."

Kortom: de AP bepleit hier straffeloosheid, "legalisering" van het recht van de sterkste en het legaal helen van gestolen waar.

Het verdere gebruik van de behaalde drugswinsten hoeft niet onrechtmatig te zijn als het geld maar op een nette manier wordt witgewassen met behulp van een nieuwe rechtspersoon. Laten we die "belwinkel B" of "kapperszaak B" noemen.
Vandaag, 14:39 door Anoniem
Dan maken ze het rechtmatig, big tech is vaak krachtiger dan de wet.
En anders krijgen ze een boete van een minimaal percentage van de omzet en zeggen "sorry" voordat ze verder gaan met deze praktijken.
Vandaag, 15:42 door Anoniem
Door Anoniem: Dan maken ze het rechtmatig, big tech is vaak krachtiger dan de wet.
En anders krijgen ze een boete van een minimaal percentage van de omzet en zeggen "sorry" voordat ze verder gaan met deze praktijken.
Het heeft inderdaad iets weg van een capitulatie van de toezichthouders voor big tech.
Burgemeesters in oorlogstijd, alleen proberen ze te doen alsof ze nog enigszins in control zijn.
Alleen jammer dat daarmee de burgers voor de bus worden gegooid.
(Data)soevereiniteit van de EU kan niet zonder effectieve databescherming van de burgers in de EU.
Dat wordt in Brussel nog niet begrepen of misschien interesseert het de Europese Commissie niet.
Dan mogen de toezichthouders proberen om fictie van rechtmatigheid en de werkelijkheid aan elkaar te praten en krijg je dit soort elastieken noodverbandjes op pdf-formaat.
Vandaag, 15:44 door Anoniem
Lijkt me een terechte constatering. Zou er een soort van instituut zijn dat hierop zou kunnen gaan handhaven? Iets van een autoriteit ofzo, die als taak heeft om persoonsgegevens te beschermen tegen dit soort BigTech dataroof? Een soort van club die de wettelijke taak heeft om de wet te handhaven? Zouden we zo 'n soort instantie in NL hebben?
Vandaag, 18:32 door johanw
Laten we hopen dat de AI bedrijven in elk geval de doorgeschoten auteursrecht wetten flink kunnen beteugelen.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.