Veel modellen voor generatieve AI hebben door het gebruik van gigantische hoeveelheden gescrapete informatie en het gebruik van de gegevens die gebruikers zelf invoeren vermoedelijk een onrechtmatige ontstaansgeschiedenis. Dat laat de Autoriteit Persoonsgegevens (AP) vandaag weten bij de presentatie van een visie op verantwoorde ontwikkeling en inzet van generatieve AI.
"De overkoepelende inschatting is dat op basis van de huidige praktijk het overgrote gedeelte van alle generatieve AI-modellen op dit moment tekortschiet qua rechtmatigheid", aldus de privacytoezichthouder in een document genaamd AVG-Randvoorwaarden voor generatieve AI (pdf). Generatieve AI-applicaties maken gebruik van 'foundation modellen'. Voor het trainen van deze modellen is vrijwel alle publiekstoegankelijke data op het internet gescrapet, zo stelt de AP.
Het is aannemelijk dat tussen deze data ook onrechtmatig verzamelde bijzondere persoonsgegevens zitten. "Toch is de verdere inzet van deze foundation modellen door Nederlandse en Europese partijen daardoor niet bij voorbaat onrechtmatig, zoals volgt uit een analyse van de EDPB", voegt de Autoriteit Persoonsgegevens toe. Met de AVG-Randvoorwaarden wil de AP organisaties meer duidelijkheid geven over het gebruik van generatieve AI en aan welke voorwaarden moet worden voldaan.
"De mogelijkheden van generatieve AI blijven verrassen. De technologie kan veel goeds brengen, maar net zo goed zorgen baren. Bovendien gaat generatieve AI hand in hand met massale gegevensopslag. Het is essentieel dat de bescherming van persoonsgegevens ook bij de inzet van generatieve AI op orde is", zegt AP-voorzitter Aleid Wolfsen, die toevoegt dat gegeven de snelle technologische ontwikkelingen achteraf corrigeren niet voldoende is.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.