Kunstmatige intelligentie is een systeemtechnologie, vergelijkbaar met de opkomst van de stoommachine, elektriciteit, de verbrandingsmotor en de computer, die ons leven fundamenteel zal veranderen, zo stelt de Wetenschappelijke Raad voor het Regeringsbeleid (WRR). De WRR adviseert in een rapport dat de overheid kaders moet scheppen om onder andere de gevaren van massasurveillance en machtsconcentratie door AI te voorkomen.

"Regulering van AI is nodig om te verhinderen dat de gevaren van massasurveillance en machtsconcentratie de positieve bijdrage van AI gaan overschaduwen. Het is urgent dat de overheid een visie ontwikkelt op onze digitale leefwereld", zo stelt de WRR in een vorig jaar verschenen rapport. Daarin worden in totaal tien aanbevelingen gedaan voor de manier waarop de overheid met AI zou moeten omgaan, waaronder het opzetten van algoritmeregisters, het kiezen voor een Nederlandse AI-identiteit en de inzet van regulering om de ontwikkelingen rondom surveillance en dataverzameling te sturen.

Het kabinet is nu met een reactie op het rapport en gedane aanbevelingen gekomen. "Steeds meer facetten van ons dagelijks leven worden geobserveerd, vastgelegd en verwerkt, terwijl dit tegelijk bijdraagt aan gevoelens van onveiligheid, wantrouwen en onmacht in de samenleving, aldus de WRR. Deze potentieel ontwrichtende factoren staan zowel bij het kabinet, als op Europees niveau hoog op de agenda", zo laat het kabinet weten. Dat stelt verder dat wat betreft het tegengaan van dergelijke surveillance en het gebruik van data van burgers door bedrijven de AVG al belangrijke waarborgen biedt.

Verdienmodel

De WRR laat in het rapport ook weten dat het in de gaten houden van burgers en consumenten inmiddels voor vrijwel alle bedrijven en overheden en talloze individuele burgers staande praktijk is geworden. "Bedrijven hebben hierop hun verdienmodel gebaseerd, waardoor elke inperking hiervan kosten dan wel derving van potentiële winst met zich meebrengt. En voor overheden geldt dat het verzamelen en verwerken van data, vooral persoonsgegevens, een scala aan mogelijkheden biedt om burgers en bedrijven op hun handelen te controleren" zo stel de Raad.

Het tegengaan van dergelijke surveillance via het gebruik van data van burgers door bedrijven vereist volgens de WRR meer dan alleen het reguleren van bepaalde vormen van grootschalige of gevoelige dataverzameling. Het gaat om het doorbreken van deze dynamiek en het wijzigen van de verhoudingen op de digitale markt. Het kabinet zegt zich in deze observatie te kunnen vinden.

"Daarbij moet wel onderscheid gemaakt worden tussen de rol van en mogelijke machtsconcentratie bij grote (niet-Europese) techbedrijven en de vele bedrijven in Europa en Nederland die digitale technologie zoals AI toepassen. De EU is daarbij het meest effectieve niveau om verandering te brengen in de huidige dynamiek in het digitale domein", aldus de verdere reactie. Naar verwachting publiceert staatssecretaris Van Huffelen van Digitalisering volgende maand de werkagenda Digitalisering, met daarin een uitwerking van de plannen van het kabinet rond dit thema.