Niet alle AI-systemen hoeven vooraf getest te worden, zo stelt staatssecretaris Aerdts voor Digitale Economie. Hoewel wetgeving voor AI al deels van kracht is, heeft Nederland nog altijd geen toezichthouder, wat voor een vacuüm zorgt, aldus de bewindsvrouw. Aerdts reageerde tijdens het vragenuur in de Tweede Kamer op vragen van het CDA over berichtgeving dat AI-modellen op grote schaal de wet overtreden.

"De inzet van het kabinet is natuurlijk dat AI verantwoord ingezet wordt. Ik vind het dan ook zorgelijk dat het erop lijkt dat je die AI-modellen opdrachten kan geven waarmee bijvoorbeeld de AI-verordening of andere wetgeving wordt overtreden. Dat maakt de uitkomsten van de opdrachten weinig waardevol, maar het is ook zorgelijk, ook voor wat betreft het vertrouwen dat men in AI heeft", reageerde de staatssecretaris.

Aerdts voegde toe dat de AI-verordening, waarin regels voor AI-systemen staan, deels al in werking is getreden. Bepaalde zaken, zoals misleiding of manipulatie, zijn op dit moment al verboden. "Wetgeving loopt natuurlijk eigenlijk per definitie een beetje achter de feiten aan, maar zeker bij AI is dat er ook echt nog wel eentje om goed in het achterhoofd te houden. De toezichthouders in het kader van die AI-verordening moeten nog worden aangewezen."

Juridisch verantwoordelijk

CDA-Kamerlid Zwinkels wilde ook weten wie er juridisch verantwoordelijk is wanneer een autonome AI-agent de wet overtreedt. Volgens de staatssecretaris zijn in principe de ontwikkelaars van AI-taalmodellen verantwoordelijk voor hoe zij het model opstellen en hebben mensen ook een verantwoordelijkheid als het gaat om de vragen die zij stellen. "Maar die verantwoordelijkheid kan natuurlijk niet volledig bij mensen gelegd worden. Daarom is in die AI-verordening ook opgenomen dat bedrijven een gebruikersinstructie moeten meegeven. Maar heel specifiek dat juridische stukje... Dat is ook echt nog de vraag die wij hebben en ook in Europees verband oppakken."

Testen

Aerdts merkte op dat niet alle AI-systemen vooraf getest hoeven te worden. "Dit gaat eigenlijk risicogestuurd, zoals we dat bijvoorbeeld ook zien bij de Nederlandse Voedsel- en Warenautoriteit. Daarom gaf ik ook aan: sommige dingen mogen volgens de AI-verordening niet. Sommige, met een heel hoog risico, moeten inderdaad getest worden. Maar aan de andere kant heb je natuurlijk ook de innovatiekant. Je kan niet alle systemen testen voordat er wat mee gebeurt. Als je het bij wijze van spreken over een simpele Excel-sheet hebt, dan hoeft dat niet van tevoren getest te worden."

De staatssecretaris stelt dat Nederland op dit moment in een vacuüm zit als het om AI gaat. "Want een deel van die AI-verordening is inderdaad al in werking getreden, maar de toezichthouders zijn nog niet aangewezen." De AI-verordening treedt stapsgewijs in werking. De eerste regels gelden sinds 2 februari vorig jaar in Nederland. Op 2 augustus 2027 zal de gehele wet van toepassing zijn. Vorig jaar augustus hadden de toezichthouders op naleving van de AI-verordening in Nederland al bekend moeten zijn, aldus de Autoriteit Persoonsgegevens.