Het is onmogelijk om een veiligheidskeurmerk voor AI te ontwikkelen zoals dat voor auto's bestaat, zo stelt staatssecretaris Szabo voor Digitalisering. De bewindsman reageerde op vragen uit de senaatscommissie voor Digitalisering over het rapport "Focus op AI bij de Rijksoverheid” van de Algemene Rekenkamer. Volgens het rapport weet het Rijk van veel AI-systemen die het gebruikt niet of die naar behoren werken. Voor meer dan de helft van de gebruikte systemen zeggen overheidsorganisaties dat de kansen nog niet zijn afgewogen tegen eventuele risico’s.

Naar aanleiding van het rapport dat afgelopen oktober verscheen kwam de senaatscommissie voor Digitalisering met allerlei vragen. Zo werd onder andere gevraagd naar de visie van Szabo op het ontwikkelen van een keurmerk voor AI-systemen, vergelijkbaar met het Euro NCAP-keurmerk voor auto’s. "Euro NCAP is een keurmerk voor één specifiek aspect van auto’s: de veiligheid in geval van een botsing. Daar kan een standaard set van eisen voor opgesteld worden. Die zijn ook in alle gevallen van botsingen van toepassing", reageerde de bewindsman.

"Omdat er niet een standaard set van eisen is en er geen standaard testprocedures voor AI mogelijk zijn, is het onmogelijk om een keurmerk te ontwikkelen om aan te geven in welke mate aan die eisen wordt voldaan", ging de staatssecretaris verder. Hij merkt op dat voor hoog-risico AI wel eisen gelden. "Systemen die aan die eisen voldoen, mogen op de markt gebracht worden nadat een beoordeling is gedaan, aan de eisen uit de verordening is voldaan en een CE-markering is aangebracht."

De commissie vroeg Szabo ook hoe hij ervoor gaat zorgen dat de standaardprocedures voor het testen van AI-systemen voorafgaand aan de toepassing ervan net zo transparant zijn als de veiligheidsnormen voor crashtests van nieuwe voertuigen, zodat zowel de effectiviteit van deze AI-systemen als de bescherming van grondrechten worden gewaarborgd.

De staatssecretaris stelt dat de Europese AI-verordening vereisten voor ontwikkelaars bevat. Voor deze eisen komen Europese normen. Deze normen worden echter niet verplicht, legt Szabo uit. "Maar de verwachting is dat ze grootschalig gehanteerd zullen worden en daarmee procedures voor zover mogelijk worden gestandaardiseerd. Wie dat niet doet, moet namelijk zelf aantonen aan alle vereisten voor die systemen te voldoen."