Het kabinet ziet geen wetenschappelijk bewijs dat superintelligente AI op dit moment ontwikkeld kan worden. Wel ziet het kabinet een grote concentratie aan rekenkracht en kapitaal bij een paar commerciële partijen, die risico's zoals geautomatiseerde cyberaanvallen in een stroomversnelling kunnen brengen, wat in extreme gevallen voor maatschappij-ontwrichtende systeemrisico’s kan zorgen. Dat laat staatssecretaris Aerdts voor Digitale Economie in een reactie op Kamervragen weten.

De bewindsvrouw had vragen van de SGP gekregen over de waarschuwing van AI-bedrijven voor ernstige veiligheidsrisico’s van steeds krachtigere AI-systemen. "AI-systemen die ongeautoriseerd toegang tot netwerken of systemen kunnen krijgen, zorgen ervoor dat kwetsbaarheden sneller en op grotere schaal gevonden en misbruikt kunnen worden", stelt Aerdts. Ze voegt toe dat ontwikkelaars van de AI-modellen verantwoordelijk zijn voor het identificeren en mitigeren van mogelijke risico’s, zowel tijdens de ontwikkeling, het testen als wanneer producten op de markt zijn.

"Herkent u de zorgen die leven rondom superintelligente AI en het risico dat de mens niet meer in staat is deze ontwikkeling te stoppen? Deelt u de mening dat een verbod hierop wenselijk is?", stelde SGP-Kamerlid Stoffer de vraag. "Het kabinet ziet momenteel geen wetenschappelijk bewijs dat superintelligente AI op dit moment ontwikkeld kan worden", reageert Aerdts.

De staatssecretaris merkt op dat er wel een grote concentratie aan rekenkracht en kapitaal bij een paar commerciële partijen is, en snelle technologische ontwikkelingen risico's zoals geautomatiseerde cyberaanvallen in een stroomversnelling kunnen brengen. In extreme gevallen zou dit voor maatschappij-ontwrichtende systeemrisico’s kunnen zorgen. "Bijvoorbeeld wanneer AI-modellen door menselijke actoren worden ingezet om grootschalige cyberaanvallen uit te voeren", legt Aerdts uit.

Stoffer had ook gevraagd naar de mogelijkheid van een tijdelijke pauze in de ontwikkeling van krachtige AI-systemen. Dat ziet het kabinet niet zitten, reageert de staatssecretaris. "Het kabinet is geen voorstander van eenzijdige pauze van AI-ontwikkelingen of van het nu vaststellen van één allesomvattend wereldwijd AI-verdrag, maar steunt wel de ontwikkeling van AI in lijn met de internationale normen op het gebied van verantwoorde AI."