In de Tweede Kamer zijn vragen gesteld over de veiligheids- en privacyrisico's van AI-assistenten en of de overheid wel van dergelijke technologie gebruik zou moeten maken. Aanleiding voor de vragen van CDA-Kamerlid Zwinkels is berichtgeving over AI-assistent OpenClaw, die allerlei taken voor gebruikers kan uitvoeren. Cisco noemde de AI-assistent eerder al een "security nachtmerrie". Antivirusbedrijf Bitdefender adviseert om OpenClaw niet op zakelijke systemen te draaien.

Het CDA wil nu opheldering van demissionair staatssecretaris Van Marum voor Digitalisering. "Deelt u de zorgen van experts dat steeds autonomer opererende AI-assistenten risico’s vormen voor veiligheid, privacy, menselijke controle en mentale gezondheid? En kunt u daarbij aangeven welke risico’s u het meest urgent acht?" De bewindsman moet ook duidelijk maken of hij het wenselijk vindt dat AI-systemen zelfstandig handelingen, zoals het doen van aankopen en het aangaan van contracten, kunnen verrichten namens gebruikers.

"Kunt u aangeven of het naar uw inzicht wenselijk is dat er vanuit de overheid gebruik gemaakt wordt van autonome AI-assistenten? En op welke vlakken gebeurt dit al? Onder welke voorwaarden wordt dit toegestaan en hoe wordt hierop toegezien in de praktijk?", wil het CDA-Kamerlid verder weten. Zwinkels vraagt ook hoe bij het gebruik van autonome AI-assistenten in kritieke infrastructuur en in sectoren als defensie, de zorg en de overheid zelf, altijd sprake blijft van ‘human in the loop’. Van Marum heeft drie weken om met een reactie te komen.