Staatssecretaris Aerdts voor Digitale Economie waarschuwt voor de risico's van autonome AI-assistenten zoals OpenClaw en adviseert de tools niet te gebruiken op systemen met privacygevoelige of vertrouwelijke gegevens. De bewindsvrouw reageerde op Kamervragen van het CDA over de veiligheids- en privacyrisico's van AI-assistenten. Berichtgeving over AI-assistent OpenClaw, die allerlei taken voor gebruikers kan uitvoeren, was aanleiding voor de Kamervragen van CDA-Kamerlid Zwinkels.
Aerdts zegt de zorgen van experts te delen dat steeds autonomer opererende AI-assistenten risico’s vormen voor veiligheid, privacy, menselijke controle en mentale gezondheid. "Een risico is bijvoorbeeld dat gebruikers de controle verliezen op wat AI-assistenten doen. Daarnaast verzamelt en verwerkt het veel persoonlijke gegevens van gebruikers. Omdat deze AI-assistenten zelfstandig werken is het voor gebruikers moeilijk te overzien welke data waar terechtkomt en wat er met die data gebeurt", aldus de bewindsvrouw.
De staatssecretaris voegt toe dat het belangrijk is dat mensen controle blijven houden. "Voor alle hoog risico AI-systemen moet er menselijk toezicht (‘human in the loop’) uitgeoefend kunnen worden. Dit houdt onder andere in dat men de capaciteiten van het systeem moet begrijpen en de werking ervan moet kunnen monitoren. Ook moet het systeem stopgezet kunnen worden. De mate van deze menselijke controle is contextafhankelijk: des te groter het risico, des te steviger het menselijk toezicht moet zijn."
Afsluitend merkt Aerdts op dat gebruikers van AI-assistenten voorzichtig moeten zijn. "Bij experimentele vormen van autonome AI-assistenten zoals OpenClaw is het belangrijk om nu vooral zeer terughoudend te zijn en deze niet te gebruiken op systemen met privacygevoelige of vertrouwelijke gegevens." Eerder kwam ook de Autoriteit Persoonsgegevens met een dergelijk advies.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Medior Information Security Officer
Als Medior Information Security Officer in Rotterdam versterk je onze digitale veiligheid in een organisatie die volop in cloudtransitie is. Je werkt met moderne cloud technologie én uitdagende legacy. Krijg jij energie van échte impact? Dan is dit jouw plek.
Senior Information Security Officer
Stap in de rol van Senior Information Security Officer in Rotterdam waar je iedere dag zichtbaar impact maakt op hoe we onze organisatie beschermen. Klaar om verder te lezen en te ontdekken waar jij het verschil kunt maken?
