Partijen in de Tweede Kamer willen opheldering van staatssecretaris Aerdts voor Digitale Economie over AI-modellen die uit hun testomgeving breken en vervolgens bedrijven hacken. Aanleiding is berichtgeving over verschillende modellen van OpenAI, Anthropic en Meta die op de systemen van verschillende partijen wisten in te breken. Persbureau Reuters liet eerder weten dat bij de test van OpenAI bewust allerlei veiligheidswaarborgen waren uitgeschakeld en er geen tot nauwelijks menselijk toezicht was.
In het geval van Anthropic werden drie bedrijven gehackt en malware geupload naar de Python Package Index (PyPI). D66 en het CDA hebben nu Kamervragen gesteld. Zo willen Kamerleden El Boujdaini (D66) en Zwinkels (CDA) weten of ook Nederlandse organisaties bij de gemelde incidenten zijn gehackt. "Deelt u de mening dat de verantwoordelijkheid voor dit soort incidenten primair bij de ontwikkelaars van AI-modellen ligt, en niet louter kan worden afgedaan als een onvermijdelijk gevolg van toenemende AI-capaciteiten?", vragen de Kamerleden aanvullend.
Aerdts moet ook duidelijk maken welke risico's zij ziet voor de nationale veiligheid en digitale infrastructuur door AI-modellen die buiten hun testomgeving opereren en bedrijven kunnen hacken. "Bent u bereid om in Europees verband te bepleiten dat ontwikkelaars van geavanceerde AI-modellen verplicht worden incidenten waarbij modellen uit testomgevingen ontsnappen te melden bij een toezichthouder en getroffen organisaties, vergelijkbaar met meldplichten bij datalekken?", willen El Boujdaini en Zwinkels verder weten.
Als laatste is de minister gevraagd welke maatregelen ze neemt of gaat nemen om ervoor te zorgen dat testomgevingen van AI-bedrijven die in Nederland actief zijn of hier data verwerken, aan adequate veiligheidseisen voldoen. Aerdts heeft drie weken om met een reactie te komen.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Enterprise Architect
Ministerie van Binnenlandse Zaken en Koninkrijksrelaties
De snelle technologische ontwikkelingen vragen om een toekomstbestendig Data & IV-landschap voor de MIVD en AIVD. Als Enterprise Architect bij het CIO-office ben jij de regisseur van deze cruciale transitie. Vanuit Zoetermeer ontwerp je de totaal-architectuur die de inlichtingen- en veilig-heidsdiensten van morgen veilig en effectief maakt.
Solution Architect Security
Ben jij een ervaren Solution Architect en heb je affiniteit met IT-security, Governance, Risk & Compliance en IT Security Management? Kun jij complexe wensen en securityvraag-stukken vertalen naar schaalbare op-lossingen en de implementatie daarvan begeleiden? Ben je gedreven om risico's te beheersen, processen te optimaliseren en het IT-landschap strategisch verder te ont-wikkelen?
