VNG en Breda komen met handleiding voor AI-gebruik door gemeenten
De Vereniging van Nederlandse Gemeenten (VNG) en de gemeente Breda hebben een handleiding gepubliceerd voor het gebruik van AI door gemeenten. Zo wordt aangeraden de output altijd te controleren en geen (gevoelige) persoonsgegevens, bedrijfsgevoelige informatie of intellectueel eigendom met chatbots te delen. De handleiding is gebaseerd op een pilot die de gemeente Breda met Microsoft Copilot uitvoerde.
"Informatie die normaal gesproken in een vakapplicatie wordt opgeslagen, mag NOOIT ingevoerd worden in Copilot. Denk bijvoorbeeld aan BSN-nummers, cv's, financiële informatie, strafrechtelijke gegevens, bijzondere persoonsgegevens, identiteitsbewijzen, woonadressen of sociale zekerheidsinformatie", zo laat de handleiding weten.
Daarnaast wordt aangeraden om de uitvoer altijd te controleren. "In dit stadium kunnen we Copilot nog niet 100 procent vertrouwen en moeten de output en de bronnen altijd door de gebruiker worden gecontroleerd. Dit heeft meerdere oorzaken. Naast het feit dat we nog niet blind op de technologie kunnen vertrouwen, hebben de manier van prompten en de datakwaliteit ook grote invloed op de output." De handleiding waarschuwt ook dat Copilot kan hallucineren en met volledige zekerheid een foutief antwoord kan geven.
Een ander advies betreft het gebruik van Copilot. Zo mag Microsofts chatbot niet worden ingezet om keuzes te maken, beslissingen te nemen of beoordelingen uit te voeren. "Denk hierbij aan het laten bepalen door Copilot of iemand wel of geen vergunning krijgt, of het laten beoordelen van cv's door Copilot om de beste kandidaat te vinden." Verder moeten gemeenten ervoor zorgen dat alleen bevoegde personen toegang hebben tot de transcripties en specifieke informatie die wordt gegenereerd met Copilot.
In geen enkel stadium kan je de output 100% vertrouwen. Immers is big data niet per definitie juist of volledig. Ook wanneer de chatbot niet hallicuneert.
Zolang er geen landelijke AI-governancekaders, juridische toetsingsmechanismen en technische beheersmaatregelen worden opgezet, is het gebruik van tools als Copilot in gemeenten onverantwoord – en potentieel schadelijk.
De echte handleiding ontbreekt nog. En dat is precies het probleem.
Wat opvalt is de acceptatie bij medewerkers van AI, een bedrijfsinnovatie die ze leuk vinden, misschien wel door het onverwachte, zoals opeens geen Nederlands meer kunnen produceren.
Wat hun mening over een paar jaar zal zijn over die persoonlijk assistent bij ze in de computer, dat is dan, en iets om in de gaten te houden, dan eens terugblikken op dit verslag van de pioniersfase.
Gekozen metaforen om het verhaal naar analogie te vertellen zal zeker zachte landing maken bij medewerkers die hiermee werken, ik verwacht veel reisverslagen en varianten erop (vakanties waar werkelijk alles misgaat wat wel mis kan gaan).
Als het het gaat om consumeren van news-snippets was ik altijd al een fan van lucht en ruimtevaart, dus deze handleiding is netjes gemaakt, en herkenbaar voor anderen die met Co-Pilot werken.
Als het niet voor ons is, dan is het dus .... .... (u mag drie keer raden).
Maar men heeft echt het beste met ons voor en doet alles voor onze eigen bestwil, toch?
Iemand met een uitkering is goedkoper dan een ambtenaar. Een AI is natuurlijk nog goedkoper.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
SOC Lead
Directie Informatievoorziening & Inkoop
Als SOC Lead ben jij verantwoordelijk voor het aansturen van de dagelijkse operatie binnen het SOC. Je stuurt medewerkers functioneel aan en rapporteert aan de manager. Daarnaast ben je ook betrokken bij SOC-werkzaamheden, zoals het detecteren en afhandelen van security incidenten. Je verzamelt dreigingsinformatie, richt detectie-regels in, en zorgt ervoor dat aanvallers vroegtijdig worden geïdentificeerd.
Senior Security Specialist
Directie Informatievoorziening & Inkoop
Als senior security specialist ben je verantwoordelijk voor het detecteren en af-handelen van (mogelijke) security incidenten. Je vergaart dreigingsinformatie en richt de-tectieregels in op basis van risico's, zodat aanvallers in een vroeg stadium geïden-tificeerd kunnen worden. Deze risico's haal je actief op bij systeemeigenaren. Wanneer een dreiging wordt gedetecteerd, zorg jij ervoor dat de juiste acties worden uitgezet en voorzie jij alle stakeholders van handelings-perspectief.
Cybersecurity Trainer / Full Stack Developer
bij Certified Secure
Ben je toe aan een nieuwe job waarmee je het verschil maakt? Wil jij je security kennis graag delen en hands-on laten zien hoe cybersecurity in de praktijk echt werkt? Werk je net als wij graag samen met enthousiaste en gedreven collega's? Bij ons geen bureaucratie maar open communicatie en een werkomgeving gericht op samenwerking.