VNG en Breda komen met handleiding voor AI-gebruik door gemeenten
De Vereniging van Nederlandse Gemeenten (VNG) en de gemeente Breda hebben een handleiding gepubliceerd voor het gebruik van AI door gemeenten. Zo wordt aangeraden de output altijd te controleren en geen (gevoelige) persoonsgegevens, bedrijfsgevoelige informatie of intellectueel eigendom met chatbots te delen. De handleiding is gebaseerd op een pilot die de gemeente Breda met Microsoft Copilot uitvoerde.
"Informatie die normaal gesproken in een vakapplicatie wordt opgeslagen, mag NOOIT ingevoerd worden in Copilot. Denk bijvoorbeeld aan BSN-nummers, cv's, financiële informatie, strafrechtelijke gegevens, bijzondere persoonsgegevens, identiteitsbewijzen, woonadressen of sociale zekerheidsinformatie", zo laat de handleiding weten.
Daarnaast wordt aangeraden om de uitvoer altijd te controleren. "In dit stadium kunnen we Copilot nog niet 100 procent vertrouwen en moeten de output en de bronnen altijd door de gebruiker worden gecontroleerd. Dit heeft meerdere oorzaken. Naast het feit dat we nog niet blind op de technologie kunnen vertrouwen, hebben de manier van prompten en de datakwaliteit ook grote invloed op de output." De handleiding waarschuwt ook dat Copilot kan hallucineren en met volledige zekerheid een foutief antwoord kan geven.
Een ander advies betreft het gebruik van Copilot. Zo mag Microsofts chatbot niet worden ingezet om keuzes te maken, beslissingen te nemen of beoordelingen uit te voeren. "Denk hierbij aan het laten bepalen door Copilot of iemand wel of geen vergunning krijgt, of het laten beoordelen van cv's door Copilot om de beste kandidaat te vinden." Verder moeten gemeenten ervoor zorgen dat alleen bevoegde personen toegang hebben tot de transcripties en specifieke informatie die wordt gegenereerd met Copilot.
In geen enkel stadium kan je de output 100% vertrouwen. Immers is big data niet per definitie juist of volledig. Ook wanneer de chatbot niet hallicuneert.
Zolang er geen landelijke AI-governancekaders, juridische toetsingsmechanismen en technische beheersmaatregelen worden opgezet, is het gebruik van tools als Copilot in gemeenten onverantwoord – en potentieel schadelijk.
De echte handleiding ontbreekt nog. En dat is precies het probleem.
Wat opvalt is de acceptatie bij medewerkers van AI, een bedrijfsinnovatie die ze leuk vinden, misschien wel door het onverwachte, zoals opeens geen Nederlands meer kunnen produceren.
Wat hun mening over een paar jaar zal zijn over die persoonlijk assistent bij ze in de computer, dat is dan, en iets om in de gaten te houden, dan eens terugblikken op dit verslag van de pioniersfase.
Gekozen metaforen om het verhaal naar analogie te vertellen zal zeker zachte landing maken bij medewerkers die hiermee werken, ik verwacht veel reisverslagen en varianten erop (vakanties waar werkelijk alles misgaat wat wel mis kan gaan).
Als het het gaat om consumeren van news-snippets was ik altijd al een fan van lucht en ruimtevaart, dus deze handleiding is netjes gemaakt, en herkenbaar voor anderen die met Co-Pilot werken.
Als het niet voor ons is, dan is het dus .... .... (u mag drie keer raden).
Maar men heeft echt het beste met ons voor en doet alles voor onze eigen bestwil, toch?
Iemand met een uitkering is goedkoper dan een ambtenaar. Een AI is natuurlijk nog goedkoper.
Wat een prachtige oxymoron.
Les 1 bestaat natuurlik uit het leren begrijpen wat een LLM en machine learning daadwerklijk zijn zodat je als mens/organisatie een weloverwogen beslissing kunt nemen of je nu wel of geen gokkantoor toelaat op de werkvloer.
Chatten en copilot in een adem noemen geeft al duidelijk aan dat de mensen achter deze handleiding/berichtgeving geen enkel idee hebben waar ze het nu eigenlijk over hebben.
Dat hoeft natuurlijk ook niet meer want AI geeft daar zelf uitstekend antwoord op.
Doe maar een onsje MAD meer en happy halloween
Voor het geval de gemiddelde lama het nog niet doorheeft: goedkoop is duurkoop.
Eentje met een hele slechte afdronk overigens. Maar van dat soort bedrijvigheid horen we toch niets meer (e.g. de selfulfilling prophecy)
Maar misschien was de opmerking bedoeld als zijnde sarcastisch ?
Wat een prachtige oxymoron.
Les 1 bestaat natuurlik uit het leren begrijpen wat een LLM en machine learning daadwerklijk zijn zodat je als mens/organisatie een weloverwogen beslissing kunt nemen of je nu wel of geen gokkantoor toelaat op de werkvloer.
Chatten en copilot in een adem noemen geeft al duidelijk aan dat de mensen achter deze handleiding/berichtgeving geen enkel idee hebben waar ze het nu eigenlijk over hebben.
Dat hoeft natuurlijk ook niet meer want AI geeft daar zelf uitstekend antwoord op.
Doe maar een onsje MAD meer en happy halloween
Je gaat er vanuit dat de ambtenaren die in die gemeente met co-pilot zijn gaan werken, geen voorlichting hebben gekregen wat LLM en AI zijn. Dat hebben ze wel, al zou het deze discussie verrijken als een trainer op dit forum zich meldt, maar dat doet die wijselijk niet. Hier zit ook weer een train de trainer evoluatie achter. Door mensen en AI.
Ik vond de Promptenaar als digitaal café voor co-pilot gebruikers wel een vinding. Een offline variant als horeca marketing concept doemt mij al op.
AI geeft geen antwoorden, het maakt het werk gemakkelijker, dat is wat de handleiding in de videointerviews meldt. Uploaden relevante documenten met alle op personen te herleiden info eruit, korte samenvattingen van dossiers maken imv vakantie van een collega, of overdracht van een dossier naar een vertrekkende collega, samenvattingen laten maken om afdelingen te informeren, voor een vergadering, of achteraf bij vragen.
Ik vraag me af of je wel weet hoe een Gemeente en ambtelijke organisatie werkt.
Voor het geval de gemiddelde lama het nog niet doorheeft: goedkoop is duurkoop.
Eentje met een hele slechte afdronk overigens. Maar van dat soort bedrijvigheid horen we toch niets meer (e.g. de selfulfilling prophecy)
Maar misschien was de opmerking bedoeld als zijnde sarcastisch ?
Llama means any weapon but especially guns /s Volgens de lama die in gevecht is met een python.
Wat een prachtige oxymoron.
Les 1 bestaat natuurlik uit het leren begrijpen wat een LLM en machine learning daadwerklijk zijn zodat je als mens/organisatie een weloverwogen beslissing kunt nemen of je nu wel of geen gokkantoor toelaat op de werkvloer.
Chatten en copilot in een adem noemen geeft al duidelijk aan dat de mensen achter deze handleiding/berichtgeving geen enkel idee hebben waar ze het nu eigenlijk over hebben.
Dat hoeft natuurlijk ook niet meer want AI geeft daar zelf uitstekend antwoord op.
Doe maar een onsje MAD meer en happy halloween
Je gaat er vanuit dat de ambtenaren die in die gemeente met co-pilot zijn gaan werken, geen voorlichting hebben gekregen wat LLM en AI zijn. Dat hebben ze wel, al zou het deze discussie verrijken als een trainer op dit forum zich meldt, maar dat doet die wijselijk niet. Hier zit ook weer een train de trainer evoluatie achter. Door mensen en AI.
Ik vond de Promptenaar als digitaal café voor co-pilot gebruikers wel een vinding. Een offline variant als horeca marketing concept doemt mij al op.
AI geeft geen antwoorden, het maakt het werk gemakkelijker, dat is wat de handleiding in de videointerviews meldt. Uploaden relevante documenten met alle op personen te herleiden info eruit, korte samenvattingen van dossiers maken imv vakantie van een collega, of overdracht van een dossier naar een vertrekkende collega, samenvattingen laten maken om afdelingen te informeren, voor een vergadering, of achteraf bij vragen.
Ik vraag me af of je wel weet hoe een Gemeente en ambtelijke organisatie werkt.
Als goed geinformeerd mens ben je natuurlijk op de hoogte van bv publicaties zoals "Empire of AI" van Hao waardoor ik mij dan toch daadwerkelijk afvraag hoe je als weldenkend mens je kunt bezig houden met het vergoeilijken en motiveren van het gebruik van dit soort technieken in het speciaal in een publiek gefinancierd domein.
Iedere ambtenaar die met zijn vliegtuig vanuit huis naar zijn werkt reist weet natuurlijk als geen ander dat je daarvoor gewoon even de handleiding doorleest.
Maar goed, je hebt in ieder geval de moeite genomen om te reageren waarvoor dank.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Cybersecurity Trainer / Full Stack Developer
Ben je toe aan een nieuwe job waarmee je het verschil maakt? Wil jij je security kennis graag delen en hands-on laten zien hoe cybersecurity in de praktijk echt werkt? Werk je net als wij graag samen met enthousiaste en gedreven collega's? Bij ons geen bureaucratie maar open communicatie en een werkomgeving gericht op samenwerking.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?