Chatbots ChatGPT en Bard in beginsel verboden voor rijksambtenaren
Generatieve AI-systemen zoals ChatGPT, Bard en Midjourney zijn in beginsel verboden voor rijksambtenaren als er een risico is dat wetgeving wordt overtreden, tenzij zowel aanbieder als gebruiker kunnen aantonen dat ze aan geldende wet- en regelgeving voldoen. Dat heeft demissionair staatssecretaris Van Huffelen van Digitalisering laten weten. Volgens de bewindsvrouw voldoen niet-gecontracteerde generatieve AI-toepassingen zoals ChatGPT, Bard en Midjourney, over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving.
Het kabinet heeft een voorlopig standpunt gepresenteerd over het gebruik van generatieve AI door Rijksorganisaties (pdf). Daarin staat dat alle gebruikte generatieve AI-toepassingen moeten voldoen aan geldende wet- en regelgeving. Om vast te stellen welke specifieke vorm van inzet van generatieve AI wel of niet mogelijk is, moet vooraf aan het gebruik ervan per uniek geval een risicoanalyse worden uitgevoerd.
Het gaat dan om een (pre-scan) Data Protection Impact Assessment en een algoritme impact assessment, waarin de risico’s en risicobeperkende maatregelen worden vastgesteld. De uitkomsten hiervan moeten vooraf aan het gebruik ter advies aan de Chief Information Officer en de Functionaris Gegevensbescherming worden voorgelegd. Deze regels gelden ook bij het gebruik of (door)ontwikkelen van een open source generatieve AI-toepassingen.
"Niet-gecontracteerde generatieve AI-toepassingen zoals ChatGPT, Bard en Midjourney, voldoen over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving. Zodoende is het gebruik hiervan door Rijksorganisaties (of in opdracht daarvan) in beginsel niet toegestaan, in die gevallen waarin het risico bestaat dat wetgeving wordt overtreden, tenzij de aanbieder en de gebruiker aantoonbaar voldoen aan de geldende wet- en regelgeving", aldus Van Huffelen.
De staatssecretaris laat weten dat het voorlopige standpunt van het kabinet geen categorisch verbod van de technologie is, maar geldende wet- en regelgeving herhaalt. "Het gebruik wordt niet ontzegd, maar gekaderd. Zo blijft het mogelijk te experimenteren met de technologie." Het ministerie van Binnenlandse Zaken gaat het standpunt nu communiceren binnen de Rijksoverheid en wordt er overlegd met aanbieders om de mogelijkheden te onderzoeken om individueel gebruik van generatieve AI in de huidige zakelijke werkomgeving verantwoord aan te bieden.
Tevens komt er een ‘Handreiking voor Rijksorganisaties bij het gebruik van generatieve AI' zodat Rijksorganisatie generatieve AI verantwoord inzetten en zullen er trainingen plaatsvinden. "Dat een overheid aan eigen instanties vraagt zich aan de wet te houden is eigenlijk geen nieuws. AI, en zeker generatieve AI, is een technologie die volop in ontwikkeling is. Daarom zeggen we voorlopig, voer risicoanalyses uit, hou je aan de wet en wees voorzichtig", laat Van Huffelen weten.
Daarnaast, waarom maken ze wanbeleid door de overheid niet eens verboden?
zowel voor ambtenaren en burgers, flink aanscherpen.
In een corporatocracie valt dat voor hen niet mee.
Ze willen slechts voor zichzelf een bevoorrechte positie.
Alweer vergeten, dat een overheid van ons allemaal en voor ons allemaal is.
Maar het is weer: "Wiens brood men eet, diens woord men spreekt".
Kan iemand dat voor mij bevestigen?
#laufer
De redenering lijkt te zijn dat deze systemen niet voldoen aan privacy- en auteursrecht, maar is dit wel zo zwart-wit?
Perplexity.ai biedt altijd bronnen van de geboden informatie. En de OpenAI API heeft strikte gebruiksvoorwaarden. Kunnen deze systemen dan ook worden verboden zonder concrete onderbouwing waarom ze niet voldoen?
Inmiddels zijn er wat rechters die over auteursrecht uitspraak hebben gedaan, Deze uitspraken waren vooral in het nadeel van de klagende partij.
Men lijkt echt de plank mis te slaan door het kind met het badwater weg te gooien. Zo mist men potentieel nuttige innovaties, of zal in ieder geval flink achterop raken.
Een genuanceerder standpunt waarin educatie wordt geboden en geëxperimenteerd kan worden met AI onder voorwaarden lijkt me beter.
Wat denken jullie?
en dat men er daarom ambtelijk vrij van wil blijven.
Meestal worden er gelegenheidsargumenten gebruikt.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
IT Security Officer
Utrecht heeft jou nodig! Als Information Security Officer vertaal je beleid naar technische uitvoering. Dit is cruciaal voor het waarborgen van de informatiebeveiliging van onze inwoners. Je krijgt de kans om betrokken te zijn bij complexe projecten met de nieuwste technologieën en kunt jouw stempel drukken op innovatie. Solliciteer nu!
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.