Het gebruik van niet-toegestane AI-tools op de werkvloer, ook wel schaduw AI genoemd, kan leiden tot datalekken en beveiligingsincidenten bij organisaties en zo serieuze gevolgen voor werkgevers hebben. Dat laat het Britse National Cyber Security Centre (NCSC) weten. Volgens het Britse NCSC is het gebruik van AI op de werkvloer de afgelopen tijd sterk toegenomen, maar loopt het beleid en richtlijnen van organisaties over het gebruik hiervan vaak achter. Hierdoor kan het voorkomen dat medewerkers met niet-toegestane AI-tools werken.
Schaduw AI kan ervoor zorgen dat gevoelige informatie op straat komt te liggen en het risico op datalekken toeneemt. Ook kunnen organisaties het zicht op en controle over data verliezen. Personeel dat AI inzet bij gevoelige of proprietary informatie kan ervoor zorgen dat deze gegevens op servers terechtkomen die zich buiten de controle van de organisatie bevinden. Daarnaast kan AI ook als springplank voor aanvallers fungeren, door bijvoorbeeld misbruik van kwetsbaarheden in AI-agents te maken.
Het Britse NCSC zegt dat werknemers niet hoeven te stoppen met het gebruik van AI-tools. De overheidsinstantie roept personeel op om eerst goed na te denken over de apps en diensten die men wil gebruiken. "Het kan vanzelfsprekend zijn om dezelfde AI-dienst te gebruiken die je al uit je privéleven kent, maar het gebruik van systemen die niet door het bedrijf zijn goedgekeurd kunnen serieuze gevolgen voor je werkgever hebben."
Het is belangrijk dat organisaties met beleid voor het gebruik van AI komen en voor een 'positieve cybersecuritycultuur' kiezen. Dit moet volgens het Britse NCSC open communicatie over cybersecurityproblemen mogelijk maken, waardoor personeel minder snel zal terugvallen op het gebruik van schaduw AI. Toch waarschuwt de overheidsinstantie dat het gebruik van schaduw AI waarschijnlijk nooit helemaal zal verdwijnen.
"Je kunt niet beheren wat je niet weet. Door het bewustzijn binnen je organisatie over de risico's van schaduw AI te vergroten en de behoeftes van je personeel te kennen, kun je hen helpen met de voordelen van nieuwe technologieën en het veilig gebruik ervan", aldus het Britse NCSC.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Enterprise Architect
Ministerie van Binnenlandse Zaken en Koninkrijksrelaties
De snelle technologische ontwikkelingen vragen om een toekomstbestendig Data & IV-landschap voor de MIVD en AIVD. Als Enterprise Architect bij het CIO-office ben jij de regisseur van deze cruciale transitie. Vanuit Zoetermeer ontwerp je de totaal-architectuur die de inlichtingen- en veilig-heidsdiensten van morgen veilig en effectief maakt.
Solution Architect Security
Ben jij een ervaren Solution Architect en heb je affiniteit met IT-security, Governance, Risk & Compliance en IT Security Management? Kun jij complexe wensen en securityvraag-stukken vertalen naar schaalbare op-lossingen en de implementatie daarvan begeleiden? Ben je gedreven om risico's te beheersen, processen te optimaliseren en het IT-landschap strategisch verder te ont-wikkelen?
