Het Australische Cyber Security Centre (ACSC) waarschuwt mkb-bedrijven voor het uploaden van klantgegevens naar AI-chatbots en andere risico's die bij het gebruik van deze platforms komen kijken. Volgens het ACSC neemt het gebruik van AI-diensten toe en maken inmiddels ook veel mkb-bedrijven er gebruik van. Bedrijven moeten er echter bij stilstaan dat het gebruik van AI allerlei risico's met zich meebrengt, waaronder datalekken en andere privacyproblemen.

"Sommige AI-providers kunnen door klanten geuploade data gebruiken om hun modellen te trainen of verbeteren", aldus het ACSC. "Mkb-bedrijven moeten goed de configuratie-instellingen, voorwaarden en privacybeleid van gebruikte AI-platforms doornemen om te begrijpen hoe hun data wordt verzameld, opgeslagen en gebruikt." De Australische overheidsdienst voegt toe dat mkb-bedrijven vaak beperkte middelen en technische expertise hebben, waardoor het risico bestaat dat AI-providers geuploade klantgegevens misbruiken.

Het ACSC wijst naar een situatie waarbij een medewerker van een Australische organisatie begin vorig jaar namen, contactgegevens en medische dossiers van mensen, die deelnamen aan een overheidsprogramma, naar een AI-systeem had geupload. Dit leidde tot een ernstig datalek, aldus de overheidsinstantie. Die adviseert het opstellen van intern AI-beleid waarin duidelijk staat vermeld welke data wel en niet naar AI-platforms kan worden geupload. Ook wordt aangeraden om bij het gebruik van AI-diensten persoonlijke details te verwijderen, anonimiseren of veranderen, zodat het niet mogelijk is om direct een persoon te identificeren.

Onlangs bleek dat de gemeente Eindhoven zeer persoonlijke en gevoelige gegevens van inwoners en medewerkers via openbare AI-websites had gelekt. Het ging om duizenden bestanden met veel gevoelige en bijzondere categorieën van persoonsgegevens van vermoedelijk heel veel mensen, aldus onderzoekers. Die noemden als voorbeeld mentale en fysieke gezondheidsinformatie van minderjarige kinderen en ouders, alsmede BSN-nummers en soms zelfs foto's van kinderen.