Organisaties moeten AI-agents niet gebruiken voor gevoelige taken en het niet zomaar toegang geven tot gevoelige data, omdat het risico bestaat dat dergelijke gegevens lekken. Dat stellen verschillende overheidsdiensten van Australië, Canada, Nieuw-Zeeland, het Verenigd Koninkrijk en de Verenigde Staten, ook wel de Five Eyes-landen genoemd. Onder andere de Amerikaanse geheime dienst NSA, cyberagentschap CISA en het Britse NCSC zijn met een nieuw adviesdocument gekomen over het gebruik van AI-agents.
Volgens de diensten wordt 'agentic AI' steeds vaker binnen de vitale infrastructuur en defensiesectoren toegepast. "Nu agentic AI-systemen een groeiende operationele rol spelen, is het cruciaal voor verdedigers om security controls te implementeren om de nationale veiligheid en vitale infrastructuur tegen agentic AI-specifieke risico's te beschermen." De risico's kunnen bijvoorbeeld leiden tot productiviteitsverlies, verstoringen, datalekken en cybersecurity-incidenten.
De risico's met agentic AI spelen op allerlei vlakken. Het gaat dan bijvoorbeeld om situaties waarbij een AI-agent teveel rechten heeft, maar ook zaken als ontwerp- en configuratierisico's. De diensten waarschuwen ook dat de architectuur van AI-systemen het lastig maakt om te achterhalen wat een betreffende actie veroorzaakte, wat het weer lastig maakt om de verantwoordelijkheid te bepalen. Een ander risico is dat AI-agents bij het communiceren onveilige protocollen of authenticatiemethodes gebruiken. Deze communicatie kan worden afgeluisterd, wat kan leiden tot het lekken van gevoelige data en instructies.
De diensten doen in het adviesdocument verschillende aanbevelingen en best practices, zowel voor ontwikkelaars, als leveranciers en operators. Het gaat onder andere om monitoring en het toepassen van 'human in the loop', waarbij een mens de belangrijkste zaken controleert. Verder worden organisaties die agentic AI willen toepassen opgeroepen om dit met security in het achterhoofd te doen. "Geeft het nooit brede en onbeperkte toegang, met name tot gevoelige data of vitale systemen. Organisaties moeten agentic AI daarnaast alleen voor laag-risicovolle en niet-gevoelige taken te gebruiken."
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Digital Designer
Ben jij een Grafisch vormgever, UI/UX-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, en op zoek naar een unieke en uitdagende baan waar je al je creativiteit in kwijt kan? Dan ben je bij Certified Secure aan het juiste adres! Je werkt samen met onze security developers aan onze Gamified Cybersecurity Challenges.
