Australische overheid komt met advies voor veilig gebruik van AI-systemen
De Australische overheid heeft in samenwerking met de FBI, NSA en tien internationale cyberagentschappen, advies voor organisaties gepubliceerd over het veilig gebruik van AI-systemen. Het document van het Australische Cyber Security Centre (ACSC), 'Engaging with Artificial Intelligence', gaat in op dreigingen die verband houden met AI-systemen en hoe organisaties met deze risico's kunnen omgaan.
Het gaat dan om zaken als 'data poisoning', prompt injection, generatieve AI-hallucinaties, zorgen over privacy en intellectueel eigendom, diefstal van AI-modellen en trainingsdata en het heridentificeren van geanonimiseerde data. Zo moeten organisaties die van third-party AI-systemen gebruikmaken begrijpen dat hun invoer en data gebruikt kan worden voor het trainen van het AI-model. Als oplossing zou indien beschikbaar een private versie van het systeem kunnen worden gebruikt.
Een ander aandachtspunt bij het gebruik van third-party AI-systemen is hoe de data wordt beheerd wanneer de overeenkomst met de derde partij afloopt. Tevens wordt aangeraden om uitvoer van AI-systemen te loggen en monitoren, om zo veranderingen in gedrag die kunnen duiden op een aanval of diefstal van data te detecteren. Tevens moet ook alle invoer worden gelogd en gemonitord, wat kan helpen bij onderzoek naar incidenten. Ook is het verstandig volgens het ACSC om op grote aantallen repetitieve prompts te monitoren, omdat dit een aanwijzing van geautomatiseerde prompt injection-aanvallen kan zijn.
Kan je met de consequenties leven?
Ook als wij ons niet ontwikkelen in AI en China wél?
Ook als Rusland AI gebruikt in haar oorlogen?
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
IT Security Officer
Utrecht heeft jou nodig! Als Information Security Officer vertaal je beleid naar technische uitvoering. Dit is cruciaal voor het waarborgen van de informatiebeveiliging van onze inwoners. Je krijgt de kans om betrokken te zijn bij complexe projecten met de nieuwste technologieën en kunt jouw stempel drukken op innovatie. Solliciteer nu!
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
Senior Full Stack Developer
Als full stack developer bij Certified Secure maak je de mooiste cybersecurity challenges die onze deelnemers wereldwijd uitdagen en inspireren. Alle challenges zijn gebaseerd op actuele kwetsbaarheden, je komt dus telkens nieuwe technieken tegen, van machine learning tot web assembly, van Swift UI tot GCP.
Digital Designer
Ben jij een Grafisch vormgever, UI-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, die op zoek is naar een leuke en uitdagende baan waarin je al je creativiteit kwijt kan?Je werkt samen met onze developers en UI/UX-designer aan onze Gamified Cybersecurity Challenges welke jij voorziet van de mooiste designs.