Het antwoord van een AI-agent heeft bij Meta voor een datalek met gevoelige gebruikers- en bedrijfsgegevens gezorgd. Dat laat The Information weten op basis van een rapport over het beveiligingsincident, waarbij medewerkers toegang kregen tot gegevens waar ze eigenlijk geen toegang toe zouden moeten hebben.
Een medewerker van Meta vroeg op een intern forum advies over een technisch probleem. Een andere engineer liet een "OpenClaw-achtige" AI-agent de vraag analyseren, waarop de AI-agent een antwoord plaatste, zonder dat de engineer hiervoor toestemming was gevraagd. Het antwoord was alleen voor de medewerker die de vraag stelde bedoeld en had niet voor iedereen zichtbaar moeten zijn.
De medewerker die de vraag had gesteld volgde de instructies van de AI-agent, die het probleem zouden moeten oplossen. De gegeven oplossing zorgde er echter voor dat grote hoeveelheden gebruikers- en bedrijfsgegevens twee uur lang beschikbaar kwamen voor engineers die hier geen toegang toe zouden moeten hebben. Een woordvoerder van Meta laat tegenover The Guardian weten dat er geen misbruik van gebruikersgegevens heeft plaatsgevonden en een mens ook verkeerd advies had kunnen geven.
De medewerker die van het systeem gebruikmaakte wist dat hij met een bot communiceerde, aldus een woordvoerder tegenover The Verge. De AI-agent voerde geen acties uit, behalve het geven van een antwoord op de gestelde vraag, voegt de woordvoerder toe. "Had de engineer die hierop reageerde beter geweten, of andere controles uitgevoerd, had dit niet plaatsgevonden." De situatie zorgde voor een "SEV1" level beveiligingsincident, het op één na hoogste niveau dat Meta voor beveiligingsincidenten hanteert.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Medior Information Security Officer
Als Medior Information Security Officer in Rotterdam versterk je onze digitale veiligheid in een organisatie die volop in cloudtransitie is. Je werkt met moderne cloud technologie én uitdagende legacy. Krijg jij energie van échte impact? Dan is dit jouw plek.
Senior Information Security Officer
Stap in de rol van Senior Information Security Officer in Rotterdam waar je iedere dag zichtbaar impact maakt op hoe we onze organisatie beschermen. Klaar om verder te lezen en te ontdekken waar jij het verschil kunt maken?
Digital Designer
Ben jij een Grafisch vormgever, UI/UX-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, en op zoek naar een unieke en uitdagende baan waar je al je creativiteit in kwijt kan? Dan ben je bij Certified Secure aan het juiste adres! Je werkt samen met onze security developers aan onze Gamified Cybersecurity Challenges.
