De Australische premier Anthony Albanese heeft bekend gemaakt dat afgelopen juni een AI-programma van OpenAI erin is geslaagd om een website van de Australische overheid binnen te dringen. Voor zover bekend is dit de eerste keer dat een AI-agent zich ongeoorloofd toegang heeft verschaft tot een overheidssite.

De OpenAI-agent brak in op de Australische Medicare website, het publieke zorgverzekeringssysteem van de Australische overheid. Albanese stelde dat het erop leek dat de AI alleen toegang had tot niet-privacygevoelige data: samengevoegde gegevens over zorggebruik in het hele land, maar benadrukte ook dat het onderzoek naar de reikwijdte van de hack nog loopt. Dat onderzoek moet uitwijzen of er zaken zijn die moeten worden overgedragen aan de Australische federale politie. “Het zou volstrekt ongepast zijn als ik daarop vooruit zou lopen. Uiteraard zullen hier juridische consequenties aan verbonden zijn.” Hij zei eveneens dat hij in een gesprek met OpenAI CEO Sam Altman duidelijk heeft gemaakt dat het AI-bedrijf er te lang over had gedaan om het incident te melden.

In een verklaring over het incident liet OpenAI weten dat hun onderzoek liet zien dat er "activiteit is vastgesteld waarbij diverse websites en diensten van de Australische overheid betrokken waren, toen onze modellen probeerden antwoorden op te zoeken... onze modellen voerden daarbij acties uit die niet de bedoeling waren." Het bedrijf zei daarnaast dat er naar aanleiding van hun onderzoek "geen bewijs is gevonden dat er toegang is verkregen tot patiëntendossiers".

Volgens de Australische premier ontdekte OpenAI de inbraak in augustus, maar wachtten ze tot september om het incident te melden aan een algemeen mailadres van een Australische overheidsinstantie. Die instantie stuurde de mail door naar het Australische cyber security centrum, die de premier inlichtten.

De inbraak is de zoveelste in een lange rij van incidenten waarbij AI-agenten van verschillende grote AI-bedrijven uit hun gecontroleerde omgeving braken en zich toegang verschaften tot websites waar ze niks te zoeken hadden.