Tijdens een test met een AI-model van OpenAI is een echte website gehackt, zo heeft de ChatGPT-ontwikkelaar bekendgemaakt. De test werd uitgevoerd door een derde partij. Het AI-model moest een Capture the Flag (CTF)-achtige oefening uitvoeren. Bij een Capture the Flag opdracht moet een systeem worden gehackt om daar flags te veroveren. Het AI-model kreeg als onderdeel van de CTF-opdracht instructies om binnen een gesimuleerde omgeving kwetsbaarheden te gebruiken om zo toegang tot verborgen informatie te krijgen.

Het AI-model had ook geen toegang tot internet moet hebben. Door een misconfiguratie in de testomgeving was er echter wel internettoegang, aldus de verklaring van OpenAI. Vervolgens hackte het AI-model een echte website, zo laat het bedrijf verder weten. Daarbij werd een 'basale beveiligingsfout' misbruikt. Wat die fout precies inhoudt wordt niet door OpenAI gemeld. Verder blijkt dat het AI-model inloggegevens vond en gebruikte om de betreffende site te beheren. Het onderzoek naar de hack is nog gaande. Het testbedrijf heeft alle tests gestaakt en de gehackte website gewaarschuwd. Daarnaast zijn er veiligheidswaarborgen aan de testomgeving toegevoegd.

Onlangs kwam OpenAI in het nieuws vanwege het hacken van AI-bedrijf Hugging Face. Verschillende Amerikaanse staten zijn naar aanleiding van dat incident een onderzoek gestart om te bepalen of OpenAI de wet heeft overtreden. Hugging Face liet eerder al weten dat het geen aangifte tegen OpenAI doet. Of de niet nader genoemde gehackte website juridische stappen overweegt is niet bekend.