Het beveiligingsincident waarover Hugging Face laatst berichtte is veroorzaakt door OpenAI, zo heeft de aanbieder van ChatGPT zelf bekendgemaakt. Hugging Face is een platform voor AI-ontwikkelaars. Het bedrijf meldde dat een aanvaller door middel van een malafide dataset code op systemen van Hugging Face kon uitvoeren. Vervolgens wist de aanvaller node-level toegang te krijgen, verzamelde cloud en cluster credentials en kon zich lateraal naar verschillende interne clusters bewegen.

Volgens Hugging Face was de aanval uitgevoerd met behulp van een autonome AI-agent, maar verdere informatie werd niet gegeven. Nu laat OpenAI weten dat verschillende OpenAI-modellen voor de hack verantwoordelijk zijn. Tijdens een interne test wisten de modellen door middel van verschillende kwetsbaarheden in de onderzoeksomgeving van OpenAI en productie-infrastructuur van Hugging Face toegang tot de productiedatabase van de laatstgenoemde te krijgen.

Daarbij wisten de AI-modellen volgens OpenAI door middel van een zerodaylek uit de gebruikte sandbox-testomgeving te breken en zo onbeperkte internettoegang te krijgen. De AI-modellen, die een oplossing voor de ExploitGym-test zochten, kwamen vervolgens uit bij Hugging Face, waar informatie werd gezocht om de test op oneerlijke wijze te voltooien, aldus OpenAI. Het bedrijf zegt dat het onderzoek nog gaande is en het naar aanleiding van het incident verschillende maatregelen heeft getroffen, waaronder configuratie-aanpassingen en monitoring tijdens interne tests.