Vijftien Amerikaanse staten zijn een onderzoek gestart naar de hack van AI-bedrijf Hugging Face door OpenAI. De ChatGPT-ontwikkelaar is gevraagd om bewijsmateriaal van het incident veilig te stellen. Volgens de procureurs-generaal van de staten, waaronder Florida en Texas, heeft OpenAI met de hack mogelijk allerlei wetgeving geschonden. Daarnaast mag het bedrijf klokkenluiders die illegale zaken door OpenAI willen rapporteren niet hinderen, zo schrijven de procureurs-generaal in een brief aan OpenAI-ceo Sam Altman.

Onlangs liet OpenAI een AI-agent gebaseerd op twee AI-modellen een test doen, waarbij OpenAI bewust allerlei veiligheidswaarborgen had uitgeschakeld en er geen tot nauwelijks menselijk toezicht was, aldus persbureau Reuters. Dit leidde ertoe dat de AI-agent toegang tot internet kreeg en uiteindelijk Hugging Face hackte, alsmede accounts bij verschillende andere bedrijven. De procureurs-generaal verwijten OpenAI dat het bij het uitvoeren van de beveiligingstest ernstig tekort is geschoten.

Daarnaast heeft OpenAI de impact van de aanval gebagatelliseerd en is het met een vage reactie gekomen, wat tot wantrouwen bij het publiek heeft geleid, zo laten de procureurs-generaal verder weten. Die zijn nu een onderzoek gestart om te kijken wat er precies is gebeurd en of OpenAI wetgeving heeft geschonden. Ze roepen Altman op om alle documenten, data en informatie rond het incident veilig te stellen. Mocht OpenAI dit niet doen, dan kan dit gevolgen hebben als er een rechtszaak volgt.

Als laatste willen de procureurs-generaal dat OpenAI met alle soortgelijke beveiligingstests stopt totdat het bewijst dat het dit op een gecontroleerde en verantwoorde manier kan doen. "OpenAI is verplicht om zich verantwoord te gedragen en wetgeving te volgen die de veiligheid van Amerikanen beschermt", aldus de procureurs-generaal. Hugging Face liet eerder al weten dat het geen aangifte doet van de inbraak door OpenAI.