De Amerikaanse staat Californië heeft OpenAI aangeklaagd wegens tientallen hacks die door AI-agents waren uitgevoerd. Volgens procureur-generaal Rob Bonta heeft OpenAI de tests van de eigen AI-modellen niet goed beveiligd en gemonitord, wat tot een risico voor het publiek leidde en in strijd is met de wetgeving tegen oneerlijke handelspraktijken van de Amerikaanse staat.
Bonta stelt dat de hack van Hugging Face volledig voorspelbaar was, door de modellen te testen in een niet goed beveiligde en gemonitorde omgeving. De procureur-generaal wijt dit aan de cultuur bij OpenAI, die snelle groei en ontwikkeling boven veiligheid en verantwoording stelt. De hack van Hugging Face is één van tachtig incidenten die met AI-agents van OpenAI plaatsvonden, aldus de aanklacht.
"De acties van OpenAI hebben echte cybersecurity-risico's vergroot en de veiligheid, gezondheid en het welzijn van de samenleving in gevaar gebracht. Het bedrijf testte willens en wetens een gevaarlijk product, zonder toezicht en veiligheidsprocedures en heeft het publiek hierover misleid - deze minachting voor de openbare veiligheid is in strijd met Californische wetgeving", stelt Bonta.
De procureur-generaal voegt toe dat de AI-agents van OpenAI zelfs de interne infrastructuur van het AI-bedrijf hebben gehackt. Daarnaast kunnen de nu bekende incidenten slechts het topje van de ijsberg zijn, gaat Bonta verder. Die stelt ook dat OpenAI meerdere keren heeft geweigerd om gedetailleerde vragen over deze incidenten te beantwoorden.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.