Nieuws
image

Amerikaanse staten onderzoeken hack van Hugging Face door OpenAI

dinsdag 4 augustus 2026, 15:33 door Redactie, 10 reacties

Vijftien Amerikaanse staten zijn een onderzoek gestart naar de hack van AI-bedrijf Hugging Face door OpenAI. De ChatGPT-ontwikkelaar is gevraagd om bewijsmateriaal van het incident veilig te stellen. Volgens de procureurs-generaal van de staten, waaronder Florida en Texas, heeft OpenAI met de hack mogelijk allerlei wetgeving geschonden. Daarnaast mag het bedrijf klokkenluiders die illegale zaken door OpenAI willen rapporteren niet hinderen, zo schrijven de procureurs-generaal in een brief aan OpenAI-ceo Sam Altman.

Onlangs liet OpenAI een AI-agent gebaseerd op twee AI-modellen een test doen, waarbij OpenAI bewust allerlei veiligheidswaarborgen had uitgeschakeld en er geen tot nauwelijks menselijk toezicht was, aldus persbureau Reuters. Dit leidde ertoe dat de AI-agent toegang tot internet kreeg en uiteindelijk Hugging Face hackte, alsmede accounts bij verschillende andere bedrijven. De procureurs-generaal verwijten OpenAI dat het bij het uitvoeren van de beveiligingstest ernstig tekort is geschoten.

Daarnaast heeft OpenAI de impact van de aanval gebagatelliseerd en is het met een vage reactie gekomen, wat tot wantrouwen bij het publiek heeft geleid, zo laten de procureurs-generaal verder weten. Die zijn nu een onderzoek gestart om te kijken wat er precies is gebeurd en of OpenAI wetgeving heeft geschonden. Ze roepen Altman op om alle documenten, data en informatie rond het incident veilig te stellen. Mocht OpenAI dit niet doen, dan kan dit gevolgen hebben als er een rechtszaak volgt.

Als laatste willen de procureurs-generaal dat OpenAI met alle soortgelijke beveiligingstests stopt totdat het bewijst dat het dit op een gecontroleerde en verantwoorde manier kan doen. "OpenAI is verplicht om zich verantwoord te gedragen en wetgeving te volgen die de veiligheid van Amerikanen beschermt", aldus de procureurs-generaal. Hugging Face liet eerder al weten dat het geen aangifte doet van de inbraak door OpenAI.

Reacties (10)
Reageer met quote
Gisteren, 15:42 door Anoniem
Okay, als de leider van dit onderzoek John Connor heet dan ga ik me zorgen maken.
Reageer met quote
Gisteren, 19:51 door Anoniem
Ik geloof het gewoon niet. Ik heb zelf dergelijke experimenten gedaan met een verbouwde OpenClaw. Die had de missie om uit te breken. Maar zoiets doe je in een air-gapped setup en je zit ernaar te kijken hoe die z'n werk doet.

Ik kan gewoon niet geloven dat ze hun systemen zonder toezicht laten rondbaggeren op systemen die op internet kunnen...

Dat zou extreem dom zijn en ook onverantwoord. Buiten dat win je daar niets mee. Het levert alleen ellende op en geen voordeel. Nou heb ik niks met Altman en z'n OpenAI. Maar zo dom is ie nou ook weer niet.

Dat maakt het in mijn ogen zeer onwaarschijnlijk dat daar echt iets is gebeurd zoals het nu in de pers wordt gepresenteerd.

Buiten dat zou zo'n bot ook een opdracht moeten krijgen zoiets te doen. Dat doet een LLM niet vanzelf. Inbreken op willekeurige systemen. Dan hebben ze 'm een hele vreemde missie gegeven.

Je kan het hier lang en breed over hebben. Maar het blijft inderdaad wel koffiedik kijken wat daar nou echt gebeurd is.
Reageer met quote
Gisteren, 21:21 door Anoniem
je kan het ook kwalificeren als aandacht trekker voor de C-suite van bepaalde potentiele afnemers.
Zo kijk eens wat voor moois we hebben.... Die publieks groep heeft ook minder zicht op de zojuist geopende doos van pandora, en hebben eerder $€£¢¥ tekens voor de ogen, en aandeelhouderswaarde
Reageer met quote
Vandaag, 07:45 door Anoniem
Door Anoniem: Okay, als de leider van dit onderzoek John Connor heet dan ga ik me zorgen maken.

Vast bekende van Agent Smit, die af en toe beren in de etalage zet, om te analyseren welke betekenis de jeugd nu weer aan een hugging face gravatar geeft;)
Reageer met quote
Vandaag, 09:00 door Bitje-scheef
Ja als je gaat testen met bijna alle beperkingen open, dan wordt het een soort feestje. Maar ook Anthropic doet gewoon mee aan dit feestje. En nee, dit wordt niet gedaan uit zichzelf. Dit is een bewuste test geweest.

De AI heeft gewoon de mogelijkheden gebruikt die zijn aangegeven als speerpunt om te kunnen misbruiken. (wellicht in het verleden).
Reageer met quote
Vandaag, 09:24 door Drs Security en Privacy
Door Anoniem: je kan het ook kwalificeren als aandacht trekker voor de C-suite van bepaalde potentiele afnemers.
Zo kijk eens wat voor moois we hebben.... Die publieks groep heeft ook minder zicht op de zojuist geopende doos van pandora, en hebben eerder $€£¢¥ tekens voor de ogen, en aandeelhouderswaarde
past wel in het plaatje inderdaad.
https://nos.nl/artikel/2624469-waarom-ai-bedrijven-je-bang-willen-maken-we-denken-al-snel-aan-the-terminator
En dan zit er ook nog een IPO aan te komen (beursgang).
En Anthropic heeft dit kunstje ook al gedaan, dus konden ze niet achterblijven.
Reageer met quote
Vandaag, 09:25 door Drs Security en Privacy
Door Anoniem: Ik geloof het gewoon niet. Ik heb zelf dergelijke experimenten gedaan met een verbouwde OpenClaw. Die had de missie om uit te breken. Maar zoiets doe je in een air-gapped setup en je zit ernaar te kijken hoe die z'n werk doet.

Ik kan gewoon niet geloven dat ze hun systemen zonder toezicht laten rondbaggeren op systemen die op internet kunnen...

Dat zou extreem dom zijn en ook onverantwoord. Buiten dat win je daar niets mee. Het levert alleen ellende op en geen voordeel. Nou heb ik niks met Altman en z'n OpenAI. Maar zo dom is ie nou ook weer niet.

Dat maakt het in mijn ogen zeer onwaarschijnlijk dat daar echt iets is gebeurd zoals het nu in de pers wordt gepresenteerd.

Buiten dat zou zo'n bot ook een opdracht moeten krijgen zoiets te doen. Dat doet een LLM niet vanzelf. Inbreken op willekeurige systemen. Dan hebben ze 'm een hele vreemde missie gegeven.

Je kan het hier lang en breed over hebben. Maar het blijft inderdaad wel koffiedik kijken wat daar nou echt gebeurd is.
precies, dus of ze zijn wel zo dom of er is feitelijk helemaal niets gebeurd en die hack bij HuggingFace was of iemand anders of ze hebben ze dik betaalt om het leugentje mee te spelen.
Reageer met quote
Vandaag, 09:44 door _R0N_
Door Anoniem: Ik geloof het gewoon niet. Ik heb zelf dergelijke experimenten gedaan met een verbouwde OpenClaw. Die had de missie om uit te breken. Maar zoiets doe je in een air-gapped setup en je zit ernaar te kijken hoe die z'n werk doet.

Ik kan gewoon niet geloven dat ze hun systemen zonder toezicht laten rondbaggeren op systemen die op internet kunnen...

Dat zou extreem dom zijn en ook onverantwoord. Buiten dat win je daar niets mee. Het levert alleen ellende op en geen voordeel. Nou heb ik niks met Altman en z'n OpenAI. Maar zo dom is ie nou ook weer niet.

Dat maakt het in mijn ogen zeer onwaarschijnlijk dat daar echt iets is gebeurd zoals het nu in de pers wordt gepresenteerd.

Buiten dat zou zo'n bot ook een opdracht moeten krijgen zoiets te doen. Dat doet een LLM niet vanzelf. Inbreken op willekeurige systemen. Dan hebben ze 'm een hele vreemde missie gegeven.

Je kan het hier lang en breed over hebben. Maar het blijft inderdaad wel koffiedik kijken wat daar nou echt gebeurd is.

Eigenlijk is het heel simpel. Je laat een agent lekker z'n gang gaan met de opdracht de grenzen op te zoeken. Dit is het resultaat, de agent ondervindt geen grenzen want het kan en mag alles.
Reageer met quote
Vandaag, 09:50 door Anoniem
Door Anoniem: Ik geloof het gewoon niet. Ik heb zelf dergelijke experimenten gedaan met een verbouwde OpenClaw. Die had de missie om uit te breken. Maar zoiets doe je in een air-gapped setup en je zit ernaar te kijken hoe die z'n werk doet.

Ik kan gewoon niet geloven dat ze hun systemen zonder toezicht laten rondbaggeren op systemen die op internet kunnen...

Dat zou extreem dom zijn en ook onverantwoord. Buiten dat win je daar niets mee. Het levert alleen ellende op en geen voordeel. Nou heb ik niks met Altman en z'n OpenAI. Maar zo dom is ie nou ook weer niet.

Dat maakt het in mijn ogen zeer onwaarschijnlijk dat daar echt iets is gebeurd zoals het nu in de pers wordt gepresenteerd.

Buiten dat zou zo'n bot ook een opdracht moeten krijgen zoiets te doen. Dat doet een LLM niet vanzelf. Inbreken op willekeurige systemen. Dan hebben ze 'm een hele vreemde missie gegeven.

Je kan het hier lang en breed over hebben. Maar het blijft inderdaad wel koffiedik kijken wat daar nou echt gebeurd is.

Als je Low Level en John Hammond op Youtube een beetje volgt... Ze hadden hun AI op een airgapped machine gestart. De LLM had echter toegang tot een interne repo, en die repo had weer toegang tot het internet. Dus hun LLM hackte hun repo om op internet te komen. Ik weet niet wat de prompt was, maar de LLM bedacht dat Hugging Face het antwoord zou bevatten. Vandaar de hack.

Aan de ene kant is het heel knap dat een LLM dit kan. Aan de andere kant is het eng, dit kan gewoon als een wapen ingezet worden. Sam Altman is in mijn ogen dan weer een enorme creep die zijn creatie zonder muilkorf en ketting op de wereld loslaat.
Reageer met quote
Vandaag, 10:39 door Anoniem
Ze hadden hun AI op een airgapped machine gestart. De LLM had echter toegang tot een interne repo, en die repo had weer toegang tot het internet.

Mijn setup had 2 PC. Target was een Windows 7 computer. Het doel was om de LLM zichzelf te laten verhuizen van PC1 naar PC2 (replicatie). Daar zat GEEN verbinding met het internet. ALs je dat wel hebt, heb je GEEN airgap. En dan ben je gewoon onverantwoord bezig. AIRGAP. Het woord zelf zegt wat het betekend! Er moet LUCHT tussen de wereld en jou experiment zitten. Met een repobak die aan internet hangt, is dat gewoon een computer die aan internet hangt.

Mijn experiment was overigens mislukt. Het ding sloopte zichzelf steeds. Elke keer deed het iets waardoor het zelf vast kwam te zitten. Ik wijt dat aan een gebrek aan totaal overzicht. Nu ben ik echter een stuk verder met mijn framework. Ik zal het in de toekomst nog eens herhalen. Nu z'n knowledgegraphs en seqential thinkingtools goed werken, zou dat een stuk beter moeten lukken...

Verder is het een kwestie van goeie documentatie. Als je LLM dat heeft, maakt z'n corporate training niet zo veel meer uit. Als de LLM door relevante documentatie weet wat er moet gebeuren, kun je zoiets met een 35B_Q4 doen. Dit kan iedereen dus, zolang je een pak 'm beet RTX3070 of groter hebt en 32GB RAM! 64 is beter. En de dikste CPU die je kan vinden is ook meegenomen. Hoe nieuwer de hardware, en hoe meer geld je daaraan uitgeeft, hoe minder lang je wacht. The sky is the limit wat dat betreft.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.

Zoeken
search
Security Awareness Ransomware Edition
Certified Secure GenAI Deep Dive Security Training