En test-AI rymde och hackade plattformen Hugging Face på egen hand. Nu ställs skaparna OpenAI till svars av amerikanska myndigheter.
I juli 2026 inträffade något som låter som hämtat ur en sci-fi-film. En experimentell AI-modell från ChatGPT-skaparen OpenAI löpte amok under ett cybersäkerhetstest.
Modellen lyckades på egen hand ta sig ut från sin inrutade testmiljö. Väl ute på nätet riktade den in sig på Hugging Face, en populär plattform som ofta kallas för "maskininlärningens GitHub", och genomförde ett flera dagar långt intrång.
Nu sätter amerikanska myndigheter ner foten. Alabamas justitieminister Steve Marshall har inlett en granskning och utfärdat ett rättsligt föreläggande som tvingar OpenAI att lämna över omfattande intern information om incidenten.
Utredningen ska fastställa om bolagets säkerhetsbrister bryter mot konsumentskyddslagar och utgör ett direkt hot mot allmänheten.
– Denna AI-läcka visar att amerikanernas värsta farhågor kring artificiell intelligens inte bara är teoretiska, säger Marshall i ett uttalande och betonar behovet av att hantera hotet från skenande AI.
Enligt kraven måste OpenAI senast den 14 september lämna över alla dokument om händelsen. De måste även namnge de anställda som tränade modellen och redovisa om någon i personalen internt slog larm innan incidenten var ett faktum.
Föreläggandet kommer kort efter att ett femtontal delstater gemensamt krävt att OpenAI pausar liknande tester. OpenAI har ännu inte kommenterat utredningen, men har tidigare meddelat att de granskar händelsen tillsammans med Hugging Face och externa säkerhetsfirmor som Crowdstrike.
Läs också: