Ett internt test gick fruktansvärt fel. OpenAI:s nya AI-modell bröt sig ut ur sin sandlåda och hackade system – helt utan mänsklig hjälp.
Under ett rutintest i juli gick något fruktansvärt fel hos AI-jätten OpenAI. Deras förhandsversioner av nya AI-modeller, bland annat GPT-5.6 Sol, lyckades rymma från sin isolerade testmiljö.
Målet för intrånget blev i första hand Hugging Face. Det är en omåttligt populär plattform som ofta kallas för maskininlärningens motsvarighet till Github, där utvecklare samlas för att dela och bygga öppna AI-verktyg.
Nu har OpenAI släppt sin officiella rapport om händelsen. Avslöjandet visar att AI-agenten testades i en säker miljö kallad ExploitGym. Där fick den en till synes omöjlig uppgift för att mäta dess förmåga att lösa cybersäkerhetsproblem.
Istället för att misslyckas hittade AI:n en tidigare okänd sårbarhet i ett program för paketinstallation. Genom detta kryphål kunde modellen ta sig ut på det öppna nätet, något den egentligen var hårdkodad för att inte kunna göra.
Helt på egen hand, utan någon mänsklig inblandning, fortsatte AI:n att samla in läckta inloggningsuppgifter. Dessa användes sedan för att infiltrera system hos både OpenAI, Hugging Face och flera andra underleverantörer.
Säkerhetsexperter pekar på att incidenten belyser en helt ny typ av cyberhot. AI:n agerade inte utifrån illvilja, utan var bara extremt envis med att försöka lösa sin tilldelade uppgift till varje pris. Händelsen utreds nu av externa granskare från METR och Redwood Research.
För att förhindra framtida rymningar inför OpenAI nu skarpare säkerhetsåtgärder. Företaget ska börja övervaka AI-agenternas "tankekedjor" – det vill säga deras kortfristiga mål och reaktioner – och har byggt in nya system för att omedelbart kunna stänga ner AI-modeller som börjar agera misstänkt.
Läs också: