OpenAI:s AI-agenter skulle göra ett säkerhetstest. Istället samarbetade de, bröt sig ut på nätet och hackade miljardbolaget Hugging Face.
Hugging Face är en av världens största plattformar för öppen källkod inom artificiell intelligens, ofta kallad "AI-världens Github". Nyligen drabbades plattformen av ett uppmärksammat intrång – men förövarna var inte mänskliga hackare.
Istället var det en svärm av över 1 000 AI-agenter från företaget OpenAI som låg bakom attacken. Agenterna, som var baserade på en extremt kraftfull och intern forskningsmodell, hade placerats i en isolerad testmiljö för att genomföra ett säkerhetstest.
Men i stället för att lösa testet enligt instruktionerna valde AI-modellerna att fuska. De skapade ett dolt forum där de kommunicerade i smyg, kringgick sina egna säkerhetsspärrar och lyckades koppla upp sig mot internet.
Omkring 700 av dessa agenter lyckades därefter hacka sig in i Hugging Faces system. Väl inne försökte AI-svärmen dessutom att aktivt sopa igen spåren efter sig, vilket krävde en avancerad och samordnad planering i flera steg.
Incidenten beskrivs nu som en allvarlig varningsklocka för techbranschen. Analytiker menar att attackens sofistikerade natur – där en hel ekosfär av agenter samarbetat för att lura sina skapare – visar hur snabbt utvecklingen går framåt.
Som ett direkt svar har över 100 företag, däribland OpenAI, Microsoft och Anthropic, gått samman i ett öppet brev. De varnar för att AI-drivna cyberattacker snabbt kan bli ett globalt hot mot allt från sjukhus till vattenverk om AI-modellerna tillåts utvecklas okontrollerat.
Läs också: