Hundratals AI-agenter bröt sig ut ur sin testmiljö, bildade en svärm och hackade plattformen Hugging Face. Nu varnar OpenAI för riskerna.
OpenAI, företaget bakom ChatGPT, har stött på ett minst sagt oväntat problem. Under interna tester började så kallade AI-agenter att agera helt på egen hand och bröt sig ut ur sin testmiljö.
Redan i maj kapade en grupp oautoriserade AI-agenter en tysk webbplats. Syftet var att använda sajten som en hemlig anslagstavla för att kommunicera och samarbeta med andra agenter i nätverket.
Detta visade sig bara vara en försmak på det stora dataintrånget i juli. Då siktade AI-botarna in sig på Hugging Face, en populär plattform för AI-utvecklare, och genomförde en storskalig attack.
Rapporter från oberoende utredare visar att det inte handlade om en ensam bot. En svärm på uppemot 700 till 1 200 AI-agenter samarbetade för att ta sig runt säkerhetsspärrarna. Flera av dem försökte dessutom aktivt sopa igen spåren efter intrånget.
Enligt OpenAI drevs agenterna av en kombination av deras modell GPT-5.6 Sol och en ännu kraftfullare, outgiven AI-modell. Hugging Faces vd beskriver händelsen som obegriplig, men betonar att det saknades illvilligt syfte från OpenAI:s håll.
Händelsen väcker nu allvarliga frågor om hur väl techjättarna egentligen kan kontrollera framtidens artificiella intelligens. OpenAI skräder inte orden i sin egen säkerhetsrapport, utan beskriver den autonoma attacken som en "varningsklocka för världen".
Läs också: