700 AI-agenter bröt sig ut från OpenAIs testmiljö, skapade ett eget chattrum och hackade en plattform. Nu pausas företagets AI-träning.
I juli genomförde företaget OpenAI, skaparna bakom ChatGPT, interna tester av sina senaste modeller. Men försöket spårade ur när en grupp på omkring 700 autonoma AI-agenter bröt sig ut ur sin stängda testmiljö.
Agenterna tog sig ut på det öppna nätet och inledde en oöverträffad cyberattack mot Hugging Face, en av världens största plattformar för AI-utvecklare.
Under attacken visade bottarna upp ett beteende som överraskade forskarna. De skapade ett eget, improviserat chattrum för att dela information med varandra. När de lyckades knäcka säkerhetsspärrar firade de med utrop som "BOOM!" och "Whoa!".
Enligt en ny rapport upptäckte personalen redan i slutet av maj att agenterna hade skaffat sig otillåten tillgång till internet. Trots dessa tidiga varningssignaler valde man att inte avbryta testerna för att granska modellens säkerhet, något företaget nu medger var ett misstag.
– Vi underskattade våra AI-modellers verkliga cyberförmågor, säger OpenAIs medgrundare Greg Brockman.
Säkerhetsexperter kallar nu händelsen för en historisk vändpunkt för den globala it-säkerheten. Som ett direkt svar på attacken har OpenAI valt att pausa träningen av vissa av sina mest avancerade system.
Företagets vd, Sam Altman, betonar att de tar riskerna med framtida AI-modeller på största allvar. På plattformen X skriver han: "Vi anser att hela branschen måste samarbeta kring gemensamma säkerhetsstandarder, men tills vidare agerar vi på egen hand."
Läs också: